ELLIS Institute PIs tragen bei zum International AI Safety Report 2026

Die Principal Investigators des ELLIS Institute Tübingen, Maksym Andriushchenko und Bernhard Schölkopf, haben zum zweiten jährlichen International AI Safety Report beigetragen, der im Februar 2026 veröffentlicht wurde. Der Bericht wurde von der britischen Regierung in Auftrag gegeben und unter der Leitung von Yoshua Bengio erstellt. Mehr als 100 führende Expert:innen aus dem Bereich KI wirkten daran mit. Der Report bietet Einblicke in die neuesten wissenschaftlichen Erkenntnisse zu Fähigkeiten und Risiken von General-Purpose-AI-Systemen.

Maksym, ein führender Experte für AI Safety und Alignment, war als einer von drei Chapter Leads beteiligt und verantwortete die Kapitel zu aktuellen und zukünftigen Fähigkeiten von General-Purpose-AI. Bernhard gehörte bereits 2025 zum Kreis der Senior Advisers und übernahm diese Rolle auch 2026 erneut als weltweit führender Wissenschaftler auf diesem Gebiet.

Zu den wichtigsten Entwicklungen im Bereich KI seit der Veröffentlichung des jährlichen Reports 2025 zählen unter anderem die stetig verbesserten Fähigkeiten von KI-Systemen – insbesondere in Mathematik, Programmierung und autonomem Handeln. Diese Fortschritte beruhen sowohl auf groß angelegtem Pre-Training als auch zunehmend auf Post-Training-Verfahren wie Reinforcement Learning mit verifizierbaren Belohnungen. Die wachsenden Fähigkeiten von KI-Systemen bringen neue Risiken mit sich und werfen zentrale gesellschaftliche Fragen auf, die im Report ausführlich behandelt werden.

Der Report wird von Yoshua Bengio geleitet und von einem Sekretariat innerhalb des UK AI Security Institute unterstützt. Beratend zur Seite steht ein internationales Expert Advisory Panel mit Vertreter:innen aus 30 Ländern, die am Bletchley Summit 2023 teilgenommen haben, sowie aus der Europäischen Union, der Organisation for Economic Co-operation and Development und den Vereinten Nationen. Gemeinsam arbeiten die Expert:innen am AI Safety Report, um Risiken und technische Lösungsansätze im Bereich KI zu identifizieren – ohne konkrete politische Empfehlungen auszusprechen. Ziel ist es, ein Dokument bereitzustellen, das politischen Entscheidungsträger:innen weltweit dabei hilft, KI besser zu verstehen und verantwortungsvoll mit ihr umzugehen.

Mehr über Maksyms Forschung.

Mehr über  Bernhards Forschung.

Mehr über den International AI Safety Report.