Mit dem Artificial Intelligence Safety Institute (AISI) Deutschland entsteht eine neue staatliche Einrichtung zur Untersuchung und Bewertung sicherheitsrelevanter Risiken fortschrittlicher KI-Systeme. Dazu zählen u.a. Szenarien, in denen KI-Agenten unerwartet aus vorgesehenen Test- oder Kontrollumgebungen ausbrechen. Ziel ist es, Chancen und Gefahren leistungsfähiger KI-Modelle systematisch zu bewerten und die digitale Widerstandsfähigkeit Deutschlands zu stärken.
Die Aufgaben werden zunächst zwischen bestehenden Behörden aufgeteilt. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) verantwortet Fragestellungen rund um die IT- und Cybersicherheit. Die Bundesnetzagentur befasst sich dagegen mit klassischen Sicherheitsaspekten, insbesondere mit physischer Sicherheit und der technischen Eignung von Produkten. Zu Beginn sollen vor allem führende KI-Modelle auf IT-Risiken und mögliche Kontrollverluste untersucht werden. Perspektivisch soll sich das Institut zu einer zentralen Kompetenz- und Beratungsstelle u.a. auch für die Politik entwickeln.
Vorbild ist das 2023 gegründete britische AI Safety Institute. Entsprechend setzt auch das deutsche AISI auf eine enge Zusammenarbeit mit europäischen Partnerinstitutionen.
Wissenschaftliche Stimmen weisen zugleich darauf hin, dass Sicherheitsinstitute allein nicht ausreichen. Für mehr technologische Souveränität brauche Deutschland zusätzliche Investitionen in eigene Infrastruktur sowie in Projekte wie Soofi.
Von Ida Kandler
Quelle: Heise, 01.09.2026, von Stefan Krempl