Der Nationale Sicherheitsrat unter Vorsitz von Bundeskanzler Friedrich Merz (CDU) hat am 9. Juni 2026 die Gründung eines deutschen KI-Sicherheitsinstituts beschlossen [1]. Die neue Einrichtung soll unter dem Arbeitstitel "Deutsches AI Security Institute (DE-AISI)" firmieren und sowohl Fragen der Cybersicherheit rund um Künstliche Intelligenz als auch die Sicherheit von KI-Produkten selbst adressieren [2].
Federführend sind das Bundesinnenministerium und das Digitalministerium. Digitalminister Karsten Wildberger (CDU) sprach von "Top-Expertise von Experten auf Weltniveau", die man bündeln wolle, und verwies auf das britische AISI (AI Safety Institute) als Vorbild [1].
Virtueller Start, später eigener Standort
Das DE-AISI wird zunächst als virtuelle Institution aufgesetzt und greift auf bestehende Strukturen der Bundesnetzagentur und des Bundesamts für Sicherheit in der Informationstechnik (BSI) zurück [3]. Zu einem späteren Zeitpunkt soll ein eigener physischer Standort hinzukommen. Details zu Budget, Personalstärke und Zeitplan nannte die Bundesregierung zunächst nicht.
Die Bundesnetzagentur ist bereits designierte zentrale Aufsichtsbehörde für den EU AI Act, dessen wesentliche Teile ab dem 2. August 2026 in Kraft treten [3]. Das BSI wiederum war im Dezember 2025 auf einem internationalen KI-Sicherheitstreffen in Seoul vertreten und bringt Expertise in der Bewertung von KI-Modellen mit [3].
Hintergrund: Claude Mythos und der EU AI Act
Dass die Bundesregierung nun ein eigenes Institut schafft, hat auch eine konkrete Vorgeschichte. Das KI-Modell Claude Mythos des US-Unternehmens Anthropic hatte bei internen Tests unentdeckte Sicherheitslücken offenbart – die Bundesregierung erhielt nach eigenen Angaben zunächst keinen Zugang zu den detaillierten Prüfergebnissen [3]. Der Vorfall unterstrich aus Sicht der Regierung die Notwendigkeit eigener, staatlicher Prüfkapazitäten.
Gleichzeitig drängt der regulatorische Rahmen: Mit dem EU AI Act entstehen verbindliche Anforderungen an Hochrisiko-KI-Systeme. Ein nationales Institut, das Modelle technisch evaluieren kann, soll die Durchsetzung dieser Vorgaben flankieren und Deutschland in die Lage versetzen, bei internationalen Standards mitzusprechen [2].
Zustimmung aus der Wirtschaft
Der Digitalverband Bitkom begrüßte den Beschluss ausdrücklich. "Deutschland braucht ein eigenes Institut, das KI-Modelle auf ihre Sicherheit hin überprüft und bewertet", erklärte der Verband [4]. Bitkom fordert zugleich ein klar abgegrenztes Forschungsmandat, eine Finanzierung auf dem Niveau des britischen AISI sowie die gezielte Rekrutierung internationaler Spitzenkräfte [4]. Auch der TÜV-Verband äußerte sich positiv zu dem Vorhaben [3].
Einordnung und Ausblick
Mit dem DE-AISI reiht sich Deutschland in eine wachsende Gruppe von Staaten ein, die eigene KI-Sicherheitsinstitute aufbauen. Großbritannien war mit dem AISI 2023 vorangegangen, die USA zogen mit dem US AISI nach, Japan und Südkorea haben ähnliche Strukturen geschaffen. Die Bundesregierung signalisiert mit dem Beschluss, dass sie KI-Sicherheit nicht allein dem Markt oder ausländischen Behörden überlassen will.
Entscheidend wird nun die konkrete Ausgestaltung sein: Wie hoch fällt das Budget aus? Gelingt es, international konkurrenzfähige Talente zu gewinnen? Und wie wird das Institut im Spannungsfeld zwischen Sicherheitsaufsicht und Innovationsförderung positioniert? Die Antworten auf diese Fragen dürften in den kommenden Monaten im parlamentarischen Verfahren und in den Haushaltsberatungen Gestalt annehmen.