Die britische Regierung will künstliche Intelligenz künftig als Ersthelfer bei Cyberangriffen einsetzen. Geplant ist eine agentische KI-Fähigkeit, die Schwachstellen und Angriffe in Echtzeit erkennen und abwehren soll – ein Vorstoß, der im Parlament heftige Debatten über Regulierung und Kontrolle auslöst.
Die britische Regierung will Geld aus dem Topf für defensive Investitionen nutzen, um eine agentische KI-Fähigkeit zur Cyber-Notfallabwehr aufzubauen. Das berichtet das Fachmagazin Computer Weekly unter Berufung auf Ministerangaben [1]. Der Vorstoß ist Teil des National Cyber Action Plan, den die Regierung in London noch in diesem Sommer vorlegen will [2].
Der Vorschlag: Agentische KI als Ersthelfer
Konkret geht es um Systeme, die bei einem Cyberangriff nicht mehr nur warnen, sondern selbstständig handeln sollen. Sicherheitsminister Dan Jarvis hatte die Pläne bereits im April bei der Cybersicherheitskonferenz CYBERUK skizziert und führende KI-Unternehmen aufgefordert, mit der Regierung an solchen Fähigkeiten zu arbeiten. Er sprach von einem „generationenübergreifenden Vorhaben", das die „absoluten Grenzen unserer Ingenieurskunst und Innovation" testen werde. Die Zusammenarbeit könne Fähigkeiten hervorbringen, „die die kritischsten Netze unserer Nation schützen, indem sie Schwachstellen autonom in einer Geschwindigkeit und Größenordnung identifizieren und beheben, die kein Mensch erreichen kann" [2].
Der Begriff „agentisch" bezeichnet KI-Systeme, die nicht nur Antworten liefern, sondern eigenständig planen, Werkzeuge nutzen und Aktionen ausführen können. Im Kontext der Cyberabwehr sollen solche Agenten Angriffe erkennen, einordnen und Gegenmaßnahmen einleiten, ohne auf menschliche Eingriffe in jedem Schritt angewiesen zu sein [1].
Wie KI die Abwehr beschleunigen soll
Der Zeitdruck ist der Kern des Vorhabens. Das National Cyber Security Centre (NCSC) warnt in einer Bedrohungsanalyse bis 2027, dass KI die Zeit zwischen der Offenlegung einer Schwachstelle und ihrer Ausnutzung durch Angreifer weiter verkürzen werde – von Tagen auf noch kürzere Zeiträume. Zugleich entstehe eine „digitale Kluft" zwischen Organisationen, die mit KI-gestützten Bedrohungen Schritt halten können, und solchen, die zurückfallen [5].
Die Zahl der national bedeutsamen Vorfälle, die das NCSC bearbeitet, hat sich 2025 mehr als verdoppelt. Feindliche Staaten und Kriminelle setzen zunehmend automatisierte KI-Systeme ein, um Schwachstellen zu finden und auszunutzen [2]. Nach der jüngsten Erhebung der Regierung meldeten 43 Prozent der britischen Unternehmen einen Cybervorfall im vergangenen Jahr, bei Großunternehmen waren es 69 Prozent [3].
Die Regierung flankiert den KI-Vorstoß mit einem 90 Millionen Pfund schweren Fonds für Cyber-Resilienz, der vor allem kleinen und mittleren Unternehmen sowie NHS-Zulieferern zugutekommen soll. Zudem wirbt sie mit dem freiwilligen „Cyber Resilience Pledge" für drei konkrete Maßnahmen: Cybersicherheit als Vorstandsaufgabe, die Anmeldung zum Frühwarnsystem des NCSC und die Cyber-Essentials-Zertifizierung in der Lieferkette [2] [3].
Reaktionen: Streit um Regulierung im Parlament
Der Vorstoß fällt in eine Zeit, in der das britische Oberhaus über den Cyber Security and Resilience Bill berät, der die NIS-Regeln von 2018 modernisieren und kritische Infrastruktur absichern soll [4]. Dabei prallen zwei Positionen aufeinander.
Die Regierung lehnt es ab, KI-Anbieter und Entwickler von Frontier-Modellen in den Geltungsbereich des Gesetzes aufzunehmen. Cybersicherheitsministerin Baroness Lloyd of Effra argumentierte, die Regulierung von KI-Anbietern würde den Missbrauch ihrer Produkte durch feindliche Akteure nicht verhindern. Stattdessen setze London auf freiwillige Maßnahmen wie den AI Cyber Security Code of Practice und die Arbeit des AI Security Institute [4].
Dem widersprechen mehrere Peers. Baroness Kidron, langjährige Kampagnenführerin für Online-Sicherheit, fragte, ob man aus den Erfahrungen in Online-Sicherheit, Datenschutz und KI nicht gelernt habe, „dass es die Öffentlichkeit und unsere nationale Sicherheit gefährdet, wenn Tech-Unternehmen ihre eigenen Hausaufgaben setzen und benoten" [4]. Lord Tarassenko verwies auf einen offenen Brief von OpenAI, der davor warnt, dass KI-orchestrierte Cyberangriffe bald zu häufig sein könnten, um sie noch zu bewältigen [4].
Auch der Vorschlag eines „KI-Notausschalters" – Notfallbefugnisse der Regierung, um große KI-Systeme oder Rechenzentren im Ernstfall abzuschalten – wurde von der Regierung abgelehnt. Lloyd hielt dagegen, dass Rechenzentren in hochkomplexen Ökosystemen operierten und KI-Systeme über mehrere Standorte und Jurisdiktionen verteilt seien. Stattdessen solle die Regierung regulierte Einrichtungen anweisen können, die Nutzung eines bestimmten KI-Modells einzustellen [4].
Einordnung und Ausblick
Die Ambivalenz des Vorhabens liegt auf der Hand: Dieselbe Technologie, die Angreifer nutzen, um Angriffe zu automatisieren, soll nun auch die Verteidigung beschleunigen. Das NCSC selbst warnt in einer im August veröffentlichten Zwischenleitlinie vor den Risiken agentischer KI – von unbeabsichtigten Aktionen über Sandbox-Ausbrüche bis hin zu fehlender menschlicher Kontrolle. Es empfiehlt unter anderem robuste Sandbox-Umgebungen, klare Verantwortlichkeiten und die Fähigkeit, Systeme im Notfall sofort abzuschalten [6].
Kritiker sehen in der Kombination aus freiwilligen Selbstverpflichtungen und dem Verzicht auf verbindliche Regeln für KI-Anbieter eine gefährliche Lücke. Die Regierung verweist dagegen auf internationale Standards wie ETSI EN 304 223, den ersten globalen Cybersicherheitsstandard für KI, an dessen Entstehung Großbritannien maßgeblich beteiligt war [4].
Ob die agentische KI-Abwehr tatsächlich kommt, hängt auch vom weiteren Verlauf des Gesetzgebungsverfahrens ab. Die Debatte im Oberhaus soll fortgesetzt werden, und mehrere Peers kündigten an, das Thema KI-Regulierung in späteren Phasen erneut aufzugreifen [4]. Der National Cyber Action Plan, der die konkreten Pläne für die KI-Ersthelfer enthalten soll, wird noch in diesem Sommer erwartet [2] [3].