BSI-Studie: Nur jedes zehnte Unternehmen ist auf KI-Angriffe vorbereitet

Was die Studie zeigt

Grundlage der Analyse ist eine Forsa-Umfrage im Auftrag des Bundesamts für Sicherheit in der Informationstechnik (BSI) und des TÜV-Verbands. Im Juli 2026 wurden dafür 505 Unternehmen mit mindestens 20 Mitarbeitern befragt; zu den Teilnehmenden zählten IT- und KI-Verantwortliche sowie Mitglieder der Geschäftsführung [3] [4]. Vorgestellt wurden die Ergebnisse am Mittwoch in Berlin [1].

Das zentrale Ergebnis: Nur elf Prozent der Betriebe haben bislang spezielle Prozesse für Sicherheitsvorfälle im Zusammenhang mit Künstlicher Intelligenz etabliert. 43 Prozent setzen auf allgemeine IT-Sicherheitsprozesse, aber ohne spezielle KI-Regeln. Jedes fünfte Unternehmen (20 Prozent) arbeitet derzeit an solchen Vorgaben. In jedem vierten Betrieb (25 Prozent) gibt es nach Angaben der Verantwortlichen gar keine Regelungen für KI-bezogene Vorfälle; zwei Prozent antworteten mit "Weiß nicht" [3] [4].

Zugleich ist KI in der Breite angekommen: 49 Prozent der Unternehmen nutzen sie bereits, weitere neun Prozent planen den Einsatz innerhalb der nächsten zwölf Monate. 42 Prozent verwenden KI nicht und haben das auch nicht vor [3].

Die konkreten Lücken

Die Umfrage offenbart mehrere Schwachstellen. Nur etwa jedes zweite Unternehmen testet die von ihm eingesetzten KI-Anwendungen vorab auf ihre Sicherheit [1]. Und obwohl 17 Prozent der Betriebe in den vergangenen zwölf Monaten KI-gestützte Cyberangriffe oder Betrugsversuche registrierten oder vermuteten, sind die Abwehrstrukturen lückenhaft [1] [3].

Unter den betroffenen Unternehmen berichteten 40 Prozent von Anzeichen eines automatisierten Angriffs, mit dem Schwachstellen im eigenen IT-System gesucht wurden. Neun von zehn Betroffenen vermuteten hochrealistische Phishing-Mails, mit denen Angreifer an Passwörter oder andere sensible Daten gelangen wollten. Elf Prozent meldeten Betrugsversuche mithilfe von Deepfakes, also gefälschten Audio- oder Videoaufnahmen [1] [2].

Lesen Sie auchInterview mit Daniel Schönland „Die Angreifer laufen sich gerade erst warm“→

Bemerkenswert ist auch, wie einseitig KI bislang eingesetzt wird: 96 Prozent der Anwender nutzen sie, um Texte, Bilder oder Code zu erstellen. Nur 31 Prozent setzen KI zur Verbesserung der eigenen IT-Sicherheit ein, 25 Prozent zur Automatisierung von Abläufen [3].

TÜV-Verbandspräsident Dirk Stenkamp sieht ein wiederkehrendes Muster: Viele Unternehmen kümmerten sich erst dann intensiv um KI-Schutz, wenn es ernsthafte Vorfälle gegeben habe. "Das ist ein Muster, das sich durchzieht", sagte er [1].

Wie sich KI-gestützte von klassischen Angriffen unterscheiden

Klassische Angriffe setzen auf Masse und bekannte Muster. KI-gestützte Attacken verändern die Qualität in mehreren Punkten:

• Automatisierung und Tempo: Angreifer können ihre Attacken automatisieren und dadurch in kürzerer Zeit deutlich mehr Ziele bearbeiten [1].

• Gezieltere Täuschung: Phishing-Mails wirken sprachlich und inhaltlich überzeugender. Klassische Erkennungsmerkmale wie holprige Formulierungen oder unpersönliche Ansprache verlieren an Aussagekraft [1].

• Deepfakes: Gefälschte Audio- und Videoaufnahmen ermöglichen Betrugsversuche, etwa bei angeblichen Anweisungen von Vorgesetzten [2].

• Automatisierte Schwachstellensuche: KI durchsucht Systeme selbstständig nach Einfallstoren, statt auf manuelle Recherche angewiesen zu sein [1].

Hinzu kommt ein Erkennungsproblem: Ob ein Angriff KI-gestützt war, lässt sich nicht immer eindeutig feststellen. Die Dunkelziffer dürfte daher höher liegen als die gemeldeten 17 Prozent [3]. BSI-Vizepräsident Thomas Caspers betont, dass auch Unternehmen gefährdet sind, die selbst keine KI einsetzen [2].

Haftung, Regulierung und der EU AI Act

Neben der technischen Abwehr beschäftigt die Unternehmen eine offene Rechtsfrage. Stenkamp zufolge herrscht vielfach Unsicherheit darüber, wer beim Einsatz von KI im Schadensfall haftet: "Der Anbieter der KI, bin ich es selber oder sind es andere Stellen?" [3]. Da viele Betriebe gar nicht das Expertenniveau aufbauen könnten, um die Sicherheit von KI-Modellen selbst zu beurteilen, hält der TÜV-Verband gesetzgeberische Vorgaben für sinnvoll, damit zumindest eine Art "Grundschutz" entsteht [3].

Einen Rahmen setzt bereits der EU AI Act, der schrittweise in Kraft tritt. Er macht Vorgaben für die Verwendung von KI in der Wirtschaft und regelt unter anderem Zertifizierung und Überwachung von Anwendungen in Hochrisikobereichen wie Energiewirtschaft, Personalwesen oder Medizin [1]. Der TÜV-Verband arbeitet mit dem sogenannten TÜV AI.Lab an der Zertifizierung von KI-Systemen [1].

Was Unternehmen jetzt tun sollten

Aus den Befunden lassen sich mehrere konkrete Schritte ableiten:

• KI-Anwendungen vor dem Einsatz prüfen. Nur die Hälfte der Betriebe testet sie bislang auf Sicherheit – hier klafft die größte Lücke [1].

• Eigene Prozesse für KI-Vorfälle etablieren. Ein Viertel der Unternehmen hat dafür noch gar keine Regelungen; Incident-Response-Pläne sollten KI-Szenarien ausdrücklich abdecken [3].

• Phishing-Abwehr anpassen. Da klassische Erkennungsmerkmale wegfallen, braucht es technische Filter, Schulungen und Verifikationsroutinen statt reiner Plausibilitätsprüfung [1].

• Deepfake-Betrug vorbeugen. Bei Zahlungs- und Freigabeprozessen helfen Mehr-Augen-Prinzipien und Rückrufverfahren über bekannte Kanäle [2].

• KI auch defensiv nutzen. Bislang setzt nur knapp ein Drittel der Anwender KI zur Verbesserung der IT-Sicherheit ein [3].

• Haftungsfragen klären. Verträge mit KI-Anbietern sollten Zuständigkeiten und Haftung im Schadensfall eindeutig regeln [3].

Einordnung

Auffällig ist die Spaltung der deutschen Wirtschaft: Auf der einen Seite stehen Unternehmen, die KI breit nutzen, aber beim Schutz hinterherhinken. Auf der anderen Seite stehen 42 Prozent der Betriebe, die KI gar nicht einsetzen – mehr als die Hälfte von ihnen aus Sorge um Datenschutz und Sicherheit [3]. Beide Gruppen eint ein Risiko: KI-gestützte Angriffe treffen auch Unternehmen, die selbst keine KI verwenden [2]. Ob der EU AI Act und wachsender regulatorischer Druck die Lücke schließen, dürfte sich erst in den kommenden Monaten zeigen.