Die Abwehr von KI-Angriffen mit KI beginnt bei Netzwerk und Identität

Seit Jahren wird in der Cybersicherheit darüber diskutiert, wie KI-gestützte Angriffe aussehen könnten. Wir müssen uns das nicht mehr vorstellen. In den letzten 90 Tagen haben wir beobachtet, wie KI-gestützte und zunehmend autonome Angriffe den Sprung aus der Forschungsumgebung in die reale Welt geschafft haben. Wir haben eine „Agentic- ransomware “-Kampagne beobachtet. Wir haben gesehen, wie KI eingesetzt wurde, um „ malware “ wiederholt so zu modifizieren, bis sie die Abwehrmaßnahmen umgehen konnte. Wir haben beobachtet, wie KI-Agenten aus Testumgebungen entkommen und echte Unternehmen sowie Regierungssysteme erreichen konnten. Wir haben gesehen, wie Zugangsdaten, „ cloud “-Infrastruktur, APIs, VPNs, Datenbanken, Quellcode und vertrauenswürdige Dienste in Angriffspfade einbezogen wurden.

Unser Sicherheitsforschungsteam von „ Vectra AI “ hat bei der Aufarbeitung des Vorfalls bei Hugging Face hervorragende Arbeit geleistet. Doch das Wichtigste daran ist nicht Hugging Face selbst, sondern das Muster, das sich dahinter abzeichnet. Allein im letzten Quartal:

• JadePuffer zeigte einen KI-Agenten, der eine Erpressungskampagne durchlief – von der Erkundung über den Diebstahl von Zugangsdaten, die laterale Bewegung und die Verschlüsselung bis hin zur Lösegeldforderung.

• Die mit „Midnight Blizzard“ in Verbindung stehenden Aktivitäten zeigten, dass KI in einem geschlossenen Regelkreis eingesetzt wurde, um „ malware “ gegen Abwehrmaßnahmen zu testen, es bei Erkennung anzupassen und so lange erneut einzusetzen, bis es funktionierte.

• Die Evaluierungsagenten von OpenAI wurden in reale Infrastrukturen integriert, darunter Hugging Face und die Statistikumgebung von Medicare in Australien.

• Anthropic, Meta und Google haben jeweils Beispiele dafür veröffentlicht, wie KI-Agenten die vorgesehenen Testgrenzen überschritten und sich unbefugten Zugriff auf echte Organisationen verschafft haben.

• Andere Vorfälle zeigten, dass KI-Agenten für Paketangriffe, den Missbrauch von Programmierassistenten und mehrstufige Angriffe auf Unternehmen eingesetzt wurden.

Unterschiedliche Vorfälle. Unterschiedliche Modelle. Unterschiedliche Techniken. Dieselbe Erkenntnis: KI verändert die Geschwindigkeit und das Ausmaß von Angriffen. Sie verändert jedoch nicht, was Angreifer letztendlich tun müssen. Sobald ein Angreifer eingedrungen ist, muss er sich immer noch mit der Umgebung vertraut machen, Zugangsdaten finden und nutzen, Berechtigungen erweitern, sich lateral bewegen, kommunizieren und schließlich etwas Wertvolles erreichen. Die Werkzeuge ändern sich. Die Exploits ändern sich. Die Modelle ändern sich. Das Verhalten bleibt gleich.

Verhaltensbasierte KI enthüllt, wie KI-Angriffe tatsächlich ablaufen

Das ist meiner Meinung nach der wichtigste Aspekt für Verteidiger. Betrachtet man viele der einzelnen Aktionen innerhalb dieser Angriffe, so sind sie nicht offensichtlich böswillig. Ein API-Aufruf an „ cloud “, eine Token-Anfrage, eine Anmeldung, der Zugriff eines Dienstkontos auf eine Workload, eine neue VPN-Verbindung, eine Kubernetes-Anfrage oder ein wiederverwendetes Passwort können für sich genommen allesamt legitim sein. Die bessere Sicherheitsfrage lautet also nicht einfach: „Ist diese Aktion böswillig?“, sondern: „Ist dieses Verhalten für diese Identität, in dieser Umgebung und zum jetzigen Zeitpunkt sinnvoll?“

Genau hier kommt die verhaltensbasierte KI ins Spiel. Anstatt auf eine bekannte Signatur oder einen bekannten Indikator zu warten, betrachtet die verhaltensbasierte KI, was eine Entität tatsächlich tut. Erkundet sie die Umgebung? Missbraucht sie Zugangsdaten? Erweitert sie ihre Berechtigungen? Bewegt sie sich lateral? Baut sie eine Kommando- und Kontrollstruktur auf? Greift sie auf etwas zu, auf das sie normalerweise keinen Zugriff hat? Verschiebt sie Daten auf ungewöhnliche Weise? Es geht nicht darum, jede Technik zu kennen, die ein KI-gestützter Angreifer als Nächstes erfinden könnte. Es geht darum zu verstehen, wann ein Verhalten den Anschein eines Angriffs annimmt.

Und zunehmend ist die Identität hinter diesem Verhalten nicht unbedingt eine Person. Die KI-Umgebung wird von menschlichen Nutzern, Dienstkonten, Workloads, Maschinenidentitäten, APIs, Automatisierung und mittlerweile auch KI-Agenten betrieben. Jedem einzelnen von ihnen kann man vertrauen. Jeder einzelne von ihnen kann aber auch missbraucht werden. Die Sicherheitsabteilung muss daher das Verhalten sowohl menschlicher als auch nicht-menschlicher Identitäten verstehen.

Warum Netzwerk und Identität für die Erkennung von KI-Angriffen entscheidend sind

Aus diesem Grund bin ich der Überzeugung, dass „Netzwerk + Identität“ die Grundlage für die Verteidigung des KI-Unternehmens bilden muss. Das Netzwerk liefert Ihnen in Echtzeit Aufschluss darüber, was tatsächlich geschieht: Welche Systeme kommunizieren miteinander, wo findet laterale Bewegung statt, welche Protokolle werden verwendet, wie werden Daten übertragen und wie verändert sich das Verhalten im Verlauf eines Angriffs? „Identity“ liefert Ihnen die andere Hälfte des Bildes: Wer – oder zunehmend: Was – steckt hinter dieser Aktivität? Handelt es sich um eine Person, ein Dienstkonto, eine Workload, eine Maschinenidentität, eine „ cloud “-Identität oder einen KI-Agenten? Welche Berechtigungen hat das Subjekt ausgeübt? Welche Vertrauensbeziehungen hat es genutzt? Ist diese Aktivität im Hinblick auf die üblichen Aufgaben dieser Identität sinnvoll?

Man braucht beides, denn Angreifer halten sich nicht an unsere Sicherheitsproduktkategorien. Sie bleiben nicht ordentlich innerhalb von „ endpoint “, „Identity“, „ cloud “, „Network“ oder „SaaS“. Sie bewegen sich von „Identity“ zu „ cloud “, von „ cloud “ zu „Workload“, von „Workload“ zu „Network“, von „Network“ zur internen Infrastruktur, von „On-Premises“ zu „SaaS“ und von einer vertrauenswürdigen Identität zur nächsten. Keine „ endpoint “-Warnmeldung allein erfasst das gesamte Bild. Das gilt auch für „Identity Event“-Warnmeldungen, „ cloud “-Warnmeldungen oder Netzwerkdetektion, wenn sie isoliert betrachtet werden. Der Angriff findet in den Verbindungen zwischen diesen Bereichen statt.

Genau hier kommt „ Attack Signal Intelligence “ ins Spiel. Es verknüpft diese Verhaltensmuster über Identitäten, Systeme, Domänen und Zeiträume hinweg, sodass die Verteidiger den Angriff so verstehen können, wie er sich tatsächlich entwickelt.

Fünf Warnmeldungen können einen Angriff darstellen

Ich glaube, die Sicherheitsabteilung hat zu viel Zeit damit verbracht, zu feiern, wie viele Dinge wir erkennen können. Das Erkennen ist nicht mehr das Problem. Das Verstehen ist es. Ein System erkennt ungewöhnliche cloud -Entdeckungen. Ein anderes stellt eine verdächtige Nutzung von Berechtigungen fest. Ein weiteres identifiziert neue Anmeldedaten. Ein weiteres entdeckt laterale Bewegungen. Ein weiteres meldet ungewöhnliche SaaS-Zugriffe. Fünf Produkte können fünf Warnmeldungen in fünf verschiedenen Warteschlangen generieren, aber das bedeutet nicht unbedingt, dass Sie fünf Probleme haben. Möglicherweise bewegt sich ein einziger Angreifer durch fünf Bereiche der Umgebung.

Die KI-gestützte „ Attack Signal Intelligence “ verknüpft diese Verhaltensmuster miteinander. Sie kombiniert verhaltensbasierte KI mit Netzwerk- und Identitätskontext, um zu verstehen, wer oder was beteiligt ist, wie die Aktivitäten miteinander zusammenhängen und wie der Angriff weiterverlaufen wird. Diese Unterscheidung ist entscheidend, denn KI-Angreifer warten nicht darauf, dass ein Analyst manuell fünf Konsolen miteinander in Zusammenhang bringt. Sie können mit maschineller Geschwindigkeit beobachten, Schlussfolgerungen ziehen, handeln, sich anpassen und es erneut versuchen. Verteidiger benötigen dieselbe Fähigkeit, um die Situation schnell zu erfassen und entsprechend zu reagieren.

Genau hier wird meiner Meinung nach die Diskussion über KI im SOC erst richtig interessant. Ich bin unglaublich optimistisch, was KI für Sicherheitsbeauftragte leisten kann, aber einen KI-Agenten auf Tausende von unzusammenhängenden Warnmeldungen anzusetzen, löst das Problem nicht wie von Zauberhand. Es hilft uns vielleicht lediglich dabei, das Rauschen schneller zusammenzufassen. KI ist nur so gut wie das Signal, das ihr zugrunde liegt.

Wenn man einem KI-Agenten unzusammenhängende Warnmeldungen, spärliche Kontextinformationen und unvollständige Zuordnungen liefert, verlangt man von ihm, aus einer schlechten Ausgangslage das Beste zu machen. Geben Sie ihm jedoch Verhaltenserkennungen, die mit der richtigen menschlichen oder nicht-menschlichen Identität verknüpft sind, angereichert mit Netzwerk- und Identitätskontext und über lokale sowie „ cloud “-Umgebungen hinweg korreliert – dann kann die KI etwas viel Wertvolleres leisten. Sie kann den Verlauf eines Angriffs rekonstruieren, betroffene Identitäten und Systeme identifizieren, erklären, warum das Verhalten von Bedeutung ist, Prioritäten setzen, was Aufmerksamkeit verdient, die nächste Maßnahme empfehlen und dabei helfen, die Untersuchung und Reaktion zu automatisieren.

So stelle ich mir den Kampf der KI gegen die KI vor. Nicht KI auf der Grundlage von Warnmeldungen, sondern KI auf der Grundlage vertrauenswürdiger Attack Signal Intelligence.

Aus diesem Grund wurde Attack Signal Intelligence ins Leben gerufen

Bei „ Vectra AI “ ist unsere Überzeugung ganz einfach: KI-gesteuerte „ Attack Signal Intelligence “, die auf „Network + Identity“ basiert, ist der Weg, wie Sicherheitsverantwortliche KI-gestützte Angriffe mit KI bekämpfen. Dabei wird verhaltensbasierte KI auf menschliche und nicht-menschliche Identitäten angewendet. Das System erfasst Verhaltensmuster sowohl in lokalen als auch in „ cloud “-Umgebungen. Es arbeitet in Echtzeit, während der Angriff tatsächlich stattfindet. Und vor allem verknüpft es Verhaltensmuster über Identitäten, Systeme und Domänen hinweg, sodass Menschen – und zunehmend auch die KI-Agenten, die mit ihnen zusammenarbeiten – den Angriff schnell genug erkennen können, um darauf zu reagieren.

Denn das Ziel sind nicht mehr Warnmeldungen. Es geht nicht einmal um mehr Erkennungen. Das Ziel ist es, die Frage zu beantworten, auf die jedes Sicherheitsteam letztendlich eine Antwort braucht: Werden wir gerade angegriffen?

Die letzten 90 Tage sollten eines ganz deutlich machen: KI-Angriffe sind nichts, worauf wir uns erst in fünf Jahren vorbereiten müssen. Sie sind bereits da, und sie werden immer schneller werden. Die Modelle werden sich ändern. Die Schwachstellen werden sich ändern. Die Angriffstechniken werden sich ändern. KI wird es Angreifern erleichtern, zu experimentieren, sich anzupassen und in einem Ausmaß zu agieren, das für Menschen bisher schlichtweg unmöglich war.

Aber Angreifer müssen immer noch handeln. Sie müssen immer noch Identitäten nutzen. Sie müssen immer noch über Netzwerke hinweg kommunizieren. Sie müssen sich immer noch in der Umgebung bewegen. Und dieses Verhalten verrät immer noch die ganze Geschichte.

Deshalb glaube ich nicht, dass der Vorteil im Zeitalter der KI darin bestehen wird, jede neue Angriffstechnik der KI vorherzusagen. Er wird vielmehr darin liegen, kontinuierlich zu verstehen, wer und was im gesamten Unternehmen aktiv ist, wie sich diese Akteure verhalten und wann dieses Verhalten zu einem Angriff wird.

Das Netzwerk zeigt uns, was passiert ist. Die Identitätserkennung zeigt uns, wer oder was dahintersteckt. Die verhaltensbasierte KI zeigt uns, wann dies von Bedeutung ist. Kombiniert man all dies, erhält man das zuverlässige Signal, das Verteidiger – und ihre KI – benötigen, um Angriffe in KI-Geschwindigkeit mit KI-Geschwindigkeit abzuwehren.

Weitere Beiträge von Mark Wojtasiak finden Sie hier im Blog „ Vectra AI “ nachlesen.