Im Zeitalter der KI gehen Insider-Bedrohungen nicht nur von Menschen aus. Sie sind künstlicher Natur.

In den letzten zwei Jahrzehnten wurde Cybersicherheit meist als das Problem betrachtet, böswillige Akteure fernzuhalten. Firewalls, Endgeräte, E-Mail-Sicherheit und Identitätskontrollen basieren alle auf einer einfachen Idee: Wenn wir Eindringversuche verhindern können, können wir Risiken bewältigen. Wenn Vorfälle auftraten, richteten wir unseren Blick nach außen. Wer hat in unser System eingedrungen? Wie sind sie hineingekommen? Die Insider-Bedrohung hat diese Sichtweise schon immer in Frage gestellt.  

Insider weisen darauf hin, dass einige der schwerwiegendsten Sicherheitsvorfälle gar nicht mit einem Einbruch beginnen. Sie beginnen mit einem Zugriff, dem bereits Vertrauen entgegengebracht wurde. Ein Mitarbeiter mit Zugriffsrechten. Ein System mit Zugangsdaten. Ein Prozess, dessen Ausführung zugelassen wurde.

Früher haben wir das Insider-Risiko aus menschlicher Perspektive betrachtet. Ein böswilliger Mitarbeiter. Ein unachtsamer Fehler. Ein kompromittierter Benutzer. Diese Szenarien gibt es nach wie vor, und sie spielen weiterhin eine Rolle, doch sie spiegeln nicht mehr die gesamte Realität der heutigen Unternehmensabläufe wider.

In dem Maße, wie KI immer stärker in die Abläufe von Unternehmen integriert wird – wie Entscheidungen getroffen werden, wie Arbeitsprozesse automatisiert werden, wie Systeme miteinander interagieren –, entsteht eine neue Form des Insider-Risikos. Ein Risiko, das nicht durch Vorsatz, Emotionen oder Fahrlässigkeit verursacht wird. Ein Risiko, das kontinuierlich, autonom und mit maschineller Geschwindigkeit abläuft.

Das ist der Aufstieg dessen, was ich als „künstlichen Insider“ bezeichne.

Eine neue Sichtweise auf die Bedeutung des Begriffs „Insider“ im KI-Unternehmen

Wenn man den Begriff „künstlicher Insider“ hört, mag das abstrakt klingen. Das ist es aber nicht.

Ein „künstlicher Insider“ ist jede nicht-menschliche oder KI-gesteuerte Entität, die innerhalb des Unternehmens mit legitimen Anmeldedaten, autorisiertem Zugriff und der Fähigkeit zum selbstständigen Handeln agiert. Diese Entitäten sind in den meisten Organisationen bereits vorhanden. Dazu gehören KI-Agenten, die im Namen von Benutzern oder Teams handeln, Dienstkonten und APIs, die den Zugriff und die Entscheidungsfindung automatisieren, cloud und SaaS-Integrationen sowie zunehmend auch maßgeschneiderte KI-Agenten, die von Mitarbeitern entwickelt wurden, um ihnen ein schnelleres Arbeiten zu ermöglichen.

Was diese Akteure zu Insidern macht, ist nicht böswillige Absicht, sondern Vertrauen.

• Sie authentifizieren sich ordnungsgemäß.

• Sie greifen auf Systeme zu, auf die sie Zugriff haben.

• Sie übertragen Daten dorthin, wohin sie diese übertragen dürfen.

Aus Sicherheitssicht liegt genau hier seit jeher das Insider-Risiko – innerhalb der Vertrauensgrenze. Was sich geändert hat, sind das Ausmaß, die Geschwindigkeit und die Autonomie.

Wenn Angreifer sich nicht hacken, sondern sich einloggen und unter die Leute mischen

Eine der wichtigsten Veränderungen im Verhalten von Angreifern in den letzten Jahren war die Abkehr von Brute-Force-Angriffen hin zum Missbrauch von Vertrauen. Moderne Angreifer wissen, dass der schwierigste Teil eines Einbruchs oft darin besteht, sich den ersten Zugriff zu verschaffen. Sobald sie über Zugangsdaten verfügen – seien es menschliche oder nicht-menschliche –, erledigt die Umgebung selbst einen Großteil der Arbeit für sie.

KI treibt diese Entwicklung voran.

Sobald sie sich im System befinden, können Angreifer automatisierte oder KI-gesteuerte Tools einsetzen, um als Insider zu agieren. Diese Agenten müssen sich nicht beeilen. Sie müssen nicht auffallen. Sie können eine Umgebung geduldig erkunden, Identitäten und Berechtigungen erfassen, sich lateral über Systeme hinweg bewegen und sich anhand ihrer Beobachtungen anpassen. Jede einzelne Aktion wirkt für sich genommen oft legitim. Eine Abfrage. Ein API-Aufruf. Eine Verbindung zu einem zugelassenen Dienst. Herkömmliche Sicherheitstools, die Ereignisse meist isoliert analysieren, haben Schwierigkeiten, das übergeordnete Muster zu erkennen – bis es zu spät ist. Dies ist keine neue Art von Angriff. Es ist ein bekannter Angriff – nur schneller, unauffälliger und mit weitaus weniger Reibungsverlusten ausgeführt.

Tatsächlich lernen Angreifer, sich wie Insider zu verhalten, und nutzen Automatisierung, um das zu tun, was Menschen früher manuell erledigt haben.

Das Insiderrisiko, das wir selbst schaffen

Nicht alle künstlichen Insider werden von Angreifern eingeschleust. Viele entstehen intern – durch Mitarbeiter, die versuchen, reale Probleme zu lösen. In Unternehmen aller Branchen entwickeln Teams KI-Agenten, um Analysen, Berichterstellung, Kundeninteraktion, betriebliche Arbeitsabläufe und Entscheidungsunterstützung zu automatisieren. Sie verbinden diese Agenten mit internen Systemen, APIs und Datenquellen, da das Unternehmen Schnelligkeit und Effizienz verlangt.

In den meisten Fällen geschieht dies in guter Absicht. Es handelt sich um Innovation an der Peripherie des Unternehmens. Es sind Menschen, die neue Werkzeuge nutzen, um ihre Arbeit besser zu erledigen. Aus Risikosicht werden diese Akteure jedoch in dem Moment zu Insidern, in dem ihnen Zugriff gewährt wird und sie eigenständig handeln dürfen. Sie existieren nicht nur als Anwendungen. Sie handeln. Sie treffen Entscheidungen. Sie lösen Arbeitsabläufe aus. Sie verschieben Daten zwischen verschiedenen Umgebungen. Und wenn eine davon falsch konfiguriert, unzureichend gesteuert oder kompromittiert ist, kann dies das gleiche oder sogar ein noch größeres Risiko darstellen als ein menschlicher Insider – ohne dass jemals jemand die Absicht hatte, dieses Risiko einzuführen.

Dies ist einer der schwierigsten Aspekte des KI-Zeitalters, da für das Entstehen eines Risikos keine böswillige Absicht erforderlich ist. Es reicht bereits aus, dass vertrauenswürdige Automatisierungssysteme außerhalb unseres Blickfelds arbeiten.

Warum das traditionelle Modell der Insider-Bedrohung nicht mehr zutrifft

Unsere bisherige Sichtweise auf Insiderrisiken beruht auf einigen Annahmen, die heute nicht mehr zutreffen.

Erstens geht das Modell davon aus, dass Insider Menschen sind. Menschen arbeiten mit menschlicher Geschwindigkeit. Sie zögern. Sie wechseln den Kontext. Ihr Verhalten ist inkonsistent und oft vorhersehbar. KI-gesteuerte Insider verhalten sich nicht so. Sie agieren konsistent, kontinuierlich und systemübergreifend.

Zweitens geht davon aus, dass Risiken mit Vorsatz oder Fahrlässigkeit zusammenhängen. Künstliche Insider weisen jedoch weder das eine noch das andere auf. Sie verfügen über Berechtigungen, Anweisungen und einen operativen Kontext. Risiken entstehen, wenn diese Faktoren nicht mehr mit der Realität übereinstimmen – oft schneller, als sich Kontrollmechanismen anpassen können.

Drittens geht davon aus, dass die Verteidiger Zeit haben. In einer KI-gestützten Umgebung verkürzen sich die Zeiträume. Was sich früher über Tage oder Wochen hinzog, kann nun innerhalb von Minuten geschehen. Von Menschen gesteuerte Erkennungs- und Reaktionsprozesse waren nie für dieses Tempo ausgelegt.

Das Ergebnis ist nicht, dass die Verteidiger versagen. Vielmehr haben sich die physikalischen Rahmenbedingungen des Risikos verändert.

Warum dies auf Führungsebene von Bedeutung ist

Dieser Wandel ist nicht nur technischer Natur. Er ist organisatorischer und strategischer Art.

KI wird in Unternehmen auf breiter Front eingeführt, weil Führungskräfte darauf vertrauen, dass sie Produktivität, Skalierbarkeit und Wettbewerbsfähigkeit steigert. Dieses Vertrauen ist notwendig. Doch Vertrauen ohne kontinuierliche Transparenz und Überprüfung wird zu einem Risiko, wenn Systeme autonom agieren. Vorstände und Aufsichtsbehörden stellen heute kritischere Fragen als je zuvor: Sind wir derzeit sicher? Wo bestehen Risiken? Funktionieren die Kontrollmechanismen, in die wir investiert haben, tatsächlich?

Diese Fragen lassen sich nur schwer beantworten, wenn nicht-menschliche Akteure und KI-Agenten ihr Verhalten ständig ändern – oft außerhalb des Geltungsbereichs herkömmlicher Kontrollmechanismen. Und auch wenn die Akteure neu sein mögen, hat sich die Rechenschaftspflicht nicht geändert. Wenn ein KI-gesteuertes System eine Sicherheitsverletzung, einen Verstoß gegen Compliance-Vorschriften oder eine Betriebsstörung verursacht, liegt die Verantwortung nach wie vor bei der Unternehmensleitung.

Die Realität des CISO im Zeitalter der KI

CISOs befinden sich derzeit in einer der komplexesten Phasen, die diese Rolle je erlebt hat.

Von ihnen wird erwartet, dass sie die Einführung von KI ermöglichen, Innovationen fördern, Reibungsverluste reduzieren sowie Sicherheit und Compliance gewährleisten – und das alles bei der Absicherung von Umgebungen, in denen nicht-menschliche Identitäten die Menschen zahlenmäßig übertreffen und die Automatisierung schneller voranschreitet als die menschliche Kontrolle. Dies ist kein Versagen der Tools oder Teams. Es handelt sich vielmehr um eine Diskrepanz zwischen der traditionellen Art der Sicherheitspraxis und der heutigen Arbeitsweise moderner Unternehmen. Die Herausforderung besteht nicht mehr nur darin, böswillige Handlungen zu verhindern. Vielmehr geht es darum, Verhaltensweisen schnell genug zu verstehen, um fundierte Entscheidungen treffen zu können.

Warum Prävention allein nicht ausreicht

Governance, Richtlinien und präventive Kontrollmaßnahmen sind nach wie vor unverzichtbar. Doch allein können sie das Problem künstlicher Insider nicht lösen. Diese Entitäten werden erst aktiv, nachdem ihnen Zugriff gewährt wurde. Sobald sie authentifiziert sind, werden ihre Handlungen als legitim angesehen. Die Transparenz ist über die Systeme hinweg fragmentiert. Risiken verbergen sich in den Verbindungen zwischen Domänen. Dies ist derselbe blinde Fleck, der bei Insider-Bedrohungen schon immer bestand – und der nun durch Automatisierung, Umfang und Geschwindigkeit noch verstärkt wird. Der Versuch, jede riskante Aktion zu verhindern, würde das Geschäft fast zum Erliegen bringen. Das ist kein gangbarer Weg. Stattdessen muss Resilienz auf einem kontinuierlichen Verständnis des Verhaltens aufbauen, nicht auf statischem Vertrauen.

Von der Identität zum Verhalten

Die wichtigste Umstellung, die Organisationen vornehmen müssen, besteht darin, nicht mehr nur zu fragen, wer eine Handlung ausgeführt hat, sondern zu verstehen, wie sich das Verhalten im Laufe der Zeit entwickelt.

Sicherheitsverantwortliche müssen in der Lage sein, zu erkennen, welche menschlichen und nicht-menschlichen Identitäten aktiv sind, wie sie sich systemübergreifend verhalten, wie schnell die Aktivitäten voranschreiten und welche potenziellen Auswirkungen eine Fortsetzung dieser Aktivitäten haben könnte. Dies sind operative Fragen. Sie lassen sich nicht mit isolierten Telemetriedaten, punktuellen Bewertungen oder vierteljährlichen Überprüfungen beantworten.

Sie benötigen Transparenz, die mit der Geschwindigkeit und der Vernetzung moderner Unternehmen Schritt hält.

Das eigentliche Risiko ist nicht die KI, sondern blindes Vertrauen bei maschineller Geschwindigkeit

KI ist nichts, worauf Unternehmen verzichten können. Sie entwickelt sich zum Betriebsmodell des modernen Unternehmens. Künstliche Insider gibt es bereits in unseren Systemen. Einige wurden bewusst eingesetzt. Andere entstanden unbemerkt. Wieder andere sind möglicherweise bereits im Auftrag von Angreifern aktiv.

Die Frage, mit der sich Führungskräfte auseinandersetzen müssen, lautet nicht, ob es diese Insider gibt, sondern ob sie deren Verhalten gut genug erkennen, verstehen und steuern können, um ihnen verantwortungsvoll zu vertrauen.

Im Zeitalter der KI sind interne Bedrohungen nicht verschwunden. Sie haben sich weiterentwickelt. Sie sind automatisiert worden. Und sie bewegen sich nun mit maschineller Geschwindigkeit. Diese Realität anzuerkennen – und unsere Sichtweise auf Vertrauen und Risiko anzupassen – ist eine der wichtigsten Herausforderungen für Führungskräfte in der Zukunft.

Weitere Beiträge von Mark Wojtasiak finden Sie hier im Vectra AI .  

‍

‍