Die Einführung von KI ist längst keine Zukunftsplanung mehr. Sie findet bereits im KI-Unternehmen statt. Mitarbeiter nutzen externe KI-Dienste, um schneller voranzukommen. Microsoft Copilot wird zum festen Bestandteil des Arbeitsalltags. Es entstehen neue Agenten zur Unterstützung von Arbeitsabläufen. Plattformen wie AWS Bedrock und Azure AI Foundry bieten Entwicklern neue Möglichkeiten, KI-gestützte Funktionen bereitzustellen.
Das ist spannend, stellt für Sicherheitsteams jedoch auch Neuland dar. Für sie stellt sich nicht mehr die Frage, ob sie KI einsetzen sollen. Die meisten Unternehmen tun dies bereits. Die Frage ist vielmehr, ob sie den Einsatz von KI nachvollziehen, die damit verbundenen neuen Risiken erkennen und das Unternehmen schützen können, während die Nutzung zunimmt.
KI stellt eine Herausforderung für die Transparenz dar
Manche Anwendungen der KI sind genehmigt. Bei manchen handelt es sich um „Schatten-KI“, bei der Mitarbeiter nicht verwaltete Dienste außerhalb der formellen Kontrollmechanismen nutzen. Bei manchen werden Daten an externe KI-Ziele übertragen. Bei manchen kommen Agenten zum Einsatz, die im Namen von Personen, Teams oder Arbeitsabläufen handeln können.
Jede Situation birgt ein anderes Risiko. Ein Nutzer, der sensible Daten in einen externen KI-Dienst einfügt, stellt eine Art von Risiko dar. Ein Copilot-Nutzer mit weitreichendem Zugriff auf sensible Dateien stellt ein weiteres dar. Ein Agent, der unter falscher Identität manipuliert wird, stellt ein weiteres dar. Und wenn eine menschliche oder nicht-menschliche Identität kompromittiert wird, kann KI den Wirkungsradius dessen vergrößern, worauf diese Identität zugreifen, was sie zusammenfassen, verschieben oder womit sie interagieren kann.
Sicherheitsverantwortliche benötigen konkrete Antworten: Wo wird KI eingesetzt, wer nutzt sie, wie viele Daten werden verarbeitet, welche Agenten gibt es, wer verwaltet sie und worauf sollte sich das Team zuerst konzentrieren? Die „AI Readiness“-Funktionen Vectra AI helfen dabei, diese Antworten in umsetzbare Erkenntnisse für Sicherheitsteams umzuwandeln.
Sich wandelnde Bedrohungen: KI verändert das Tempo und das Ausmaß von Angriffen
Das Risiko besteht nicht nur darin, dass Mitarbeiter neue KI-Tools nutzen. Es geht vielmehr darum, was passiert, wenn KI Identitäten mit Daten verknüpft, die bereits im gesamten Unternehmen verteilt sind. So könnte ein Angreifer beispielsweise ein gültiges Benutzerkonto kompromittieren, das bereits Zugriff auf sensible Dateien, E-Mails, Teams-Konversationen, SharePoint-Websites oder Geschäftsanwendungen hat. Mit Copilot lassen sich solche Informationen schneller aufspüren. Anstatt manuell nach Informationen zu suchen, kann ein Angreifer KI-gestützte Workflows nutzen, um wertvolle Informationen schnell zu finden und zu verstehen.
Agenten erhöhen das Risiko. Kann der kompromittierte Benutzer Agenten verwalten, kann der Angreifer Arbeitsabläufe beeinflussen oder die Identität hinter einem Agenten missbrauchen. Wird eine nicht-menschliche Identität kompromittiert, lassen sich die Aktivitäten möglicherweise schwerer erkennen, da Automatisierung oft als normal angesehen wird. Der Datentransfer birgt ein zusätzliches Risiko. Wenn sensible Inhalte ohne Sicherheitsvorkehrungen an nicht verwaltete KI-Dienste oder cloud übertragen werden, müssen die Sicherheitsteams darüber informiert werden.
KI darf nicht ausgebremst werden. Sie muss sichtbar sein. Sicherheitsteams müssen erkennen können, welche Dienste genutzt werden, wohin Daten fließen, welche Agenten vorhanden sind, wer sie steuert und wann Identitäten ungewöhnliches Verhalten zeigen. Erst dann wird KI-Bereitschaft zu Sicherheitsbereitschaft.
KI-Transparenz: Erkennen Sie den Einsatz von KI, bevor er zu einem unkontrollierbaren Risiko wird
Bei der KI-Governance darf man nicht mit einer Tabelle genehmigter Tools beginnen. Vielmehr muss man zunächst die tatsächlichen Gegebenheiten vor Ort verstehen und überprüfen.
Die KI-Observability-Funktion Vectra AIvereint Netzwerk-, cloud Identitäts-Telemetriedaten, um aufzuzeigen, auf welche KI-Dienste zugegriffen wird, in welchem Umfang sie genutzt werden und wohin Daten nach außen fließen. Teams können KI-Dienste mit hohem Datenverkehr, die Reichweite von KI-Diensten nach Anzahl der Verbindungen, den Datenfluss zu externen KI-Diensten, OpenClaw-Instanzen, AWS Bedrock-Aktivitäten sowie über Entra SSO aufgerufene KI-Dienste einsehen.
Diese Transparenz liefert Sicherheits- und Governance-Teams umsetzbare Erkenntnisse. Sie können nicht genehmigte KI-Tools entfernen oder deren Nutzung einschränken, riskante KI-Ziele mithilfe bestehender Kontrollen blockieren, umfangreiche Datenbewegungen untersuchen, prüfen, welche Teams KI-Plattformen nutzen, und sicherstellen, dass die Nutzung den genehmigten Richtlinien entspricht. Außerdem trägt dies dazu bei, die Einführung unkontrollierter KI-Lösungen in einen geregelten Prozess zu überführen, anstatt sie im Nachhinein als Überraschung zu betrachten.
Agentic AI Estate: Die Ausbreitung von Agenten verstehen und herausfinden, wer sie kontrolliert
Agentenbasierte KI bringt eine neue Ebene an Komplexität und Risiken mit sich. Agenten können Arbeitsabläufe unterstützen, auf Systeme zugreifen, Aktionen auslösen und mit delegierten oder zugewiesenen Berechtigungen arbeiten.
Die Funktion „Agentic AI Estate“ Vectra AIhilft Sicherheitsteams dabei, zu verstehen, welche agentenbasierten Anwendungen vorhanden sind, wer sie nutzt und wer sie verwaltet. Sie zeigt aktive agentenbasierte Anwendungen und deren Administratoren, M365-Produktivitätsagenten, die bereitgestellt, geändert oder gelöscht wurden, die wichtigsten Administratoren und Vorgänge bei diesen Agenten, erstellte Azure Foundry-Agenten sowie Security Copilot-Agenten und deren Verwaltung an. Vectra AI diese Ansicht auf die agentenbasierte KI, die für Sicherheitsteams am wichtigsten ist: Microsoft Copilot-Agenten, Security Copilot-Agenten, Azure Foundry-Agenten und agentenbasierte Anwendungen, bei denen sich Benutzer anmelden.
Das Ergebnis ist nicht nur eine Bestandsaufnahme. Kunden können eine Übersicht über die Identitäten der Agenten erstellen, unkontrollierte Bereitstellungen eindämmen, die Aktivitäten privilegierter Agenten überprüfen und die Identitäten hinter der Agentenverwaltung kontrollieren. Sie können nachfragen, wer einen Agenten erstellt hat, wer ihn geändert hat, welche Benutzer mit ihm interagieren und ob die Aktivitäten mit den bestehenden Richtlinien übereinstimmen.
Dies wird besonders kritisch, wenn die Identität eines Akteurs – also die Identität hinter einem Akteur – kompromittiert wird. Sicherheitsteams müssen wissen, wann diese Identität ungewöhnliche oder risikoreiche Aktionen ausführt: Änderungen von Zugriffsrechten, ungewöhnliche Verwaltungsvorgänge, unerwarteter Zugriff auf sensible Ressourcen, ungewöhnliche Datei- oder Postfachaktivitäten, umfangreiche Downloads oder Verhaltensweisen, die von der normalen Rolle abweichen. Vectra AI Kunden Vectra AI , die Aktivitäten von Akteuridentitäten zu überwachen und verdächtiges Verhalten bei menschlichen und nicht-menschlichen Identitäten zu erkennen, damit Teams Missbrauch untersuchen und eindämmen können, bevor er sich ausweitet.
Copilot für M365: Nutzung und Risikoaufkommen verstehen
Microsoft Copilot hilft Nutzern dabei, Informationen in M365-Anwendungen wie OneDrive und SharePoint zu finden, zusammenzufassen und darauf zu reagieren. Genau dieser Nutzen ist auch der Grund, warum Sicherheitsteams einen Überblick benötigen. Copilot schafft keine Berechtigungen aus dem Nichts, aber es kann die Nutzung (und den Missbrauch) bestehender Zugriffsrechte erleichtern. Wenn ein Konto übermäßige Berechtigungen besitzt oder kompromittiert wurde, kann Copilot die Geschwindigkeit und Reichweite von Erkundungsaktivitäten erhöhen, wodurch Angreifer sich wesentlich schneller bewegen können.
Die Dashboard-Funktion von Copilot für M365 zeigt die tatsächliche Nutzung im gesamten Unternehmen an. Sie hebt die aktivsten Copilot-Nutzer, die über Copilot am häufigsten aufgerufenen Dateien sowie verdächtige Copilot-Nutzungsmuster hervor, die direkt mit Vectra AI in Verbindung stehen.
Auf dieser Grundlage können Teams überprüfen, ob der Zugriff auf sensible Dateien den Erwartungen entspricht, ungewöhnliche Copilot-Nutzung untersuchen, Berechtigungen validieren und Copilot-Aktivitäten mit allgemeinen Identitätsrisiken in Verbindung bringen. Anstatt abstrakt über die Risiken von Copilot zu diskutieren, können sie sich konkrete Nutzer, konkrete Dateien und konkrete Verhaltensweisen ansehen.
Transparenz ist dann von Nutzen, wenn Teams die Möglichkeit haben, Nachforschungen anzustellen
Mit „AI Readiness“ können Teams von einer Gesamtübersicht über ihre KI-Nutzung direkt zu den zugrunde liegenden Telemetriedaten wechseln und die Untersuchung anschließend mithilfe des „Agentic AI Assistant“ Vectra AIin natürlicher Sprache fortsetzen. Handelt es sich um einen externen KI-Dienst, der nicht konform ist oder ein Risiko für das Unternehmen darstellt, kann ein Analyst die genauen Identitäten, Geräte, Apps und den Kontext dahinter überprüfen. Wenn ein KI-Agent verwaltet oder geändert wird, kann der Analyst sehen, wer den Vorgang durchgeführt hat, was geändert wurde und ob dies den Richtlinien entspricht.
Damit wird die Kluft zwischen der Wahrnehmung der Sicherheitsteams und der tatsächlichen Situation geschlossen.
Wir unterstützen Unternehmen dabei, KI sicher einzuführen
Die Einführung von KI schreitet rasch voran, und von Sicherheitsteams wird erwartet, dass sie das Unternehmen unterstützen, ohne es dabei zu bremsen. Dazu bedarf es mehr als nur Richtlinien. Es erfordert Transparenz, Kontext, Untersuchung und Erkennung. Für Sicherheitsteams, die den Pro-Tarif Vectra AI nutzen, helfen die „AI Readiness“-Funktionen dabei, die KI-Nutzung zu erfassen, versteckte KI-Risiken zu identifizieren, Datenbewegungen zu überwachen, Risiken durch agierende KI zu verstehen und verdächtiges Verhalten bei menschlichen und nicht-menschlichen Identitäten zu erkennen.
Das Zeitalter der KI im Unternehmen ist angebrochen. Vectra AI Sicherheitsteams dabei, den Überblick zu behalten, zu erkennen, wo Risiken zunehmen, und das Unternehmen im Zuge der zunehmenden Einführung von KI-Lösungen zu schützen.