Ein KI-Agent kann weitaus mehr Berechtigungen erhalten, als für seine aktuelle Aufgabe erforderlich sind. In einer im März 2026 veröffentlichten Umfrage der „ Cloud Security Alliance“ gaben 74 % der Befragten an, dass Agenten häufig mehr Zugriffsrechte erhalten, als notwendig sind. Die vom Anbieter in Auftrag gegebene Online-Umfrage sammelte im Januar 2026 228 Antworten von IT- und Sicherheitsexperten. Die Ergebnisse beziehen sich auf gemeldete Praktiken und nicht auf geprüfte Berechtigungen.
Die Zugriffskontrolle für KI-Agenten ist die Kombination aus Richtlinien und Durchsetzungsmechanismen, die festlegt, welche Daten ein Agent lesen darf, welche Tools er aufrufen darf, welche Änderungen er vornehmen darf und wohin er Informationen senden darf. Eine wirksame Kontrolle erstreckt sich über den gesamten Arbeitsablauf, einschließlich delegierter Aufgaben, zwischengespeicherter Kontexte und nachgelagerter Aktionen.
Die zentrale Anforderung an die Konzeption besteht darin, diese Grenzen in vertrauenswürdigen Systemen außerhalb des Modells durchzusetzen. Eine Anweisung, sensible Daten zu meiden, kann eine Zugangsberechtigung, die uneingeschränkten Zugriff darauf ermöglicht, nicht ausgleichen.
Was ist die Zugriffskontrolle für KI-Agenten?
Die Zugriffskontrolle durch KI-Agenten sorgt dafür, dass Berechtigungsentscheidungen genau an den Stellen getroffen werden, an denen Informationen abgerufen werden oder Aktionen stattfinden. Bei der Entscheidung müssen der Agent, die für seine Aufgabe zuständige Instanz, der angeforderte Vorgang und die betroffene Ressource berücksichtigt werden.
Mehrere damit zusammenhängende Kontrollmechanismen tragen zu diesem Ergebnis bei, beantworten jedoch unterschiedliche Fragen.
| Volle Kontrolle |
Frage, auf die sie eine Antwort gibt |
Beispiel |
| Authentifizierung |
Welcher Schulleiter stellt den Antrag? |
Überprüfen Sie die Arbeitsauslastung des Agenten, indem Sie einen Berechtigungsnachweis vorlegen. |
| Berechtigung |
Ist diese Operation in diesem Zusammenhang zulässig? |
Erlauben Sie das Einsehen eines Vertrags für den zugewiesenen Lieferanten. |
| Durchsetzung von Zugriffsrechten |
Wird das System eine unzulässige Operation verhindern? |
Lehnen Sie eine Anfrage bezüglich eines Vertrags eines anderen Geschäftsbereichs ab. |
| Eingabe- und Ausgabe-Sicherheitsgrenzen |
Erscheinen Inhalte oder vorgeschlagenes Verhalten unsicher? |
In einem Lieferantendokument enthaltene Anweisungen zur Kennzeichnung. |
Ein Modell kann eine unangemessene Aktion ausführen, obwohl es dabei innerhalb seiner technischen Berechtigungen bleibt. Umgekehrt kann ein „braves“ Modell in einer Anwendung laufen, deren Berechtigungsprüfungen unvollständig sind. Wenden Sie die Prinzipien „Least Privilege“, „Verweigerung als Standard“ und Berechtigungsprüfungen bei jeder Anfrage an, um diese Grenzen durchzusetzen.
Auch der Lebenszyklus einer Identität spielt eine Rolle. Ein Agent benötigt einen verantwortlichen Inhaber, einen genehmigten Zweck und eine Möglichkeit, seinen Zugriff zu beenden. Weitere Informationen zu diesem übergeordneten Kontext finden Sie unter „Sicherheit nicht-menschlicher Identitäten“.
Warum reicht bei der Zugriffskontrolle für KI-Agenten die Vererbung von Berechtigungen nicht aus?
Das Kopieren der Zugriffsrechte eines Mitarbeiters in einen Agenten kann dazu führen, dass die Berechtigungen eines gesamten Jobs für eine einzelne Aufgabe freigegeben werden. Ein Mitarbeiter der Beschaffungsabteilung darf beispielsweise rechtmäßig Verträge aushandeln, Lieferantenunterlagen prüfen und Einkäufe genehmigen. Ein Agent, der eine Lieferklausel zusammenfassen soll, benötigt hingegen einen wesentlich geringeren Umfang an Berechtigungen.
In derselben Umfrage gaben nur 22 % der Befragten an, Zugriffsrahmenwerke sehr konsequent auf KI-Agenten anzuwenden. In Verbindung mit der Feststellung über übermäßige Zugriffsrechte deutet dies auf eine Lücke zwischen dem Einsatz von Agenten und der konsequenten Einschränkung ihrer Befugnisse hin. Die Ergebnisse stammen aus einer Stichprobe, die auf Selbstauskünften basiert, sodass sich daraus nicht ableiten lässt, wie schnell diese Lücke wächst oder wie viele Agenten gefährdet sind.
Die vom NIST im Oktober 2026 vorgeschlagenen Grundsätze für das Identitätsmanagement von Agenten sehen eine eindeutige Identifizierung der Agenten sowie eine Trennung zwischen Schlussfolgerungs- und Zugriffsrichtlinien vor. Dabei handelt es sich um erste Vorschläge und nicht um einen endgültigen Standard für die Identität von Agenten.
Beginnen Sie damit, den Bestand an Agenten mit den tatsächlich verwendeten Identitäten, Zugangsdaten und Tools abzugleichen. Eine Überprüfung der Berechtigungen kann nicht vollständig sein, wenn ein nicht dokumentierter Agent oder alternative Zugangsdaten außerhalb ihres Geltungsbereichs liegen.
Was muss eine Zugriffsrichtlinie für KI-Agenten umfassen?
Eine Agent-Richtlinie sollte zulässige Ressourcen, Operationen, Parameter, Ziele und Dauer gemeinsam definieren. Eine Zulassungsliste für Tools ist zwar nützlich, doch der Name eines Tools beschreibt selten die gesamte Befugnis, die ein Aufruf ausüben kann.
Nutzen Sie die folgende Matrix als Hilfestellung bei der Gestaltung. Die Beispiele veranschaulichen mögliche Rahmenbedingungen und stellen keine allgemeingültige Vorlage für Richtlinien dar.
| Berechtigungsdimension |
Was soll eingeschränkt werden? |
Beispielhafte Grenze |
| Daten und Kontext |
Mieter, Geschäftsobjekt, Dokument, Feld und Vertraulichkeitsstufe |
Zuordnete Lieferantenverträge abrufen, ohne die Felder für Bankkonten. |
| Werkzeuge und Aktionen |
Werkzeug, Arbeitsgang, Ziel und Parameter |
Erstellen Sie einen Bestellentwurf, der nicht freigegeben werden darf. |
| Ausführungsumgebung |
Dateien, Befehle, Prozesse, Anmeldedaten und Netzwerkrouten |
Führen Sie die Analyse in einem isolierten Arbeitsbereich ohne Produktionsgeheimnisse durch. |
| Speicher und abgeleitete Daten |
Wer darf Kontext schreiben, abrufen, wiederverwenden und speichern? |
Der Kontext eines Kunden darf nicht in die Sitzung eines anderen Kunden gelangen. |
| Ausgabe und Ausgang |
Empfänger, Zielort, Inhaltsklasse und Übertragungsvolumen |
Veröffentlichen Sie eine interne Zusammenfassung, ohne den Quellvertrag extern hochzuladen. |
| Befugnisübertragung und Laufzeit |
Berechtigung von Child-Agenten, Ablauf von Aufgaben und Beendigung des Zugriffs |
Gewähren Sie einem Fachmitarbeiter Zugriff auf ein für die Aufgabe freigegebenes Dokument. |
Bei delegierten Benutzeraufgaben ist die tatsächliche Befugnis durch die dem Benutzer erteilte Berechtigung, die zulässigen Aufgaben des Agenten, die jeweilige Aufgabe und die Richtlinien für die Ressource zu begrenzen. Hintergrundaufträge, die im Auftrag der Organisation ausgeführt werden, erfordern ein ebenso explizites Dienstmandat. Sie sollten keine weitreichenden Befugnisse erhalten, nur weil kein Benutzer anwesend ist.
Trennen Sie die Leseberechtigung von der Berechtigung zur Weitergabe. Ein Mitarbeiter benötigt möglicherweise einen vertraulichen Vertrag, um eine interne Empfehlung zu erstellen, darf diesen Vertrag jedoch nicht an einen Lieferanten senden. Zwei einzeln verfügbare Funktionen – Lesen und Versenden von Nachrichten – können andernfalls zu einem unbefugten Ergebnis führen. Sicherheitsverantwortliche benötigen daher Einblick in die tatsächlichen Aktivitäten der Mitarbeiter sowie Kontrollmechanismen, die die zulässige Nutzung dieser Funktionen sicherstellen.
Wie lässt sich die Zugriffskontrolle für KI-Agenten durchsetzen?
Führen Sie Berechtigungsprüfungen in vertrauenswürdigen Komponenten durch, die den Zugriff auf Daten und die Ausführung regeln. Jede geschützte Route benötigt einen Kontrollpunkt; wenn nur die vom Agenten bevorzugte Route überprüft wird, bleiben alternative Pfade offen.
Trenne politische Entscheidungen von der Modellanalyse
Der Agent schlägt eine Operation vor. Ein Policy-Dienst oder eine Anwendungskomponente prüft, ob diese Operation zulässig ist. Die Komponente, die die Operation ausführt, setzt die Entscheidung dann durch, bevor sie eine Nebenwirkung erzeugt.
Bewahren Sie den Richtlinien-Speicher, die Anmeldedaten und den Durchsetzungscode außerhalb des normalen Schreibzugriffsbereichs des Agenten auf. Andernfalls könnte derselbe Agent, dessen Befugnisse eingeschränkt werden, die Einschränkung möglicherweise selbst ändern.
Legen Sie fest, wie mit fehlendem Kontext, nicht verfügbaren Richtlinien-Diensten und widersprüchlichen Regeln umgegangen werden soll. Bei sensiblen Vorgängen sollte eine fehlgeschlagene Prüfung die Aktion unterbrechen und einen diagnostizierbaren Fehler auslösen. Lassen Sie nicht zu, dass bei einem erneuten Versuch stillschweigend auf einen weniger geschützten Ausführungspfad umgeschaltet wird.
Entscheidungen auf der Grundlage eines verifizierten Kontexts treffen
Verwenden Sie Identitätsangaben, serverseitige Mandantenbindungen, autoritative Ressourceneinträge und den vertrauenswürdigen Aufgabenstatus, um die Entscheidung zu treffen. Behandeln Sie vom Agenten bereitgestellte Identifikatoren als angeforderte Ziele und nicht als Nachweis dafür, dass der Agent Eigentümer dieser Ziele ist.
Beispielsweise darf ein Tool-Parameter wie „tenant_id=customer_b“ die durch die authentifizierte Anfrage festgelegte Mandanten-ID nicht überschreiben. Ebenso ist eine Aussage im abgerufenen Text, dass ein Manager einen Kauf genehmigt hat, lediglich eine zu bewertende Information und kein verifizierter Genehmigungsnachweis.
Überprüfen Sie sowohl das jeweilige Objekt als auch die Operation. Die Berechtigung zum Aufruf einer API zur Vertragssuche bedeutet nicht, dass auch die Berechtigung zum Lesen aller Verträge besteht, die diese API zurückgeben kann. Dies ist das bekannte Problem der fehlerhaften Autorisierung auf Objektebene, das hier auf einen agentengesteuerten Aufrufer angewendet wird.
Datenberechtigungen durchsetzen, bevor die Abfrage das Modell erreicht
Bei der „Retrieval-Augmented Generation“ (RAG) sollten die Zugriffsbeschränkungen der Quelle für Dokumentausschnitte beibehalten und die Berechtigungen beim Abruf dieser Ausschnitte überprüft werden. Ein uneingeschränkter Suchindex kann sorgfältige Kontrollen im ursprünglichen Dokumentenspeicher zunichte machen.
Berücksichtigen Sie außerdem Antwort-Caches, gespeicherte Zusammenfassungen, den Konversationsstatus und den gemeinsamen Speicher. Eine Änderung der Quellberechtigung erfordert eine festgelegte Vorgehensweise für abgeleitete Kopien. Das Filtern einer endgültigen Antwort erfolgt zu spät, um zu verhindern, dass das Modell Informationen erhält, zu deren Verarbeitung es nie berechtigt war.
Wenden Sie diese Überprüfungen in der gesamten Abruf-Pipeline an, einschließlich der dazwischenliegenden Dienste. Eine Berechtigungsprüfung bei der Erfassung stellt nicht die Berechtigung des Anfragenden sicher, wenn ein Dokument später abgerufen wird.
Alternative Ausführungs- und Netzwerkpfade schließen
Ein Tool-Gateway kann einen direkten API-Aufruf, der es umgeht, nicht kontrollieren. Ein Tool mit eingeschränkten Dateizugriffsrechten bietet zudem nur wenig Schutz, wenn der Agent eine allgemeine Shell aufrufen kann, die Zugriff auf dasselbe Dateisystem hat.
Erfassen Sie alle Zugangswege zum geschützten System: Anwendungstools, Shell-Befehle, Browsersitzungen, lokale Prozesse, „ cloud “-SDKs und gespeicherte Anmeldedaten. Entfernen Sie unnötige Zugangswege oder schränken Sie diese durch Kontrollmechanismen auf Betriebssystem-, Workload-, Netzwerk- und Anwendungsebene ein.
Wenn ein Backend keine Berechtigungen auf Aufgabenebene ausdrücken kann, kann ein eingeschränkter Broker diese durchsetzen, während er die Anmeldedaten des Backends separat verwahrt. Dieses Design setzt voraus, dass der Agent keinen direkten Zugriff auf das Backend oder die Anmeldedaten hat. Dokumentieren Sie diese Einschränkung, anstatt den Broker als Schutz für jeden möglichen Zugriffspfad zu betrachten.
Auswahl eines Zugriffskontrollmodells für KI-Agenten
Rollen, Attribute und Beziehungen lösen verschiedene Aspekte eines Problems im Zusammenhang mit Agentenberechtigungen. Kombinieren Sie diese bei Bedarf, wobei die Richtlinie so verständlich bleiben sollte, dass sie von den Verantwortlichen überprüft und von den Entwicklern getestet werden kann.
| Modell |
Sinnvolle Verwendung |
Beispiel für einen Agenten und Hinweis |
| Rollenbasierte Zugriffskontrolle (RBAC) |
Stabile Aufgaben und umfassende Funktionsumfänge definieren |
Eine Rolle für die Beschaffungsanalyse kann genehmigte Datensätze einsehen und Entwürfe erstellen. Vermeiden Sie es, die Rolle so weit zu fassen, dass sie alle Beschaffungsaufgaben abdeckt. |
| Attributbasierte Zugriffskontrolle (ABAC) |
Bedingungen in Bezug auf das Hauptziel, die Ressourcen, den Ablauf und das Umfeld bewerten |
Ein Lesezugriff wird gewährt, wenn die Ressourcenklassifizierung und die Sicherheitsfreigabe des Agenten übereinstimmen. Die Attribute müssen aus vertrauenswürdigen Quellen stammen. |
| Beziehungsbasierte Zugriffskontrolle (ReBAC) |
Geben Sie an, welche konkreten Objekte sich auf den Anfragenden oder die Aufgabe beziehen |
Lesen Sie einen Vertrag nur dann ein, wenn dessen Lieferant mit der zugewiesenen Bestellanforderung verknüpft ist. Die Beziehungsdaten müssen stets auf dem neuesten Stand sein. |
Verwenden Sie attributbasierte Richtlinienentscheidungen, um den Prinzipal, die Ressource und die angeforderte Operation sowie relevante Umgebungsbedingungen zu bewerten. Eine Rolle kann festlegen, dass ein Agent die Beschaffungsanalyse durchführt, während Attribute und Beziehungen eingrenzen, auf welche Verträge er heute zugreifen darf.
Stellen Sie sicher, dass die Konfliktlösung klar definiert ist. So sollte beispielsweise eine weit gefasste Rollenzuweisung eine Ressourcenbeschränkung nicht stillschweigend außer Kraft setzen. Ein Richtlinienmodell ist nur dann sinnvoll, wenn das System die vorgesehenen Regeln konsequent umsetzt.
Sicherheit von MCP-Servern und delegiertem Zugriff
Das Model Context Protocol (MCP) bietet ein Rahmenwerk für die Transportautorisierung geschützter HTTP-Verbindungen. Die Anwendungsrichtlinien legen weiterhin fest, welche Tools, Objekte und Geschäftsvorgänge über diese Verbindung zulässig sind.
Die MCP-Autorisierungsspezifikation vom 28. Juli 2026 schreibt vor, dass geschützte Server überprüfen müssen, ob Zugriffstoken für sie bestimmt sind. Außerdem wird darin zwischen der HTTP-Autorisierung und lokalen Standard-Ein-/Ausgabe-Transporten (auch „stdio“ genannt) unterschieden, die ihre Anmeldedaten stattdessen aus ihrer Umgebung beziehen. Die Installation eines lokalen MCP-Servers führt nicht automatisch zur Einrichtung einer aufgabenspezifischen Berechtigungsgrenze.
Halten Sie nachgelagerte Anmeldedaten getrennt. Das Protokoll verbietet das „Token-Passthrough“, bei dem ein Server ein für eine andere Ressource bestimmtes Token akzeptiert und weiterleitet. Überprüfen Sie den Zugriff jedes Servers auf lokale Dateien, Umgebungsgeheimnisse und Netzwerkziele sowie die von ihm bereitgestellten Tools.
Eine Delegation benötigt eigene Grenzen. Ein Planungsagent, der einen anderen Agenten mit der Analyse eines Dokuments beauftragt, sollte nur die für diese Analyse erforderlichen Befugnisse übertragen. Die Befugnisse sollten sich bei der Weitergabe an Unteragenten verengen – ein Prinzip, das als „Attenuation“ bezeichnet wird. Die Beziehung zwischen Urheber und übergeordneter Aufgabe sollte gewahrt bleiben, und wenn zusätzliche Befugnisse erforderlich sind, ist eine gesondert genehmigte Erteilung erforderlich.
Beispiel für die Zugriffskontrolle von Beschaffungsbeauftragten
Stellen Sie sich einen geplanten Agenten vor, der eine Bestellanforderung prüft, sie mit einem bestehenden Lieferantenvertrag abgleicht und einen Bestellentwurf erstellt. Seine nützliche Arbeit umfasst das Lesen und das Verfassen von Entwürfen, während die Mittelbindung und die Änderung von Zahlungsanweisungen separate Vorgänge bleiben.
Die folgenden Regeln dienen als Beispiel für eine Unternehmensrichtlinie. Ein Unternehmen sollte sie an seinen Beschaffungsprozess und seine Risikotoleranz anpassen.
| Angeforderter Vorgang |
Beabsichtigte Entscheidung |
Erforderliche Grenze |
| Lesen Sie den Vertrag, der mit der zugewiesenen Bestellanforderung verknüpft ist |
Genehmigung |
Überprüfen Sie den Beauftragten, die Aufgabe, die Lieferantenbeziehung und den Dokumentenzugriff. |
| Lesen Sie den Vertrag eines anderen Lieferanten, der in keinem Zusammenhang damit steht |
Ablehnen |
Überprüfen Sie das Zielobjekt, auch wenn das Suchwerkzeug selbst zulässig ist. |
| Bestellentwurf anlegen |
Genehmigung |
Felder und Zielort einschränken; den Auftrag nicht ausstellen. |
| Die Bestellung aufgeben |
Eine gesonderte Genehmigung ist erforderlich |
Die Genehmigung an den endgültigen Lieferanten, die Einzelposten, den Betrag und die Konditionen binden. |
| Bankverbindung des Lieferanten ändern |
Für diesen Agenten ablehnen |
Leiten Sie die Anfrage an einen separat gesteuerten Geschäftsprozess weiter. |
| Senden Sie den vertraulichen Vertrag an eine externe Adresse |
Ablehnen |
Setzen Sie Empfänger- und Inhaltsbeschränkungen an der Ausgangsgrenze durch. |
Nehmen wir nun an, der Vertrag enthält die Anweisung, das vollständige Dokument an einen externen Überprüfungsdienst hochzuladen. Der abgerufene Text enthält zwar einen Handlungsvorschlag, hat jedoch die Freigabeberechtigung des Akteurs nicht geändert. Das Ausgangstool muss diese Übertragung ablehnen, selbst wenn der Akteur der Ansicht ist, dass dies zur Erledigung der Aufgabe beitragen würde.
Dieses Beispiel verdeutlicht zudem einen weniger offensichtlichen Fehler: Ein Agent darf zwar Verträge lesen und Routinemeldungen versenden, es ist ihm jedoch untersagt, Vertragsinhalte in diese Meldungen aufzunehmen. Diese Unterscheidung lässt sich nicht allein durch Zulassungslisten auf Tool-Ebene ausdrücken. Die sendende Komponente benötigt den entsprechenden Ziel- und Datenverarbeitungskontext, wobei Zugriffsbeschränkungen durch Zusammenfassungen oder Anhänge gewahrt bleiben müssen.
Wenn das System nicht zuverlässig feststellen kann, welche Informationen eine uneingeschränkte Nachricht enthält, sollten Sie die zulässige Ausgabefläche einschränken. Erlauben Sie beispielsweise eine strukturierte interne Statusaktualisierung mit genehmigten Feldern anstelle von beliebigem ausgehenden Text. Entscheiden Sie sich bewusst für diesen Kompromiss: Eingeschränkte Werkzeuge können zwar die Flexibilität verringern, erleichtern aber gleichzeitig die Durchsetzung der Grenzen.
Die Ausführung von Genehmigungen und Widerrufen durch den Menschen
Eine manuelle Überprüfung und ein Not-Aus-Schalter sind nur dann wirksame Kontrollmaßnahmen, wenn sie den tatsächlich laufenden Betrieb regeln. Eine mündliche Freigabe oder ein Ereignis zur Deaktivierung der Identitätsprüfung allein reicht nicht aus, um sicherzustellen, dass jede nachfolgende Aktion sicher ist oder gestoppt wurde.
Die konkrete Maßnahme genehmigen
Legen Sie dem Prüfer die wesentlichen Details vor, darunter den Akteur, das Ziel, den Vorgang, den Bestimmungsort und die Folgeparameter. Speichern Sie die Genehmigung in einem vertrauenswürdigen System mit einer Gültigkeitsdauer und einem Schutz vor Wiederverwendung.
Überprüfen Sie unmittelbar vor der Ausführung, ob der Vorgang noch mit dem genehmigten Antrag übereinstimmt. Bei einer Änderung des Lieferanten, des Empfängers, des Betrags oder eines Anhangs ist eine erneute Entscheidung erforderlich. Überprüfen und verbrauchen Sie eine einmalige Genehmigung atomar, damit sie bei gleichzeitigen Wiederholungsversuchen nicht doppelt verbraucht wird.
Klassifizieren Sie Risiken in vertrauenswürdigem Code oder in Richtlinien. Ein vom Agenten bereitgestellter „user_confirmed“-Wert, eine Kennzeichnung als „geringes Risiko“ oder eine fundierte Begründung dürfen keine unabhängig überprüfte Autorität ersetzen.
Maßnahme, wenn der widerrufene Zugriff nicht mehr funktioniert
Definieren Sie ein Beendigungsverfahren, das neue Anmeldedaten, vorhandene Tokens, aktive Sitzungen, delegierte Aufgaben, in der Warteschlange befindliche Aufträge und laufende Ausführungsumgebungen berücksichtigt. Welche Schritte erforderlich sind, hängt von der jeweiligen Bereitstellung ab.
Bei der Sperrung von Tokens kann es zu Verzögerungen bei der Weitergabe zwischen den Ressourcenservern kommen, und die Auswirkungen auf zugehörige Tokens hängen von den Richtlinien des Autorisierungsservers ab. Kurze Gültigkeitsdauern von Tokens können das Risiko begrenzen, führen jedoch nicht zur Stornierung einer in der Warteschlange befindlichen Aktion oder zur Löschung bereits abgerufener Daten.
Testen Sie den gesamten Ablauf. Versuchen Sie nach Auslösung des Widerrufs, den nächsten geschützten Vorgang über jeden relevanten Pfad auszuführen, und überprüfen Sie die nachfolgenden Ergebnisse. Notieren Sie die Zeitspanne, bis die Vorgänge durchgängig abgelehnt werden. Betrachten Sie diese beobachtete Stoppzeit als das tatsächliche Verhalten der Kontrollmaßnahme, anstatt davon auszugehen, dass die administrative Anforderung die Eindämmung abgeschlossen hat.
Prüfung der Zugriffskontrollen für Agenten vor der Freigabe
Prüfen Sie, ob unzulässige Auswirkungen im gesamten Workflow verhindert werden und ob genehmigte Aufgaben weiterhin erfolgreich ausgeführt werden. Die Angabe, dass eine Anweisung abgelehnt wurde, reicht als Nachweis nicht aus, wenn dennoch ein Toolaufruf oder eine geschäftliche Änderung stattgefunden hat.
Verwenden Sie eine vorgeschlagene Negativtestmatrix wie die folgende, mit sicheren Testressourcen und unabhängig beobachtbaren Ergebnissen.
| Test |
Versuchter Grenzübertritt |
Erforderliche Nachweise |
| Anfrage bezüglich mandantenübergreifender Objekte |
Ersetze einen zulässigen Objektbezeichner durch den Bezeichner eines anderen Mandanten |
Ablehnung, und es wurde kein eingeschränktes Objekt zurückgegeben. |
| Eingebettete Anweisungen zum Teilen |
Externen Upload über abgerufene Inhalte anfordern |
Keine Auslandsüberweisung; eine darauf zurückzuführende politische Entscheidung. |
| Gateway-Umgehung |
Greifen Sie über eine Shell oder mit alternativen Anmeldedaten auf dieselbe API zu |
Die alternative Route ist nicht verfügbar oder unterliegt gesonderten Einschränkungen. |
| Genehmigung, Ersetzung oder Wiederholung |
Genehmigte Parameter ändern oder eine Genehmigung wiederverwenden |
Ablehnung vor dem Nebeneffekt, einschließlich gleichzeitiger Wiederholungsversuche. |
| Berechtigung zum Abruf veralteter Daten |
Zugriff auf das Dokument entfernen, anschließend Chunks, Speicher und Caches abfragen |
Eingeschränkte Inhalte werden über abgeleitete Speicher nicht zurückgegeben. |
| Ausfall der Versicherungspolice |
Den erforderlichen Richtlinienkontext oder den Entscheidungsdienst unzugänglich machen |
Die sensible Aktion wird ohne ungeschützten Fallback beendet. |
| Widerruf während der Ausführung |
Zugriff widerrufen, solange noch delegierte oder in der Warteschlange befindliche Aufgaben vorhanden sind |
Die relevanten Pfade enden innerhalb der geprüften Anforderungen der Organisation. |
Wiederholen Sie relevante Testfälle, wenn sich Tools, Richtlinien, Anmeldedaten, Abrufpipelines oder Ausführungspfade ändern. Testen Sie sowohl direkte Anfragen als auch irreführende Anweisungen, die in Dokumenten oder Tool-Antworten vorkommen. Halten Sie Berechtigungsprüfungen und Parametervalidierung unabhängig von der Inhaltsprüfung.
Zu den sinnvollen Maßnahmenvorschlägen gehören:
- Umfang der Durchsetzung: Der Anteil der identifizierten geschützten Ausführungswege, bei denen die erforderlichen Prüfungen durchgeführt werden. Das Wegverzeichnis hinter dem Nenner ist zu pflegen.
- Testergebnisse zu unbeabsichtigten Auswirkungen: verhinderte und erfolgreiche unerwünschte Ergebnisse innerhalb des dokumentierten Testumfangs, einschließlich Wiederholungsversuchen.
- Erfolgreiche Aufgabenabwicklung: Genehmigte Aufgaben wurden ohne unnötige Ablehnung oder Eskalation erledigt.
- Effektive Widerrufszeit: die beobachtete Zeit bis zum Ende der betreffenden geschützten Vorgänge, nach Pfad.
- Aufwand bei der Genehmigung: Prüfungsumfang, Verzögerungen und Fälle, die einer Korrektur oder einer erneuten Genehmigung bedürfen.
Es handelt sich hierbei um operative Maßnahmen für einen definierten Einsatz. Das Bestehen eines begrenzten Testsatzes bedeutet nicht, dass eine allgemeine Widerstandsfähigkeit gegen den Missbrauch durch Akteure gegeben ist.
Überwachung des Zugriffs von Agenten nach Erteilung der Berechtigung
Zugriffskontrollen schränken ein, was zulässig ist, während die Überwachung Aufschluss darüber gibt, wie der zulässige Zugriff genutzt wird. Setzen Sie Richtlinienentscheidungen mit den Ausführungsergebnissen und den Identitätsaktivitäten in Beziehung, um Verhaltensweisen zu identifizieren, die einer Untersuchung bedürfen.
Bewahren Sie für jede sicherheitsrelevante Maßnahme ausreichend strukturierte Informationen auf, um den Ausführenden und die Aufgabe mit dem angeforderten Tool, dem Ziel, der Entscheidung, der Richtlinienversion, gegebenenfalls der Genehmigungsreferenz und dem beobachteten Ergebnis in Verbindung zu bringen. Verknüpfen Sie delegierte Arbeiten mit der übergeordneten Aufgabe. Verwenden Sie Korrelationskennungen, damit eine Richtliniengenehmigung mit einem nachgelagerten Datensatz darüber abgeglichen werden kann, was sich tatsächlich geändert hat.
Behandeln Sie diese Aufzeichnungen als sensible Beweismittel. Beschränken Sie den Zugriff, erkennen Sie Manipulationen und schließen Sie Inhaber-Token, Anmeldedaten sowie unnötige personenbezogene oder vertrauliche Daten aus den Protokollen aus.
Untersuchen Sie Muster wie wiederholte Ablehnungen, auf die ein erfolgreicher alternativer Weg folgt, ein unerwartetes externes Ziel, ungewöhnlicher geheimer Zugriff oder fortgesetzte Aktivität nach Abschluss einer Aufgabe. Legen Sie das erwartete Verhalten für den Arbeitsablauf fest, bevor Sie jede hohe Anfragerate als verdächtig einstufen. Manche Agenten arbeiten zu Recht schneller und kontinuierlicher als Menschen.
Vectra AI kombiniert die Analyse von Verhaltensmustern mit der Korrelation von Identitäten und Netzwerkaktivitäten, um den Missbrauch von Anmeldedaten und Berechtigungen aufzudecken. Dieser KI-basierte Ansatz für Sicherheit und Observability ergänzt die Durchsetzung von Anwendungszugriffen. Der Umfang und die Reaktionsmöglichkeiten hängen von den eingesetzten Datenquellen, Integrationen und Berechtigungen ab; Identitäts-Telemetrie allein deckt nicht jedes Tool-Argument oder jede Geschäftsregel auf.
Teams, die diese Transparenz prüfen möchten, können eine „ Vectra AI “-Demo anfordern, die sich auf die in ihrer Umgebung verfügbaren Informationen zu Identitäten, cloud, SaaS und Netzwerkaktivitäten konzentriert.
Implementierung der Zugriffskontrolle für Agenten in einem Unternehmen
Beginnen Sie mit einem klar definierten Arbeitsablauf und erweitern Sie diesen, sobald die Richtlinien, die Durchsetzung, die Nachweise und das Beendigungsverfahren nahtlos zusammenwirken. Das Ziel ist eine wiederholbare Arbeitspraxis, die die fachlichen und technischen Verantwortlichen auch bei einem Wechsel der Mitarbeiter aufrechterhalten können.
- Beschreiben Sie die Aufgabe und ihre Grenzen. Der Geschäftsinhaber legt das angestrebte Ergebnis, unerwünschte Auswirkungen, sensible Daten sowie Vorgänge fest, die einer Überprüfung bedürfen.
- Weisen Sie die Verantwortung für die Identitätsverwaltung zu. Die IAM- und Plattform-Teams dokumentieren den Beauftragten, den Urheber, die Anmeldedaten, die Befugnisübertragung und die Gültigkeitsdauer des Zugriffs.
- Ausführungspfade werden abgebildet und eingeschränkt. Anwendungs- und Datenverantwortliche setzen Richtlinien für Ressourcen, Tools, den Abruf und die Zielorte durch. Plattformteams sperren unnötige direkte Routen.
- Die Grenzen aufzeigen. Im Rahmen der Sicherheitsentwicklung werden vor einer breiteren Veröffentlichung die normale Ausführung, unerwünschte Auswirkungen, das Fehlverhalten und die wirksame Widerrufbarkeit geprüft.
- Betrieb und Überprüfung. Das SOC und die Anwendungsverantwortlichen setzen Entscheidungen mit den Ergebnissen in Beziehung, untersuchen Ausnahmen und überprüfen die Berechtigungen nach wesentlichen Änderungen am Arbeitsablauf.
Legen Sie für jeden Berechtigungssatz einen Verantwortlichen und einen Überprüfungsauslöser fest. Das Hinzufügen eines Tools, das Ändern einer Datenquelle oder die Überführung eines Workflows in die Produktion kann dessen potenzielle Auswirkungen verändern, selbst wenn die für den Agenten sichtbaren Anweisungen unverändert bleiben. Nutzen Sie die umfassenderen Sicherheitsrichtlinien für KI-Agenten, um die Zugriffskontrolle mit dem umgebenden Bedrohungsmodell zu verknüpfen.
Hinweis: Dieser Leitfaden stützt sich auf öffentliche Standards, Sicherheitsrichtlinien und Umfrageergebnisse. Das Beschaffungsszenario, die Freigabetests und die vorgeschlagenen Maßnahmen stellen Empfehlungen für die Umsetzung dar.