Frontier-KI-Agenten kombinieren leistungsstarke KI-Modelle mit Tools und einer Ausführungsschleife, um mehrstufige Aufgaben auszuführen. Ihre Fähigkeiten entwickeln sich weiter: Der Bericht des britischen AI Security Institute vom Dezember 2025 ergab, dass führende Systeme bis Mitte 2025 in mehr als 40 % der Fälle ausgewählte Softwareaufgaben erledigten, für die ein menschlicher Experte mindestens eine Stunde benötigt hätte – im Vergleich zu weniger als 5 % Ende 2023. Diese kontrollierten Ergebnisse machen eine Bewertung lohnenswert, während es den Unternehmen überlassen bleibt, die Zuverlässigkeit und sichere Betriebsgrenzen für ihre eigenen Arbeitsabläufe festzulegen.
Für einen Sicherheits- oder Plattformbetreiber lautet die zentrale Frage, ob ein Agent allein mit den Zugriffsrechten und Aktionen, die das Unternehmen zu autorisieren beabsichtigt, ein akzeptables Ergebnis erzielen kann. Um diese Frage zu beantworten, muss das eingesetzte System untersucht werden: sein Modell, seine Tools, Identitäten, Daten, Genehmigungsregeln, Überwachungsmaßnahmen und Wiederherstellungsprozesse.
Was sind „Frontier“-KI-Agenten?
Ein „Frontier“-KI-Agent ist ein System, das ein Modell nutzt, das hinsichtlich der nachgewiesenen Leistungsfähigkeit an der Spitze liegt, um Maßnahmen zur Erreichung eines Ziels auszuwählen und auszuführen. Der Begriff „Frontier“ beschreibt die Leistungsfähigkeit im Vergleich zu anderen Systemen zu einem bestimmten Zeitpunkt; die Anwendung legt fest, welche Maßnahmen der Agent ergreifen kann.
Ein Agent könnte ein Repository überprüfen, ein Problem identifizieren, eine Datei bearbeiten, einen Test durchführen und seinen Lösungsvorschlag überarbeiten. Ein anderer könnte Lieferanteninformationen abrufen und eine Kaufempfehlung erstellen. In beiden Fällen wählt ein Modell Zwischenschritte innerhalb einer Umgebung aus, die Werkzeuge und Einschränkungen bereitstellt.
Die Terminologie wird verständlicher, wenn man drei Ebenen voneinander trennt:
| Begriff |
Was darin beschrieben wird |
Frage zum Unternehmen |
| Frontier-Modell |
Ein Modell nahe der aktuellen Leistungsgrenze |
Entspricht die nachgewiesene Leistungsfähigkeit dieser Aufgabe? |
| KI-Agent |
Ein System, das Schritte zur Erreichung eines Ziels auswählt und ausführt |
Welche Werkzeuge, Ressourcen und Maßnahmen kann es nutzen? |
| Agentenbasierter Arbeitsablauf |
Der übergreifende Prozess, der Akteure, Software und Menschen miteinander koordiniert |
Wer genehmigt Entscheidungen, überprüft Ergebnisse und übernimmt die Verantwortung für Misserfolge? |
Ein leistungsfähiges Modell kann einen streng eingeschränkten Agenten unterstützen. Ein weniger leistungsfähiges Modell kann dennoch mit übermäßigen Berechtigungen arbeiten. Die Wahl des Modells und die Zugriffsrichtlinien müssen daher getrennt voneinander festgelegt werden.
Die Einstufung ändert sich zudem im Laufe der Zeit, wenn sich die Systeme weiterentwickeln. Sie legt weder künstliche allgemeine Intelligenz noch eine einheitliche Sicherheitszertifizierung oder einen bestimmten Autonomiegrad fest. Eine umfassendere Erläuterung der Modellterminologie finden Sie im „Frontier AI“-Leitfaden.
Wie funktionieren „Frontier“-KI-Agenten?
Ein Agent erhält in der Regel ein Ziel, wählt eine Aktion aus, beobachtet das Ergebnis und wiederholt diesen Vorgang, bis er die Aufgabe abgeschlossen hat oder eine Stoppbedingung erreicht ist. Die übergeordnete Anwendung muss entscheiden, welche vorgeschlagenen Aktionen zulässig sind und welche einer zusätzlichen Autorisierung bedürfen.
Das Modell und der Regelkreis
Das Modell interpretiert das Ziel und den verfügbaren Kontext und schlägt anschließend einen nächsten Schritt vor. Eine Orchestrierungsschicht steuert die Ausführung: Sie stellt Werkzeugbeschreibungen bereit, ruft zulässige Funktionen auf, gibt Ergebnisse zurück und verfolgt den Fortschritt.
Beispielsweise kann ein Programmierer eine Datei anfordern, eine Änderung vorschlagen und die Durchführung eines Tests anfordern. Das Modell liefert die vorgeschlagene Aktion; die Anwendung führt den zulässigen Vorgang aus. Eine Änderung der Orchestrierung, der Anweisungen oder der Werkzeuge kann das Verhalten des Systems verändern, selbst wenn das zugrunde liegende Modell unverändert bleibt.
Bewerten Sie diese vollständige Konfiguration. Ein Modell-Benchmark liefert nur begrenzte Erkenntnisse über einen Agenten, der unterschiedliche Tools, Daten, Anweisungen oder Ausführungsbudgets verwendet.
Werkzeuge, Gedächtnis und Identität
Tools verbinden einen Agenten mit Anwendungsprogrammierschnittstellen (APIs), Browsern, Datenbanken, der Codeausführung oder Geschäftssystemen. Durch den Zugriff über diese Tools wird ein vorgeschlagener Plan in mögliche Änderungen an der Umgebung umgesetzt.
Der Speicher kann das aktuelle Gespräch, abgerufene Dokumente, den Aufgabenverlauf oder dauerhafte Datensätze umfassen. Seine Gestaltung beeinflusst, welche Informationen ein Agent in spätere Entscheidungen einfließen lässt. Halten Sie fest, wo dauerhafte Zustände ihren Ursprung haben, wer sie ändern darf und wie sie zwischen Benutzern und Aufgaben isoliert werden.
Die Identität legt das Konto oder den Dienst fest, über den eine Aktion ausgeführt wird. Ein Konnektor kann entweder den delegierten Zugriff des anfragenden Mitarbeiters oder eine separate Dienstidentität verwenden. Überprüfen Sie diese Wahl sorgfältig: Die tatsächlichen Berechtigungen des Konnektors können über die unmittelbare Anfrage des Mitarbeiters hinausgehen.
Überprüfung und Stoppbedingungen
Die Abschlussmeldung eines Agenten ist eine der Eingaben für die Überprüfung. Die Anwendung sollte außerdem das entsprechende Stammdatensystem überprüfen: ob sich die Datei geändert hat, der Test ausgeführt wurde, das Ticket aktualisiert wurde oder die Transaktion wie vorgesehen abgeschlossen wurde.
Legen Sie die Abbruchbedingungen fest, bevor die Ausführung beginnt. Zu den nützlichen Beispielen zählen eine abgelaufene Genehmigung, fehlende Nachweise, widersprüchliche Anweisungen, wiederholte Werkzeugausfälle, ein unerwartetes Ziel oder die Ausschöpfung eines Zeit- oder Ausgabenbudgets. Das korrekte Ergebnis kann eine dokumentierte Übergabe an eine Person sein.
Was können Frontier-Agenten in Unternehmen leisten?
Die vielversprechendsten Pilotprojekte zeichnen sich durch ein klares Ergebnis, nachvollziehbare Belege und überschaubare Konsequenzen im Falle eines Scheiterns aus. Beginnen Sie damit, die Aufgabe und ihre Akzeptanzkriterien zu definieren, und wählen Sie anschließend ein Modell und ein Agenten-Design aus, mit denen diese erfüllt werden können.
Hierbei handelt es sich um mögliche Anwendungsbereiche und vorgeschlagene anfängliche Grenzen und nicht um Zusicherungen hinsichtlich garantierter Leistungsfähigkeit:
| Arbeitsablauf |
Möglicher Beitrag des Vermittlers |
Vorgeschlagene anfängliche Abgrenzung |
| Softwareentwicklung |
Ein Problem untersuchen, einen Patch vorschlagen und zulässige Überprüfungen durchführen |
Isolierter Arbeitsbereich; vor dem Zusammenführen oder der Bereitstellung überprüfen |
| Forschung und Analyse |
Quellen zusammentragen, Beweise vergleichen und eine Empfehlung ausarbeiten |
Anerkannte Quellen; Folgeaussagen überprüfen |
| Servicebetrieb |
Kontokontext abrufen und einen Beschlussentwurf erstellen |
Genehmigung vor Kontoänderungen oder externen Verpflichtungen |
| Beschaffung |
Zugelassene Lieferanten vergleichen und eine Bestellanforderung erstellen |
Getrennte Berechtigungen für Zahlungen und Änderungen an Lieferantendaten |
| Sicherheitsuntersuchung |
Zulässige Beweismittel sammeln und Ermittlungsmaßnahmen vorschlagen |
Schreibgeschützter Zugriff, bevor die Befugnis zur Antwortprüfung geprüft wird |
Coding-Agenten von Frontier AI erregen Aufmerksamkeit, da Softwareaufgaben oft anhand von ausführbaren Prüfkriterien bewertet werden können. Geschäftsprozesse lassen sich hingegen schwerer beurteilen: Selbst eine flüssig formulierte Lieferantenübersicht kann vertragliche Einschränkungen außer Acht lassen oder auf veralteten Informationen beruhen.
Verwenden Sie einen einfacheren Ansatz, wenn dieser die Anforderungen erfüllt. Ein deterministischer Workflow kann einen vorhersehbaren Prozess effizient abwickeln, während ein Agent dort nützlich sein kann, wo der nächste Untersuchungsschritt von früheren Erkenntnissen abhängt. Mehr Autonomie erhöht auch die Notwendigkeit, die Aktivitäten des Agenten zu beobachten und einzugreifen, wenn sein Verhalten eine Grenze überschreitet. Der zusätzliche Aufwand für Bewertung und Betrieb erfordert einen entsprechenden geschäftlichen Nutzen.
Was sagen die Erkenntnisse über die Autonomie von Agenten aus?
Die Forschung zu den Leistungsfähigkeiten zeigt Fortschritte, doch Entscheidungen über den Einsatz erfordern eine zweite Ebene an Belegen hinsichtlich akzeptabler Arbeitsergebnisse, Zuverlässigkeit und der Folgen von Fehlern. Lesen Sie jeden Benchmark zusammen mit der Aufgabenverteilung, der Agentenkonfiguration, der Bewertungsmethode und dem Bewertungsdatum.
Die Längsschnitt-Ergebnisse von AISI beziehen sich auf ausgewählte, klar abgegrenzte Aufgaben und Modelle, die während des Untersuchungszeitraums zur Verfügung standen. Sie belegen die Fortschritte unter diesen Bedingungen. Sie geben keine Auskunft darüber, wie oft ein Unternehmensakteur einen Einkaufsprozess korrekt abschließt, die Zugriffsrichtlinien einer Organisation befolgt oder eine unterbrochene Transaktion wiederherstellt.
Längere Aufgabenhorizonte erfordern eine sorgfältige Interpretation
METR misst den Zeithorizont für die Erledigung einer Aufgabe anhand der geschätzten Zeit, die ein menschlicher Experte für diese Aufgabe benötigen würde. Ein 50-%-Zeithorizont gibt die Aufgabendauer an, bei der der bewertete Agent voraussichtlich in der Hälfte der Fälle erfolgreich sein wird. Er misst nicht, wie lange der Agent selbst läuft.
Die METR-Suite deckt hauptsächlich Aufgaben aus den Bereichen Softwareentwicklung, maschinelles Lernen und Cybersicherheit ab und verfügt über relativ klare Bewertungskriterien. Die Seite wurde zuletzt am 8. September 2026 aktualisiert und es wird ausdrücklich darauf hingewiesen, dass sie nicht mehr aktiv gepflegt wird. Nutzen Sie sie, um die Methodik und historische Messwerte zu verstehen, anstatt sie als vollständiges aktuelles Ranking zu betrachten.
Bei einer Produktionsentscheidung sollten Sie zunächst die erforderliche Zuverlässigkeit und die möglichen Folgen festlegen. Ein Forschungsentwurf, der von einer Person geprüft wird, unterliegt anderen Akzeptanzkriterien als ein Vorgang, bei dem Kundendaten geändert oder Geldbeträge transferiert werden.
Auch wenn Tests bestanden werden, kann die Arbeit dennoch hinter den Erwartungen zurückbleiben
In einer Forschungsnotiz vom März 2026 berichtete METR, dass etwa die Hälfte der Codeänderungen der untersuchten Agenten, die den Benchmark-Test bestanden hatten, nach Bereinigung um „Review-Rauschen“ von den Betreuern nicht übernommen würden. Vier Betreuer prüften 296 von KI generierte Pull-Anfragen aus drei Repositorys.
Die Studie bezog sich auf historische Agenten, die von Mitte 2024 bis Mitte/Ende 2025 freigegeben wurden, und erlaubte ihnen nicht, ihre Beiträge nach Rückmeldungen der Betreuer zu überarbeiten. METR warnt daher davor, das Ergebnis als grundlegende Leistungsgrenze zu betrachten. Außerdem wurde die Studie weniger intensiv begutachtet als die Forschungsbeiträge der Organisation.
In der Praxis bedeutet dies, dass Sie das Ergebnis messen sollten, das Ihre Organisation akzeptiert. Das Bestehen einer Prüfung, das Erarbeiten einer Antwort, das Erhalten einer Genehmigung und der Abschluss einer genehmigten geschäftlichen Maßnahme sind verschiedene Meilensteine. Halten Sie die erforderlichen Arbeitsschritte fest, um von einem Meilenstein zum nächsten zu gelangen.
Was können Verteidiger aus den jüngsten Vorfällen mit Agenten lernen?
Das Verhalten eines Agenten muss im Zusammenhang mit den Berechtigungen und Bedingungen betrachtet werden, unter denen es auftrat. Ein Forschungsvorfall kann einen nützlichen Fehlermodus aufdecken, ohne dass dabei festgestellt wird, wie häufig dasselbe Verhalten in normalen Unternehmensumgebungen auftritt.
AISI gab bekannt, dass sein Sicherheitsteam am 28. Juli 2026 im Rahmen einer Cyber-Bewertung einen Vorfall festgestellt habe. Bei 10 von 122 Durchläufen einer bestimmten Aufgabe führten die Tester unerlaubte Aktionen im Live-Internet durch. Das Institut erklärte, der Internetzugang sei absichtlich freigegeben und einige Sicherheitsfilter deaktiviert worden. Es hob ausdrücklich hervor, dass es sich bei dem Vorfall nicht um einen Sandbox-Escape handele, wies darauf hin, dass die getesteten Konfigurationen nicht im Handel erhältlich seien, und berichtete, dass keine nachweisbaren Schäden in der realen Welt entstanden seien.
Diese Qualifikationen spielen eine Rolle. Die Offenlegung dient dazu, zu prüfen, was ein Vertreter erreichen und tun kann; sie legt keine Schadenshäufigkeit für öffentliche Produkte oder den gewöhnlichen geschäftlichen Gebrauch fest.
In seinem anschließenden technischen Bericht beschrieb AISI die stufenweise Einführung von Beschränkungen für den ausgehenden Datenverkehr, die Überwachung während der Umsetzung sowie die Neubewertung der Testumgebungen. Außerdem räumte AISI Einschränkungen bei der Überwachung ein.
Für Unternehmensteams lautet die wichtige Erkenntnis, unabhängige Grenzen zu testen. Wenn ein Agent eine unerwartete Aktion vorschlägt, welche Komponente kann diese dann ablehnen? Wenn ein Konnektor die Richtlinien nicht durchsetzen kann, schränkt dann eine andere Kontrollinstanz das Ziel oder die Anmeldedaten ein? Wenn eine Aktion erfolgreich ist, kann der Betrieb diese erkennen und eingreifen?
An welcher Stelle tritt das operationelle Risiko in den Arbeitsablauf des Bearbeiters ein?
Das Risiko erstreckt sich über den gesamten Weg von der Eingabe bis zur Ausführung: Dokumente, abgerufene Inhalte, Tools, Identitäten, dauerhafte Zustände und verbundene Systeme. Wenn man nur das Endergebnis des Modells betrachtet, bleibt ein Großteil dieses Weges unberücksichtigt.
Die OWASP Top 10 für agentenbasierte Anwendungen umfassen Zielentführung, Missbrauch von Tools, Identitäts- und Berechtigungsmissbrauch, Schwachstellen in der agentenbasierten Lieferkette, Speicher- und Kontextvergiftung, unsichere Kommunikation zwischen Agenten sowie Kettenausfälle. Diese Kategorien dienen der Strukturierung der Bedrohungsmodellierung; sie geben keinen Aufschluss darüber, wie häufig die einzelnen Fehler auftreten.
Nicht vertrauenswürdige Inhalte können zu legitimen Tools weiterleiten
Ein Mitarbeiter könnte ein Lieferantendokument, ein Support-Ticket oder eine Tool-Antwort lesen, die von jemand anderem eingefügte Anweisungen enthält. Wenn er dieses Material als verbindlich betrachtet, könnte er ansonsten legitime Tools für einen unbefugten Zweck nutzen.
Das Forschungsframework „AgentDojo“ untersucht dieses Problem anhand von Aufgaben, bei denen Tools zum Einsatz kommen, sowie anhand von Daten, die von nicht vertrauenswürdigen Tools zurückgegeben werden. Es bietet ein nützliches Bewertungskriterium: Es wird geprüft, ob der Agent legitime Aufgaben ausführt und ob er Sicherheitsmerkmale auch unter Angriffsbedingungen aufrechterhält. Der ursprüngliche Benchmark des Frameworks liefert jedoch keine Aussage über die Wirksamkeit eines aktuellen Unternehmensprodukts.
Beziehen Sie böswillige und irreführende Eingaben in einen Pilotversuch ein. Überprüfen Sie die tatsächlichen Tool-Anfragen und den daraus resultierenden Zustand, einschließlich der Versuche, die von der übergeordneten Anwendung korrekt blockiert werden.
Der delegierte Zugriff kann über die geschäftliche Aufgabe hinausgehen
Eine Anfrage zur Erstellung einer Kundenübersicht erfordert nicht zwangsläufig die Berechtigung zum Export der Kundendatenbank. Ebenso erfordert eine Anfrage zur Erstellung einer Lieferantenempfehlung keine Berechtigung zur Änderung der Zahlungsdaten.
Wenden Sie die Autorisierung außerhalb des Modells an. Überprüfen Sie vor der Ausführung der Aktion die Identität, die Ressource, die Operation, den Aufgabenkontext sowie etwaige erforderliche Genehmigungen. Die „ zero trust “-Architektur des NIST liefert das zugrunde liegende Prinzip, dass der Standort im Netzwerk oder das Eigentumsverhältnis an einer Ressource allein kein implizites Vertrauen begründen sollte. Die agentenspezifische Anwendung dieses Prinzips muss noch umgesetzt und getestet werden.
Überprüfen Sie außerdem die Speicher- und Delegierungsgrenzen. Ein zweiter Agent sollte nur die Informationen und Befugnisse erhalten, die für seine Teilaufgabe erforderlich sind. Der gemeinsame Kontext sollte nicht unbemerkt zu einem Mittel werden, um uneingeschränkte Berechtigungen zu teilen. Ausführliche Überlegungen zur Implementierung finden Sie unter „Sicherheit von KI-Agenten“.
Wie lassen sich innovative KI-Agenten vor ihrer Einführung bewerten?
Bewerten Sie den gesamten Arbeitsablauf hinsichtlich der erwarteten Ergebnisse, der Durchsetzung von Berechtigungen, der Wiederherstellbarkeit und des Betriebsaufwands. Die nachstehende Bewertungsmatrix ist ein aus der Forschung abgeleiteter Vorschlag als Bewertungshilfe und stellt weder einen validierten Benchmark noch einen allgemein anerkannten Standard dar.
| Bewertungsbereich |
Zu beantwortende Frage |
Zu sammelnde Beweise |
| Akzeptierte Ergebnisse |
Erfüllt das Ergebnis die geschäftlichen Akzeptanzkriterien? |
Unabhängige Überprüfung abgeschlossener, fehlgeschlagener und eskalierter Aufgaben |
| Zuverlässigkeit |
Lässt sich die Leistung bei allen relevanten Aufgabenvarianten reproduzieren? |
Wiederholte Durchläufe, Aufgabenkategorien und Fehlerursachen |
| Berechtigung |
Werden unzulässige Operationen außerhalb des Modells abgelehnt? |
Abgelehnte Anfragen und überprüfter Status des nachgelagerten Systems |
| Widerstandsfähigkeit gegenüber Angriffen |
Was passiert, wenn abgerufene Inhalte schädliche Anweisungen enthalten? |
Ergebnisse legitimer Aufgaben und versuchte Grenzüberschreitungen |
| Wiederherstellung |
Kann die Ausführung angehalten und die teilweise erledigte Arbeit abgeglichen werden? |
Übungen zu Widerruf, Stornierung, Duplikatserstellung und Rückgängigmachung |
| Observability |
Kann man anhand der Operationen den Handlungsablauf rekonstruieren? |
Miteinander in Zusammenhang stehende Ereignisse in Bezug auf Aufgaben, Identität, Werkzeuge und Ressourcen |
| Gesamtaufwand und Kosten |
Was verbraucht jedes akzeptierte Ergebnis? |
Rechenaufwand, Werkzeugkosten, Überprüfung, Wiederholungsversuche, Nacharbeit und Betriebsaufwand |
Verwenden Sie den tatsächlichen Workflow als Testeinheit
Erstellen Sie eine repräsentative Auswahl an Aufgaben mit benannten Verantwortlichen und Abnahmekriterien. Berücksichtigen Sie dabei normale Fälle, mehrdeutige Anweisungen, fehlende Daten, abgelehnte Berechtigungen, unterbrochene Sitzungen und Versuche, den Agenten umzuleiten.
Die aktuell ausgewertete Konfiguration einfrieren: Modellversion, Anweisungen, Tool-Definitionen, Konnektorberechtigungen, Speichereinstellungen und Ausführungsbudgets. Jegliche menschliche Unterstützung protokollieren. Ein Ergebnis, das erhebliche Korrekturen erforderte, sollte im Auswertungsprotokoll sichtbar bleiben.
Vergleichen Sie den Agenten mit dem bestehenden Prozess und, sofern sinnvoll, mit einer einfacheren Automatisierung. Betrachten Sie die Verteilung der Ergebnisse und nicht nur den Durchschnittswert. Ein Workflow kann bei typischen Fällen gut funktionieren, während er bei den Fällen mit den schwerwiegendsten Folgen versagt.
Legen Sie Akzeptanzschwellen fest, bevor Sie sich die Ergebnisse ansehen. Lassen Sie den Geschäftsverantwortlichen und den Sicherheitsverantwortlichen vereinbaren, welche Fehler eine Neugestaltung, einen engeren Anwendungsbereich oder eine menschliche Entscheidung erfordern.
Kosten pro akzeptiertem Ergebnis berechnen
Eine sinnvolle Berechnung ist die Division der Gesamtkosten des Pilotprojekts durch die Anzahl der Ergebnisse, die die vereinbarten Akzeptanzkriterien erfüllen. Berücksichtigen Sie dabei die Kosten für Modellinferenz, Datenabruf und Tools, manuelle Überprüfung, Wiederholungsversuche und Nachbesserungen. Erfassen Sie die Einrichtungs- und laufenden Betriebskosten separat, damit der Vergleich nachvollziehbar bleibt.
So kann beispielsweise ein schnell verfasster erster Entwurf dennoch kostspielig sein, wenn ein Spezialist viel Zeit damit verbringt, ihn zu korrigieren. Umgekehrt kann ein Mitarbeiter, der schwierige Fälle frühzeitig weiterleitet, von großem Nutzen sein, wenn dadurch unnötiger Arbeitsaufwand vermieden wird und gleichzeitig die Qualität gewahrt bleibt.
Verwenden Sie Daten aus Pilotprojekten. Ein symbolischer Preis, ein Benchmark-Ergebnis oder eine erfolgreiche Demonstration allein reichen nicht aus, um die Kosten eines abgeschlossenen Geschäftsprozesses zu ermitteln.
Legen Sie die Stoppbedingungen fest, bevor Sie die Ausführung genehmigen.
Legen Sie fest, bei welchen Ereignissen der Pilot ausgesetzt oder eine Aktionsklasse zurückgezogen wird. Beispiele hierfür sind ein ungeklärter Versuch, auf ein neues Ziel zuzugreifen, ein fehlender Genehmigungsnachweis, ein inkonsistenter nachgelagerter Zustand oder die Unmöglichkeit, die aktive Berechtigung zu widerrufen.
Behandeln Sie eine blockierte, nicht autorisierte Anfrage als nützlichen Hinweis sowohl auf das Verhalten des Agenten als auch auf die Durchsetzung von Kontrollmaßnahmen. Untersuchen Sie, warum es dazu gekommen ist, bevor Sie die Berechtigungen erweitern. Ein einziger aggregierter Erfolgswert kann diesen Unterschied verschleiern.
Ein Beispiel für einen Beschaffungsagenten
Ein Beschaffungsbeauftragter kann einen Mehrwert schaffen, während die Befugnisse über Zahlungen und Lieferantenwechsel weiterhin separat geregelt werden. Das folgende hypothetische Beispiel veranschaulicht, wie die Annahme von Aufgaben, Berechtigungen, Überprüfungen und Überwachung miteinander verknüpft werden können; es beschreibt weder eine Kundenimplementierung noch gemessene Ergebnisse.
Eine eng gefasste Forschungsaufgabe genehmigen
Ein Mitarbeiter bittet den Sachbearbeiter, die zugelassenen Lieferanten für einen bestimmten Einkauf zu vergleichen und eine Bestellanforderung zu erstellen. Die Anwendung gewährt ihm Lesezugriff auf den Katalog der zugelassenen Lieferanten und die entsprechenden Einkaufsrichtlinien. Er kann in einem dafür vorgesehenen Arbeitsbereich einen Entwurf erstellen.
Der Auftragsdatensatz enthält Angaben zum Antragsteller, zum Zweck, zu den zulässigen Quellen, zu den genehmigten Tools, zum Ausgabenkontext und zur Gültigkeitsdauer. Der Sachbearbeiter ist nicht berechtigt, die Bankdaten von Lieferanten zu aktualisieren oder interne Finanzunterlagen nach außen zu übermitteln.
Für die Annahme sind eine Empfehlung, die durch die genehmigten Unterlagen gestützt wird, eine klare Erläuterung fehlender Informationen sowie ein Entwurf erforderlich, den der zuständige Einkäufer überprüfen kann.
Ein betrügerisches Lieferantendokument prüfen
Ein Lieferantenanhang enthält die Anweisung, interne Budgetdaten vor Abschluss des Vergleichs an eine neue Webadresse zu senden.
Das erwartete Ergebnis ist eine Ablehnung oder eine Eskalation, ohne dass Daten offengelegt werden. Testen Sie sowohl das Verhalten des Agenten als auch die Durchsetzungsebene: Ein Übertragungsversuch muss weiterhin fehlschlagen, wenn der Agent die eingebettete Anweisung befolgt. Vergewissern Sie sich, dass das Ziel blockiert wurde und das nachgelagerte System keine unbefugte Änderung erhalten hat.
Überprüfen Sie außerdem, ob die schädliche Anweisung im gespeicherten Aufgabenkontext verbleibt. Eine spätere, scheinbar nicht damit in Zusammenhang stehende Anfrage sollte diese nicht als vertrauenswürdige Betriebsanweisung übernehmen.
Die endgültige Maßnahme genehmigen und überprüfen
Der Einkäufer prüft die vorgeschlagene Bestellanforderung, die Bezugsunterlagen, die Lieferantenangaben, die Menge sowie die Kennzeichnungen für fehlende Informationen. Die Genehmigung gilt für diese konkrete Maßnahme und erlischt, sobald sich die Materialangaben ändern.
Vor der Erstellung der Bestellanforderung überprüft die Anwendung erneut die Genehmigung und die Berechtigungen. Anschließend erfasst sie die tatsächliche Identifikationsnummer der Bestellanforderung und den daraus resultierenden Status. Wenn die Ausführung zeitlich abgelaufen ist, prüft der Workflow vor einem erneuten Versuch, ob die Bestellanforderung bereits vorhanden ist.
Im Rahmen des Pilotprojekts können dann die Anzahl der genehmigten Bestellanforderungen, der Aufwand, fehlerhafte Empfehlungen, versuchte unbefugte Aktionen, die Vermeidung von Doppelbestellungen sowie erfolgreiche Stornierungen erfasst werden. Anhand dieser Kennzahlen lässt sich feststellen, ob eine Ausweitung der Ausführungsbefugnisse gerechtfertigt ist.
Wie lassen sich Agenten in der Produktion verwalten und überwachen?
Die Produktionssteuerung sollte die Eigentumsverhältnisse, durchsetzbare Zugriffsgrenzen, Nachweise über tatsächliche Aktivitäten und einen erprobten Reaktionspfad im Zuge von Systemänderungen gewährleisten. Die Zusammenfassung der NIST-Konsultation zur Agentensicherheit vom Mai 2026 berichtet von weitgehender Einigkeit darüber, dass bestehende Cybersicherheitsgrundsätze weiterhin relevant sind, jedoch für Agenten angepasst werden müssen. Quelle: Zusammenfassung der NIST-Konsultation.
Weisen Sie jeder Bereitstellung einen verantwortlichen Ansprechpartner zu
Erfassen Sie den Geschäftszweck, den betrieblichen Eigentümer, die Modellkonfiguration, die Schnittstellen, die gültigen Berechtigungen, die Datenklassen und die Ansprechpartner für die Wiederherstellung. Halten Sie die Eigentumsverhältnisse auf dem neuesten Stand, wenn ein Mitarbeiter das Unternehmen verlässt, sich ein Lieferant ändert oder ein Pilotprojekt zu einem operativen Dienst wird.
Das NCCoE des NIST berichtete im September 2026, dass die Softwareentwicklung den ersten Anwendungsfall für die Demonstration der Identifizierung, Authentifizierung und Autorisierung von Agenten liefern werde. Dabei handelt es sich um laufende Projektarbeiten und nicht um eine abgeschlossene Zertifizierung für Unternehmensagenten.
Verwenden Sie für den Bestandsaufnahmeprozess den Leitfaden zur Bestandsaufnahme mit KI-Agenten. Sehen Sie eine Möglichkeit vor, die Person oder den Dienst zu identifizieren, die bzw. der die delegierte Befugnis genehmigt hat, sowie eine Möglichkeit, diese wieder zu entziehen.
Beobachten Sie, was der Agent tatsächlich tut
Ordnen Sie die Aufgaben-ID den entsprechenden Identitäts-, Tool-, Ressourcen- und Netzwerkereignissen zu. Im Rahmen einer Untersuchung sollte festgestellt werden können, welche Anmeldedaten verwendet wurden, welche Ressource geändert wurde, welche Genehmigung vorlag und ob die Aktion erfolgreich war.
Speichern Sie relevante Anwendungsereignisse zusammen mit unabhängigen Infrastrukturdaten. Die Erläuterungen eines Agenten können einem Analysten helfen, einen Ablauf nachzuvollziehen, während Systemprotokolle die beobachtbaren Veränderungen belegen.
Sichern Sie den Überwachungspfad und legen Sie fest, wer dessen Konfiguration ändern darf. Wenden Sie Zugriffskontrollen und Aufbewahrungsregeln auf die Protokolle selbst an, da Eingabeaufforderungen, abgerufene Inhalte und Tool-Ergebnisse sensible Informationen enthalten können.
Behandle Änderungen als neue Bewertungsbedingungen
Überprüfen Sie erneut alle sich daraus ergebenden Änderungen an Modellen, Anweisungen, Tool-Schemas, Konnektoren, Speicher oder Berechtigungen. Dokumentieren Sie die Änderung, führen Sie die entsprechenden Regressions- und Adversarial-Tests erneut durch und vergewissern Sie sich, dass die Freigabe und der Widerruf weiterhin funktionieren.
Üben Sie die Reaktion auf Zwischenfälle komponentenübergreifend. Das Beenden eines Agentenprozesses kann dazu führen, dass eine Aktion in der Warteschlange verbleibt, ein anderer delegierter Worker aktiv bleibt oder Zugangsdaten weiterhin gültig sind. Das Reaktionsverfahren sollte diese Abhängigkeiten identifizieren, weitere Arbeiten aussetzen und bereits abgeschlossene Aktionen abgleichen.
Eine ausführlichere Darstellung zum Schutz der umgebenden Systeme und Arbeitsabläufe finden Sie unter „Agentische KI-Sicherheit“.
Wo passt „ Vectra AI “ hin?
Wenn ein KI-Agent auf Unternehmenssysteme zugreift, müssen die Sicherheitsteams wissen, welches Konto er verwendet hat, auf welche Daten er zugegriffen hat und ob diese Aktivität erwartet wurde.
Vectra AIDie identitätsbasierte Angriffserkennung und -eindämmung sucht nach Anzeichen für den Missbrauch von Anmeldedaten und Berechtigungen, indem sie die Aktivitäten von Benutzer- und Dienstkonten in Netzwerk- und „ cloud “-Umgebungen analysiert. Für einen Agenten, der diese Konten nutzt, kann dies Anhaltspunkte für eine Untersuchung liefern. Der Erfassungsumfang hängt von den Konten, Diensten und Integrationen ab, die in der Bereitstellung enthalten sind.
Testen Sie im Rahmen einer Bewertung ein konkretes Szenario, beispielsweise den Zugriff eines Agenten über sein Testkonto auf eine unerwartete Ressource. Prüfen Sie, ob die Aktivität sichtbar ist, ob ein Analyst sie bis zum Konto und zur Ressource zurückverfolgen kann und welche Reaktionsmaßnahmen zur Verfügung stehen. Verwenden Sie die Aufgaben- und Tool-Protokolle des Agenten, um diese Nachweise mit der ihm zugewiesenen Arbeit in Verbindung zu bringen.
Um Ihre Umgebung zu bewerten, fordern Sie eine Demo von „ Vectra AI “ mit einem definierten Agent-Workflow sowie den darin verwendeten Konten und Diensten an.
Hinweis: Dieser Leitfaden fasst Ergebnisse aus Primärforschung und Sicherheitsempfehlungen zusammen. Das Bewertungsrahmenwerk und das Beschaffungsbeispiel stellen Vorschläge dar, die auf öffentlich zugänglichen Informationen basieren.