Da KI zunehmend in Unternehmen Einzug hält, konzentrieren sich Sicherheitsdiskussionen oft auf Modelle, Fähigkeiten und neue Arten technischer Risiken. Weitaus weniger diskutiert wird das damit verbundene Designproblem: Wie sollen Menschen Signale verstehen, ihnen vertrauen und darauf reagieren, die von Systemen erzeugt werden, die probabilistisch und mit maschineller Geschwindigkeit arbeiten?
Für diejenigen von uns, die im Bereich UX in der Cybersicherheit arbeiten, ist dieses Problem nichts Neues.
Seit mehr als einem Jahrzehnt konzentriert sich das UX-Team von Vectra auf eine einzige, beständige Herausforderung: Wie lassen sich komplexe Angreiferaktivitäten auf eine Weise sichtbar machen, die für Menschen verständlich, umsetzbar und vertrauenswürdig ist? Lange bevor KI zu einem wichtigen Thema für Unternehmen wurde, beschäftigte sich Vectra bereits mit undurchsichtigen Systemen, unklaren Signalen und der Notwendigkeit, wichtige Entscheidungen unter Druck zu unterstützen.
Diese Erfahrung wird besonders relevant, da KI selbst Teil der Bedrohungslandschaft wird.
Von Black-Box-KI-Ausgaben zu verständlichem Angreiferverhalten
Moderne Netzwerke generieren enorme Mengen an Signalen, die Menschen allein nicht ohne Weiteres interpretieren können. Die darüber liegenden Tools erschweren die Aufgabe oft zusätzlich, indem sie Bewertungen, Warnmeldungen und isolierte Erkennungen liefern, denen der Kontext fehlt, den Analysten benötigen, um sicher handeln zu können.
Im Laufe der Zeit hat sich eine effektive Sicherheits-UX von der Darstellung roher Ergebnisse hin zur Lesbarkeit von Verhaltensweisen verschoben:
- Wie sich die Aktivität im Laufe der Zeit entwickelt
- Welche Identitäten und Systeme sind beteiligt?
- Welche Handlungsabläufe verursachen Risiken?
- Warum etwas jetzt wichtig ist, nicht nur, dass es passiert ist
Das Ziel war nie absolute Gewissheit. Es ging vielmehr darum, menschliche Entscheidungen in unklaren Situationen zu unterstützen. Dazu müssen probabilistische, oft unübersichtliche Informationen in kohärente Narrative übersetzt werden, die Menschen bewerten und auf deren Grundlage sie handeln können.
Entscheidend ist, dass diese Eingaben selten sauber oder gut strukturiert sind. Sie ähneln weder Tabellenkalkulationen noch Formularen. Sie kommen als Fragmente daher, die nur dann Sinn ergeben, wenn sie miteinander verbunden, in einen Kontext gestellt und interpretiert werden.
UX ist die Ebene, die diese Übersetzung vornimmt.
KI-Angreifer ändern die Geschwindigkeit, nicht das Verhalten.
Die Einführung KI-gesteuerter Angreifer verändert das Ausmaß und das Tempo von Angriffen erheblich. Autonome Systeme können Angreifern dabei helfen, kontinuierlich zu operieren, sich schnell anzupassen und sich mit einer Geschwindigkeit zu bewegen, die die menschlichen Fähigkeiten bei weitem übersteigt.
Was sie nicht tun, ist, völlig neue Kategorien böswilligen Verhaltens zu erfinden.
KI-Angreifer sehen zwar anders aus, verhalten sich aber genauso. Sie tun immer noch Folgendes:
- Umgebungen auf Schwachstellen untersuchen
- Missbrauch von Identität und Zugriff
- Seitlich durch Systeme bewegen
- Privilegien eskalieren
- Streben Sie nach Beharrlichkeit und Wirkung
Sie tun dies innerhalb von Infrastrukturen, die von Menschen für Menschen entwickelt wurden – Identitätsanbieter, Anwendungen, Netzwerke und Arbeitsabläufe. Auch wenn das Tempo zunimmt, bleiben die zugrunde liegenden Verhaltensweisen erkennbar.
Aus diesem Grund ist verhaltensorientiertes Design so wichtig. Schnittstellen, die auf statischen Regeln oder fragwürdigen Annahmen basieren, geraten in Schwierigkeiten, wenn sich die Akteure schneller anpassen, als diese Regeln weiterentwickelt werden können. Verhalten bleibt eine stabile Abstraktion, da es eher die Absicht als die Umsetzung widerspiegelt.
UX als Übersetzungsschicht
Während Erkennung und Analyse zunehmend mit Maschinengeschwindigkeit erfolgen, bleibt es Aufgabe des Menschen, zu verstehen, was geschieht, und zu entscheiden, wie darauf zu reagieren ist. Die Kluft zwischen automatisierten Systemen und menschlichem Urteilsvermögen wird immer größer.
Security UX wurde entwickelt, um diese Lücke zu schließen.
Seine Aufgabe besteht nicht darin, Unsicherheiten zu beseitigen oder Entscheidungen von Menschen zu automatisieren, sondern Komplexität verständlich zu machen:
- Probabilistisches Denken verständlich machen, ohne es zu stark zu vereinfachen
- Muster sichtbar machen, anstatt Benutzer mit Warnmeldungen zu überhäufen
- Bereitstellung von Kontext, der erklärt, warum die Aktivität wichtig ist
- Untersuchungen und Überlegungen unterstützen, nicht nur reagieren
Diese Übersetzungsschicht wird mit zunehmender Autonomie der Systeme immer wichtiger – und nicht weniger wichtig.
Warum das jetzt wichtig ist
Während Unternehmen daran arbeiten, KI-gestützte Unternehmen zu sichern, stellen viele fest, dass fortschrittlichere Modelle allein das Problem nicht lösen. In einigen Fällen kann eine erhöhte Komplexität die Undurchsichtigkeit verstärken und das Vertrauen untergraben.
Die Erfahrungen, die das UX-Team von Vectra AI im Laufe der Jahre gesammelt hat, Vectra AI eine nützliche Perspektive für den aktuellen Moment. Bei der Gestaltung von KI muss man Folgendes akzeptieren:
- Die Ergebnisse werden unstrukturiert und probabilistisch sein.
- Systeme werden sich kontinuierlich anpassen
- Die Aktion wird mit Maschinengeschwindigkeit ausgeführt.
- Das menschliche Urteilsvermögen bleibt die letzte Instanz.
In diesem Zusammenhang wird das Verhalten zur zuverlässigsten Schnittstelle zwischen Maschinen und Menschen.
Entwerfen für die Beurteilung
Die Zukunft der Sicherheit in KI-Unternehmen wird nicht allein von den Erkennungsfähigkeiten bestimmt werden. Sie wird davon abhängen, wie effektiv Menschen die Erkenntnisse automatisierter Systeme verstehen und darauf reagieren können.
UX ist der Ort, an dem dieses Verständnis Gestalt annimmt.
Da KI bei Angriffen immer schneller und anpassungsfähiger wird, könnte die Fähigkeit, Verhaltensweisen klar, konsistent und glaubwürdig aufzudecken, eine unserer wichtigsten Verteidigungsstrategien sein.