"Künstliche Intelligenz ist der menschlichen Dummheit nicht gewachsen", bemerkte Albert Einstein ironisch. Heute haben wir uns so weit entwickelt, dass KI entscheidende und unverzichtbare Vorteile im Wettlauf um die Cybersicherheit bieten kann. Dennoch sehen selbst brillante Sicherheitsmanager nicht immer, wie oder warum dies der Fall ist.
Stand der Dinge: KI und Cybersecurity
Mit diesem Beitrag beginne ich meine bescheidene Kampagne zur Erläuterung der Hintergründe dieser Situation.
Der Begriff "KI" (manche sagen auch "maschinelles Lernen") taucht heute überall in aufwändigen Marketingpräsentationen von Anbietern von Cybersicherheitslösungen auf. Ich würde sogar sagen, dass er in fast allen Werbematerialien vorkommt. Obwohl KI derzeit en vogue ist, scheint die Cybersicherheits-Community nur wenig Wissen und Fähigkeiten zu diesem Thema erworben zu haben. Der durchschnittliche Entscheidungsträger versteht vielleicht einige der allgemeinen Grundsätze - zum Beispiel den überwachten gegenüber dem unbeaufsichtigten Modus - und er ist wahrscheinlich sogar in der Lage, Deep Learning von Untiefen zu unterscheiden. Aber wie man es im Bereich der Cybersicherheit taktisch einsetzt, ist weitgehend unbekannt - oder wird nicht verstanden.
Glücklicherweise werden diese Defizite wahrscheinlich kein Dauerzustand bleiben. Es sei daran erinnert, dass es erst vor wenigen Jahren ähnliche Verständnislücken bei der cloud gab, die inzwischen zum Mainstream geworden ist. Doch wir können viel tun, um diese Defizite zu beheben und die Einführung von KI zu beschleunigen.
Vectra AI hat KI in den Mittelpunkt seiner Strategie gestellt.[1] Diese Organisation entwickelt KI-gestützte Lösungen, um herauszufinden, wie Angreifer vorgehen, um ihre Ziele zu erreichen: Werden sie Ransomware einsetzen? Oder Datenexfiltration? In diesem Zusammenhang wird die KI zu einem Mittel zur Erkennung von Anomalien, die von menschlichen Analysen nicht erkannt werden können. Sie sortiert die Anomalien und klassifiziert sie anhand von Entscheidungsbäumen oder Clustering-Algorithmen[2]. Anschließend werden sie der Reihe nach zugeordnet, um künftige Angriffspfade aufzudecken und die Aufmerksamkeit auf die kritischsten Bedrohungen zu lenken, indem Warnungen priorisiert werden.
Vectra AI definiert die Lernmodelle, die für die Erreichung dieses Ziels am wichtigsten sind. Dieser Bereich wird weiter an Bedeutung gewinnen, da sich der Stand der Technik bei Cyberangriffen weiterentwickelt.
Vier Dinge, die man über AI wissen sollte
Was müssen wir also über KI wissen? Lassen Sie mich vier kurze Vorschläge machen:
Erstens ist es nicht unmöglich, die Macht der KI zu verstehen.
Es gibt viel mehr wertvolle Ressourcen, auf die man zurückgreifen kann, als oberflächliche Marketingpräsentationen. Ich selbst habe in jüngster Zeit von den populären, substanziellen Diskussionen über die Cybersicherheitsprobleme, die durch maschinelles Lernen gelöst werden können,[3] von den Grundsätzen für den Einsatz von KI[4] und von Weißbüchern profitiert, in denen adaptive maschinelle Lernmodelle erläutert werden.[5] Natürlich ist ein Großteil der Inhalte zu diesem Thema anspruchsvoll, da sie tief in die komplexen mathematischen Formeln eindringen, die maschinelle Lernmodelle zum Erreichen bestimmter Ziele antreiben.[6] Aber es gibt eine wachsende Zahl von leichter zugänglichen Materialien, mit denen sich auch Nichtfachleute befassen können - die besten davon unter Vectra AI.[7]
Zweitens: Unternehmen, die in diesem Bereich wirklich führend sind, haben es nicht nötig, ihre Kunden mit dekorativen Gimmicks abzulenken.
In meiner Zeit als Berater habe ich gelernt, dass man, wenn der Inhalt einer Präsentation dünn oder von begrenzter Überzeugungskraft ist, dies durch eine aufregendere Gestaltung ausgleichen möchte. Wenn Sie im Bereich der künstlichen Intelligenz auf eine außergewöhnliche Benutzeroberfläche mit atemberaubenden grafischen Effekten stoßen, sollten Sie sich Folgendes fragen: Ist das Ziel vielleicht, einen Mangel an echten Einsichten oder Werten zu verbergen? Kunden wollen Effizienz und Rentabilität, keine Schönheitswettbewerbe.
Drittens ist die KI nicht automatisch empfindungsfähig; sie muss gut trainiert werden.
Ein grundlegendes Prinzip jedes KI-Modells, insbesondere eines überwachten Modells, besteht darin, einen Mehrwert zu schaffen - was ein Training mit einem Datensatz erfordert, der frei von Verzerrungen und ausreichend repräsentativ für die realen Bedrohungen ist. Zu viele der heute verfügbaren Lösungen neigen dazu, diese Tatsache zu ignorieren. Unüberwachte Modelle versuchen, "normales" Verhalten in ihren Bereichen zu erkennen und dann Abweichungen auszumachen, was nicht ohne Wert ist; aber dies ohne Training zu tun, hat eindeutige Nachteile, angefangen mit der Schwierigkeit, eine solche Lösung in eine bereits gefährdete Umgebung einzuführen.[8]
Als ich jung war und meine Risikomanagement-Zertifizierung erhielt, lernten wir, bei der Berechnung des Risikos von datenabhängigen Aktuaren ein Sprichwort anzuwenden: "Garbage in, garbage out." Dasselbe Axiom gilt heute für KI.
Viertens: Im Bereich der Cybersicherheit kann KI erfahrene menschliche Analysten nicht ersetzen, sondern nur ergänzen.
In jeder KI-gestützten Sicherheitsumgebung bleiben die Ermittlungskraft und das Urteilsvermögen von Menschen unverzichtbar - aber sie beobachten notwendigerweise ein anderes Terrain und konzentrieren sich auf die Suche nach Kompromissindikatoren (IOCs). Im Idealfall können versierte Sicherheitsforscher Angriffsmuster analysieren und mit Datenwissenschaftlern zusammenarbeiten, um KI-basierte Sicherheitslösungen zu entwickeln. Die von ihnen entwickelte Technologie wird immer besser in der Lage sein, Bedrohungen zu erkennen und auf sie zu reagieren. Der menschliche Beitrag bleibt jedoch unerlässlich.
In diesem Artikel habe ich es bewusst vermieden, zu sehr ins Detail zu gehen. Meine Absicht war es lediglich, Interesse zu wecken und einen Ausgangspunkt für weitere Nachforschungen zu bieten. Meine Kollegen von Vectra AI und ich veröffentlichen regelmäßig Artikel, in denen wir Anwendungen für maschinelles Lernen im Bereich der Cybersicherheit untersuchen und detaillierte Erklärungen und Beschreibungen ihrer Ziele im Hinblick auf die Erkennung, Priorisierung und Korrelation von Bedrohungen liefern.
Lassen Sie uns gemeinsam die Lücke beim KI-Verständnis schließen!
Referenzen
[1] Weißbuch: Die KI hinter Vectra AI
[2] https://hbr.org/2021/01/when-machine-learning-goes-off-the-rails
[3] https://www.wavestone.com/fr/insight/intelligence-artificielle-cybersecurite/
[4] https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6
[5] https://link.springer.com/article/10.1007/s42979-021-00557-0