KI in der Bedrohungsanalyse

CERT-EU identifizierte im Jahr 2025 mindestens 174 verschiedene Bedrohungsakteure, die gegen Institutionen, Organe, Agenturen der Europäischen Union oder deren Ökosystem aktiv waren, verglichen mit 110 im Jahr 2024. In seinem im April 2026 veröffentlichten Bericht zur Bedrohungslage 2025 wird zudem darauf hingewiesen , dass die erweiterte Überwachung durch Automatisierung und KI Auswirkungen auf die Beobachtungen im Bereich der Cyberkriminalität hatte. Für die nachrichtendienstlichen Teams stellt dies eine praktische Herausforderung dar: Sie müssen mehr Informationen verarbeiten und gleichzeitig den Kontext bewahren, der erforderlich ist, um deren Bedeutung einzuschätzen.

Was versteht man unter KI im Bereich der Bedrohungsanalyse?

KI im Bereich der Bedrohungsanalyse bezeichnet den Einsatz von maschinellem Lernen, natürlicher Sprachverarbeitung und generativer KI zur Erfassung, Strukturierung, Analyse und Weitergabe von Informationen über Cyberbedrohungen. Sie kann bei der Zusammenfassung von Berichten, der Extraktion von Indikatoren, der Verknüpfung von Entitäten und der Vorbereitung von Hunting-Maßnahmen helfen. Ihr Nutzen hängt davon ab, ob die daraus gewonnenen Erkenntnisse korrekt, für das Unternehmen relevant und für eine fundierte Entscheidung hilfreich sind.

Ein nützlicher Ausgangspunkt ist ein abgegrenzter Arbeitsablauf: Man nehme einen vertrauenswürdigen Bericht, sichere dessen Belege, erstelle einen Bewertungs- oder Suchentwurf und überprüfe das Ergebnis anhand lokaler Daten. Messen Sie nach der Überprüfung den Aufwand für den Analysten und die Qualität der Entscheidung.

Cyber-Threat-Intelligence(CTI) wandelt Informationen über Angreifer und deren Aktivitäten in Kontextdaten für Sicherheitsentscheidungen um. KI kann diesen Prozess unterstützen, doch eine Sammlung extrahierter Indikatoren wird erst dann zu nützlichen Erkenntnissen, wenn ihre Relevanz, Zuverlässigkeit und Auswirkungen verstanden werden.

Eine IP-Adresse in einem Bericht ist eine beobachtbare Größe. Eine Einschätzung, die erläutert, warum Aktivitäten im Zusammenhang mit dieser Adresse für eine bestimmte Organisation von Bedeutung sind, liefert zusätzliche Erkenntnisse. Diese Einschätzung erfordert Belege, einen zeitlichen Rahmen und eine angemessene Angabe der Unsicherheit.

Teams arbeiten in der Regel mit mehreren Intelligenzstufen. Die Abgrenzungen variieren je nach Programm, doch diese Unterscheidung hilft dabei, die Ergebnisse der KI auf die Person abzustimmen, die sie nutzen wird.

Bedrohungsinformationen und Bedrohungserkennung ergänzen sich gegenseitig. Die Informationen helfen dabei zu verstehen, wonach man suchen muss und warum; die Erkennung untersucht Aktivitäten in einer Umgebung auf Anzeichen einer Bedrohung. Ein externer Kampagnenbericht belegt nicht, dass dieselbe Kampagne Ihr Unternehmen kompromittiert hat.

Beschäftigen Sie sich im Rahmen des ergänzenden Fachgebiets mit der Erkennung von KI-Bedrohungen.

Wie unterstützt KI den Lebenszyklus der Bedrohungsanalyse?

Ein zuverlässiger, KI-gestützter Arbeitsablauf beginnt mit einer Entscheidung, die das Team treffen muss. In jeder Phase sollten genügend Nachweise erhalten bleiben, damit die nächste Person oder das nächste System das Ergebnis überprüfen kann – auch wenn die Nachweise unvollständig sind.

Ermittlung des Informationsbedarfs

Beginnen Sie mit einer Frage, die einen Verantwortlichen und eine mögliche Maßnahme beinhaltet. „Welche Bedrohungen gibt es?“ ist zu allgemein, um eine sinnvolle Datenerhebung zu ermöglichen. „Welche gemeldeten Identitätsangriffe könnten unsere cloud -Administratoren betreffen, und können wir diese Vorfälle untersuchen?“ verknüpft die Erkenntnisse mit einem operativen Bedarf.

Definieren Sie die relevanten Systeme, Benutzer, den geografischen Geltungsbereich und das Zeitfenster. Einigen Sie sich darauf, welche Faktoren eine Entscheidung beeinflussen würden, beispielsweise die Planung einer Suche, die Überprüfung einer Kontrollmaßnahme oder die Eskalation eines Befunds. KI kann dabei helfen, Anforderungen zu formulieren und zu strukturieren, doch die Organisation muss entscheiden, welche Fragen von Bedeutung sind.

Quellkontext erfassen und bewahren

Zu den Eingaben können behördliche Hinweise, kommerzielle Feeds, Plattformen zum Informationsaustausch, öffentliche Vorfallberichte und Ergebnisse interner Untersuchungen gehören. Halten Sie vor der Aufbereitung der Inhalte den ursprünglichen Herausgeber, das Veröffentlichungsdatum, den Beobachtungszeitraum, den Zeitpunkt der Erfassung sowie etwaige Einschränkungen bei der Weitergabe fest.

Behalten Sie neben den Übersetzungen auch die Originalsprache bei und geben Sie stets eine verlässliche Quellenangabe an. Wenn ein Bericht einen anderen Bericht zitiert, vermerken Sie diese Abhängigkeit. Mehrere Artikel, die dieselbe Meldung wiedergeben, stellen keine mehreren unabhängigen Bestätigungen dar.

Wenden Sie vor dem Senden von Material an einen KI-Dienst Weitergabebeschränkungen an. Die Leitlinien des „Traffic Light Protocol“ von FIRST legen die Grenzen der Weitergabe fest; sie ersetzen jedoch nicht die Überprüfung von Lizenzen, zulässiger Verarbeitung oder Datenumgang.

Entitäten extrahieren und organisieren

Mithilfe der Verarbeitung natürlicher Sprache lassen sich Entitäten wie „ malware “-Namen, Schwachstellen, Domains und Organisationen identifizieren und anschließend Beziehungen zwischen ihnen vorschlagen. Die Zusammenfassung der 0-CTI-Studie beschreibt beispielsweise die Transformer-basierte Extraktion von Entitäten und Beziehungen aus CTI-Berichten. Dies veranschaulicht einen Forschungsansatz und stellt keine allgemeingültige Genauigkeitsstufe für eingesetzte Systeme dar.

Speichern Sie den Originalwert zusammen mit einer normalisierten Version. Eine entschärfte Domäne erfordert einen sorgfältigen Umgang; eine ähnlich aussehende Zeichenfolge kann ein harmloses Beispiel sein und muss nicht unbedingt Teil einer böswilligen Infrastruktur sein. Kennzeichnen Sie für jedes Element, ob es sich um eine beobachtete Tatsache, eine Quellenbewertung oder eine Schlussfolgerung des Analysten handelt.

Eine einfache deterministische Analyse kann für wohlgeformte Hashes oder Adressen geeignet sein. Verwenden Sie ein Sprachmodell, bei dem der Kontext eine Rolle spielt, beispielsweise um festzustellen, ob ein Bericht eine beobachtete Technik beschreibt oder lediglich eine Möglichkeit erörtert.

Relevanz und Konfidenz analysieren

KI kann dabei helfen, extrahierte Informationen mit einem Anlagenverzeichnis, einem Technologie-Stack oder einem Informationsbedarf zu verknüpfen. Ein Schwachstellenbericht über ein nicht vorhandenes Produkt sollte nicht dieselbe operative Aufmerksamkeit erhalten wie ein glaubwürdiger Angriff auf ein exponiertes System, das das Unternehmen nutzt.

Trennen Sie die Vertrauenswürdigkeit der Quelle von der Glaubwürdigkeit einer bestimmten Behauptung. Das CTI-Rahmenwerk von CERT-EU unterscheidet zwischen der Zuverlässigkeit der Quelle, der Glaubwürdigkeit der Informationen, dem Vertrauen in eine Einschätzung und der geschätzten Wahrscheinlichkeit. Dabei handelt es sich um unterschiedliche Beurteilungen.

Eine flüssig formulierte Musterantwort belegt keinen dieser Punkte. Fragen Sie, welche Belege die Einschätzung stützen, ob andere Berichte unabhängig sind, was noch unbekannt ist und welche Beobachtung die Schlussfolgerung ändern würde.

Informationen verbreiten und vor Ort überprüfen

Ein Ergebnis sollte auf seinen Verwendungszweck zugeschnitten sein. Ein Führungsbericht benötigt Schlussfolgerungen und Entscheidungen. Ein „Threat Hunter“ benötigt eine Hypothese, relevante Verhaltensmuster, verfügbare Telemetriedaten und eine Methode zur Interpretation der Ergebnisse. Ein Detektionsingenieur benötigt eine Logik, die getestet und gewartet werden kann.

KI kann Entwürfe für Suchabfragen erstellen, doch muss der Entwurf mit dem tatsächlichen Datenschema, den Feldern, den Berechtigungen und der Abfragesprache übereinstimmen. Eine Abfrage, die erfolgreich ausgeführt wird, kann dennoch das falsche Feld durchsuchen oder den relevanten Zeitbereich auslassen. Eine Abfrage, die keine Treffer liefert, kann auf fehlende Protokolle hindeuten.

Verbinden Sie diese Phase mit einem etablierten „threat hunting “-Prozess. Fördern Sie wiederverwendbare Logik durch Detection Engineering – einschließlich Validierung und Verantwortungszuweisung –, bevor Sie diese in der Produktion einsetzen.

Nutze Feedback, um den Arbeitsablauf zu verbessern

Erfassen Sie, was nach der Weitergabe geschah. Hat die Information eine sinnvolle Untersuchung ausgelöst? Hat der Analyst eine Entität korrigiert, eine Zuordnung abgelehnt oder festgestellt, dass die erforderlichen Telemetriedaten nicht verfügbar waren?

Speichern Sie Korrekturen zusammen mit der ursprünglichen Ausgabe und der Version des Workflows, die diese erzeugt hat. Feedback kann die Eingabeaufforderungen, den Abruf, die Regeln und die Bewertungsdatensätze verbessern. Das bedeutet jedoch nicht, dass ein bereitgestelltes Modell automatisch sicher aus jeder Aktion eines Analysten lernt; Aktualisierungen müssen separat überprüft und getestet werden.

Maschinelles Lernen und generative KI in der Bedrohungsanalyse

Verschiedene KI-Verfahren eignen sich für unterschiedliche Aufgaben. Wählen Sie die einfachste Methode, die zu einem überprüfbaren Ergebnis führt, und bewerten Sie den gesamten Arbeitsablauf, anstatt davon auszugehen, dass ein komplexeres Modell bessere Ergebnisse liefert.

Ein großes Sprachmodell (LLM) generiert und interpretiert Sprache. Ein Agent fügt einen Arbeitsablauf hinzu, in dem ein Modell Werkzeuge auswählen und aufeinanderfolgende Schritte ausführen kann. Wenn man einem Modell Zugriff auf ein Abfragewerkzeug gewährt, erweitert dies dessen Möglichkeiten, garantiert jedoch nicht, dass seine Schlussfolgerungen korrekt sind.

Die „Retrieval Augmented Generation“ (RAG) liefert abgerufene Inhalte als Kontext für die Antwort eines Modells. Ein Wissensgraph kann diesem Kontext explizite Beziehungen hinzufügen. Beide Ansätze hängen von der Qualität, der Aktualität und den Zugriffsberechtigungen der zugrunde liegenden Informationen ab.

Diese Methoden können nebeneinander bestehen. Eine Extraktionsregel könnte einen Hash identifizieren, ein Sprachmodell könnte dessen gemeldete Verwendung zusammenfassen und ein Graph könnte ihn mit verwandten Beobachtungen verknüpfen. Der Analyst sollte in der Lage sein, jede Transformation zu überprüfen.

Vorteile und Anwendungsfälle im Betrieb

KI kann sich wiederholende Vorbereitungsarbeiten reduzieren und Analysten mehr Quellenmaterial zugänglich machen. Diese Vorteile sollten erst nach der Quellenprüfung, den Korrekturen und der Untersuchung bewertet werden, da ein schneller Entwurf dennoch erheblichen Nachaufwand verursachen kann.

Bedrohungen für die tatsächliche Umwelt priorisieren

Ein Team kann mithilfe von KI die Meldungen mit den Technologien, Lieferanten und Identitäten abgleichen, auf die es angewiesen ist. Die daraus resultierende Warteschlange kann Aufschluss darüber geben, warum eine Meldung Beachtung verdient, welche lokalen Belege vorliegen und welcher Verantwortliche sie prüfen sollte.

Bei der Priorisierung von Sicherheitslücken sollte zwischen dem Vorliegen einer Sicherheitslücke einerseits und Hinweisen auf deren Ausnutzung sowie auf lokale Gefährdung andererseits unterschieden werden. Eine vom Modell generierte Dringlichkeitskennzeichnung sollte auf die relevanten Hinweise und den Kontext der betroffenen Ressourcen verweisen. Ein Bericht mit hoher Auswirkung, der sich auf ein Produkt bezieht, das die Organisation nicht nutzt, kann eine Sensibilisierung rechtfertigen, ohne dass sofortige Abhilfemaßnahmen erforderlich sind.

Berichte verknüpfen, ohne die Zuordnung zu übertreiben

Die KI-gestützte Entitätsauflösung kann Analysten dabei helfen, Berichte zu finden, die verwandte Infrastrukturen, Aliasnamen oder Verhaltensweisen beschreiben. Dies kann den Aufwand für die Erstellung einer Kampagnenzeitleiste verringern und Widersprüche aufzeigen, die einer Untersuchung bedürfen.

Behandeln Sie vorgeschlagene Verknüpfungen so lange als vorläufig, bis sie bestätigt sind. Gemeinsame Infrastruktur kann harmlose Erklärungen haben, und Angriffstechniken werden oft wiederverwendet. Eine ähnliche Domain, malware -Familie oder ein ähnliches Verhalten bedeutet nicht zwangsläufig, dass es sich um denselben Betreiber handelt. Behalten Sie quellspezifische Namen von Akteuren bei, anstatt sie stillschweigend zu einer einzigen Identität zusammenzufassen.

Erstellen Sie nützliche Zusammenfassungen für verschiedene Lesergruppen

Ein Beweismaterialsatz kann sowohl als Grundlage für einen technischen Ermittlungsbericht als auch für eine Zusammenfassung dienen, sofern beide denselben Grad an Unsicherheit widerspiegeln. KI kann dabei helfen, den Wortschatz anzupassen, relevante Passagen zu extrahieren und fehlende Informationen zu identifizieren.

Jede daraus abgeleitete Aussage muss einen Verweis auf die Quelle enthalten. Eine Zusammenfassung darf einen „vermuteten Zugriff“ nicht in eine „bestätigte Kompromittierung“ umwandeln oder verschweigen, dass sich eine Beobachtung auf einen anderen Sektor oder einen anderen Zeitraum bezog. Die Person, die den Bericht entgegennimmt, sollte in der Lage sein, dessen Grundlage nachzuvollziehen, ohne den gesamten Forschungsprozess wiederholen zu müssen.

Warum bedeuten mehr Informationen nicht automatisch mehr Sicherheit?

Eine umfassendere Datenerhebung verändert, was ein Nachrichtenteam beobachten kann. Bewerten Sie diese Veränderung getrennt von Verbesserungen bei der Ermittlungsqualität oder den Ergebnissen der Verteidigung.

Die CERT-EU-Auswertung für 2026 ist insofern nützlich, als sie die eigenen Beobachtungen relativiert: Die Veränderung in der Berichterstattung über Cyberkriminalität spiegelte sowohl die Bedrohungsaktivitäten als auch die Ausweitung der Überwachung durch Automatisierung und KI wider. Die Zahlen beziehen sich auf einen bestimmten Bezugsrahmen und Erhebungsprozess. Sie liefern keine Angaben zur weltweiten Wachstumsrate von Angriffen und isolieren auch nicht den Beitrag der KI zur Anzahl der Akteure.

Die Auswirkungen auf ein unternehmensweites CTI-Programm sind praktischer Natur. Wenn ein KI-gestützter Arbeitsablauf mehr Quellen verarbeitet, kann das Team möglicherweise mehr Akteure, Beziehungen und relevante Ereignisse aufdecken. Ein steigendes Ergebnis könnte auf eine bessere Abdeckung, doppelte Meldungen, eine tatsächliche Veränderung der Bedrohungslage oder eine Kombination dieser Faktoren hindeuten.

Erfassen Sie neben dem Ergebnis auch die Grundlagen der Datenerhebung: geprüfte Quellen, Berichtszeiträume, abgedeckte Anforderungen und Prüfungsaufwand. Fragen Sie sich anschließend, ob die zusätzlichen Erkenntnisse eine Fahndung, eine Kontrollmaßnahme oder eine Ermittlungsentscheidung beeinflusst haben. Eine umfangreichere Liste ist dann sinnvoll, wenn die Organisation deren Inhalt erklären und entsprechend handeln kann.

Schaffen Sie eine Architektur, die Beweismittel sichert

Ein zuverlässiges Design sorgt dafür, dass Quelldaten, generierte Bewertungen und Handlungsberechtigungen klar voneinander getrennt sind. Die folgende Architektur ist ein vorgeschlagenes Implementierungsmuster, das Teams an ihre Daten- und Risikoanforderungen anpassen können.

Der Ablauf ist einfach: Genehmigte Quellen sammeln, normalisieren und indexieren, relevante Belege abrufen, einen vorläufigen Entwurf erstellen, diesen validieren und an einem genehmigten Ort veröffentlichen. Korrekturen wieder in den Belegspeicher und den Bewertungsprozess einfließen lassen.

Abruf mit Zugriffskontrollen verwenden

Wenden Sie Zugriffsbeschränkungen bereits vor dem Abruf an, damit ein Nutzer über eine KI-Zusammenfassung keinen Zugriff auf Material erhält, das er nicht einsehen darf. Halten Sie diese Grenzen bei der Indizierung von Dokumenten, dem Abruf von Textstellen und der Speicherung der generierten Ergebnisse ein.

Halten Sie fest, welche Versionen der Quellen herangezogen wurden. Ein Verweis auf ein Dokument, das sich inzwischen geändert hat, reicht möglicherweise nicht aus, um eine ältere Einschätzung zu begründen. Wenn Quellen voneinander abweichen, stellen Sie die Abweichungen und deren Datumsangaben dar, anstatt die Aussagen zu einer sichereren Aussage zusammenzufassen.

Beschränken Sie den Zugriff auf das Tool auf das für den Arbeitsablauf erforderliche Maß. Ein Dienst zur Zusammenfassung von Berichten kann in der Regel ohne Berechtigungen zum Deaktivieren von Konten, zum Ändern von Erkennungen oder zum Kontaktieren externer Ziele betrieben werden. Eine separate Richtlinienebene sollte entscheiden, ob eine vorgeschlagene Aktion zulässig ist.

Einen Mindestwert für die Intelligenz festlegen

Verwenden Sie ein einheitliches Protokoll, damit die Informationen auch nach dem Verlassen des Modells weiterhin überprüfbar bleiben. Eine sinnvolle Ausgangsvereinbarung umfasst:

• Der Informationsbedarf und der vorgesehene Empfänger.
• Die Originalquelle, die entsprechende Passage sowie die Veröffentlichungs- oder Beobachtungsdaten.
• Die extrahierte Entität oder Aussage in ihrer ursprünglichen und normalisierten Form.
• Ob es sich bei dem Punkt um eine Angabe aus einer Quelle, eine unabhängige Beobachtung oder eine Schlussfolgerung handelt.
• Vertrauen, Belege, widersprüchliche Beweise und ungelöste Unsicherheiten.
• Lokale Relevanz, der empfohlene nächste Schritt, der Eigentümer sowie eine Bewertung oder ein Ablaufdatum.
• Weitergabebeschränkungen und, sofern erforderlich, eine Aufzeichnung der Genehmigung durch eine Person.

Behandeln Sie fehlende Beweise als einen sichtbaren Zustand. „Nicht nachgewiesen“ ist nützlicher als eine plausible Ergänzung, die später zu einer nicht mehr nachvollziehbaren Tatsache wird. Halten Sie erstellte Aufzeichnungen von genehmigten Aufzeichnungen getrennt, damit Entwürfe nicht als validierte Informationen in Umlauf gelangen können.

Verwenden Sie STIX und TAXII zur Gewährleistung der Interoperabilität

Structured Threat Information Expression (STIX) stellt Objekte und Beziehungen zur Darstellung von Bedrohungsinformationen bereit. Trusted Automated Exchange of Intelligence Information (TAXII) unterstützt den Austausch von CTI über HTTPS. Ihre Funktionen ergänzen sich: Darstellung und Austausch.

KI kann dabei helfen, strukturierte Datensätze für diese Arbeitsabläufe vorzuschlagen. Überprüfen Sie sowohl die Struktur als auch den Inhalt, bevor Sie diese veröffentlichen. Ein formal korrekter Datensatz kann dennoch eine nicht unterstützte Zuordnung, einen falschen Indikator oder eine Beziehung enthalten, die in der Quelle nie hergestellt wurde.

Ein Beispiel aus der Praxis: Vom Bedrohungsbericht bis zur validierten Hunt

Nehmen wir als Beispiel ein Unternehmen, das einen Bericht über gestohlene Zugangsdaten untersucht, auf den unbefugte Änderungen an den Berechtigungen eines Kontos unter cloud folgten. Hierbei handelt es sich um einen hypothetischen Arbeitsablauf, nicht um einen Kundenvorfall oder eine getestete Leistungsangabe.

Die Anforderung: Es soll ermittelt werden, ob im Umfeld der Organisation ein vergleichbares Verhalten auftritt und ob die verfügbaren Telemetriedaten die Untersuchung unterstützen können.

Zunächst gibt der Analyst den Bericht zur Bearbeitung frei. Der KI-Assistent extrahiert die gemeldeten Verhaltensweisen, die betroffenen Technologien, den Beobachtungszeitraum und relevante Passagen. Er hält fest, dass der Bericht eine andere Umgebung beschreibt; er stuft kein lokales Konto als kompromittiert ein.

Anschließend stellt der Assistent eine Untersuchungshypothese auf: Möglicherweise wurde ein gültiges Konto verwendet, um eine ungewöhnliche Änderung der Zugriffsrechte vorzunehmen und anschließend auf sensible Ressourcen zuzugreifen. Er listet die Beweise auf, die zur Überprüfung dieser Hypothese erforderlich sind, wie beispielsweise Anmeldevorgänge, Protokolle zu Änderungen der Zugriffsrechte, Aktivitäten im „ cloud “ sowie die Zugehörigkeit von Ressourcen oder Identitäten.

Der Analyst prüft, ob diese Quellen vorhanden sind, ob der Aufbewahrungszeitraum den relevanten Zeitraum abdeckt und ob Identifikatoren zuverlässig miteinander verknüpft werden können. Ist eine erforderliche Prüfquelle nicht verfügbar, stellt dies eine Einschränkung der Untersuchung dar und führt zu einer Protokollierung. Der Assistent darf die fehlenden Daten nicht als fehlerfreies Ergebnis darstellen.

Der Assistent erstellt daraufhin eine Abfrage unter Verwendung des tatsächlichen Schemas der Organisation. Ein Erkennungsingenieur überprüft Feldnamen, Zeitbehandlung, Filter und das Join-Verhalten. Das Team testet die Abfrage anhand bekannter harmloser administrativer Aktivitäten sowie eines autorisierten Testfalls, der das vermutete Verhalten nachbildet.

Angenommen, die validierte Suche deckt eine Änderung der Zugriffsrechte auf. Der Analyst überprüft den Änderungsdatensatz, den Kontoinhaber, die damit verbundenen Aktivitäten und die Begleitumstände. Eine genehmigte administrative Maßnahme könnte das Ereignis erklären. Eine ungeklärte Änderung in Verbindung mit verdächtigen Aktivitäten könnte eine Eskalation rechtfertigen.

Der abschließende Geheimdienstbericht verknüpft den externen Bericht, die vor Ort gemachten Beobachtungen, die Abfrageversion, die Einschätzung des Analysten und die noch bestehenden Lücken. Etwaige Einschränkungen hinsichtlich der Berichterstattung richten sich nach den Befugnissen der Organisation zur Reaktion auf Vorfälle und den festgelegten Vorgehensanleitungen.

Dieser Arbeitsablauf liefert ein überprüfbares Ergebnis, selbst wenn bei der Suche kein bestätigter Angriff festgestellt wird: eine fundierte Einschätzung, eine dokumentierte Lücke in der Transparenz oder eine getestete Verbesserung der Erkennung.

Risiken und Kontrollmaßnahmen im Bereich der KI-basierten Bedrohungsanalyse

Fehler in den nachrichtendienstlichen Informationen können sich auf Lageberichte, Erkennungslogik und Reaktionsentscheidungen auswirken. Richten Sie Kontrollmechanismen an den Stellen ein, an denen generierte Inhalte als vertrauenswürdig eingestuft werden oder die Möglichkeit erhalten, ein anderes System zu beeinflussen.

Eingebildete Beweise und falsche Gewissheit

Ein Modell kann einen Indikator erfinden, eine Technik dem falschen Akteur zuordnen oder eine Passage zitieren, die seine Behauptung nicht stützt. In den OWASP-Leitlinien zu Fehlinformationen werden erfundene Antworten und ein übermäßiges Vertrauen in Modellausgaben als Risiken für LLM-Anwendungen genannt.

Verlangen Sie Belege für weitreichende Behauptungen und überprüfen Sie, ob diese tatsächlich zu der Schlussfolgerung führen. Lassen Sie den Arbeitsablauf unberührt. Behalten Sie die Unterscheidung zwischen berichteten Fakten, analytischen Urteilen und Empfehlungen bei.

Interpretieren Sie das von einem Modell angegebene Konfidenzniveau nicht als kalibrierte Wahrscheinlichkeit eines Angriffs. Verwenden Sie einen evidenzbasierten Bewertungsprozess und prüfen Sie jedes numerische Bewertungssystem anhand von Ergebnissen, die für den vorgesehenen Verwendungszweck geeignet sind.

Prompt injection und vergiftetes Ausgangsmaterial

Bedrohungsberichte, abgerufene Seiten und andere externe Eingaben können Anweisungen enthalten, die darauf abzielen, einen KI-Assistenten in die Irre zu führen. In den OWASP-Leitlinien zur Prompt-Injection wird erläutert, dass RAG und Fine-Tuning dieses Risiko nicht vollständig mindern.

Behandeln Sie abgerufene Inhalte als zu analysierende Beweismittel und nicht als Anweisungen, die befolgt werden müssen. Schränken Sie den Zugriff auf Tools ein, überprüfen Sie die Ergebnisse außerhalb des Modells und verlangen Sie eine Genehmigung für privilegierte Aktionen. Prüfen Sie, ob böswillige Inhalte die beabsichtigte Aufgabe verändern, vertrauliche Informationen offenlegen oder einen unbefugten Tool-Aufruf auslösen können.

Gefälschte Informationen können auch irreführen, ohne Anweisungen zu geben. Ein erfundener Bericht kann falsche Zusammenhänge suggerieren, die umso überzeugender wirken, je öfter sie von anderen Systemen wiederholt werden. Verfolgen Sie die Herkunft und die Abhängigkeit von Quellen, um zu vermeiden, dass Wiederholungen als Bestätigung gewertet werden.

H3 Vertrauliche Informationen und veraltete Erkenntnisse

Berichte mit Zugriffsbeschränkungen können Angaben zu Opfern, Ermittlungsergebnisse oder Informationen enthalten, die unter bestimmten Bedingungen weitergegeben werden. Stellen Sie sicher, welche KI-Verarbeitungsumgebungen diese Berichte erhalten dürfen, und prüfen Sie die Bestimmungen zu Aufbewahrung, Zugriff, Protokollierung und Wiederverwendung. Eine Freigabekennzeichnung allein reicht nicht aus, um diese Fragen zu klären.

Auch Informationen altern. Die Infrastruktur kann den Eigentümer wechseln, Bewertungen können überarbeitet werden, und alte Indikatoren können ihren operativen Wert verlieren. Legen Sie für jedes Element geeignete Überprüfungstermine fest, bewahren Sie Widerrufe und Korrekturen auf und machen Sie veraltete Datensätze für nachgelagerte Nutzer sichtbar.

Beobachten Sie Änderungen im Modellverhalten und bei den Eingabequellen. Eine zuvor nützliche Eingabeaufforderung oder ein Klassifikator kann nach einer Modellaktualisierung oder einer Änderung der Berichtsformulierung möglicherweise anders funktionieren. Überprüfen Sie den Arbeitsablauf erneut, bevor Sie dessen frühere Ergebnisse als fortdauernde Sicherheit betrachten.

Wie lässt sich KI im Bereich der Bedrohungsanalyse bewerten?

Vergleichen Sie einen KI-gestützten Arbeitsablauf mit dem derzeitigen Prozess bei derselben Art von Arbeit, wobei Sie Material verwenden, das für die Bewertung vorgesehen ist. Bewerten Sie die daraus resultierenden Entscheidungen und den Gesamtaufwand, einschließlich Validierung und Nacharbeit.

In einer Zusammenfassung einer Studie des SANS Technology Institute vom September 2026 wird beschrieben, wie drei kommerzielle LLMs anhand von 10 CTI-Berichten getestet und die Extraktion getrennt von den generierten Suchabfragen bewertet wurden. Die veröffentlichte Zusammenfassung stützt diese Unterscheidung bei der Bewertung; sie legt jedoch keinen universellen Leistungsmaßstab fest.

Genauigkeit und Aufwand getrennt messen

Erstellen Sie einen von Analysten geprüften Referenzsatz, bevor Sie die Ergebnisse vergleichen. Klären Sie Unstimmigkeiten und dokumentieren Sie unsichere Fälle, anstatt davon auszugehen, dass die erste menschliche Antwort vollständig ist. Stellen Sie sicher, dass die Quellversionen, Modelle, Eingabeaufforderungen, Abrufeinstellungen und Testbedingungen reproduzierbar sind.

Die folgende Scorecard stellt einen Vorschlag für einen Bewertungsrahmen dar. Wählen Sie Kennzahlen und Akzeptanzschwellen aus, die den Folgen eines Fehlers im ausgewählten Arbeitsablauf entsprechen.

Definieren Sie die Bewertungseinheit einheitlich. Ein exakter Hash, eine korrekt extrahierte Beziehung und ein vollständiger Bericht sind unterschiedliche Einheiten. Geben Sie die Nennwerte und Fehlertypen an, einschließlich falscher Negativergebnisse, anstatt sich auf einen einzigen kombinierten Genauigkeitswert zu verlassen.

Testen Sie schwierige Fälle, bevor Sie die Automatisierung ausweiten

Berücksichtigen Sie widersprüchliche Berichte, veraltete Indikatoren, mehrdeutige Aliasnamen von Akteuren, entschärfte Zeichenfolgen, harmlose Beispiele, fehlende Telemetriedaten und böswillige Anweisungen, die in das Quellmaterial eingebettet sind. Testen Sie die Inhalte in den Sprachen und Formaten, mit denen das Team tatsächlich arbeitet.

Beginnen Sie mit einer schreibgeschützten Aufgabe wie der quellgebundenen Extraktion oder der Zusammenfassung. Führen Sie die Abfrageerstellung erst dann ein, wenn das Team die Belege zuverlässig überprüfen kann. Fügen Sie die kontrollierte Ausführung erst dann hinzu, wenn Berechtigungen, Validierung, Prüfprotokolle und Rollback-Verfahren definiert sind.

Ein Pilotprojekt sollte eine konkrete Frage beantworten: Hilft dieser Arbeitsablauf den Analysten dabei, fundierte Entscheidungen mit vertretbarem Aufwand und vertretbarer Fehlerquote zu treffen? Wenn die Überprüfung der Quellen mehr kostet als die eingesparten Vorbereitungsarbeiten, sollte die Aufgabe oder Methode überarbeitet werden, bevor der Zugriff ausgeweitet wird.

Achten Sie bei der Bewertung einer Plattform darauf, wie diese Nachweise bereitstellt, Berechtigungen beibehält, Korrekturen verarbeitet und validierte Datensätze exportiert. Weitere Kaufkriterien finden Sie im Leitfaden zu Threat-Intelligence-Tools.

Wo passt „ Vectra AI “ hin?

Externe Informationen helfen den Teams bei der Entscheidung, welche Verhaltensweisen untersucht werden sollen. Lokale Verhaltenshinweise tragen dazu bei, festzustellen, ob entsprechende Aktivitäten in ihren eigenen Identitäten, ihrem Netzwerk und ihren „ cloud “-Umgebungen stattfinden.

Vectra AIDer KI-basierte Sicherheits- und Observability-Ansatz von [Name] ist für diese operative Verbindung von Bedeutung. Der dokumentierte Anwendungsfall zum Thema Identitäten beschreibt die Verhaltensanalyse menschlicher und nicht-menschlicher Identitäten sowie die Korrelation von Identitäten und Netzwerkaktivitäten. Diese Funktionen können Kontext für Untersuchungen liefern, die auf Bedrohungsinformationen basieren; sie sollten anhand der tatsächlichen Telemetriedaten und Arbeitsabläufe des Unternehmens bewertet werden.

Informieren Sie sich über die Erkennung und Eindämmung identitätsbasierter Angriffe, um diesen Zusammenhang zu bewerten. Bringen Sie einen Informationsbedarf, eine repräsentative Suche und die Beweise mit, die ein Analyst Ihrer Meinung nach prüfen sollte.

Um das Produkt zu testen, fordern Sie eine Demo von „ Vectra AI “ an, in der gezeigt wird, wie Ihr Team relevante Verhaltensweisen untersuchen und eine fundierte Entscheidung treffen kann.

Hinweis: Dieser Leitfaden stützt sich auf öffentlich zugängliche Forschungsergebnisse, Normen und Produktdokumentationen. Das Beispiel und der Bewertungsrahmen stellen Vorschläge dar und sind keine Ergebnisse eines Produktvergleichs.

‍