Bedrohungs-Briefing: Einblick in den GenAI-Angriffslebenszyklus

In dieser Folge von „Threat Briefing“ befassen wir uns eingehend mit den realen Taktiken, die Angreifer einsetzen, um generative KI-Systeme auszunutzen. Der Sicherheitsforscher Alex Groyz erläutert uns, wie Angreifer cloud LLM-Infrastrukturen aktiv missbrauchen – von ungeschützten Inferenz-Endpunkten und „Shadow AI“ bis hin zu prompt injection, Jailbreaks und inferenzgesteuerter Datenexfiltration. Wir untersuchen, wie sich das MITRE ATLAS-Framework auf diese Angriffe anwenden lässt, und diskutieren, wie Verteidiger es nutzen können, um feindliches Verhalten zu simulieren, Erkennungen zu validieren und GenAI über den gesamten Lebenszyklus hinweg zu sichern.