Die wichtigsten Fragen, die Sicherheitsteams zu Copilot für M365 stellen

27. Juni 2024
Vectra AI Produkt-Team
Die wichtigsten Fragen, die Sicherheitsteams zu Copilot für M365 stellen

Wie viele KI-basierte digitale Tools verspricht auch Copilot für Microsoft 365 (M365) Unternehmen neue Möglichkeiten zur Steigerung von Produktivität, Genauigkeit und Effizienz mit ihrer Microsoft-Produktsuite.

Nehmen wir an, Sie gehören zu den Unternehmen, die Copilot für M365 seit seiner Einführung am 1. November 2023 eingeführt haben. In diesem Fall können Sie wahrscheinlich bereits eine höhere Produktivität Ihrer Mitarbeiter bei ihren Microsoft-Tools und -Workflows feststellen.

Leider hat Copilot für M365 ein großes Potenzial, gegen die Cyberabwehr Ihres Unternehmens eingesetzt zu werden, und zwar auf eine Weise, die Sie nicht ignorieren können. Nach nur neun Monaten auf dem Markt beobachten Unternehmen bereits, dass Angreifer Copilot mit "Living-off-the-Land"-Techniken missbrauchen und Angreifern einen tiefen, beschleunigten Zugang zu Unternehmensnetzwerken und wichtigen Daten verschaffen.

Auf Vectra AI sehen wir, dass etwa 40 % der Unternehmen, die sich bei der Überwachung ihrer Identitäten auf uns verlassen, Copilot M365 nutzen. Wir werden auch mit Fragen von Kunden und Kollegen überschwemmt, die sich sowohl auf den vollen Funktionsumfang von Copilot als auch auf die Bedrohungen beziehen, die es für die Unternehmenssicherheit darstellt. Dieser Beitrag befasst sich mit diesen und anderen Fragen, die uns von Sicherheitsteams gestellt werden, sowie mit der Frage, wie man Angriffe, die auf Copilot basieren, auf Anhieb erkennen und stoppen kann.  

Lassen Sie uns das in 5 große Fragen aufschlüsseln...

1. Was ist Copilot für Microsoft 365?

Auf einer hohen Ebene ist Copilot für Microsoft 365 eine KI-Erweiterung für die gesamte Suite von Microsoft-Anwendungen. Es handelt sich um einen von Microsoft entwickelten Chatbot, der generative KI und LLM für verbesserte Funktionen innerhalb der Microsoft Office-Suite von Produktivitätswerkzeugen kombiniert. Er ermöglicht Ihnen den Zugriff auf Informationen aus allen Microsoft-Oberflächen, wie Word, Sharepoint, Teams, E-Mail usw., über eine einzige Chat-Oberfläche, mit der Sie sich unterhalten und Fragen stellen können. Es automatisiert auch alltägliche Aufgaben und bietet nützliche Einblicke in die Betriebsabläufe und Datenanalysen zur Rationalisierung der Arbeitsabläufe.

Nebenbei bemerkt: Es gibt verschiedene Copilot-Produkte innerhalb des Microsoft-Portfolios, z. B. Copilot für Sicherheit, das eine andere Nutzungsebene und andere Funktionen hat als Copilot für M365, das für Standardunternehmen verwendet wird und auf das wir uns in diesem Beitrag konzentrieren. Beide Copilot-Produkte verfolgen ähnliche Ziele, um die Geschwindigkeit, Genauigkeit und Produktivität zu erhöhen.

2. Was sind die aktuellen Möglichkeiten von Copilot für M365?

Copilot für M365 bietet eine einheitliche Suchfunktion für alle Dokumente in den verschiedenen Microsoft-Lösungssuiten. Es nutzt seine Gen-AI-gesteuerte Reichweite und Leistung, um Ihre Produktivität in Outlook, Sharepoint, OneDrive, Excel, Fourpoint, Word, E-Mail, Teams usw. mit einigen sehr nützlichen Funktionen zu verbessern, wie z. B.:

  • Schnelle Dokument- und Deckgenerierung durch Nutzung von Chat zur Erstellung neuer oder Verwendung vorhandener Formate
  • Einblicke in die Struktur, den Inhalt, den Datenfluss, die Diagramme und die Tabellenkalkulationen von Dokumenten
  • Schnelles Erkennen von Daten in einer Anwendung, die in einer anderen Anwendung anwendbar sind
  • Kontextualisierung von Daten und Zusammenfassung von Inhalten in E-Mails

Unsere Untersuchungen haben jedoch ergeben, dass Angreifer, sobald sie ein Copilot-aktiviertes Benutzerkonto kompromittiert und auf die Chatbot-Benutzeroberfläche zugegriffen haben, genau diese Funktionen in hohem Maße zu ihrem Vorteil nutzen können. Sehen Sie sich das folgende Video an, um mehr über dieses Thema zu erfahren.

Was kann ein Angreifer also mit Copilot für M365 tun? 

Sobald ein Copilot-aktiviertes Konto kompromittiert wurde, kann der Angreifer alle verbundenen Oberflächen gleichzeitig durchsuchen, anstatt jede einzelne durchsuchen zu müssen. Auf diese Weise kann sich ein Angreifer schnell Zugang zu Anmeldeinformationen verschaffen, um sich mithilfe von Live-Off-the-Land-Techniken mit der Geschwindigkeit von KI seitlich durch Ihre Umgebung zu bewegen. Kurz gesagt, Angreifer können einen Gen-AI-gesteuerten Angriff starten, indem sie die Leistung von KI auf Unternehmensebene gegen das Unternehmen selbst einsetzen.

Nehmen wir an, der Angreifer hat eine Suche nach Schlüsselwörtern wie "Akquisition" oder "sensibel" ausgelöst. Der Copilot für M365 durchsucht die gesamte Microsoft-Suite von Tools und Lösungen nach diesen Schlüsselwörtern und gibt alle E-Mails und Dokumente mit diesen Schlüsselwörtern im Namen zurück. Bei einigen Anwendungen wie Doc, Fourpoint und Textfile werden auch die Dokumente selbst nach den Schlüsselwörtern durchsucht, so dass der Copilot für diese speziellen Dokumenttypen kontextabhängig ist. Handelt es sich bei dem Dokument jedoch um eine PDF-Datei oder eine Tabellenkalkulation, sucht Copilot für M365 nicht in diesen Dokumenttypen. 

Wenn ein Angreifer beispielsweise nach "SSNs" (Social Security Numbers) sucht und SSNs in Dokumenten enthalten sind, aber nicht Teil des Namens der Dokumente sind, teilt Copilot für M365 dem Angreifer mit, dass ein Dokument mit einer SSN darin gefunden wurde. Diese Fähigkeit ist nicht neu; eine Sharepoint-Suche würde das gleiche Ergebnis liefern. Der Unterschied besteht darin, dass die Sharepoint-Suche automatisch in die einheitliche Suchfunktion von Copilot für M365 einbezogen wird, die alle Microsoft-Oberflächen abdeckt, was den Angriff beschleunigt.

Aber es gibt auch Nuancen bei den Fähigkeiten von Copilot für M365 in diesem Bereich... 

Speziell bei E-Mails untersucht Copilot für M365 nur die Betreffzeile, nicht den Text oder Anhänge, ist also nicht so leistungsstark wie die Suchfunktion, die bereits in Ihrem Postfach vorhanden ist. Copilot für M365 kann auch keine E-Mails öffnen, die Schlüsselwörter enthalten, Links erstellen oder irgendwelche Aktionen in Bezug auf ein E-Mail-Dokument durchführen, aber es zeigt auf ein Dokument und gibt Anweisungen, wie diese Aktionen durchzuführen sind.

Für Teams bietet Copilot für M365 einen direkten Zugriff auf den Chat, mit einer Schnittstellenverbindung zum Chat, in dem Unterhaltungen mit den Schlüsselwörtern gefunden werden. Diese Funktion ist schnell und funktioniert sehr gut.

Für OneNote behauptet Microsoft, dass Sie Copilot für M365 nach Schlüsselwörtern durchsuchen können, aber wir haben diese Funktion nicht gefunden und auch keine Ergebnisse aus OneNote erhalten, die von Copilot zurückgegeben wurden, die Microsoft behauptet, dass sie zur Verfügung gestellt werden, so dass wir glauben, dass die Funktion in diesem Bereich begrenzt ist.

Copilot für M365 kann jedoch Dokumente herunterladen oder einen Link erstellen, um das Dokument extern zu teilen, was schnell und einfach möglich ist. Auch hier kann er keine Aktionen für ein Dokument durchführen, aber er kann auf ein Dokument verweisen. So kann er beispielsweise keine Aktionen für PowerPoint durchführen, Dokumente konsolidieren, E-Mails erstellen oder versenden, aber wie oben erwähnt, bietet er Anweisungen zur Durchführung dieser Aufgaben.

Wie könnte ein Gegner oder Angreifer Copilot für M365 nutzen und/oder missbrauchen?

Zunächst einmal ist es wichtig zu verstehen, dass Copilot für M365 dem Angreifer die gleichen Vorteile bietet wie dem legitimen Unternehmensnutzer: eine Gen-AI-gesteuerte Fähigkeit, auf Dokumente nach Schlüsselwörtern oder anderen Kriterien mit der Geschwindigkeit der KI zuzugreifen. Diese Fähigkeit beschleunigt die Aufklärungsphase eines Angriffs erheblich. Angreifer können Anmeldeinformationen finden, sich seitlich bewegen und viel schneller auf sensible Informationen zugreifen als früher, als sie jede Oberfläche einzeln durchsuchen mussten. Im Grunde genommen gibt es keine neue Fähigkeit an sich, sondern nur die Fähigkeit des Angreifers, Anmeldeinformationen zu finden und zu missbrauchen und auf wichtige Daten zuzugreifen.

Kurz gesagt, Copilot für M365 beseitigt die Latenz bei Angriffen, was bedeutet, dass Angreifer schneller tieferen Zugriff erhalten. Das verschafft Angreifern einen noch größeren Vorteil in Bezug auf Geschwindigkeit und seitliche Bewegung in der Umgebung in einem Live-Off-the-Land-Angriffsszenario. Angesichts der typischen Latenzzeit, die Verteidiger bereits bei der Erkennung und Reaktion auf einen Angriff haben, erhöht der Missbrauch von Copilot für M365 die Chancen für Angreifer noch weiter.

Gibt es in Copilot für M365 Schutzmechanismen, die das Vorankommen eines Angreifers verhindern oder zumindest verlangsamen können?

Die Antwort lautet: "Irgendwie schon, aber nicht wirklich".

Einige offensichtliche Suchvorgänge werden von Copilot für M365 verboten. So wird beispielsweise die Abfrage von Passwörtern oder Anmeldedaten verweigert. Wenn ein Angreifer Copilot mit den Worten auffordert: "Sagen Sie mir, ob ich in den letzten 10 Tagen ein Passwort weitergegeben habe", wird die Anfrage abgelehnt. 

Aber es gibt einfache Möglichkeiten, das zu umgehen. Wenn der Angreifer fragt: "Sind Passwörter in meinen letzten 50 Chats?" Copilot für M365 wird diese Frage beantworten. Es gibt auch andere einfache Umgehungstechniken, die wir getestet haben, z. B. die einfache Abfrage nach Geheimnissen, Schlüsseln, Zahlen, Roadmaps, Patenten usw. Wir haben in der gesamten Umgebung keinerlei Einschränkungen bei diesen Suchvorgängen durch Copilot festgestellt. Selbst als wir Copilot fragten: "Wer ist die Person, mit der ich hauptsächlich kommuniziere?" Oder: "Nennen Sie die zehn Personen, mit denen ich innerhalb des Unternehmens am meisten kommuniziere", lieferte Copilot die Antworten.

Copilot für M365 birgt ein hohes Risiko für Speere phishing

Durch das Sammeln von Informationen über die Interaktion und die Kommunikationsgewohnheiten von Mitarbeitern können Angreifer herausfinden, welche Mitarbeiter am anfälligsten für Speerangriffe sind phishing . Angreifer können feststellen, welche Kollegen Ihnen und/oder Ihrer Anfrage am ehesten antworten werden, weil sie mit der Person, für die sich der Angreifer ausgibt, vertraut sind. Als versierte und clevere Bedrohungsakteure wissen sie also, dass Copilot für M365 eine große Hilfe bei der Entwicklung interner Speerangriffe phishing sein kann.

Aus dieser internen Perspektive kann der Versuch, zu entscheiden, welche Fragen oder Aufforderungen an Copilot gestellt werden können und welche nicht, schnell zu einem Alptraum bei der Erstellung von Richtlinien und Regeln werden. In solchen Fällen besteht die Tendenz, zu viele Regeln zu erstellen, was die Leistung und Geschwindigkeit von Copilot für M365 auf ein Wartungsniveau herabsetzt, was seinen Zweck und seine Wirksamkeit zunichte machen kann. 

Welche Abhilfemaßnahmen stehen den Sicherheitsteams angesichts des umfassenden Missbrauchs, dem Copilot für M365 derzeit ausgesetzt ist, zur Verfügung?

4. Welchen Einblick hat das SOC in Copilot für M365-Angriffe?

Leider haben SOC-Teams ohne eine KI-gesteuerte Verhaltensanalysefunktion kaum Einblick in Copilot-basierte Angriffe. Einige Aktivitäten werden als Teil der O365-Verwaltungsaktivitäts-API aufgezeichnet, und für jede Copilot-Interaktion wird ein Ereignis im Audit-Protokoll der Microsoft 365-Verwaltungsaktivitäts-API erstellt, aber diese Informationen sind begrenzt. Sie können die IP-Adresse des Anfragenden, den Benutzernamen des Anfragenden und die Uhrzeit der Anfrage sehen, und nur bei Sharepoint erhalten Sie den Standort der zurückgegebenen Ressourcen. Das war's.

Wenn Sie z. B. Copilot bitten, Ihnen mitzuteilen, wo Sie Anmeldeinformationen in Teams, E-Mail und Sharepoint finden können, werden weder Teams noch E-Mail liefern, was zurückgegeben wurde, nur Sharepoint wird diese Information in den Protokollen haben. Das ist die grundlegende Ebene der Transparenz, die SOC-Teams haben. Sie wissen, dass jemand eine Interaktion hatte, aber Sie wissen nicht, was gefragt wurde, sondern nur, was mit Sharepoint zurückgegeben wurde, was natürlich ein großes Problem darstellt.

Aus Sicht eines SOC-Teams ermöglicht diese Sicherheitseinschränkung den Angreifern eine noch schnellere Erkundung als zuvor, mit kompromittierten Identitäten und erweiterten Rechten, die es ihnen ermöglichen, schnell an die sensiblen Daten zu gelangen, hinter denen sie her sind. Kurz gesagt, Copilot beschleunigt den gesamten Angriffsprozess enorm.

5. Wie stoppt die KI-gesteuerte Verhaltensanalyse von Vectra Copilot-gestützte KI-gesteuerte Angriffe?

Sobald ein Angreifer Ihren Copilot für M365 auf Unternehmensebene mit KI-Techniken gegen Sie einsetzt, hat Ihr SOC-Team ohne eine KI-gesteuerte Erkennungs- und Reaktionsfähigkeit kaum eine Chance, den Einbruch zu entdecken, geschweige denn ihn zu verhindern.  

Der Grund dafür ist einfach, aber einleuchtend. Sie können die Eingabeaufforderung jedes Benutzers in Copliot für M365 suchen und herausfinden, und wenn jemand etwas anfordert, das er nicht haben sollte, sind die Informationen dort enthalten. Das Problem ist, dass die Informationen nicht im Protokoll, sondern in der Mailbox des Benutzers gespeichert sind. Sie können E-Discovery verwenden, um Informationen aus der Benutzer-Mailbox zu extrahieren, aber das ist mühsam und zeitaufwändig, was die Untersuchung eines potenziellen Verstoßes zu einem langsamen und arbeitsintensiven Prozess macht, der Ihren Erkennungs- und Reaktionsprozess noch weiter verzögert.

Die beste und wahrscheinlich einzige Möglichkeit, Ihr Unternehmen gegen die Geschwindigkeit eines Gen-KI-gesteuerten Angriffs in Copilot für M365 zu verteidigen, besteht darin, diesen KI-gesteuerten Angriff mit der Geschwindigkeit der KI-gesteuerten Verhaltensanalyse zu kombinieren. Glücklicherweise lebt Vectra AI ausschließlich im KI-Universum. Im obigen Podcast-Video können Sie sehen, wie unsere KI-gesteuerte Verhaltensanalyse Ihr Team in die Lage versetzt, KI-gesteuerte Angriffe in Echtzeit zu erkennen und sie in Echtzeit zu stoppen, bevor Schaden entsteht.

Sie können auch sehen, wie ein Szenario aussieht, in dem die Vectra AI Plattform eingesetzt wird, sobald ein Angreifer Zugang zu Ihrem Copilot für M365-Konto erhalten hat. Sie werden sehen, wie Copilot im Unternehmen gegen das Unternehmen eingesetzt wird, mit Suchvorgängen nach sensiblen Daten, geheimen Passwörtern und anderen Informationen, die auf einen Versuch hindeuten, tiefer in das Unternehmen einzudringen und Persistenz einzuführen. Die Plattform Vectra AI ermöglicht es Ihnen, einen Angriff schnell zu sehen und zu erkennen und mit entscheidenden Maßnahmen darauf zu reagieren, z. B. das kompromittierte Konto und die Identitätsbedrohung zu sperren, unabhängig davon, wo es sich befindet, cloud, im Netzwerk oder wo auch immer.

Mit unserer Discover-Funktion, die wir vor kurzem aktualisiert haben, können Sie sehen, wer Copilot nutzt, noch bevor der Nutzer kompromittiert wird. So können Sie das normale Verhalten Ihrer Copilot-Benutzer erkennen, wer die häufigsten Benutzer sind und mit welchen Daten sie typischerweise interagieren. All diese Faktoren bieten Ihnen ein klares Verständnis der Copilot-Oberfläche, so dass Sie in der Lage sind, jede Identität zu erkennen, die einer Bedrohung ausgesetzt ist, eine missbrauchte Identität schnell zu erkennen, so dass Sie den Angriff in Echtzeit sehen, und dann den Angriff zu stoppen, bevor ein Schaden entsteht.

Darüber hinaus können Sie dank der einzigartigen Leistung von Vectra AI den gesamten Aktivitätsumfang jeder Identität sehen, unabhängig davon, wo sie sich befindet, ob sie sich auf Copilot, Azure AD oder AWS befindet. Wo auch immer sich eine Identität befindet oder was sie tut, die Vectra AI Plattform sieht alles. Sie analysiert das Identitätsverhalten, identifiziert potenziell anomale Aktionen und setzt klare Prioritäten für die dringendsten potenziellen Bedrohungen. Aus unserer Sicht ist Copilot nur ein weiterer Bereich, in dem Angreifer versuchen werden, sich Zugang zu Ihren kritischen Daten zu verschaffen. Letztendlich handelt es sich also nur um eine weitere Art von Identitätsaktivitäten, auf die Sie mit Vectra AI schnell und effektiv reagieren können.

Diese Art der Identitätsverteidigung zeigt deutlich die Notwendigkeit und die hochwertige Funktionalität der drei Säulen von Vectra für Erkennung und Reaktion, nämlich Abdeckung, Klarheit und Kontrolle.

Was die Funktionalität der Abdeckung betrifft, so identifiziert die KI-gesteuerte Erkennung verdächtige Zugriffe auf Copilot sowie die Entdeckung von Daten und Jailbreak-Versuchen. In Bezug auf Identität und verdächtige Verhaltensweisen bietet Vectra AI Ihrem SOC-Team eine unübertroffene Abdeckung.

Was die Klarheit betrifft, oder wie wir es nennen Attack Signal Intelligenceist die gesamte Abdeckung sauber in die Vectra AI Plattform integriert, was die Identität und Priorisierung betrifft. KI-gesteuerte Priorisierung und Filterung von gutartigem Verhalten sind in dieser Funktion enthalten, so dass Ihr Team genau weiß, worauf es sich bei seiner Reaktion konzentrieren muss.

Zur Kontrolle prüft die Plattform die Copilot-Nutzung und nutzt dann eine integrierte Reaktions- und Sperrfunktion sowie eine Metadatenuntersuchung, damit Sie auf die dringendste Bedrohung so schnell wie möglich angemessen reagieren können.

Um Ihr Unternehmen vor Copilot-Missbrauch und Identitätsangriffen zu schützen, besuchen Sie Vectra.ai oder WATCH THE DEMO.

Häufig gestellte Fragen