Sicherheit für KI im Unternehmen mit Microsoft Security

Veröffentlicht am 20. Juli 2026 Zuletzt aktualisiert am 11. August 2026

Künstliche Intelligenz hält in Unternehmen rasch Einzug. Während die Geschäftsbereiche Copiloten, Agenten und generative KI-Tools einsetzen, stehen Sicherheitsverantwortliche vor einer entscheidenden Frage: Inwiefern verändert KI die Angriffsfläche grundlegend, und was muss getan werden, um immer einen Schritt voraus zu sein?

Microsoft hat bereits eine umfassende native Abdeckung für KI-Workloads, Copilot-Aktivitäten, KI-Agenten, Shadow AI und Datenschutz geschaffen. Der ION MXDR-Dienst integriert diese Kontrollmechanismen in Workflows zur kontinuierlichen Überwachung, Erkennung und Reaktion.

Wie KI die Angriffsfläche verändert

KI-Workloads, darunter Modelle, Trainingsdaten, Pipelines, Orchestrierungssysteme und zugehörige APIs, schaffen neue Angriffsflächen, die ausgenutzt oder manipuliert werden können, ohne dass der Angreifer jemals einen Benutzerendpunkt berühren muss.

KI-Agenten Sie agieren zunehmend im Auftrag der Benutzer und verfügen dabei oft über delegierte Zugriffsrechte auf Postfächer, Dokumente, Kollaborationsplattformen und Geschäftsanwendungen. Über MCP-Server und andere Integrationen stellen diese Agenten eine direkte Verbindung zu Unternehmensanwendungen und Datenquellen her. Dadurch gewinnt das Identitäts- und Zugriffsmanagement noch mehr an Bedeutung.

Benutzer können versehentlich sensible Daten offenlegen, indem sie diese an zugelassene Tools weitergeben, in nicht genehmigte Dienste einfügen oder mit KI-Agenten interagieren. Dazu gehören beispielsweise Daten, die für die „Retrieval-Augmented Generation“ (RAG) und System-Prompts verwendet werden. KI-Risiken spiegeln weitgehend bestehende Sicherheitsherausforderungen wider, wie Identitätsrisiken, Datenoffenlegung und Fehlkonfigurationen, treten jedoch in neuen Formen auf.

Neue Angriffsvektoren zielen auf Unternehmen ab

Die offensichtlichsten Bedrohungen im Zusammenhang mit KI lassen sich in zwei Kategorien einteilen: Bedrohungen gegen KI-Systeme und Bedrohungen, bei denen KI als Verstärker genutzt wird.

Bedrohungen für KI-Systeme

KI-Workloads führen Bedrohungen auf Anwendungsebene ein, die darauf abzielen, wie Modelle Eingaben verarbeiten. Die direkte wie auch indirekte Prompt-Injektion stellt ein Hauptrisiko dar, da sie Angreifern ermöglicht, das Modellverhalten zu manipulieren. Versuche eines „Model Jailbreak“ nutzen dies zusätzlich aus, indem sie Sicherheitskontrollen umgehen, um schädliche oder unzulässige Ausgaben zu erzeugen.

Zu den weiteren Risiken zählen das „Training Data Poisoning“, bei dem manipulierte Daten versteckte Verzerrungen oder Hintertüren einbringen, sowie der unbefugte Zugriff auf KI-Modelle, bei dem exponierte Endpunkte Angreifern ermöglichen, Modelle abzufragen oder zu replizieren. Zu den neu auftretenden Bedrohungen gehört auch der Diebstahl von Anmeldedaten, bei dem Angreifer KI-Interaktionen nutzen, um Tokens oder sensible Anmeldedaten abzugreifen.

KI-Agenten bergen aufgrund ihrer Autonomie und Systemintegration besondere Risiken. Der Missbrauch delegierter Berechtigungen kann dazu führen, dass Agenten unbeabsichtigte oder unbefugte Aktionen ausführen. Das Risiko steigt erheblich, wenn die Identität eines Agenten kompromittiert wird, wodurch Angreifer mit dessen Berechtigungen agieren können. Angreifer können das Verhalten von Agenten mithilfe sorgfältig ausgearbeiteter Aufforderungen manipulieren, die Entscheidungen subtil beeinflussen. Dies kann zu unsicheren oder böswilligen Handlungen führen, weshalb eine strenge Validierung und Überwachung unerlässlich ist.

KI-Systeme bringen erhebliche Herausforderungen in Bezug auf Daten und Governance mit sich. Sensible Daten können durch Eingabeaufforderungen versehentlich oder absichtlich offengelegt werden, während eine übermäßige Weitergabe von Informationen an generative KI-Tools zur Offenlegung vertraulicher Informationen führen kann.

Der Einsatz nicht genehmigter KI-Tools – auch „Shadow AI“ genannt – erhöht das Risiko zusätzlich, da dadurch Sicherheitskontrollen und Governance-Prozesse umgangen werden. Ohne angemessene Aufsicht könnten Unternehmen den Überblick und die Kontrolle darüber verlieren, wie ihre Daten genutzt und offengelegt werden.

Bedrohungen, bei denen KI als Verstärker eingesetzt wird

Gleichzeitig nutzen Angreifer KI, um schneller voranzukommen. KI-gestützte Aufklärung, die Erstellung umfangreicher Phishing-Inhalte und überzeugendere Social-Engineering-Methoden steigern die Geschwindigkeit und Qualität der Angreiferaktionen. KI senkt den Kosten- und Zeitaufwand für Angriffe erheblich.

Es herrscht jedoch die irrtümliche Annahme, dass sich die Angriffsvektoren bei von Menschen durchgeführten Angriffen und bei “agentenbasierten KI-Cyberangriffen” unterscheiden. KI-gestützte Angriffe nutzen nach wie vor dieselben grundlegenden Schwachstellen aus. Der empfohlene Ansatz zur Abwehr von KI-gestützten Cyberangriffen basiert auf denselben Prinzipien, die auch vor von Menschen ausgehenden Bedrohungen schützen:

Bei der Einführung von KI gelten nach wie vor die grundlegenden Sicherheitsprinzipien

Wie Microsoft mit KI-Bedrohungen umgeht

Microsoft bietet bereits umfassende native Abdeckung in allen wichtigen Bereichen der KI-Risiken, und dies ist die zentrale Botschaft, die Sicherheitsverantwortliche verstehen sollten: Kunden, die in das Microsoft-Sicherheitsökosystem investiert haben, sind bereits besser aufgestellt, als sie vielleicht denken.

In den folgenden Abschnitten wird erläutert, wie die Sicherheitsprodukte von Microsoft dazu beitragen, den Einsatz von KI in Unternehmen sicher zu gestalten.

Microsoft Agent 365

Microsoft Agent 365 erweitert Microsoft Defender, Microsoft Entra ID Protection und Microsoft Purview um eine ganzheitliche Steuerungsebene zur Registrierung und Verwaltung von KI-Agenten. Es führt ein zentralisiertes Lebenszyklusmanagement für Agenten ein, einschließlich Identitätsbereitstellung, Durchsetzung von Richtlinien und Transparenz darüber, wie Agenten mit Unternehmensdaten und -diensten interagieren. Durch die Nutzung der risikobasierten Kontrollen von Entra ID können Unternehmen die Identitäten von Agenten kontinuierlich auf Anzeichen einer Kompromittierung überprüfen, wie beispielsweise ungewöhnliches Anmeldeverhalten oder riskante Token-Nutzung.

Microsoft Defender ergänzt dies durch auf die Aktivitäten der Agenten zugeschnittene Erkennungs- und Reaktionsfunktionen, darunter die Überwachung von Eingabeaufforderungen, der Tool-Nutzung und der im Auftrag der Benutzer durchgeführten Folgeaktionen.

Defender für die Cloud

Microsoft Defender for Cloud – AI Threat Protection konzentriert sich auf die Absicherung generativer KI-Workloadss wie beispielsweise KI-Anwendungen, Agenten und Modelle, die in Azure gehostet werden. Dazu gehören sowohl Azure Direct Models als auch Modelle von Partnern und aus der Community. Zu den erkannten Bedrohungen zählen:

• Datenleck
• Datenverfälschung
• Jailbreak
• Diebstahl von Zugangsdaten

Unter diesem Link finden Sie eine vollständige Übersicht über die Warnmeldungen für „Defender for Cloud AI Threat Protection“: Benachrichtigungen für KI-Dienste – Microsoft Defender für die Cloud

Defender für Cloud-Anwendungen

Microsoft Defender for Cloud Apps unterstützt Unternehmen dabei, die in ihrem Unternehmen eingesetzten KI-Anwendungen zu identifizieren, zu schützen und zu verwalten, wodurch die Ausbreitung von „Shadow AI“ eingedämmt wird. Administratoren können bestimmte, genehmigte KI-Anwendungen zulassen und gleichzeitig den Zugriff auf andere Anwendungen durch detaillierte Richtlinien verhindern. Die Durchsetzung von Richtlinien zur Sperrung des Zugriffs auf eine Anwendung erfolgt über Defender for Endpoint Network Protection.

Defender for Cloud Apps kann Bedrohungen wie sensible Daten in Eingabeaufforderungen und Vervollständigungsvorschlägen erkennen und darauf reagieren. Native Warnmeldungen zu Angriffen durch Eingabeaufforderungs-Injektionen und bösartigen Eingabeaufforderungen, die in SharePoint-Dateien eingebettet sind, lassen sich mithilfe benutzerdefinierter Richtlinien erweitern. Defender for Cloud Apps lässt sich zudem in das CSPM von Defender for Cloud integrieren, um den Sicherheitsstatus von KI-Anwendungen zu bewerten und eine Risikobewertung vorzunehmen (z. B. Compliance-Risiko, rechtliches Risiko, Sicherheitsrisiko).

Defender für Endgeräte

Die Erkennung lokaler KI-Agenten in Microsoft Defender for Endpoint ermöglicht die Erkennung von mehr als 20 unterstützten lokalen KI-Agenten und MCP-Serverkonfigurationen unter Windows und macOS, darunter Programmierassistenten, CLI-Tools, Desktop-KI-Anwendungen und IDE-Erweiterungen. Die Funktion bietet ein zentralisiertes KI-Agenten-Inventar mit Geräte- und Benutzerzuordnungen sowie eine Expositionskarte, die die Beziehungen zwischen Agenten, Geräten, Identitäten und zugänglichen Ressourcen visualisiert. Zudem kann sie nicht autorisierte Programmieragenten blockieren und gleichzeitig detaillierte Warnmeldungen für Sicherheitsuntersuchungen generieren. Für Agenten, die mit Microsoft Copilot Studio erstellt wurden, bietet die Lösung Echtzeitschutz, der Benutzeraufforderungen, Aufrufe vor der Tool-Ausführung und Antworten nach der Tool-Ausführung überwacht. Der Echtzeitschutz kann Bedrohungen wie die folgenden erkennen und darauf reagieren:

• Versuche, Systembefehle oder Details zu internen Tools zu extrahieren oder nach außen zu leiten
• Direkte Versuche, vertrauliche Daten zu veröffentlichen
• Missbrauch von Tools, die ausschließlich für den internen Gebrauch bestimmt sind
• Weiterleitung von Informationen an nicht vertrauenswürdige oder böswillige Ziele
• Verwendung von verschleierten oder versteckten Inhalten zur Manipulation des Agent-Verhaltens
• Die Weitergabe von Anmeldedaten über legitime Kanäle wie E-Mail oder externe APIs
• Prompt-Injection-Angriffe, bei denen versucht wird, Agenten durch eingeschleuste Befehle zu manipulieren, die in Dateien, Tool-Antworten oder Benutzereingaben versteckt sind

Unterstützte Agenten: Lokale Erkennung von KI-Agenten mit Microsoft Defender for Endpoint (Vorschau) – Microsoft Defender for Endpoint

Microsoft Purview

Das „Data Security Posture Management for AI“ überwacht KI-Interaktionen (einschließlich Eingabeaufforderungen und Antworten) in Copilot-Anwendungen, unternehmensinternen KI-Anwendungen und generativen KI-Tools von Drittanbietern.

Bei eigenen Anwendungen wie Copilot können Unternehmen Risiken, die mit deren Interaktionen verbunden sind, proaktiv erkennen und mindern. Mithilfe fortschrittlicher Klassifikatoren auf Basis von maschinellem Lernen kann Microsoft Purview riskante Copilot-Eingabeaufforderungen und -Antworten erkennen, beispielsweise solche, die eine unbefugte Offenlegung sensibler Informationen beinhalten. Purview stellt sicher, dass die Copilot-Antworten die Benutzerberechtigungen und Zugriffskontrollen einhalten.

Für GenAI-Anwendungen von Drittanbietern bietet Microsoft Purview Funktionen, mit denen Benutzer gewarnt oder daran gehindert werden können, sensible Daten in GenAI-Eingabeaufforderungen einzufügen, wodurch das Risiko einer übermäßigen Weitergabe von Daten gemindert wird. Sensitivitätskennzeichnungen verhindern, dass KI-Anwendungen auf geschützte Dateien zugreifen und diese abziehen.

Mit „Adaptive Protection“ in Microsoft Purview können Unternehmen zudem einen dynamischen Ansatz für die KI-Sicherheit verfolgen, indem sie risikoreiche Benutzer proaktiv daran hindern, sensible Daten in eine GenAI-Anwendung eines Drittanbieters einzufügen, während sie dies Benutzern mit geringem Risiko gestatten.

Microsoft Defender XDR

Alle diese Microsoft-Sicherheitsprodukte lassen sich in Defender XDR integrieren, sodass Teams Warnmeldungen aus KI-Workloads, Agenten und Daten in einem einzigen Portal zentralisieren können. Durch die Korrelation von Vorfällen in Defender XDR können Teams das gesamte Ausmaß eines Angriffs nachvollziehen, einschließlich KI-bezogener Aktivitäten. Dieser zentralisierte Ansatz bietet eine ganzheitliche Sicherheitsübersicht, die der Art und Weise entspricht, wie sich moderne Angriffe über Identitäten, Daten und Anwendungen hinweg entfalten. Er ermöglicht es Unternehmen, sich von einer isolierten Überwachung zu lösen und zu einem stärker integrierten Erkennungs- und Reaktionsmodell überzugehen. Letztendlich verbessert dies sowohl die Geschwindigkeit als auch die Effektivität der Reaktion auf Vorfälle in Umgebungen, in denen KI tief in Geschäftsprozesse eingebettet ist.

Optimale Nutzung der Investitionen in Microsoft-Sicherheitslösungen

KI und große Sprachmodelle (LLMs) vergrößern zweifellos die Angriffsfläche. Jailbreaking, Prompt-Injection, übermäßige Datenweitergabe und Shadow-KI sind nur einige Beispiele für neue Angriffsvektoren, die Unternehmen bedrohen. Sie machen jedoch die Grundprinzipien der Cyberabwehr nicht ungültig und lassen Microsoft-Kunden nicht standardmäßig ungeschützt.

Für Unternehmen ist es entscheidend, nicht bei Null anzufangen, sondern das, was sie bereits haben, zu aktivieren und einsatzfähig zu machen. Die folgende Grafik fasst die oben genannten Punkte zusammen und stellt die durch den Einsatz von KI entstehende neue Angriffsfläche den Produkten der Microsoft-Sicherheitssuite gegenüber.

Überblick über KI-Bedrohungen und Microsoft-Sicherheitsprodukte

Unternehmen können den Einsatz von KI getrost vorantreiben, ohne ihre Sicherheitslage zu gefährden, wenn sie die bestehenden Microsoft-Sicherheitsmaßnahmen für KI mit bewährten Grundsätzen wie einem robusten Identitäts- und Zugriffsmanagement, einem ganzheitlichen Patch-Management und einer kontinuierlichen Überwachung in Einklang bringen.

Genau hier liegt der Mehrwert von Ontinue. Durch die Kombination von Microsoft-eigener Transparenz mit 24/7 MXDR, fachkundigen Untersuchungen, Reaktionsmaßnahmen und kontinuierlicher Beratung unterstützt Ontinue seine Kunden dabei, die Leistungsfähigkeit der Plattform in praktische Ausfallsicherheit umzusetzen.