In vielen Tenants, die ich betreue, ist die Sorge vor Datenabfluss über KI-Tools spätestens mit Microsoft 365 Copilot und anderen generativen Diensten spürbar gewachsen. Für klassische Szenarien wie Datenexporte oder auffälliges Teilen genügten die bisherigen Mechanismen von Insider Risk Management in Microsoft Purview, bei KI hatte man dagegen oft keinen Einblick. Seit einigen Monaten gibt es eine eigene Richtlinienvorlage für riskante KI-Nutzung, die diese Lücke schließt. Im Folgenden beschreibe ich aus der Praxis, wie sie arbeitet, worauf Sie bei der Einrichtung achten sollten und wie Sie Alerts vernünftig bewerten.

Die Vorlage erfasst sensible Prompts und riskante KI-Antworten

Die Richtlinienvorlage „Riskante KI-Nutzung“ im Purview-Portal ist auf die besonderen Risiken generativer KI zugeschnitten. Sie schlägt an, wenn Nutzende sensible Informationen wie Kundendaten, vertrauliche Projektdetails oder personenbezogene Angaben in Copilot oder eine andere Unternehmens-KI eingeben. Ebenso meldet sie riskante KI-Antworten, etwa wenn Copilot sensible Inhalte ausgibt oder beim Exfiltrieren von Daten hilft. Sie finden die Vorlage unter Insider Risk Management → Richtlinien → Neue Richtlinie → Riskante KI-Nutzung. Laut der aktuellen Ankündigung überwacht sie Aktivitäten in Microsoft 365 Copilot ebenso wie in anderen angebundenen KI-Anwendungen.

Als Einstieg eignet sich die Übersicht der Richtlinienvorlagen für Insider Risk Management. Die Vorlage enthält bereits vordefinierte Indikatoren für riskante Prompts und Antworten. Welche davon aktiv sind und ab welchem Schwellenwert sie auslösen, können Sie sehr fein einstellen (mehr dazu unter Richtlinienindikatoren in Purview).

Ohne Auditprotokoll und KI-Indikatoren bleibt die Richtlinie wirkungslos

Bevor Sie die Richtlinie anlegen, sollten einige Voraussetzungen erfüllt sein, sonst läuft sie ins Leere. Das Microsoft-Purview-Auditprotokoll muss aktiv sein, idealerweise mit maximaler Aufbewahrung, damit sich auch ältere KI-Interaktionen noch auswerten lassen. Außerdem müssen in Insider Risk Management die erweiterten Analysen und die Indikatoren für KI-Aktivitäten eingeschaltet sein (Purview-Portal → Insider Risk Management → Einstellungen). Wer Alerts bis in die Untersuchung hinein verfolgen will, sollte zusätzlich über die Integration mit Defender XDR nachdenken. Relevante Vorfälle landen dann direkt im zentralen Security-Workflow.

So sieht der übliche Einstieg aus:

  • Purview-Portal → Insider Risk Management → Richtlinien → Neue Richtlinie
  • Vorlage „Riskante KI-Nutzung“ auswählen
  • Zielgruppen, Schwellenwerte und Eskalationswege festlegen
  • Richtlinie aktivieren und testen

Ohne passende Berechtigungen (mindestens Purview Compliance Manager oder eine Insider-Risk-Management-Rolle) kommen Sie hier nicht weiter. Wie sich DLP und KI verzahnen lassen, habe ich in meinem Beitrag zu DSPM für AI in Purview beschrieben.

Pseudonymisierung und Betriebsrat entscheiden über die Akzeptanz

Wer KI-Nutzung überwacht, kann den Datenschutz nicht als Nebensache behandeln, denn häufig hängt davon ab, ob der Betriebsrat zustimmt. Microsoft arbeitet in Insider Risk Management mit Pseudonymisierung. Im normalen Ablauf bleibt verborgen, wer eine Aktivität ausgelöst hat; die Identität wird erst nach einer Eskalation und nur im Vier-Augen-Prinzip sichtbar. Ohne diesen Mechanismus wären die Vorgaben der DSGVO und die deutschen Mitbestimmungsrechte kaum einzuhalten. Stimmen Sie die Richtlinie deshalb mit dem Betriebsrat ab, dokumentieren Sie sie und legen Sie offen, wer welche Daten wann und auf welche Weise einsehen kann. Purview lässt Ihnen dabei viel Spielraum, zum Beispiel bei Schwellenwerten, Eskalationswegen und der Auditprotokollierung.

Ein dreistufiges Triage-Verfahren trennt Versehen von echtem Risiko

Ich beobachte regelmäßig, dass Alerts zur riskanten KI-Nutzung anfangs mit Skepsis aufgenommen werden. Vieles wirkt zunächst harmlos, einiges ist aber tatsächlich kritisch. Hinter einem Alert steckt längst nicht immer absichtlicher Missbrauch. Oft landen personenbezogene Daten schlicht aus Versehen im Prompt, weil Nutzende die Folgen nicht abschätzen können. Umso wichtiger ist ein geordnetes Triage-Verfahren, das jeden Alert nach Relevanz und Kontext einordnet.

In der Praxis hat sich eine Einteilung in drei Stufen bewährt:

  1. Klar harmlos (z. B. Testdaten, Blindtext)
  2. Unklar/zu prüfen (z. B. Kundennamen, die im Kontext aber harmlos sind)
  3. Eindeutig kritisch (z. B. Geschäftsgeheimnisse, personenbezogene Daten mit Exfiltrationsversuch)

Mit einem brauchbaren Alert-Management-Tool können Sie für diese Einstufung eigene Workflows hinterlegen und Maßnahmen direkt zuweisen. In vielen Tenants lohnt es sich, die Alerts in festen Abständen gemeinsam mit dem SOC oder dem Datenschutzteam durchzugehen und die Bewertung bei Bedarf nachzujustieren.

Ein Mermaid-Diagramm zeigt den typischen Ablauf eines Alerts

Bevor ein Fall im Incident Management landet, sollte klar sein, welchen Weg er vom ersten Alert bis zur möglichen Eskalation nimmt. Das folgende Mermaid-Diagramm stellt diesen Ablauf für einen Alert aus der Richtlinie für riskante KI-Nutzung dar:

flowchart TD
  KI_Event["Riskante KI-Aktion erkannt"] --> Alert["Insider Risk Alert erstellt"]
  Alert --> Pseudonym["Pseudonymisierung aktiv"]
  Pseudonym --> Triage["Triage durch Risikoteam"]
  Triage -->|Harmlos| End1["Keine Aktion"]
  Triage -->|Kritisch| Eskalation["Identität aufgedeckt (Vier-Augen)"]
  Eskalation --> Incident["Incident Management"]

Abbildung: Ablauf vom KI-Alert bis zur Eskalation in Insider Risk Management.

KI-Überwachung braucht einen Plan und keinen Alarmismus

Mit der Richtlinie für riskante KI-Nutzung lassen sich die neuen Insider-Risiken ernsthaft angehen, ohne jede KI-Aktion unter Generalverdacht zu stellen. Es kommt darauf an, die Richtlinie sauber einzurichten, sie mit dem Betriebsrat abzustimmen und Alerts mit Augenmaß zu bewerten. Nach meiner Erfahrung bilden DLP, DSPM und Insider Risk Management zusammen inzwischen ein belastbares Netz. Das gilt besonders für Fälle wie ausscheidende Mitarbeitende, die KI immer häufiger als „Exportwerkzeug“ für sich entdecken.

Tipp: Stellen Sie sicher, dass das Auditprotokoll mindestens 90 Tage aufbewahrt wird. Sonst fehlen Ihnen im Ernstfall genau die Hinweise auf riskante KI-Prompts oder -Antworten, auf die es ankommt.

Wer den Prozess früh erprobt, Schwellenwerte realistisch wählt und die vielen Alerts mit gesundem Menschenverstand einordnet, bringt Sicherheit und Arbeitsfähigkeit in ein vernünftiges Gleichgewicht.