Der Paradigmenwechsel: Vom Schutz der Daten zur Kontrolle der Agenten
Die Unternehmenscybersicherheit hat eine grundlegende Wendung durchlaufen. Traditionell lag der Fokus auf dem Schutz von Daten und der Verhinderung unbefugter Zugriffe durch externe Akteure. Die Verbreitung autonomer Künstlicher-Intelligenz-Systeme hat jedoch eine neue Risikokategorie eingeführt: KI-Agenten, die mit einem gewissen Maß an Autonomie innerhalb der Unternehmensinfrastruktur operieren.
Microsoft hat auf diese Herausforderung mit Project Perception reagiert, einer Sicherheitsarchitektur, die speziell für das KI-Zeitalter konzipiert wurde. Dieses System beschränkt sich nicht auf die Erkennung externer Bedrohungen, sondern definiert den Begriff der 'internen Bedrohung' neu, um KI-Agenten einzubeziehen, die nicht unter der direkten Kontrolle der Entwicklungslabore wie OpenAI oder Anthropic stehen. Die Prämisse ist klar: Ein KI-Agent, der innerhalb des Unternehmensnetzwerks unvorhersehbar oder bösartig handelt, stellt ein Risiko dar, das dem eines bösartigen Mitarbeiters gleichkommt.
Architektur von Project Perception: Wahrnehmung, Schlussfolgerung und Aktion
Project Perception basiert auf einer Multi-Modell-Architektur, die Signale, Kontext, Modelle und spezialisierte Agenten kombiniert. Im Gegensatz zu traditionellen Sicherheitssystemen, die reaktive Warnungen generieren, ist dieses System so konzipiert, dass es Risiken kontinuierlich wahrnimmt, auf der Grundlage großer Kontextmengen schlussfolgert und mit Maschinen-Geschwindigkeit handelt.
Die Methodik der kontinuierlichen Risikobewertung stützt sich auf drei Arten spezialisierter Agenten, die in einem geschlossenen Kreislauf arbeiten. Die 'Red-Team'-Agenten identifizieren mögliche Kompromittierungspfade, bevor ein Angreifer sie ausnutzen kann. Die 'Blue-Team'-Agenten untersuchen, schlussfolgern aus dem Kontext und bestimmen, was ein reales Risiko darstellt. Die 'Green-Team'-Agenten führen Korrekturmaßnahmen durch und stärken die Abwehr. Diese Koordination ermöglicht es, dass ein Befund proaktiv in eine Korrektur übergeht, ohne dass in jedem Schritt eine manuelle Eingriff erforderlich ist.
Rollen der Agenten in Project Perception
Aufteilung der Funktionen zwischen den drei Arten spezialisierter Agenten des Systems.
| Agententyp | Hauptfunktion | Operatives Ziel |
|---|---|---|
| Red Team | Angriffssimulation | Schwachstellen und Kompromittierungspfade identifizieren, bevor der Angreifer es tut. |
| Blue Team | Untersuchung und Analyse | Echte Risiken vom Rauschen unterscheiden und Bedrohungen priorisieren. |
| Green Team | Remediation und Stärkung | Automatische Korrekturen durchführen und die Abwehrmaßnahmen stärken. |
Integration in Microsoft 365 E7: Spezifische Kontrollen
Die Implementierung von Project Perception ist eng mit der Microsoft 365 E7-Suite integriert, die spezifische Tools zur Verwaltung des KI-Agenten-Risikos enthält. Das System nutzt das Microsoft Security Dashboard für KI, das einen einheitlichen Echtzeit-Überblick über die Sicherheitslage der KI-Assets bietet, einschließlich Agenten von Microsoft Copilot Studio, Anwendungen von Microsoft Foundry und Agenten von Drittanbietern.
Zu den spezifischen Tools gehört die Fähigkeit, bösartige oder außer Kontrolle geratene Agenten zu erkennen und zu enthalten. Microsoft Defender erweitert seine Abdeckung, um die Aktivität der Agenten zu überwachen, während Microsoft Purview die Datenerfassung und die Verhinderung des Verlusts vertraulicher Informationen über KI verwaltet. Darüber hinaus wurden Kontrollen aktiviert, um die unbefugte Nutzung von KI-Anwendungen (Shadow AI) zu verhindern und Datenlecks aus Unternehmensbrowsern zu vermeiden.
Ablauf der Risikobewertung eines KI-Agenten
Schritt-für-Schritt-Prozess, wie das System das Risiko eines KI-Agenten in Echtzeit bewertet und mindert.
- 01Erkennung: Das System identifiziert den KI-Agenten im Inventar der KI-Assets.
- 02Kontextualisierung: Signale zur Identität, zu Daten und zum Verhalten des Agenten werden gesammelt.
- 03Bewertung: Die Blue-Team-Agenten analysieren das Verhalten, um festzustellen, ob es anomalous oder bösartig ist.
- 04Entscheidung: Die Aktion wird basierend auf dem Risikograd und der potenziellen Auswirkung priorisiert.
- 05Aktion: Die Green-Team-Agenten führen die erforderliche Eindämmung oder Remediation durch.
Auswirkungen auf den Einsatz von Agenten von Drittanbietern
Für Unternehmen, die KI-Agenten von Drittanbietern wie OpenAI oder Anthropic einsetzen, führt Project Perception zu einem neuen Maß an Prüfung. Microsoft betont, dass Frontier-Modelle nicht absolut vertrauenswürdig sind, weshalb es unerlässlich ist, die von Mitarbeitern verwendeten Agenten genau zu überwachen.
Dies bedeutet, dass Organisationen diese Agenten als Identitäten erster Klasse behandeln müssen, indem sie ihnen eindeutige Anmeldedaten zuweisen und das Prinzip der geringsten Berechtigung anwenden. Die Governance von Identitäten und der Zugriff mit geringster Berechtigung sind entscheidend, um den Umfang der Agenten einzuschränken und Missbrauch oder Angriffe zu verhindern. Darüber hinaus wird empfohlen, kontinuierliche Tests auf Prompt-Injection und Jailbreaks durchzuführen, um Schwachstellen vor den Angreifern zu erkennen.
Die Zukunft der Agenten-Governance in der Unternehmenscloud
Der Launch von Project Perception markiert einen Meilenstein in der Entwicklung der Unternehmenssicherheit. Die Governance von Agenten in der Unternehmenscloud beschränkt sich nicht mehr auf die Konfiguration von Berechtigungen, sondern umfasst eine kontinuierliche Überwachung des autonomen Verhaltens von KI-Systemen.
Microsoft besteht darauf, dass die Kontrolle in den Händen der Sicherheitsteams bleibt. Organisationen müssen definieren, welche Aktionen autonom ausgeführt werden können, welche eine menschliche Genehmigung erfordern und wie jede Entscheidung auditiert wird. Dieser hybride Ansatz, der die Geschwindigkeit der Maschine mit menschlichem Urteilsvermögen kombiniert, wird entscheidend sein, um Innovation und Sicherheit im KI-Zeitalter in Einklang zu bringen.
Offene Fragen
- Die spezifischen Metriken, die Project Perception zur Quantifizierung des Risikos eines KI-Agenten verwendet, wurden nicht im Detail beschrieben.
- Es wurde nicht spezifiziert, wie sich die Bewertung eines KI-Agenten technisch von der eines menschlichen Benutzers in Microsoft 365 E7 unterscheidet.
- Die genauen automatischen Aktionen, die das System bei der Erkennung eines KI-Agenten mit anomalem Verhalten ausführen kann, wurden abgesehen von der allgemeinen Remediation nicht definiert.
Weiter entdecken
Verwendete Quellen
Korrekturen und Transparenz
Wenn du falsche oder veraltete Angaben findest, sende uns die Seite und die zu prüfende Quelle.
Korrektur vorschlagen