Microsoft erweitert Schutzmechanismen für autonome KI-Agenten

Guardian Agents sollen andere KI-Agenten in Unternehmen kontrollieren. (Source: zVg)

Guardian Agents sollen andere KI-Agenten in Unternehmen kontrollieren. (Source: zVg)

Mit der zunehmenden Verbreitung autonomer KI-Agenten entstehen neue Herausforderungen für die IT-Sicherheit von Unternehmen. Microsoft warnt vor sogenannten "Agentic Insiders": KI-Systemen, die innerhalb eines Unternehmens eigenständig auf Daten, Anwendungen und Werkzeuge zugreifen und dabei unerwünschte Aktionen ausführen können. Um diese Risiken zu begrenzen, erweitert der Konzern seinen Sicherheitsansatz Project Perception.

Laut Microsoft müssen solche KI-Agenten nicht zwangsläufig von Cyberkriminellen kompromittiert werden, um ein Sicherheitsrisiko darzustellen. Auch legitim eingesetzte Systeme könnten Fehler machen, manipuliert werden oder im Verlauf einer Aufgabe von ihrem ursprünglichen Auftrag abweichen. Weil sie teilweise kontinuierlich und mit hoher Geschwindigkeit arbeiten, müssten auch die Schutzmechanismen entsprechend schnell reagieren können.

Project Perception hatte Microsoft bereits im Juli 2026 vorgestellt. Das System nutzt spezialisierte KI-Agenten, um Sicherheitslücken aufzudecken, Bedrohungen zu untersuchen und Schutzmassnahmen zu koordinieren. Nun erweitert der Konzern das Konzept auf die Absicherung autonom handelnder KI-Agenten innerhalb von Unternehmen.

Guardian Agents sollen andere KI-Agenten kontrollieren

Eine zentrale Rolle spielen dabei sogenannte Guardian Agents. Diese spezialisierten Sicherheitsagenten sollen die Aktivitäten anderer KI-Agenten überwachen, Veränderungen der Risikolage untersuchen und bei Bedarf Schutzmassnahmen empfehlen oder ausführen.

Project Perception unterscheidet drei Kategorien solcher Agenten. Rote Agenten simulieren das Vorgehen von Angreifern, um Schwachstellen und mögliche Angriffspfade aufzudecken. Blaue Agenten erkennen und analysieren Bedrohungen. Grüne Agenten unterstützen bei der Behebung von Sicherheitsproblemen und der Verbesserung der Schutzmassnahmen.

Microsoft will diese Funktionen mit sogenannten Playbooks koordinieren. Menschen sollen weiterhin Sicherheitsrichtlinien, Genehmigungsgrenzen und Handlungsbefugnisse festlegen. Die Guardian Agents übernehmen innerhalb dieser Grenzen die kontinuierliche Überwachung und Bearbeitung von Sicherheitsaufgaben.

Berechtigungen sollen sich dynamisch anpassen

Ein weiterer Schwerpunkt liegt auf der Kontrolle der Zugriffsrechte. Microsoft führt dafür das Konzept der Dynamic Permissions ein. Demnach sollen KI-Agenten nicht automatisch sämtliche Berechtigungen des Mitarbeitenden übernehmen, in dessen Auftrag sie handeln.

Stattdessen sollen sie eine eigene Identität erhalten und nur auf jene Ressourcen zugreifen dürfen, die für eine bestimmte Aufgabe erforderlich sind. Die Berechtigungen sollen zeitlich und funktional begrenzt werden können.

Mit Dynamic Agent Risk will Microsoft zudem die Risikolage einzelner KI-Agenten kontinuierlich bewerten. Dafür sollen Signale aus Identitätsmanagement, Datenzugriffen, Endgeräten, Cloud-Umgebungen, Netzwerken und den Laufzeitumgebungen der Agenten zusammengeführt werden.

Erkennt das System verdächtiges Verhalten, sollen über Dynamic Conditional Access automatisch abgestufte Sicherheitsmassnahmen greifen können. Beispielsweise könnte ein Agent weiterhin Daten lesen, aber keine Änderungen mehr vornehmen dürfen. Ebenso könnten Zugriffsrechte eingeschränkt, zusätzliche menschliche Genehmigungen verlangt oder die Ausführung eines Agenten vollständig gestoppt werden.

Eigene Identitäten für KI-Agenten

Mit Microsoft Entra Agent ID will der Konzern KI-Agenten eindeutige Identitäten zuweisen. Damit sollen Unternehmen nachvollziehen können, welche Aktionen ein Agent ausgeführt hat, wem er zugeordnet ist und über welche Berechtigungen er verfügt.

Zudem erweitert Microsoft die Erkennung lokal betriebener KI-Agenten. Nach Angaben des Unternehmens sollen künftig insgesamt 60 Typen solcher Agenten unterstützt werden, darunter Claude Code, OpenAI Codex und Github Copilot.

Die Informationen sollen in einem gemeinsamen Verzeichnis zusammengeführt werden. Project Perception und Microsoft Agent 365 sollen dabei Sicherheitsinformationen und Kontextdaten austauschen.

Project Perception noch in der Vorschauphase

Mit dem erweiterten Sicherheitskonzept reagiert Microsoft auf eine grundlegende Veränderung der Bedrohungslage. Unternehmen müssen künftig nicht mehr nur menschliche Benutzer und herkömmliche Anwendungen absichern, sondern auch KI-Systeme, die eigenständig Entscheidungen treffen und Aktionen ausführen.

Project Perception befindet sich laut Microsoft derzeit in einer eingeschränkten öffentlichen Vorschauphase ("Limited Public Preview"). Der Zugang ist auf ausgewählte Kunden beschränkt, die auf Einladung am Testprogramm teilnehmen können. Die Funktionen können sich bis zur allgemeinen Verfügbarkeit noch ändern.

Mit den Risiken autonomer KI-Systeme befasst sich auch der Netzwoche-Beitrag "Täter und Opfer – die zwei Gesichter der KI-Agenten".