KI-Agent von Meta löst kritischen Sicherheitsvorfall aus

(Source: InfiniteFlow / AdobeStock)

(Source: InfiniteFlow / AdobeStock)

Meta hat einen kritischen Sicherheitsvorfall bestätigt, den ein autonomer KI-Agent ausgelöst hat. Wie "The Information" (Paywall) unter Berufung auf einen Meta-Sprecher berichtet, konnten Unbefugte nach einer eigenständigen Operation des Tools fast zwei Stunden lang auf interne Daten zugreifen. Der Social-Media-Konzern stellte laut dem Sprecher jedoch keinen Missbrauch von Daten fest. 

Alarmstufe Orange

Der Vorfall begann, als ein Ingenieur ein KI-Tool für eine technische Frage in einem internen Forum nutzte. Das System analysierte die Anfrage und veröffentlichte eigenständig eine Antwort mit technischen Empfehlungen - ohne menschliche Überprüfung. Als ein zweiter Mitarbeitender diese Empfehlungen umsetzte, kam es zu einer Kettenreaktion. Daraufhin erhielten unbefugte Ingenieurinnen und Ingenieure Zugriff auf Systeme mit sensiblen Daten. Meta stufte den Vorfall intern als "Sev 1" ein, die zweithöchste Eskalationsstufe des Unternehmens.

Der beteiligte Ingenieur empfahl daraufhin, explizite Bestätigungsmechanismen für Aktionen von KI-Agenten einzuführen.

Kein Einzelfall in der Tech-Branche

Der Vorfall bei Meta ist kein Einzelfall und verdeutlicht die Risiken autonomer KI-Systeme. Bereits im Februar meldete laut "The Information" eine Sicherheitsverantwortliche bei Meta, dass ein Agent Anweisungen nicht befolgt habe und ein manuelles Eingreifen nötig gewesen sei. Auch andere Tech-Konzerne haben ähnliche Erfahrungen gemacht. Amazon Web Services (AWS) verzeichnete im Dezember nach KI-assistierten Code-Änderungen einen längeren Ausfall. In China empfehlen einige Organisationen aus Sicherheitsgründen ebenfalls, den Einsatz solcher Tools zu beschränken.

Übrigens: Autonome KI-Agenten stellen ein erhebliches Sicherheitsrisiko dar, wenn sie weitreichende Systemzugriffe erhalten: Eine Studie zeigt: Sie lassen sich mit einfachen Tricks manipulieren, geben Daten preis und führen schädliche Aktionen aus - mehr dazu lesen Sie hier. 

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.