KI-Agenten gefährden die Unternehmenssicherheit

(Source: Mmh30 / pixabay.com)

(Source: Mmh30 / pixabay.com)

Unternehmen setzen heute vermehrt KI-Agenten zur Produktivitätssteigerung ein, verfügen dabei aber oft nicht über die nötigen Kontrollmechanismen. Dadurch wächst die Lücke zwischen Innovation und Sicherheit, wie eine Umfrage von Rubrik Zero Labs warnt. Die Ergebnisse basieren auf der Befragung von über 1600 IT- und Security-Verantwortlichen weltweit, wie Rubrik mitteilt.

86 Prozent der Befragten im EMEA-Raum erwarten demnach, dass KI-Agenten bald die Sicherheitsmechanismen in ihrem Unternehmen überholen werden. Dagegen gäben etwa in Deutschland nur 21 Prozent an, vollständige Transparenz über ihre KI-Systeme zu haben. Folglich könnten KI-Agenten in vielen Unternehmen nicht adäquat kontrolliert werden, obwohl sie Zugriff auf geschäftskritische Daten hätten.

Dazu kommen laut Mitteilung sogenannte "Non-Human Identities", die mit Agenten verknüpft sind und sich selbstständig vermehren können. Diese "Shadow Workforce" operiere oft mit dauerhaftem Zugriff und minimaler Aufsicht. Das führe zu neuen Angriffsvektoren, die Unternehmen nicht schnell genug erfassen könnten.

Dazu kommt gemäss Mitteilung, dass der effektive Zeitgewinn oft bestenfalls minimal ist. 75 Prozent der Befragten in Europa würden angeben, dass die manuelle Überwachung der KI-Agenten aufwendiger sei als die Arbeit, die diese verrichten würden. Weiter ist laut Mitteilung die Mehrheit der Befragten nicht in der Lage, Aktionen von Agenten rückgängig zu machen, ohne Systemstörungen zu verursachen.

Kavitha Mariappan, Chief Transformation Officer bei Rubrik. (Source: zVg)

"Die Einführung von KI läuft schneller als unsere Fähigkeit, sie zu kontrollieren. Unternehmen kämpfen, weil sie Systeme eingeführt haben, die sie nicht vollständig beobachten, steuern oder wiederherstellen können", sagt Kavitha Mariappan, Chief Transformation Officer bei Rubrik.

Übrigens: Forschende haben kürzlich eine Sicherheitlücke bei KI-Agenten von Google entdeckt. Lesen Sie hier mehr dazu.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.