Rubriks neues Tool macht Fehler von KI-Agenten rückgängig

KI-Agenten sind die Tage in aller Munde. Während Anbieter ihr Potenzial anpreisen, warnen kritische Stimmen vor Risiken der KI-basierten Assistenten. Der Backup-Anbieter Rubrik präsentiert nun eine Lösung, die den Einsatz von KI-Agenten möglicherweise sicherer machen könnte.

Die Lösung namens "Agent Rewind" mache zuvor schwer nachvollziehbare KI-Aktionen sichtbar, überprüfbar und reversibel, teilt Rubrik mit. Konkret erstellt "Agent Rewind" ein Prüfprotokoll mit unveränderlichen Momentaufnahmen. Basierend darauf lassen sich Systeme auf frühere Zustände zurücksetzen. Die Lösung erfasse das Agentenverhalten, dessen Auswirkungen sowie die verwendeten Tools. Jede Aktion werde in einen Kontext gesetzt und auf ihre Ursache zurückgeführt, schreibt Rubrik.

"Mit zunehmend autonomen und ergebnisorientierten KI-Agenten steigt das Risiko unbeabsichtigter Fehler, die zu Betriebsausfällen führen", kommentiert Anneka Gupta, Chief Product Officer bei Rubrik. Rückgängig machen lassen sich alle möglichen Änderungen, etwa an Dateien, Datenbanken, Konfigurationen oder Repositorys. Schliesslich verspricht Rubrik, das System zeichne sich durch breite Kompatibilität aus. Es unterstütze eine Vielzahl von Plattformen, APIs und Agenten-Erstellern, darunter Agentforce, Microsoft Copilot Studio und Amazon Bedrock Agents.

Die von Rubrik für "Agent Rewind" genutzte Technologie ist eine Kombination aus den unternehmenseigenen Wiederherstellungsfunktionen und der KI-Infrastruktur von Predibase, einem KI-Start-up, für welches Rubrik im Frühling 2025 rund 100 Millionen US-Dollar auf den Tisch legte.

Noch ist "Agent Rewind" nicht erhältlich. Auf der Produktwebsite präsentiert Rubrik ein kurzes Demo-Video sowie die Möglichkeit, sich auf eine Warteliste für den Launch setzen zu lassen. Auf Anfrage gibt das Unternehmen bekannt, dass die Lösung im Herbst 2025 auf den Markt kommt.

Unlängst deckten Sicherheitsforscher eine neue Angriffsmethode auf, mit der sich weitverbreitete KI-Assistenten kapern lassen. Die an der Black-Hat-Konferenz vorgestellten "AgentFlayer"-Lücken erlauben Datendiebstahl über Dienste wie ChatGPT, Copilot und Gemini, wie Sie hier lesen können.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.