Agentic AI: Der Preis der Autonomie

(Source: Nataliia_Trushchenko - stock.adobe.com)

(Source: Nataliia_Trushchenko - stock.adobe.com)

Früher hatten wir Software. Dann hatten wir Automatisierung. Heute haben wir "Agentic AI". Klingt nach einer Mischung aus James Bond, Unternehmensberatung und einer Powerpoint-Präsentation mit zu vielen Farbverläufen. Gemeint sind KI-Agenten, die selbstständig handeln, entscheiden, koordinieren und angeblich produktiver arbeiten als ganze Teams. Endlich. Der feuchte Traum jeder Managementfolie wird Realität.

Die Idee dahinter ist bestechend: KI-Agenten organisieren Termine, verhandeln mit anderen Bots, bestellen Infrastruktur in der Cloud, priorisieren Incidents und schreiben gleich noch die Strategiepräsentation für den Verwaltungsrat. Autonom. Intelligent. Skalierbar. Und selbstverständlich "human-centric".

Die Realität erinnert allerdings eher an einen hyperaktiven Praktikanten mit Admin-Rechten. Denn plötzlich agieren tausende KI-Agenten gleichzeitig in Unternehmen. Niemand weiss mehr genau, wer eigentlich welche Entscheidung getroffen hat. Warum wurde dieser Lieferant automatisch gesperrt? Weshalb hat ein Bot eigenständig einen Vertrag gekündigt? Und wer hat beschlossen, dass 14 virtuelle Assistenten gegenseitig Meetings organisieren, um einen Prompt zu diskutieren? Die neue Antwort der Industrie darauf ist herrlich symptomatisch: AI-BOMs. Also Inventarlisten für KI-Agenten, Bots, Modelle, Abhängigkeiten und deren Fähigkeiten. Früher reichte ein Software Bill of Materials. Heute brauchen wir Verzeichnisse für digitale Wesen mit eigener Agenda. Willkommen im Zeitalter, in dem Unternehmen Listen führen müssen, damit sie nicht vergessen, welche künstlichen Mitarbeiter sie selbst erschaffen haben! Natürlich wird das als Fortschritt verkauft. Governance! Transparenz! Kontrolle! Was es tatsächlich zeigt: Niemand hat mehr den Überblick.

Besonders faszinierend ist dabei die Geschwindigkeit, mit der Unternehmen dieselben Fehler wiederholen. Shadow IT war gestern. Heute haben wir Shadow Agents. Mitarbeitende verbinden irgendwo einen KI-Agenten mit einem CRM, koppeln ihn an Teams, Slack und SAP – und wundern sich drei Wochen später, warum der Einkaufs-Bot eigenständig SaaS-Abonnemente abgeschlossen hat.

Noch absurder wird es bei der Verantwortung. Wenn ein Mensch Unsinn macht, gibt es Eskalationen. Wenn ein KI-Agent Unsinn macht, gibt es Workshops. Dann diskutieren acht Personen über Ethik, Leitlinien und Responsible AI, während der Bot im Hintergrund bereits den nächsten Fehler automatisiert skaliert.

Und dennoch marschieren alle begeistert weiter. Jeder Hersteller verspricht "autonome Agenten". Jeder CIO möchte dabei sein. Niemand möchte erklären müssen, warum man beim grössten Hype seit Cloud und Blockchain plötzlich skeptisch wirkt.

Vielleicht liegt genau dort das eigentliche Risiko von Agentic AI: Nicht die Technologie selbst, sondern unsere fast religiöse Bereitschaft, Intelligenz mit Kontrolle zu verwechseln. Denn nur weil ein Bot selbstständig handelt, bedeutet das noch ­lange nicht, dass er weiss, was er tut.

Aber immerhin erstellt er dazu automatisch ein Ticket.