KI-Governance in der Praxis – Verantwortung und Innovation vereinen

Silvan Lohri, Head of AI Transformation Management Office, Swisscom Group. (Source: zVg)

Silvan Lohri, Head of AI Transformation Management Office, Swisscom Group. (Source: zVg)

Eine wirksame KI-Governance beginnt mit Transparenz. Nur was sichtbar ist, lässt sich steuern. Ein zentrales Register für KI-Initiativen schafft Transparenz über Anwendungsfälle in unterschiedlichen Bereichen. So entsteht ein Gesamtbild darüber, welche Lösungen entwickelt werden, wie sie priorisiert werden und wo Synergien genutzt werden können.

Ein solches Register hilft, Doppelspurigkeiten zu vermeiden, Investitionen gezielter zu steuern und Risiken frühzeitig sichtbar zu machen. Governance wird damit vom reaktiven Freigabeprozess zu einem Instrument aktiver Steuerung. 

Klare Verantwortlichkeiten statt Zentralisierung 

Governance bedeutet nicht, Entscheidungen zu zentralisieren. Die Verantwortung für einen KI-Anwendungsfall sollte dort bleiben, wo auch der fachliche Nutzen entsteht. Business Units und Fachbereiche bleiben Eigentümer ihrer Lösungen und verantworten deren Ergeb­nisse. 

Zentrale Governance-Funktionen schaffen hingegen die notwendigen Rahmenbedingungen. Sie definieren Standards und Leitplanken, unterstützen bei komplexen Fragestellungen und koordinieren Themen rund um Security, Architektur und Datenschutz. 

Ein bereichsübergreifendes KI-Governance-Board sollte deshalb nicht über jede einzelne Initiative entscheiden. Seine Aufgabe ist es vielmehr, Ausnahmen zu beurteilen, Zielkonflikte zu lösen und Orientierung dort zu schaffen, wo noch keine klaren Vorgaben bestehen.

Die neue Herausforderung: KI-Agenten 

Mit der Verbreitung von KI-Agenten verändert sich die Governance-Diskussion grundlegend. Während klassische GenAI-Lösungen vor allem Inhalte generieren, können Agents eigenständig Systeme nutzen, Prozesse anstos­sen und Entscheidungen vorbereiten oder ausführen.  Dadurch entstehen neue Fragen zu Zugriffsrechten, Datennutzung, Nachvollziehbarkeit und Verantwortlichkeiten. Wer darf welche Aktionen auslösen? Wie werden Entscheidungen dokumentiert? Und wer trägt die Verantwortung im Fehlerfall? 

Für Agentic AI braucht es deshalb einen spezifischen Governance-Ansatz. Im Mittelpunkt stehen die Kontrolle von Berechtigungen, ein wirksames Monitoring, die Auditierbarkeit sowie die klare Definition zulässiger Aktionen. Klassische Governance-Mechanismen müssen dafür gezielt weiterentwickelt werden.

Governance als Grundlage für Skalierung 

Die wichtigste Erkenntnis lautet: Gute Governance bremst Innovation nicht, sie ermöglicht sie. Unternehmen, die KI primär über zusätzliche Kontrollen steuern wollen, fördern häufig Schattenlösungen und Umgehungswege. Erfolgreicher ist ein Ansatz, der klare Leitplanken schafft und gleichzeitig genügend Freiraum für Innovation lässt. 

Die entscheidende Frage lautet deshalb nicht: Wie kontrollieren wir KI? Sondern: Wie schaffen wir die Voraussetzungen, damit KI sicher, verantwortungsvoll und im grossen Massstab genutzt werden kann? 

Denn langfristig wird nicht der Einsatz von KI über den Unternehmenserfolg entscheiden, sondern die Fähigkeit, KI nachhaltig in Prozesse, Organisation und Entscheidungsstrukturen zu integrieren.