Wenn KI nicht nur ­intelligent, sondern auch verantwortlich sein muss

Responsible AI verbindet Leistungsfähigkeit mit Transparenz, Datenschutz, Sicherheit und menschlicher Kontrolle. Für Unternehmen stellen sich wichtige Fragen: Welche Daten werden verarbeitet? Wer hat Zugriff? Und wer trägt die Verantwortung, wenn eine automatisierte Entscheidung falsch ist?

Intelligenz muss nicht immer KI sein

Interessant wird es dort, wo intelligente Automatisierung bereits ohne generative KI funktioniert. Moderne Kommunikationssysteme können etwa erkennen, ob Mitarbeitende im Büro, im Homeoffice oder unterwegs sind, und die Erreichbarkeit entsprechend anpassen. Kalendertermine, PC-Aktivität oder Geschäftszeiten können als Auslöser dienen. Ein Kalendereintrag kann den Status «beschäftigt» setzen, der Feierabend den Nachtbetrieb aktivieren oder ein Standortwechsel das passende Rufprofil auswählen. Auch Microsoft Teams lässt sich einbinden.

Solche Funktionen lassen sich mit Cloud-Telefonie verbinden und an unterschiedliche Anforderungen anpassen. Das zeigt: Verantwortungsvolle Digitalisierung beginnt nicht erst bei generativer KI. Auch automatisierte Kommunikationsprozesse müssen nachvollziehbar und kontrollierbar sein. 

Vertrauen braucht Transparenz

Eine verantwortungsvoll eingesetzte Technologie sollte nachvollziehbar sein. Nutzer müssen wissen, welche Informationen verarbeitet werden und nach welchen Regeln ein System reagiert. Je stärker automatisierte Funktionen eingreifen, desto wichtiger sind klare Zuständigkeiten und Kontrollmöglichkeiten.

Wenn ein Standortwechsel die Erreichbarkeit verändert, sollte nachvollziehbar sein, warum dies geschieht, und die Automatik beeinflussbar bleiben.

Datenschutz beginnt vor dem ersten Prompt

Besonders sensibel ist der Umgang mit Daten. Mitarbeitende geben Texte, Dokumente oder Gesprächsinhalte in KI-Anwendungen ein, ohne immer zu wissen, was damit geschieht. Unternehmen sollten deshalb festlegen, welche Daten verarbeitet werden dürfen. Das Prinzip der Datenminimierung bleibt relevant: Nicht jede technisch verarbeitbare Information muss verarbeitet werden.

Der Mensch bleibt verantwortlich

Responsible AI bedeutet nicht, Entscheidungen einfach an Maschinen abzugeben. KI und Automatisierung können unterstützen, Verantwortung lässt sich jedoch nicht automatisieren. Je weitreichender die Folgen einer Entscheidung sind, desto wichtiger bleibt menschliche Kontrolle.

Verantwortungsvolle Technologie braucht klare Zuständigkeiten, nachvollziehbare Prozesse, Sicherheitsmechanismen und einen bewussten Umgang mit Daten. Die entscheidende Frage lautet: Nicht alles, was technisch möglich ist, muss automatisiert werden.

Lars Brückner

Leiter Strategisches ­Projektgeschäft/Produkt­management, Agfeo