Wo Responsible AI heute noch zu kurz greift

Cornelia Diethelm, Gründerin des Centre for Digital Responsibility und ­Dozentin an der HWZ. (Source: zVg)

Cornelia Diethelm, Gründerin des Centre for Digital Responsibility und ­Dozentin an der HWZ. (Source: zVg)

Sie beschäftigen sich seit vielen Jahren mit der digitalen Transformation und ihren gesellschaftlichen Auswirkungen. Was fasziniert Sie an diesem Thema bis heute am meisten?

Cornelia Diethelm: Mich fasziniert die Vielfalt an Chancen und Risiken, die sich je nach Anwendungsbereich ergeben, und wie schnell sich die Schwerpunkte in der öffentlichen Diskussion verschieben. Vor der Lancierung von ChatGPT gehörten Diskriminierung, Manipulation und Überwachung zu den Topthemen. Aktuell dominieren Fragen wie: Wie verändern sich die Jobprofile am Arbeitsplatz? Wie stellen wir sicher, dass wir unsere Urteilskraft nicht an eine Maschine abgeben? Und wie machen wir den Einsatz von KI-Agenten sicher?

Hat sich Ihre eigene Haltung zu künstlicher Intelligenz in den vergangenen zwei Jahren verändert? Und wenn ja, wodurch?

Für mich bleibt KI eine Technologie, über deren Einsatz wir entscheiden müssen. Verändert hat sich, was ich für dringlich halte, ausgelöst durch meine Erfahrungen im Kontakt mit Menschen aus unterschiedlichen Lebensbereichen und Branchen: Es ist wichtiger denn je, die KI-Kompetenz und das kritische Denken zu stärken, bei Führungskräften wie bei Mitarbeitenden. Wer nicht weiss, wie KI im Grundsatz funktioniert, vertraut den Ergebnissen zu stark oder setzt die Technologie dort ein, wo sie nichts zu suchen hat.

«Responsible AI» ist derzeit ein viel diskutiertes Thema. Was bedeutet verantwortungsvolle KI für Sie ganz konkret?

Für mich beginnt Verantwortung beim Entscheid, welches Problem ein KI-System lösen soll. Die damit verbundene Wirkung wird häufig unterschätzt. Zum Beispiel lassen sich fehlende Ressourcen an Schulen und im Gesundheitswesen oder das Bedürfnis nach sozialen Kontakten nicht mit KI aus dem Weg räumen. Responsible AI bedeutet für mich auch, dass Unternehmen Wissen intern aufbauen und über eine ethische Leitlinie für KI verfügen. Denn vergessen wir nicht: Für das Ergebnis und mögliche Schäden bleiben wir Menschen verantwortlich.

Wo klaffen Anspruch und Realität beim Thema Responsible AI derzeit am stärksten auseinander?

Schöne Dokumente sind schnell geschrieben. Doch häufig nehmen wir uns nicht die Zeit, ein neues Einsatzgebiet von KI aus einer ganzheitlichen Perspektive zu beurteilen. Die Folgen zeigen sich zum Beispiel, wenn Kundinnen und Kunden falsche Antworten erhalten oder gut qualifizierte Personen im Rekrutierungsprozess aussortiert werden. Es wäre gut investierte Zeit, sicherzustellen, dass wirklich alles rundläuft. 

Woran erkennen Sie, ob ein Unternehmen Verantwortung beim Einsatz von KI tatsächlich lebt – und wann ist es nur Responsible-AI-Washing?

Für mich ist eine Organisation glaubwürdig, wenn Geschäftsleitung und Führungskräfte das Thema aktiv und wertorientiert vorantreiben und bewusst in ihre Mitarbeitenden sowie in eine Lernkultur investieren. Einige haben zusätzlich ein internes Gremium oder ein Netzwerk, das KI-Projekte aus unterschiedlichen Perspektiven beurteilt. Responsible-AI-Washing lässt sich daran erkennen, dass den schönen Worten keine Taten folgen – etwa durch inhaltsleere Dokumente, unverbindliche Aussagen des Managements oder fehlende Unterstützung von Personen, die sich konstruktiv kritisch mit KI auseinandersetzen. Falsche Anreize können verantwortungsvolles Handeln ebenfalls untergraben.

Welche ethischen Fragestellungen werden Ihrer Meinung nach beim Einsatz von KI derzeit am häufigsten unterschätzt?

Unterschätzt wird, dass KI problematische Tendenzen weiter verstärken kann, wenn wir sie am falschen Ort einsetzen. Dazu zwei Beispiele: Erstens kann sich der KI-Einsatz negativ auf Mitarbeitende auswirken, wenn ihre Tätigkeit monotoner wird. Ziel sollte sein, die menschlichen Stärken noch besser zur Geltung zu bringen. Zweitens wird die Frage unterschätzt, was es insbesondere für Minderheiten bedeutet, wenn immer mehr Prozesse standardisiert werden. Opfern wir unsere Menschlichkeit in sensiblen Bereichen, nur um noch etwas effizienter zu sein?

Viele Unternehmen fürchten, dass Regeln und Governance ihre KI-Projekte bremsen. Ist dieser Zielkonflikt zwischen Geschwindigkeit und Verantwortung überhaupt real?

Diesen Zielkonflikt sehe ich tatsächlich nicht, im Gegenteil: Die Klärung der Prozesse und Verantwortlichkeiten ist eine sinnvolle Investition. Sie hilft, KI passend zu den Unternehmenswerten und den Erwartungen von Mitarbeitenden sowie Kundinnen und Kunden einzusetzen. Wer sich diese Mühe nicht macht, riskiert, die Kontrolle über die Sinnhaftigkeit der eigenen KI-Projekte zu verlieren. Das kann am Ende sogar die Reputation gefährden oder zu einem Gesetzesverstoss führen.

Sie sind Mitglied in mehreren Verwaltungsräten. Welche Frage sollten sich Verwaltungsräte und Geschäftsleitungen beim Einsatz von KI Ihrer Meinung nach unbedingt stellen?

Drei Fragen sind aus meiner Sicht zentral: Welchen Einfluss könnte KI in den nächsten Jahren auf das Geschäftsmodell, die Arbeit der Mitarbeitenden und die Produkte haben? Verfügen Verwaltungsrat und Geschäftsleitung über genügend KI-Kompetenz, um bei strategischen Entscheidungen nicht von Externen abhängig zu sein? Und welche KI-Risiken fehlen im Risikomanagement? Ich denke zum Beispiel an Abhängigkeiten von Cloud-Anbietern und KI-Modellen, an Reputations- und Sicherheitsrisiken sowie an Haftungsfragen. Wer sich mit diesen Fragen befasst, kann die anstehenden Veränderungen selbstbewusst und verantwortungsvoll gestalten, statt sich treiben zu lassen.

In Ihrem Podcast sagen Sie, dass KI «verändert, wie wir arbeiten». Gleichzeitig betonen Sie, dass Führungskräfte ihre Mitarbeitenden auf diesen Wandel vorbereiten müssen. Welche Rolle spielt Führung für einen verantwortungsvollen Einsatz von KI?

Die Rolle der Führungskräfte ist enorm wichtig, denn Mitarbeitende haben ein gutes Gespür dafür, was von ihnen erwartet wird und welches Verhalten belohnt wird. Das Management kann Leitlinien erlassen und Anreize schaffen, die den Erfahrungsaustausch fördern und dazu ermuntern, Ideen für sinnvolle KI-Projekte einzubringen. Es kann auch Zeit und Geld für spezifische Weiterbildungen zur Verfügung stellen. 

Wo investieren Unternehmen beim Thema Responsible AI heute zu viel Energie – und wo zu ­wenig?

Zu viel Energie wird in das Abwarten von staatlichen Vorgaben und das Beobachten der Konkurrenz investiert, statt ins Handeln zu kommen. Responsible AI ist leider noch ein Nischenthema, deshalb fliesst heute zu wenig Energie in die Einbindung und Mitbestimmung der Mitarbeitenden. Hier sehe ich viel Potenzial. Leider haben viele Führungskräfte übersteigerte Erwartungen an Produktivitätssteigerungen und Kostensenkungen. Sie lassen sich vom allgemeinen KI-Hype leiten, statt sich mit den Chancen und Risiken konkreter KI-Anwendungen auseinanderzusetzen. 

Unternehmen sprechen beim Thema KI häufig von Vertrauen. Müssen Menschen KI überhaupt vertrauen oder reicht es, wenn sie kontrollierbar ist?

Für uns Menschen ist wichtig, dass wir einer Person oder einem Unternehmen vertrauen können, etwa darauf, dass wir fair behandelt werden. Niemand will dieses Vertrauen verspielen, wenn KI eingesetzt wird. Also muss das Ergebnis korrekt und nachvollziehbar sein. Kontrollen können bei der Qualitätssicherung sicher helfen. Das genügt aber nicht. Wichtig finde ich, dass Betroffene bei sensiblen Entscheidungen oder in Situationen, wo eine Täuschungsgefahr besteht, wissen, dass KI eingesetzt wird, und dass sie eine Überprüfung durch einen Menschen verlangen können. 

Gibt es KI-Anwendungen, bei denen Sie persönlich sagen würden: Hier sollten wir als Gesellschaft bewusster Grenzen ziehen?

Da denke ich spontan an autonome Waffensysteme. Seit Längerem fordern Organisationen wie das Internationale Komitee vom Roten Kreuz (IKRK) ein weltweites Verbot. Doch bisher erfolglos. Persönlich finde ich es auch bedenklich und gefährlich, wenn KI-Systeme eingesetzt werden, um Menschen zu beurteilen oder ihr Verhalten vorherzusagen. Wir sind keine Maschinen. Grenzen sollten wir insbesondere dort ziehen, wo falsche Ergebnisse gros­ses menschliches Leid verursachen können oder wo wir der menschlichen Vielfalt nicht gerecht werden.

Welche Fehler beobachten Sie in der Praxis am häufigsten, wenn Unternehmen KI einführen, und wie liessen sie sich vermeiden?

Den grössten Fehler sehe ich in der fehlenden Auseinandersetzung mit der Frage, welche Ziele mit KI erreicht werden sollen. Führt der Einsatz von KI aus Sicht der Kundschaft zu einem wahrnehmbaren Vorteil? Oder führt er dazu, dass sich die Mitarbeitenden in ihrer Arbeit unterstützt fühlen? Eng damit verbunden ist der Irrtum, KI-Systeme seien objektiver als der Mensch, und wer jetzt nicht in KI investiere, verpasse den Anschluss. Solche Fehler lassen sich mit Fachwissen, gesundem Menschenverstand, Bedürfnisabklärungen und Pilotprojekten reduzieren.

Wenn Sie einen weitverbreiteten Irrtum über Responsible AI aus der Welt schaffen könnten ­– welcher wäre das?

Der Begriff suggeriert, dass sich jede KI verantwortungsvoll entwickeln oder einsetzen lässt. Er richtet den Blick auf die Technologie statt auf die menschlichen Entscheidungen. Genau hier sehe ich den Irrtum: Wir sind uns nicht bewusst, wie wichtig der Entscheid sein kann, kein KI-System einzusetzen. 

Wenn wir dieses Interview in fünf Jahren noch einmal führen würden: Welche heutige Diskussion über Responsible AI würde uns vermutlich überholt erscheinen?

Im Moment wird intensiv daran gearbeitet, mehr Transparenz darüber zu schaffen, wo KI-Systeme eingesetzt werden, und die Sicherheit bei agentischen Systemen zu erhöhen. Auch der Kinder- und Jugendschutz sowie die Frage nach der Verantwortung und Haftung für Schäden geniessen hohe Priorität. Die meisten Themen werden relevant bleiben und weitere Fragen hinzukommen, so meine Einschätzung. Wir unterschätzen regelmässig, wie viel Zeit solche Meinungsbildungsprozesse und die Etablierung von Lösungen benötigen. Fünf Jahre sind dafür eine relativ kurze Zeit. Gleichzeitig steigen die Anforderungen, KI gewinnbringend und verantwortungsvoll einzusetzen.

Worauf hoffen Sie, wenn Sie an die Zukunft der künstlichen Intelligenz denken – und was bereitet Ihnen am meisten Sorgen? 

Grundsätzlich blicke ich optimistisch in die Zukunft. Ich hoffe, dass wir es schaffen, KI in den Dienst des Menschen zu stellen, statt ihn zu ersetzen oder seinen Handlungsspielraum zu reduzieren. Dazu schreibe ich gerade ein Buch, das 2027 im Stämpfli Verlag erscheinen wird. Was mir Sorgen bereitet: Der menschliche Einfluss auf KI wird massiv unterschätzt, zum Teil bewusst ausgeblendet. Viele Menschen denken, KI sei eine autonome Kraft, der wir ausgeliefert seien. Das stimmt nicht und lenkt von unserer Verantwortung und unseren Gestaltungsmöglichkeiten ab. Wir Menschen entscheiden, wie wir KI einsetzen.

Zur Person

Als Inhaberin des Centre for Digital Responsibility schafft Cornelia Diethelm Orientierung für verantwortungsvolle Entscheidungen im KI-Zeitalter. Ihre Expertise gibt sie auch als Studiengangsleiterin des CAS Digital Ethics an der HWZ und als Dozentin in weiteren Studiengängen weiter. Zudem ist sie Verwaltungsratspräsidentin der Metron, Mitglied der Verwaltungsräte von Ethos und der Sparkasse Schwyz sowie Mitinhaberin von Datenschutzpartner. Sie versteht sich als Brückenbauerin zwischen dem technisch Machbaren und dem menschlich Wünschbaren. Zurzeit schreibt sie an einem Buch über den Menschen im KI-Zeitalter, das 2027 erscheint. Cornelia Diethelm hat auf dem zweiten Bildungsweg Politikwissenschaft, Betriebs- und Volkswirtschaft studiert, später einen MAS in Digital Business absolviert und sich in Technoethik weitergebildet.