Wie sich Vertrauen in KI-Systeme aufbauen und überprüfen lässt

Felix Gille, Postdoctoral Fellow, Digital Society Initiative, Universität Zürich. (Source: zVg)

Felix Gille, Postdoctoral Fellow, Digital Society Initiative, Universität Zürich. (Source: zVg)

Für die Schweiz als Gastgeberland steht im Jahr 2027 das Gipfeltreffen zur künstlichen Intelligenz (KI) in Genf bevor. Dies unterstreicht den anhaltenden Wunsch, den Einsatz von KI konstruktiv zu erörtern. Eine zentrale Leitfrage lautet: Wie lässt sich Vertrauen in KI-Systeme aufbauen und überprüfen?
Niklas Luhmann folgend reduziert Vertrauen Komplexität. Diese Eigenschaft kommt bei KI besonders zum Tragen, da KI-Systeme hochkomplex sind. Vertrauen fördert somit die Nutzung und Akzeptanz von KI. Entsprechend ihrer Bedeutung wurde international eine Vielzahl von Leitlinien zur vertrauenswürdigen KI entwickelt. Ergänzend lassen sich aus der Forschung Denkanstösse ableiten, die den Aufbau und die Überprüfung vertrauenswürdiger KI unterstützen:

1. Vertrauenswürdigkeit liegt im Auge des Betrachters
   Ob Vertrauen tatsächlich eine Rolle spielt, hängt vom Anwendungskontext und vom Urteil der Nutzerinnen und Nutzer ab. An der Vertrauenswürdigkeit können wir hingegen gezielt arbeiten. Jedoch kann das Vertrauen der User weder erzwungen noch garantiert werden.
2. Vertrauen ist eingebettet in ein Netzwerk von Akteuren 
   Vertrauenswürdigkeit ergibt sich aus den Eigenschaften einer KI. Vertrauen richtet sich jedoch nicht ausschliesslich auf die KI selbst, sondern ebenso auf das Unternehmen, das sie entwickelt hat, sowie auf die Institution, die sie zugelassen oder eingesetzt hat. Die Wahrnehmung von Vertrauenswürdigkeit wird daher ebenfalls durch das Vertrauensnetzwerk der beteiligten Akteure geprägt.
3. Erklärbarkeit und Nachvollziehbarkeit sind Kerneigenschaften
   Wenn KI im Alltag zuverlässig funktioniert und das leistet, was wir von ihr erwarten, wird kaum jemand über Vertrauen sprechen. Auch wenn wir Alternativen zu einer enttäuschenden KI haben, werden wir kaum über Vertrauenswürdigkeit diskutieren, sondern schlicht die Alternative wählen. Anders verhält es sich, wenn unsere beruflichen Entscheidungen durch KI fehlgeleitet werden: Dann müssen wir unter Umständen Rechenschaft ablegen und werden Erklärbarkeit und Nachvollziehbarkeit der KI einfordern – zwei zentrale Themen der Vertrauensbildung im KI-Kontext.
4. Gute Erfahrungen sind der Schlüssel 
   Der Schlüssel wird darin liegen, KI zu entwickeln, die über einen langen Zeitraum hinweg zuverlässig gute und reproduzierbare Ergebnisse liefert. Positive Erfahrungen sind der Nährboden für eine Vertrauensbeziehung.

Zur Überprüfung der Vertrauenswürdigkeit bedienen wir uns eines breiten Methodenportfolios. Dazu gehören beispielsweise Interviews oder Umfragen, um Erfahrungen der Nutzerinnen und Nutzer zu erfassen, Prozessindikatoren, die Aussagen über die Wirksamkeit vertrauensfördernder Massnahmen ermöglichen, sowie Vertrauensstresstests im Entwicklungsprozess von komplexen Systemen. Diese helfen dabei, Schwachstellen aufzudecken und die Resilienz gegenüber vertrauensuntergrabenden Einflüssen zu bewerten. 

Letztlich stehen uns zahlreiche Leitlinien und Methoden zur Verfügung, um Vertrauenswürdigkeit zu gestalten und zu überprüfen. Vertrauen wird jedoch vor allem durch positive Erfahrungen entstehen. Einen generellen Vertrauensvorschuss gegenüber unbekannter KI wird es – gesamtgesellschaftlich betrachtet – eher nicht geben.

Der Autor ist auch bei der Bundeskanzlei tätig; die in diesem Artikel geäusserten Ansichten sind ausschliesslich die des Autors und nicht die der Bundeskanzlei.