Wie KI die Spielregeln des digitalen Vertrauens verändert

Verena Zimmermann, ETH Zürich. (Source: zVg)

Verena Zimmermann, ETH Zürich. (Source: zVg)

Wir sprechen oft über die Vertrauenswürdigkeit von KI. Müssten wir nicht viel öfter darüber sprechen, warum Menschen ihr überhaupt so bereitwillig vertrauen – und etwa Chatbots Dinge anvertrauen, die sie einem Fremden im Internet womöglich nie erzählen würden?

Verena Zimmermann: Ein wichtiger Aspekt hier ist die interaktive Natur von Chatbots, die Nutzende zum Fortführen der Konversation und zur Preisgabe weiterer Details motiviert. Zusätzlich können Nutzende durch die Antworten der Chatbots Bestätigung erfahren, ohne sich einem sozialen Risiko auszusetzen, da sie ja eben nicht mit einem Menschen sprechen, der über sie urteilt.  

Erleben wir gerade wirklich eine "Vertrauenskrise" oder eher eine Krise unserer Fähigkeit, Wahrheit von Glaubwürdigkeit zu unterscheiden? Welche Folgen hat das für unsere Gesellschaft, wenn wir Bildern, Stimmen und Texten nicht mehr automatisch glauben können und stattdessen alles überprüfen müssen?

Die Herausforderung, faktenbasierte von glaubwürdigen, aber falschen Informationen zu unterscheiden, ist nicht grundsätzlich neu, bekommt aber im Zeitalter von Internet und KI eine neue Dimension. Wir haben Zugang zu immer mehr Informationen in immer kürzerer Zeit, die glaubwürdig erscheinen oder scheinbar von einer glaubwürdigen Quelle stammen. Fehlinformationen und sogenannte Deepfakes, täuschend echt wirkende, KI-generierte Medieninhalte wie Stimmen oder Videos, machen es uns schwer, Fakt von Fiktion zu unterscheiden. Die Forschung arbeitet aktuell an Verfahren, um Informationen auf ihre Echtheit zu prüfen und Menschen zu kritischer Reflexion von Informationen anzuregen. Nicht immer ist eine Echtheitsprüfung jedoch zuverlässig möglich und manchmal wollen wir das vielleicht auch gar nicht – weil die Informationen unserem Bild von der Welt entsprechen. 

Welche Gefahr ist Ihrer Ansicht nach grösser: dass Menschen KI nicht vertrauen oder dass sie ihr zu viel vertrauen?

Beides bringt Risiken mit sich. Zu wenig Vertrauen kann dazu beitragen, dass wir sinnvolle Tools nicht nutzen, und zu grosses Vertrauen dazu, dass wir zum Beispiel sensible Daten preisgeben oder unkritisch auch fehlerhaften Empfehlungen folgen. Ziel unserer Forschung ist es, Vertrauen mit den Fähigkeiten eines KI-Tools zu "kalibrieren". Dafür muss ich aber als Nutzerin nachvollziehen können, was das Tool auf welcher Basis tut. Transparenz und Nachvollziehbarkeit sind hier wichtige Aspekte, um entsprechendes Vertrauen bilden zu können. 

Sie plädieren dafür, den Menschen nicht als Schwachstelle, sondern als Sicherheitsfaktor zu betrachten. Welche menschlichen Eigenschaften werden im KI-Zeitalter ­wichtiger?

Auch wenn KI dem Menschen in bestimmten Aufgaben überlegen ist, wie zum Beispiel bei repetitiven Aufgaben mit grossen Datenmengen, bleibt der Mensch in anderen Bereichen relevant. Menschliche Kompetenzen liegen beispielsweise im Kontextualisieren von Informationen, im Treffen von Entscheidungen unter Unsicherheiten, im Anpassen an neue Bedingungen und im Bereich sozialer und emotionaler Intelligenz. Dadurch ist eine Verschiebung von Aufgaben möglich, von eher ausführenden Tätigkeiten hin zu strategischen Tätigkeiten, die das Zusammenführen, Einordnen und Bewerten von Informationen beinhalten.

Kann eine KI überhaupt Vertrauen verdienen, oder ver­trauen wir am Ende immer den Menschen und Organisationen dahinter?

Das ist eine spannende Frage, der wir uns in der Forschung erst nähern. Allerdings erleben wir schon jetzt, dass Personen KI-Tools oft "vermenschlichen", das heisst, sie mit menschlichen Eigenschaften beschreiben. Es ist daher möglich, dass wir gewisse Komponenten bei der Vertrauensbildung zwischen Menschen auch bei KI-Tools wiederfinden. Zumindest bei anderen Technologien, wie Smartphone-Apps oder Online-Services, sehen wir in der Forschung aber auch einen Einfluss des Anbieters auf die Bereitschaft von Menschen, die Tools zu nutzen oder dort ihre Daten preiszugeben. 

Welchen KI-bedingten Angriff auf digitales Vertrauen unter­schätzen Unternehmen derzeit wohl am meisten?

Auch wenn der Begriff Deepfake vielen im Kontext von KI geläufig ist, unterschätzen viele dennoch das Potenzial, das sich dahinter verbirgt. Täuschend echte Websites, E-Mails oder Medieninhalte können Mitarbeitende dazu verleiten, sensible Informationen oder Zugangsdaten preiszugeben oder falsche, verunsichernde Informationen zu verbreiten, die dem Ruf der Organisation schaden können. Ein weiteres Problem sind sogenannte "Indirect Prompt Injection"-Attacken. Bei diesem Angriff werden schädliche Prompts in den Datenquellen versteckt, auf die ein KI-Tool für seine Aufgaben zurückgreift, das heisst in den Metainformationen von Dokumenten oder in E-Mail-Signaturen. Diese Prompts könnten ebenfalls dafür genutzt werden, sensible Informationen zu extrahieren oder autonom schädliche Handlungen vorzunehmen. 

Wer trägt letztlich eigentlich die Verantwortung für ­digitales Vertrauen?

Die Verantwortung für digitales Vertrauen – und daraus allenfalls resultierende Probleme oder Fehler – sollte nicht allein bei den Nutzenden liegen. Auch die Systemarchitektinnen, Entwickler und die Unternehmen, die diese Systeme einführen, haben einen massgeblichen Einfluss auf die Mensch-Technik-Interaktion und das digitale Vertrauen. Zusätzlich ist die Politik in der Verantwortung, einen Rahmen zu gestalten, der vertrauensvolle Interaktion fördert und Manipulation oder missbräuchliche Verwendung von Daten einschränkt. Um zukünftige Nutzende bestmöglich vorzubereiten, sollte kritisches Bewerten von KI-generierten Inhalten schon früh in der Ausbildung von Kindern verankert werden. 

Wenn Sie heute eine Regel für den Umgang mit künstlicher Intelligenz festlegen könnten, die möglichst viel digitales Vertrauen bewahrt, welche wäre das?

Hier möchte ich gerne erneut die Begriffe Transparenz und Nachvollziehbarkeit aufgreifen. Nur wenn ich grundsätzlich verstehe, wie ein KI-Tool zu einem Ergebnis oder einer Entscheidung kommt, kann ich beurteilen, ob dieser Weg beziehungsweise das resultierende Ergebnis für mich vertrauenswürdig ist. Das heisst, KI darf nicht eine magische "Blackbox" bleiben. KI-Tools könnten beispielsweise um standardisierte Labels ergänzt werden, die den Nutzenden kommunizieren, auf welchen Daten trainiert wurde und was die Stärken und Schwächen des Tools sind. Zusätzliche Indikatoren, die anzeigen, wie sicher sich die KI im Hinblick auf ein Ergebnis oder eine Entscheidung ist, können Transparenz erhöhen und damit angemessenes digitales Vertrauen stärken.