Die neue Vertrauenskrise – wie KI ­digitales Vertrauen auf die Probe stellt

(Source: CRCS - stock.adobe.com)

(Source: CRCS - stock.adobe.com)

Mit der zunehmenden Nutzung künstlicher Intelligenz wird es immer schwieriger, zu beurteilen, ob ein Bild echt, eine Stimme authentisch oder eine Information verlässlich ist. Täuschend echte ­Inhalte lassen sich in kürzester Zeit erzeugen, Identitäten glaubwürdig imitieren und Informationen gezielt manipulieren. Gleichzeitig soll KI aber auch dabei helfen, Bedrohungen zu erkennen und digitale Systeme sicherer zu machen.

Dieses Spannungsfeld zwischen Risiko und Schutz zeigt sich besonders deutlich im Cyberumfeld. Im ihrem Fachbeitrag erläutert Valentina Sulmoni vom Bundesamt für Cybersicherheit, wie KI bestehende Angriffsmethoden wirkungsvoller macht – gleichzeitig aber auch die Cyberabwehr unterstützt. So entsteht "ein Wettlauf zwischen Angreifern und Verteidigern, bei dem beide Seiten ­zunehmend auf KI setzen".

Technische Lösungen können dabei helfen, die Herkunft und Inte­grität digitaler Inhalte nachzuweisen. Für digitales Vertrauen reicht das allein jedoch nicht aus. Reto Grubenmann von KPMG Schweiz zeigt, wie Unternehmen technische Schutzmechanismen mit klaren Prozessen und Governance verbinden können und welche Rolle dabei Zertifizierungen wie ISO/IEC 42001 spielen.

Doch wie entsteht überhaupt Vertrauen in KI? Im seinem Fachbeitrag erklärt Felix Gille von der Digital Society Initiative der Universität Zürich, welche Eigenschaften KI-Systeme vertrauenswürdig machen und wie sich diese überprüfen lassen. Vertrauen selbst lässt sich allerdings nicht erzwingen: Entscheidend sind laut Gille letztlich die Erfahrungen, die Menschen mit der Technologie ­machen.

Den Menschen stellt auch Verena Zimmermann von der ETH Zürich ins Zentrum. Im Interview erklärt sie, welche menschlichen Fähigkeiten im KI-Zeitalter wichtiger werden und weshalb Transparenz und kritisches Urteilsvermögen für digitales Vertrauen entscheidend sind.