Wenn Maschinen Maschinen betrügen

Joël Orizet, stellvertretender ­Chefredaktor. (Source: Netzmedien)

Joël Orizet, stellvertretender ­Chefredaktor. (Source: Netzmedien)

Schon bald könnte das häufigste Gegenüber einer Bank im digitalen Raum kein Mensch mehr sein, sondern ein KI-Agent. Ein digitaler Assistent, der Rechnungen bezahlt, Kredite vergleicht, Anlageentscheide vorbereitet und Transaktionen auslöst – ­autonom, rund um die Uhr und im Auftrag seiner Nutzerinnen und Nutzer. 

Was nach der nächsten Evolutionsstufe des Onlinebankings klingt, eröffnet eine neue Dimension des Finanzbetrugs. Denn wenn Menschen ihre Entscheidungsspielräume zunehmend an automatisierte Systeme auslagern, verschiebt sich das Ziel eines Angriffs: Nicht mehr primär der Kunde oder die Kundin steht im Fokus der Angreifer, sondern der digitale Agent, der für sie entscheidet.

Wie gross die Sorge in der Branche bereits heute ist, zeigt eine Befragung des israelischen Betrugserkennungsspezialisten Biocatch. 84 Prozent der befragten Risiko- und Compliance-Verantwortlichen betrachten KI-Agenten als die grösste ausnutzbare Schwachstelle der kommenden zwölf Monate. Bemerkenswert ist die nahezu einhellige Einschätzung der Befragten: KI-getriebener Betrug gilt nicht als Zukunftsrisiko, sondern als gegenwärtige Gefahr.

Dass solche Szenarien keineswegs theoretisch sind, zeigen erste Sicherheitsstudien. Forschende von Unit 42, der Sicherheitsabteilung von Palo Alto Networks, demonstrierten bereits, wie sich KI-Agenten durch manipulierte Eingaben zu unerwünschten Aktionen verleiten lassen. Noch handelt es sich dabei um kontrollierte Experimente. Sie verdeutlichen jedoch, vor welchen Herausforderungen Finanzdienstleister stehen, wenn KI-Agenten zunehmend eigenständig mit digitalen Systemen interagieren.

Mit dieser Entwicklung gerät ein Grundprinzip der digitalen Sicherheit ins Wanken. Denn das Problem besteht nicht mehr allein darin, unberechtigte Zugriffe zu verhindern, sondern legitime Systeme vor manipulierten Entscheidungen zu schützen. Jahrzehntelang konzentrierten sich Schutzmechanismen darauf, die Identität von Nutzerinnen und Nutzern zu verifizieren. Doch was bedeutet Identität, wenn Menschen zentrale Entscheidungen zunehmend an automatisierte Systeme delegieren? Wenn ein KI-Agent zweifelsfrei legitimiert ist, aber auf manipulierte Informationen reagiert und dadurch schädliche Transaktionen auslöst? Die entscheidende Frage lautet dann nicht mehr: «Wer bist du?», sondern: «Handelst du im richtigen Interesse?»

Für Banken, Versicherungen und Fintechs bedeutet dies einen Paradigmenwechsel. Vertrauen lässt sich nicht mehr allein über Passwörter, Geräte oder einmalige Authentifizierungen herstellen. Finanzdienstleister müssen es kontinuierlich überprüfen – anhand von Verhalten, Kontext, Absicht und Plausibilität.

Schon bald könnte die gefährlichste Täuschung nicht mehr jene sein, bei der ein Mensch einer Maschine vertraut, sondern eine Maschine der anderen. KI-Agenten müssen deswegen nicht nur lernen, vernünftige Entscheidungen zu fällen – sie müssen auch lernen, im Zweifel misstrauisch zu sein.