Warum Vertrauen ins sichtbare Erscheinungsbild nicht mehr reicht

(Source: AiDesign / stock.adobe.com)

(Source: AiDesign / stock.adobe.com)

Was passiert, wenn Cyberkriminelle alte Betrugsmaschen mit neuen KI-Technologien verbinden? Das Bundesamt für Cybersicherheit (BACS) beantwortet diese Frage in einer aktuellen Meldung mit ein paar Beispielen.

Täuschend echter CEO-Klon in Videokonferenz

Die Behörde schildert, wie Kriminelle einen CEO-Betrug oder einen Schockanruf mit Deepfake-Technologien noch glaubwürdiger erscheinen lassen. Der Aufwand, um eine existierende Person mittels KI nachzuahmen, sinkt stetig. Um eine Stimme zu fälschen, reichten heutzutage schon 10 Sekunden Audio der zu kopierenden Stimme, erklärt das BACS. Deepfake-Videos erstellen die Cybergauner aktuell noch basierend auf Standbildern der zu fälschenden Personen. Entsprechend seien sie oft leichter als KI-generiert zu erkennen.

Aber: "Die Entwicklung wird auch hier voranschreiten und perfektere Videos mit vergleichsweise wenig Aufwand ermöglichen", warnt das BACS. Und: Deepfakes lassen sich nicht nur leichter, sondern auch immer schneller erstellen. Setzen Betrüger Deepfakes aktuell vorwiegend in vorproduzierten Videos ein, werden künftig auch interaktive Betrügereien möglich, also Deepfakes in Echtzeit.

Stimm- und Bildvorlagen für ihre Deepfakes finden die Kriminellen in den sozialen Medien. Das BACS rechnet aber auch damit, dass Betrüger künftig vermehrt bei Unternehmen anrufen dürften, um gezielt Stimmproben von Entscheidungsträgern zu sammeln.

Noch sei die Anzahl der Meldungen zu tatsächlich erfolgtem interaktivem Deepfake-Betrug gering, merkt das BACS an. Doch aus den jetzt schon bekannten Beispielen leitet die Behörde ab, "was die Zukunft bringt". Fand der CEO-Betrug in der Vergangenheit etwa gänzlich per E-Mail statt, meldet sich neu ein täuschend echter CEO-Klon auch telefonisch oder gar per Videokonferenz beim Opfer. Und wenn Betrüger Eltern mit erfundenen Geschichten zu inhaftierten Kindern überrumpeln, hören die Opfer künftig die geklonte Stimme ihrer eigenen Kinder zur Bestätigung der Schockgeschichte.

Gesundes Misstrauen

Interaktive Deepfake-Videos setzen Betrüger aktuell nicht breitflächig ein. "Noch werden diese sehr gezielt angewandt, da diese heute noch mit manueller Arbeit durchgeführt werden müssen und zumeist auf einzelne lohnende Ziele fokussiert sind", schreibt das BACS dazu.

Das Bundesamt mahnt aber jetzt schon zur Vorsicht: Die vermeintliche Authentizität eines Videos oder eines Sprachanrufs einer bekannten Person allein werde künftig nicht mehr ausreichen, um eine Geschichte zu verifizieren. Wichtiger werde, Gestik, Mimik und typische Ausdrucksweisen der dargestellten Person zu beachten. Denn: "Deepfake Videos können zwar ein äusserlich realistisches Bild erzeugen, weisen jedoch oft unnatürliche Verhaltensmuster der entsprechenden Person auf. Daher ist es entscheidend, nicht nur dem sichtbaren Erscheinungsbild zu vertrauen, sondern auch das Verhalten der Person kritisch zu hinterfragen."

Etwas konkreter hält das BACS folgende Tipps bereit, um sich gegen solche Betrügereien zu schützen:

• Trauen Sie nicht jedem Anrufer.

• Rufen Sie den vermeintlichen Angehörigen über die bekannte Rufnummer zurück.

• Beenden Sie nicht plausible Anrufe sofort.

• Lassen Sie sich nicht einschüchtern oder unter Druck setzen.

• Geben Sie niemals Passwörter oder PIN am Telefon bekannt.

• Gewähren Sie niemals fremden Personen Zugriff auf Ihren Computer, auch wenn Ihnen diese vertrauenswürdig erscheinen.

Lesen Sie auch: KI-Anbieter sollen ihre Sprachmodelle daran hindern, beliebig sexualisierte Deepfakes zu generieren. Der Nationalrat fordert ein entsprechendes Gesetz sowie eine Prüfinstanz.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.