Cyberkriminelle bieten Live-Deepfakes zu Spottpreisen an

Im Darknet bieten Cyberkriminelle Echtzeit-Deepfakes in Form von Videos und Audio an. Das ist an sich nichts Neues, neu ist allerdings der Preis: 2023 lagen die Kosten für Deepfake-Videos zwischen 300 und 20’000 US-Dollar pro Minute Material - nun liegt der Startpreis bei nur noch 30 Dollar und bei manipulierten Videos bei 50 Dollar, wie der russische Anbieter von IT-Sicherheitslösungen Kaspersky mitteilt. Bei vielen solcher Angebote handelt es sich allerdings tatsächlich um Betrugsversuche, die darauf abzielen, die Kundschaft finanziell auszubeuten.

Laut einem Blogbeitrag von Redguard entstehen Echtzeit-Deepfakes direkt während der Aufnahme von Videos oder Tonmaterial durch entsprechende Software respektive Machine-Learning-Modelle. So liesse sich beispielsweise während eines Videoanrufs das Aussehen einer Person verändern, Mimik und Lippenbewegungen synchronisieren und die Stimme täuschend echt imitieren – ohne für die Gegenstelle eine merkliche Verzögerung. Das erhöht das Risiko für Social‑Engineering‑Angriffe, etwa in Form von gefälschten CEO‑Anrufen oder manipulierten Videoident‑Prozessen.

Das Spektrum entsprechender Angebote im Darkweb ist breit. Laut Kaspersky umfasst es unter anderem Echtzeit-Gesichtstausch bei Videoanrufen, Gesichtsersetzung für Verifizierungsprozesse, den Austausch von Kamera-Feeds auf Geräten, Software für Mimik- und Lippensynchronisation aus Text sowie Stimmklone mit anpassbarer Tonlage und Stimmfarbe.

Es besteht nicht nur ein grosses Angebot, sondern auch eine deutliche Nachfrage nach "Deepfake-as-a-Service". Sicherheitsforscher Dmitry Galov von Kaspersky zeigt Besorgnis: "Cyberkriminelle experimentieren aktiv mit KI und binden sie in ihre Aktivitäten ein", lässt sich Sicherheitsforscher Dmitry Galov von Kaspersky in der Mitteilung zitieren. "Einige Plattformen werben mit weiterentwickelten Fähigkeiten – zum Beispiel lokal laufenden, von Grund auf neu erstellten schädlichen LLMs, die unabhängig von öffentlich verfügbaren Modellen sind." Obwohl es keine neue Bedrohung sei, erweitern diese Technologien die Fähigkeiten der Kriminellen erheblich. Cybersicherheitsexperten müssten deswegen mit KI gegenhalten, um Schutzmassnahmen zu verbessern und die Teamproduktivität zu steigern, so Galov.

Empfehlungen zum Umgang mit Deepfakes

Kaspersky empfiehlt Unternehmen, sich mit dem Thema Deepfakes auseinanderzusetzen. Man solle ein Bewusstsein für die Thematik schaffen und Mitarbeitende regelmässig schulen, damit sie die Merkmale von Deepfakes erkennen können. Zudem sei es wichtig, Schutzmassnahmen organisatorisch und technisch zu implementieren.

Laut Kaspersky lassen sich Deepfakes anhand mehrerer Merkmale erkennen: Ruckartige Bewegungen, inkonsistente Beleuchtung zwischen einzelnen Frames, unnatürliche Hauttöne, ungewöhnliches oder fehlendes Blinzeln, Bildartefakte sowie absichtlich niedrige Videoqualität oder Beleuchtung können auf eine Manipulation hindeuten.

Aktuell nutzen Cyberkriminelle vermehrt Deepfakes, um bekannte Persönlichkeiten zu imitieren. Betroffen sind dabei insbesondere Schweizer Amtspersonen. Lesen Sie hier mehr dazu.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.