Creators müssen KI-Inhalte auf Youtube kennzeichnen

Durch das Aufkommen von Deepfakes und KI-generierten Videos und Bildern sieht sich Youtube gezwungen, zu handeln. In einem Blogpost kündigt die Videoplattform ein neues Tool an: Es soll Creators dazu verpflichten, KI-generiertes und anderweitig manipuliertes Bild- und Videomaterial als solches zu kennzeichnen, wenn die Inhalte realistisch aussehen. Wenn zum Beispiel eine wirklich existierende Person in einem durch KI erstellten Video vorkommt und das Video nicht klar als Fiktion zu erkennen ist, müsse das Video entsprechend gekennzeichnet werden. Eindeutig fiktive Szenen und Filter müssen Creators weiterhin nicht kennzeichnen, wie Youtube betont. 

Youtube will die Labels in den kommenden Wochen zuerst in der Youtube-App und später auch in der Desktopversion einführen, wie es weiter heisst. Damit wolle die Plattform den Videoproduzentinnen und Videoproduzenten Zeit geben, um sich an die neuen Regeln zu gewöhnen. Youtube behalte sich vor, KI-Videos, die nicht freiwillig von Creators gekennzeichnet worden sind, nachträglich als solche zu kennzeichnen. Künftig wolle sich Youtube Massnahmen gegen Creators ausdenken, die gegen die neuen Regeln verstossen. 

Parallel dazu arbeite Youtube derzeit an einem neuen Datenschutzverfahren, mit dem Nutzende die Entfernung von KI-generierten Inhalten beantragen können, die eine identifizierbare Person simulieren. Youtube will demnächst weitere Infos zu der Einführung dieses Verfahrens veröffentlichen. 

PXL Vision arbeitet aktuell übrigens zusammen mit dem Forschungsinstitut Idiap an einem Programm zur Deepfake-Erkennung. Der Bund unterstützt das Projekt mit Zuschüssen. Mehr dazu lesen Sie hier. 

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.