Wie die EU rund um die Wahl für Sicherheit im Netz sorgen will

Die Bürgerinnen und Bürger der Europäischen Union wählen im Juni 2024 ein neues EU-Parlament. Akute Themen wie der Angriffskrieg vor der Haustür, die Klimakrise und die Digitalisierung werden den Urnengang im Sommer zu einem besonders richtungsweisenden machen. Damit im Vorfeld alles mit rechten Dingen zugeht, hat die EU-Kommission nun eine Reihe von Massnahmenempfehlungen für grosse Internetplattformen herausgegeben, um systemische Online-Risiken rund um die Integrität von Wahlen zu reduzieren, wie unter anderem "Heise" berichtet. Die Vorgaben basieren auf dem Digital Services Act (DSA) der EU. 

Kennzeichnung von KI-generiertem Content

Einige der empfohlenen Massnahmen betreffen den Umgang mit KI-Tools wie ChatGPT, wie "Heise" ausführt. Die betroffenen Plattformen müssen demnach "künstliche oder manipulierte Bilder, Audio- oder Videoinhalte, die vorhandenen Personen, Objekten, Orten, Entitäten oder Ereignissen merklich ähneln", eindeutig kennzeichnen oder auf andere auffällige Weise markieren. Das gelte auch für sogenannte Deepfakes, täuschend echte, aber gefälschte Aufnahmen von Personen. 

Die Anbieter sollen "ihre Prozesse und algorithmischen Systeme zur Inhaltsmoderation so anpassen, dass KI-generierte oder manipulierte Inhalte" erkennbar sind, fordert die Kommission, etwa über Wasserzeichen, Metadatenidentifikationen oder kryptografische Methoden zum Nachweis der Herkunft und Authentizität von Inhalten.

Die Kennzeichnung von KI-Inhalten ist übrigens auch ein wesentlicher Bestandteil des AI Act, mit dem die EU künstliche Intelligenz regulieren will. Das Parlament verabschiedete das Gesetz Mitte März 2024.

Zugang zu verlässlichen Quellen

Die Plattformbetreiber müssten ihren Usern während einer laufenden Wahl ausserdem Zugang zu "zuverlässigen, aktuellen und verständlichen Informationen aus offiziellen Quellen über die Stimmabgabe und den Abstimmungsprozess" geben, schreibt "Heise" weiter. Das soll helfen, potenzielle Schäden durch manipulierte Bilder, Stimmen oder Deepfakes von Politikerinnen und Politikern zu verringern. Anbieter sollen zudem schnell auf Manipulationen reagieren können, die den Wahlprozess untergraben könnten. Dies gelte auch für den Einsatz von Desinformation und Informationsmanipulation zur Unterdrückung von Wählern, heisst es.

Die Kommission halte die Plattformen des Weiteren an, ihre internen Schutzmechanismen generell zu verstärken. Sie sollen etwa entsprechende interne Teams mit angemessenen Ressourcen einrichten, die Analysen und Informationen über kontextspezifische Risiken verfügbar machen, wie "Heise" zitiert. Die Anbieter mögen zudem Initiativen zur Medienkompetenz umsetzen und ihre Empfehlungssysteme anpassen, so der Appell der EU-Kommission.

Hinweis auf politische Werbung

Nicht nur KI soll als solche gekennzeichnet werden: Auch politische Werbung soll eindeutig als solche erkennbar gemacht werden, rät die Kommission. Zudem sei rund um die Wahl die Kooperation mit Behörden, unabhängigen Sachverständigen und der Zivilgesellschaft zu fördern. Für Zwischenfälle soll ein Notfallmechanismus aktivierbar sein.

Ferner rät die Kommission, politische Werbung im Vorgriff auf eine einschlägige Verordnung eindeutig als solche erkennbar zu machen. Auch sei die Kooperation mit Behörden, unabhängigen Sachverständigen und der Zivilgesellschaft "vor, während und nach der Wahl zu fördern". Während laufender Stimmabgaben soll ein Notfallmechanismus "zur Reaktion auf Zwischenfälle" aktivierbar sein.

Grosse Plattformen, die den empfohlenen Massnahmen zur Risikominderung nicht Folge leisten, müssen nachweisen, dass ihre eigenen Massnahmen ebenfalls wirksam sind. Ansonsten drohen Sanktionen, wie "Heise" schreibt. Die Kommission wolle Ende April einen "Stresstest mit den einschlägigen Interessenträgern" durchführen, um die eingerichteten Mechanismen zu prüfen.