Kompromisse gefunden

Update: EU-Parlament und Staaten einigen sich auf KI-Gesetz

Uhr
von Maximilian Schenner und René Jaun und tme, lha, yzu

Die EU will künstliche Intelligenz per Gesetz regulieren. Nach mehrtägigen Verhandlungen einigten sich EU-Staaten und das Europäische Parlament auf den "AI Act".

(Source: mixmagic/AdobeStock.com)
(Source: mixmagic/AdobeStock.com)

Update vom 11.12.2023: Der "AI Act" ist so gut wie unter Dach und Fach. Nach mehrtägigen Verhandlungen wurden sich das Europäische Parlament sowie die Abgeordneten der EU-Staaten einig, wie die EU mitteilt. In den besonders kontrovers diskutierten Punkten vereinbarten die Parteien Kompromisse: So dürfen etwa Strafverfolger in einigen Fällen Systeme zur biometrischen Identifizierung – also etwa Gesichtserkennungssysteme – einsetzen, wenn ein Gericht dies bewilligt. Erlaubt sind diese Systeme etwa in Zusammenhang mit sexuellem Missbrauch von Kindern, Menschenhandel oder Terrorismus.

Als weiterer Kompromiss verpflichtet der "AI Act" Hersteller von KI-Modellen zu mehr Transparenz. Sie sollen künftig technische Dokumentationen der KI-Modelle offenlegen, sich an europäische Urheberrechtsgesetze halten sowie mehr Informationen zu den Trainingsdaten zur Verfügung stellen. Noch strengere Auflagen gelten für grosse KI-Modelle mit hohen systemischen Risiken. Dazu gehören eine obligatorische Folgenabschätzung, die Verpflichtung zu Cybersicherheitsmassnahmen sowie eine Meldepflicht für schwerer Vorfälle.

Die beiden erzielten Kompromisse stossen auf Kritik, wie "Heise" zusammenfasst. So bemängeln etwa die Organisationen Algorithmwatch und European Digital Rights Initiative (EDRi) den grossen Spielraum, den das Gesetz KI-Entwicklern bei der Einstufung ihrer Systeme gebe. Sie könnten damit die hohen Anforderungen für hochriskante Systeme umgehen.

EU-Verbraucherschutzdachverband Beuc bemängelt, es gebe unzureichende Vorschriften für virtuelle Assistenten oder KI-gesteuerte Spielzeuge, da sie nicht als Hochrisikosysteme gälten, wie Heise zusammenfasst.

Als Nächstes müssen EU-Staaten und europäisches Parlament über den Gesetzestext abstimmen. Dies, schreibt die "Zeit", gelte jedoch als Formsache.

Update vom 6.12.2023:

Verhandlungen um europäisches KI-Gesetz werden härter

 

Noch ist der vom EU-Parlament präsentierte "AI Act" nicht in trockenen Tüchern. Tatsächlich herrscht aktuell Uneinigkeit zwischen dem EU-Parlament und den EU-Staaten, wie "Reuters" berichtet. So fordern etwa Frankreich, Deutschland und Italien harte Regeln für generative KI-Modelle aus dem Gesetz zu streichen. Stattdessen soll eine verbindliche Selbstregulierung für Hersteller solcher Modelle eingeführt werden. Wie "Der Standard" weiter ausführt, pochen ein paar Staaten auch darauf, das Verbot KI-basierter, automatisierter Gesichtserkennung aufzuweichen und Ausnahmen zuzulassen, etwa zum Schutz der nationalen Verteidigung.

Wie es unter Berufung auf Insider heisst, hätten diese Konflikte in den Vorbereitungstreffen nicht entschärft werden können. Eigentlich hätten sich Parlament und Staaten anlässlich der Verhandlungen vom 6. Dezember 2023 auf den "AI Act" einigen sollen. Doch dies steht nun auf Messers schneide, wie es "Der Standard" ausdrückt. Die Verabschiedung des Gesetzes droht sich damit zu verspäten, möglicherweise bis nach der Europawahl im Jahr 2024.

Update vom 16.6.2023:

EU-Parlament beschliesst Verordnung für KI-Regulierung

Der "AI Act" kommt. Die Abgeordneten des EU-Parlaments stimmten am 14. Juni für einen Gesetzesentwurf für die Regulierung von künstlicher Intelligenz, wie unter anderem "Watson" berichtet. Künftig sollen im EU-Raum also strengere Regeln für den Einsatz von KI-Anwendungen gelten. Es wäre das weltweit erste KI-Gesetz.

Was steht im neuen "AI Act"?

Allgemein sehe der Entwurf vor, KI-Anwendungen in verschiedene Risikobereiche einzustufen, schreibt "Watson" weiter. Je nach Einstufung sollen unterschiedliche Auflagen gelten: Lösungen, die ein "inakzeptables Risiko" darstellen, werden verboten. Dazu zählen etwa alle Formen von Social Scoring, wie es seit Jahren in der Volksrepublik China Anwendung findet.

Das Reich der Mitte gilt als der Überwachungsstaat schlechthin - wie viel China in dieser Hinsicht in der Schweiz steckt, erfahren Sie hier.

Auch die Echtzeitnutzung biometrischer Daten, beispielsweise für KI-gestützte Gesichtserkennung, soll der AI Act verbieten. Aufzeichnungen dürften weiterhin genutzt werden - allerdings nur in der Strafverfolgung und mit richterlichem Beschluss.

Anwendungen der höchsten Sicherheitsstufe, des Hochrisikobereichs, sollen strengen Kontrollen unterliegen, heisst es weiter. Dies betreffe etwa KIs der kritischen Infrastruktur, Anwendungen, die Wahlen beeinflussen können oder aber jene, die in grossen sozialen Netzwerken (mehr als 45 Millionen Nutzende) für Inhaltsempfehlungen eingesetzt werden.

Hier müsse eine strenge menschliche Kontrolle gewährleistet sein. Darüber hinaus müsse dokumentiert werden, mit welchen Datensätzen die KI trainiert wird.

Kennzeichnung für KI-Inhalte

Von Anwendungen wie Chatbots geht gemäss dem Entwurf ein limitiertes Risiko aus. Hierbei soll es ausreichen, die Nutezrinnen und Nutzer darauf hinzuweisen, dass sie KI nutzen. Auch das Endresultat unterliegt nach dem AI Act einer Kennzeichnungspflicht: Bilder oder Texte, die mit Hilfe sogenannter Foundation Models erstellt wurden, müssen als solche erkennbar sein. Zudem müsse die KI so gestaltet sein, dass sie keine illegalen Inhalte erzeugen kann.

Welche Behörden die Kontrolle übernehmen sollen, ist laut "Watson" noch nicht geklärt. Auch sei noch nicht absehbar, wie sich KI in den nächsten Jahren entwickeln wird - das Gesetz müsste also womöglich laufend angepasst werden. Der deutsche Digitalverband Bitkom fürchtet ausserdem nach wie vor eine "Überregluierung" durch das Gesetz, wie das Portal "Onlinehändler.de" schreibt. 

Der finale Gesetzestext soll bis Ende des Jahres feststehen. Unternehmen hätten danach zwei Jahre Zeit, um sich an die neuen Auflagen anzupassen. Die EU fordert grosse Tech-Konzerne und KI-Entwickler bis dahin zur "freiwilligen Selbstkontrolle" auf.

Originalmeldung vom 16.5.2023: 

EU-Parlament fordert Verschärfung des "AI Act"

Seit Ende 2022 arbeitet die EU an einem Gesetz zur Regulierung von künstlicher Intelligenz. Im Dezember wurde ein erster Entwurf für den "Artificial Intelligence Act", wie das Gesetz heissen soll, der Europäischen Kommission vorgelegt.

Das Europäische Parlament fordert nun deutlich strengere Regeln für den Einsatz von KI, wie unter anderem das "Handelsblatt" berichtet. Die beiden zuständigen Ausschüsse für Binnenmarkt und Inneres erarbeiteten demnach am 11. Mai 2023 in Strassburg Änderungsvorschläge am Entwurf des "AI Act".

Grenzen für die KI

Das KI-Gesetz verfolge einen risikobasierten Ansatz, schreibt das "Handelsblatt". Je riskanter eine Anwendung sei, desto mehr Auflagen müssten ihre Entwickler erfüllen. Dies betreffe unter anderem Offenlegungs- und Berichtspflichten, etwa für Programme wie ChatGPT. Das Parlament fordere, dass nicht jede KI automatisch als hochriskant eingestuft werde. Stattdessen sollen konkrete Überprüfungen auf ein "signifikantes Risiko" stattfinden. Die Ausschüsse ergänzen die Liste an "hochriskanten Bereichen" der EU-Kommission. Neben Gesundheit, Sicherheit, Grundrechten und Umwelt sollen auch Systeme zur Wählerbeeinflussung und Empfehlungssysteme grosser Social-Media-Plattformen dazu gehören, wie die deutsche "Tagesschau" schreibt. 

Grenzen soll es ausserdem vor allem beim Einsatz von Gesichtserkennung geben, wie das "Handelsblatt" weiter erläutert. Hier hätten sich die Liberalen gegen die Konservativen durchgesetzt. Der Abgleich biometrischer Daten einzelner Personen soll bis auf wenige Ausnahmen verboten werden, heisst es weiter. "Je weniger biometrische Daten verarbeitet werden dürfen, desto geringer das Risiko missbräuchlichen Nutzens", lässt sich KI-Experte Fritz-Uli Pieper zitieren.

Tech-Branche fürchtet Überregulierung

Aus der Tech-Branche bekommen die Parlamentarier Gegenwind. Übertrieben scharfe Auflagen würden nur dafür sorgen, dass die KI-Entwicklung künftig ausserhalb Europas stattfinde, zitiert das "Handelsblatt" etwa Achim Berg vom Bitkom, dem deutschen Fachverband für die Informations- und Telekom-Branche. Es sei wichtig, die Risiken der KI-Entwicklung zu adressieren, aber man brauche Raum für Innovationen, wird Oliver Süme vom Verband der Internetwirtschaft Eco zitiert.

Das gesamte Parlament muss nun über die Änderungsanträge der beiden Ausschüsse abstimmen. Dies sei für die Sitzung vom 12. bis 15. Juni geplant, schreibt die "Tagesschau".

Übrigens: Im grossen Interview mit der Netzwoche erklärt die Anwältin und Dozentin Anne-Sophie Morand, wie sich das KI-Gesetz auch auf die Schweiz auswirken könnte. Lesen Sie hier mehr dazu.

Webcode
k4E3vHaS