ChatGPT vs. EU-DSGVO

Datenschutzorganisation reicht Beschwerde gegen OpenAI ein

Uhr
von Joël Orizet und msc

ChatGPT verbreitet mitunter falsche Informationen über Personen - und Anbieter OpenAI kann angeblich nichts dagegen tun. Die österreichische Datenschutzorganisation Noyb sieht darin einen Verstoss gegen die EU-DSGVO und reicht eine entsprechende Beschwerde ein.

(Source: Timon / AdobeStock.com)
(Source: Timon / AdobeStock.com)

Die in Wien ansässige Datenschutzorganisation Noyb, gegründet vom Datenschutzaktivisten Max Schrems, hat eine Beschwerde gegen OpenAI eingereicht. Der Vorwurf: ChatGPT erfinde falsche Informationen über Personen und sei nicht in der Lage, diese richtigzustellen. Anbieter OpenAI missachte das gesetzlich vorgeschriebene Recht auf Berichtigung oder Löschung inkorrekter personenbezogener Daten und verstosse somit gegen die europäische Datenschutz-Grundverordnung (DSGVO), argumentiert die Datenschutzorganisation.  

Noyb reichte die Beschwerde bei der österreichischen Datenschutzbehörde im Namen einer Person des öffentlichen Lebens ein, wie es in einer Mitteilung der Organisation heisst. Auf die Frage nach dem Geburtstag der beschwerdeführenden Person habe ChatGPT wiederholt mit falschen Informationen geantwortet, statt einzuräumen, dass für eine Angabe die notwendigen Daten fehlen.

Antrag auf Berichtigung abgelehnt

Den Antrag auf Berichtigung oder Löschung habe OpenAI abgelehnt. Das Unternehmen gab gemäss Mitteilung zu, falsche Informationen auf ChatGPT nicht korrigieren zu können. OpenAI weiss noch nicht einmal, woher die Daten stammen oder welche Daten ChatGPT über einzelne Personen speichert, wie Noyb anmerkt.

OpenAI habe zudem nicht angemessen auf das Auskunftsbegehren reagiert. "Obwohl die DSGVO den Nutzerinnen und Nutzern das Recht einräumt, eine Kopie aller persönlichen Daten zu verlangen, hat es OpenAI versäumt, die verarbeiteten Daten, ihre Quellen oder Empfänger offenzulegen", schreibt die Datenschutzorganisation. 

Technologie muss dem Recht folgen

OpenAI sei derzeit nicht in der Lage, ChatGPT mit dem EU-Recht in Einklang zu bringen, sagt Maartje de Graaf, Datenschutzjuristin bei Noyb. "Wenn ein System keine genauen und transparenten Ergebnisse liefern kann, darf es nicht zur Erstellung von Personendaten verwendet werden. Die Technologie muss den rechtlichen Anforderungen folgen, nicht umgekehrt."

Noyb fordert die österreichische Datenschutzbehörde dazu auf, eine Untersuchung der Datenverarbeitungspraktiken von OpenAI einzuleiten - und ein Bussgeld zu verhängen, um die zukünftige Einhaltung der Vorschriften sicherzustellen.

Übrigens: Die italienische Datenschutzbehörde liess ChatGPT zwischenzeitlich sperren - OpenAI meldete sich bei der Behörde per Brief, um darzulegen, wie das Unternehmen die Datenschutzauflagen des Landes erfüllen will. Lesen Sie hier mehr dazu

Webcode
m8tD3kvA