OpenAIs Agenten posten Bilder von Usern online

(Source: Jackie Niam / AdobeStock.com)

(Source: Jackie Niam / AdobeStock.com)

OpenAI hat im Rahmen einer Untersuchung 53 Bilder aus den Trainingsdaten identifiziert, die die eigenen KI-Agenten direkt auf einer Drittwebsite hochgeladen haben. Es handelt sich um Bilder, die User bei OpenAIs Modellen hochgeladen haben und die anschliessend in den Trainingsdaten aufgenommen wurden, wie OpenAI mitteilt. Das heisst, es sind vermutlich Bilder, die User in einer Interaktion an ChatGPT geschickt haben. Dies sei ohne das Wissen von OpenAI geschehen. 

Betroffen seien nur Bilder von Personen, die die Nutzung ihrer Daten für das Training weiterer KI-Modelle freigegeben haben. Es seien keine Bilder von Usern oder Unternehmen identifiziert worden, die ihre Daten nicht zum Training freigegeben haben. 

Gemäss OpenAI arbeiten sie zurzeit mit den Hosting-Anbietern der Drittwebsite zusammen, um die betroffenen Bilder wieder zu entfernen. Die Bilder seien nicht über öffentlich gelistete Links zugänglich gewesen. 

Unangemessene Nutzung von User-Daten

Solche Links können aber trotzdem entdeckt werden, wie "TechCrunch" berichtet. Mit dem Hochladen von Bildern von Usern im Internet hätten die KI-Agenten gegen die Datenschutzrichtlinien von OpenAI verstossen. Auch OpenAI schreibt dazu, dass dies keine angemessene Nutzung dieser Daten sei.

Weiter erwähnt OpenAI neue Schutzmassnahmen, die das Unternehmen eingeführt habe: "Diese Vorfälle geschahen, bevor wir die Schutzmassnahmen einführten, die wir in unserem technischen Bericht beschreiben". OpenAI verspicht, den Trainings- und Evaluierungsprozess nun zu verbessern, um solche Zwischenfälle in Zukunft zu vermeiden. 

Dieser Vorfall lässt sich in eine Reihe von Vorfällen einreihen, die gemäss OpenAI auf eine Fehlausrichtung der Modelle zurückzuführen ist. Nach dem Hugging-Face-Vorfall, bei dem 700 von OpenAIs KI-Agenten die Datenbank von Hugging Face hackten, leitete OpenAI verstärkte Untersuchungen ein und veröffentliche seither solche Vorfälle transparenter. Zuletzt gab OpenAI bekannt, dass einer seiner KI-Agenten ein australisches Regierungsportal gehackt hat.

Neben Fehlausrichtung von KI-Agenten, die dazu führen, dass die KI-Agenten die Regeln brechen, die ihnen auferlegt werden, können auch die Menschen hinter den KI-Agenten viel Schaden anrichten. So beispielsweise in einer Cyberkampagne, bei der KI-Agenten von Cyberkriminellen genutzt werden, um Onlineshops automatisiert anzugreifen. 

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.