Update: Intime ChatGPT-Gespräche landen in Google – OpenAI reagiert

Update vom 05.08.2025: Nicht nur Metas KI bietet ihren Usern an, Chatverläufe mit anderen zu teilen. Auch im bekannten OpenAI-Produkt ChatGPT gibt es diese Funktion – und auch hier sorgte ein Button für gravierende Missverständnisse, wie unter anderem "Heise" berichtet. Demnach erschien im Dialogfenster zum Teilen eines Chatverlaufs ein Kontrollkästchen mit dem Text "Make this chat discoverable". Wer dieses Kästchen anklickte, machte den Chatverlauf nicht nur per öffentlichem Link abrufbar, sondern sorgte auch dafür, dass der Link in den Index von Suchmaschinen wie Google aufgenommen wurde.

Laut "Heise" tauchten in der Folge in Google-Suchresultaten ChatGPT-Gespräche auf, "in denen es um Mord ging, um sexuelle Vorlieben und andere brisante Inhalte".

OpenAI-CISO Dane Stuckey schrieb auf X, die Funktion habe "zu viele Möglichkeiten für Nutzer geschaffen, versehentlich Inhalte zu teilen, die sie eigentlich nicht teilen wollten". Man habe das Kontrollkästchen deswegen wieder entfernt, gebe geteilte Chatverläufe auch nicht mehr für andere Suchmaschinen frei und arbeite daran, bereits indizierte Chatverläufe wieder zu entfernen, so Stuckey weiter.

Originalmeldung vom 16.06.2025:

User führen intime Chats mit Meta-KI – und teilen sie mit der ganzen Welt

Für User in der Schweiz ist "Meta AI" vorerst nur Bestandteil verschiedener Meta-Apps wie Whatsapp oder Facebook. Doch in ersten Regionen wie den USA gibt es Metas KI-Chatbot auch als eigenständige App – und als solche ist "Meta AI" offenbar eine "Datenschutz-Katastrophe", wie "Techchrunch" titelt.

Problematisch ist demnach die in der App angebotene "Teilen"-Funktion. Mit dieser können User des KI-Chatbots ihre Gespräche anderen Usern zugänglich machen. Allerdings, so "Techchrunch", scheinen sich manche User nicht bewusst zu sein, dass sie damit unter Umständen die Chats öffentlich, also für jedermann sichtbar, posten – und dass die Konversationen mitunter sehr intime Details enthalten.

Das Portal nennt eine Reihe von Beispielen, die von abstossend ("Warum stinken einige Fürze mehr als andere?") über äusserst intim ("Was tue ich bei rotem Ausschlag am Oberschenkel?") bis zu illegal ("Wie hinterziehe ich Steuern?") reichen – alle versehen mit dem vollständigen Namen der jeweiligen User.

Dabei erfolgt die Veröffentlichung offenbar jeweils auf dem zum Anmelden genutzten sozialen Netzwerk und mit den dort festgelegten Standard-Einstellungen für neue Beiträge. Wer also seine Instagram-Posts üblicherweise mit der ganzen Welt teilt, dessen Chats mit "Meta AI" sind dann ebenfalls für für die ganze Welt zugänglich, erklärt "Techchrunch". Wissen müssen das die User selber – laut dem Artikel informiert "Meta AI" nicht aktiv darüber, mit wem KI-Konversationen genau geteilt werden.

Mit ihrem "Datenschutz-Konzept 2.0" will die Digitale Gesellschaft die Diskussion um einen griffigeren Datenschutz anstossen. Im überarbeiteten Konzept definiert der Verein sechs Schutzziele und spricht auch die KI-basierte Datenbearbeitung an, wie Sie hier lesen können.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.