Manche KI-Chatbot-Betreiber teilen ganze Chats mit Dritten

(Source: YuguDesign / Unsplash.com)

(Source: YuguDesign / Unsplash.com)

Prominente KI-Anbieter setzen zunehmend auf werbefinanzierte Geschäftsmodelle. Wie bei Webseiten und Apps gehen diese meist mit User-Tracking einher, wie einer neuen, noch nicht peer-reviewten Studie des IMDEA Networks Institutes zu entnehmen ist. Dabei verkaufen die KI-Anbieter Kundendaten an Werbepartner, damit diese ihre Werbung gezielter an bestimmte Kundengruppen schalten können. 

Die Forschenden untersuchten einige der bekanntesten Chatbots: ChatGPT, Claude, Gemini, Grok, DeepSeek, Perplexity, Le Chat, Meta AI und MS Copilot und versuchten herauszufinden, welche Daten von Kunden sie an Werbe- und Tracking-Netzwerke weitergegeben. 

Fünf von neun Chatbots teilen Permalinks zu Chats

Laut der Studie werden sowohl Metadaten als auch ganze Chatverläufe an Daten-Tracker verkauft. Fünf der neun untersuchten KI-Anbieter teilen Permalinks zu Chatverläufen mit Tracking-Diensten. Diese könnten dadurch in den meisten Fällen direkt auf die Chatverläufe zugreifen, denn bei vielen KI-Anbietern gebe es keine Zugangsbeschränkungen. Bei 40 Prozent der Chatbots, die Permalinks zu Chats mit Dritten teilen, können User diese Weitergabe verhindern, indem sie die "nicht erforderlichen" Cookies ablehnen. Bei 60 Prozent der Chatbots sei dies jedoch nicht möglich. 

Doch, mit dem geteilten Link ist noch nicht bewiesen, dass die Datentracker auf die Chats zugreifen. Ob sie dies tatsächlich tun, versuchten die Forschenden mit Canary-URLs herauszufinden. 

Nur bei Grok, dem Chatbot von Elon Musks Unternehmen SpaceXAI, stellten sie externe Zugriffe auf diese URLs fest. Diese Zugriffe seien innerhalb von Stunden oder mehreren Tagen nach dem Teilen der Chats durch SpaceXAI erfolgt. Bei DeepSeek, Copilot, Mistral und Claude seien die Canary-URLs jeweils nur nach dem ersten Teilen der Permalinks abgerufen worden. Die Zugriffe erfolgten in diesen Fällen durch Amazon Web Services und Google Cloud. Die Forschenden betonen jedoch, dass das Fehlen von erneuten Zugriffen auf die Test-URLs nicht als Beweis gesehen werden sollte, dass Tracker nicht doch auf Chats zugreifen könnten. 

Auch Zusammenfassungen von Chats werden geteilt

33 Prozent der untersuchten KI-Anbieter würden Zusammenfassungen von Chats mit ihren Werbepartnern teilen, stellen die forschenden weiterhin fest. Diese Zusammenfassungen würden automatisch generiert und könnten private Informationen enthalten. Als Beispiel schildern die Verfasser einen Chat mit der Einstiegsfrage "Mein Gehalt beträgt 85’000 Dollar. Wie hoch kann meine Hypothek in New York City sein?". Claude generiere daraus die Zusammenfassung "erschwingliche Hypothek mit einem 85’000 Dollar Einkommen in New York City". Ausserdem werde auch der Standort der Nutzenden teilweise mit Dritten geteilt. 

Weitergegebene Daten sind verknüpft mit E-Mail-Adressen

Laut Studie würden die weitergegebenen Daten meist zusammen mit der E-Mail-Adresse oder einer User-ID geteilt. Die Daten seien daher nicht anonymisiert und würden auch im Inkognito-Modus weitergegeben. Mit Daten wie der E-Mail Adresse könnten Datenhändler einen User über Plattformen hinweg identifizieren. 

Datenweitergabe lässt sich kaum stoppen

Gemäss der Studie ist das Umgehen solcher Datenweitergaben schwierig. Rund 81 Prozent der Tracker bleiben auch aktiv, wenn die Nutzenden "nicht notwendige" Cookies abgelehnt hätten. Auch ein kostenpflichtiges Abonnement macht der Studie zufolge keinen Unterschied.

Wer die Tracker sind

Die Forschenden betonen, dass die Tracking Anbieter oder Werbeanbieter, die sie in den Testläufen identifizierten, je nach Testverlauf variieren würden. Bei allen KI-Anbietern seien aber Tracker von Google am meisten aufgetaucht. Weiter fanden die Forschenden Tracker von bekannten Datentrackern wie Sentry, Meta, Datadog und Intercom. Auch TikTok, Apple und X seien dabei. 

Cookiebanner sind nicht zu unterschätzen: Wer unkontrolliert Daten teilt, könnte gefährdet werden. Lesen Sie hier mehr zu Cookies und Tracking. 

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.