Fehlerhafter Chatbot verursacht höhere Roaming-Kosten

Eine falsche Auskunft durch den Chatbot der Salt-Marke Gomo hat bei einem Kunden zu unerwarteten Roaming-Gebühren geführt. Wie "SRF" berichtet, war eine 14-Jährige für einen Sprachaufenthalt in Frankreich unterwegs. Ihr Vater informierte sich vor der Reise über die dortige Nutzung mobiler Daten und wandte sich, nachdem er auf der Website des Telkos nicht fündig wurde, an den Chat von Gomo. Der KI-Chatbot habe ihm daraufhin versichert, dass ein Datenpaket von bis zu 3 Gigabyte im Abo miteingeschlossen sei.

Nach der Rückkehr der Tochter stellte sich jedoch heraus, dass auch bei ihrer unter 3 Gigabyte liegenden Datennutzung Roaming-Gebühren fällig wurden. Ein entsprechendes Datenpaket hätte separat erworben werden müssen. Laut "SRF" habe Gomo dem Vater daraufhin angeboten, die Gebühren zu erlassen, wenn er auf ein teureres Abo umsteigt. Das Angebot wurde abgelehnt, da für den Vater der Grundsatz im Vordergrund stehe, dass ein Unternehmen für einen Fehler seines Chatbots haften soll.

Unternehmen haften für ihre KI

"Ich bin der Meinung, dass ein Unternehmen für den Chatbot gradestehen müsste", zitiert "SRF" Martin Steiger, Experte für Recht im digitalen Raum. Ein Unternehmen müsse demnach für Auskünfte seiner KI-Assistenten die Verantwortung übernehmen, analog zu menschlichen Mitarbeitenden. Steiger kritisiert zudem das Verhalten von Gomo als "äusserst fragwürdig" und fordert mehr kundenfreundliche Lösungen sowie eine raschere KI-Regulierung in der Schweiz.

Auf Anfrage von "SRF" äusserte sich Gomo nicht zum Vorfall. Das Mutterunternehmen Salt wiederum räumt einen Fehler ein. Die offenbar veraltete Version des Chatbots habe Informationen im Produktbeschrieb vermischt. Salt werde dem betroffenen Kunden die entstandenen Roaming-Gebühren erstatten. Den Chatbot will der Telko inzwischen so optimiert haben, dass ähnliche Probleme künftig nicht mehr vorkommen sollen.

Auch der Open-Source-Chatbot Lucie der französischen Linagora Group machte mit fehlerhaften Aussagen auf sich aufmerksam. Diese waren allerdings weitaus absurder als ein falscher Abo-Beschrieb – lesen Sie hier mehr dazu.