Instagram-Hack offenbart Schwachstelle in Metas KI-Chatbot

(Source: Mohamed Nohassi / Unsplash.com)

(Source: Mohamed Nohassi / Unsplash.com)

Bei einem Angriff auf Metas KI-gestützten Support-Chatbot ist es Hackern gelungen, hochkarätige Instagram-Konten zu übernehmen. Darunter sind ein ehemaliges Profil des Weissen Hauses unter dem früheren US-Präsidenten Obama, Konten des Kosmetikhändlers Sephora sowie der Auftritt eines hochrangigen Vertreters der US-Weltraumstreitkräfte, wie "Reuters" berichtet.  Laut Meta seien an die 20'000 Instagram-Konten im Zuge des Angriffs kompromittiert worden, schreibt "Computer Base".

Der Chatbot habe sich dazu verleiten lassen, die Anmeldedaten eines Kontos zurückzusetzen, ohne die Identität des Anfragestellers zu überprüfen. Dadurch sei ein eigentlich vertrauenswürdiges Sicherheitstool zu einer grossen Schwachstelle geworden, wie Sicherheitsexperten gegenüber "Reuters" erklärten. Da Technologieunternehmen KI-Systemen weitreichende Befugnisse übertragen würden, obwohl diese weiterhin anfällig für Manipulationen seien, verdeutliche der Vorfall eine generelle Schwachstelle. 

Meta beschleunigt Automatisierung

Für Meta komme dieser Rückschlag zu einem Zeitpunkt, an dem das Unternehmen sein KI-Engagement verstärkt, Tausende von Arbeitsplätzen abgebaut und Investitionen von bis zu 145 Milliarden US-Dollar in seine KI-Infrastruktur angekündigt habe. Dies könnte laut "Reuters" Bedenken verstärken, dass das Unternehmen die Automatisierung kritischer Funktionen beschleunigt, bevor die Technologie bereit ist, diese sicher zu bewältigen. 

"Dies ist ein grundlegender Architekturfehler. Dem Modell wurden privilegierte Aktionen gewährt, ohne dass es über entsprechende Zugriffskontrollen verfügte", zitiert "Reuters" Brian Westnedge, Vizepräsident für Allianzen und Partnerschaften beim Cybersicherheitsunternehmen Red Sift. "Meta sieht sich anhaltender Kritik wegen mangelnder menschlicher Unterstützung ausgesetzt, hat umfangreiche Stellenkürzungen vorgenommen und gibt Milliarden für KI aus. Dieser Vorfall trifft genau den Kern all dieser drei Punkte." 

Meta habe mittlerweile mitgeteilt, das Problem sei behoben und man sei dabei, betroffene Konten zu sichern. Das Unternehmen  hatte den Support-Chatbot im März eingeführt, um ein seit langem bestehendes Problem zu beheben: Es gab bisher keinen menschlichen Support für Nutzer, die den Zugriff auf ihre Konten verloren hatten oder zu Unrecht mit Strafen belegt wurden.

Auch Lenovo hatte unlängst mit einer kritischen Schwachstelle in seinem KI-Chatbot zu kämpfen. Was dabei geschah, können Sie hier nachlesen. 

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.