Anthropic bekämpft Missbrauch seiner KI-Modelle

(Source: Paisan - Stock.Adobe.com)

(Source: Paisan - Stock.Adobe.com)

Anthropic hat einen über 150-seitigen Bericht veröffentlicht, in dem der Claude-Entwickler dutzende Fallstudien zum versuchten Missbrauch seiner KI-Modelle darlegt. Das Unternehmen teilt die beschriebenen Aktivitäten in sieben Kategorien ein: Cyberoperationen, Einflussoperationen, Überwachung, Betrug, biologischer Missbrauch, konventionelle Waffenentwicklung und unerlaubte Destillation. Dabei seien jeweils die Claude-Modelle Haiku, Sonnet oder Opus zum Einsatz gekommen - niemals Fable oder Mythos, die strengere Sicherheitsvorkehrungen besitzen.

"Hinter raffinierten Angriffen stecken nicht mehr zwingend raffinierte Angreifer", fasst Anthropic eine Problematik von KI-gestützten Cyberattacken zusammen. Während noch vor einem Jahr die Komplexität eines Cyberangriffs auf die Akteure dahinter schliessen liess, sei dies nun praktisch nicht mehr möglich. Dabei agiert KI laut Bericht bei Cyberoperationen zunehmend autonom: Anthropic beschreibt etwa das Beispiel einer Hackergruppe, deren KI-Agenten ihre Hacking- und Spionagetools automatisch umbauen und neu einsetzen, wenn ein Sicherheitssystem diese entdeckt.

Politische Einflussnahme und Waffenentwicklung

Während unabhängige Cyberkriminelle typischerweise auf monetären Gewinn aus sind, haben staatlich unterstützte Akteure meistens das Ziel, die Informationslage zu politischen Themen zu manipulieren. Der Bericht beschreibt neun solcher Kampagnen, die etwa hunderte Social-Media-Profile erstellen, um im grossen Stil politisch motivierte Falschinformationen zu streuen. KI werde dabei etwa eingesetzt, um Inhalte besser auf die gewünschte Zielgruppe anzupassen oder glaubhafte Fake-Profile - mit Bild und biografischem Hintergrund - zu erstellen.

Ebenfalls von grosser Tragweite ist der KI-Missbrauch bei der Entwicklung von konventionellen und biologischen Waffen. Einerseits hätten Akteure versucht, mithilfe von Claude Software für Waffensysteme zu entwickeln oder Informationen über Waffen zu sammeln. Andererseits beschreibt Anthropic Fälle, in denen Akteure mit der KI mehr über bestimmte Virenstämme und andere potenzielle biologische Waffen herausfinden wollten. Diese Fälle seien oft besonders schwierig einzuschätzen, da Claude grundsätzlich für biologische Forschung genutzt werden soll - einfach nicht für solche mit bösartigen Absichten. Die raffiniertesten Akteure wüssten dies jedoch und würden daher ihre KI-Anfragen so stellen, dass eine "plausible Abstreitbarkeit" bestehe. Dennoch ist es Anthropic laut eigenen Angaben gelungen, solche Operationen aufzuspüren und die entsprechenden Claude-Konten zu sperren.

Insgesamt enthalte der Bericht nur Beispiele von Fällen, die aufgrund ihrer Komplexität und Raffiniertheit herausgestochen seien. Anthropic habe die Erkenntnisse daraus genutzt, um die Sicherheitsvorkehrungen seiner Modelle zu verbessern. Zudem habe man, wenn angebracht, mit Regierungen und Partnerunternehmen zusammengearbeitet, um Bedrohungen zu bekämpfen.

Ein US-Gericht hat übrigens befunden, dass Anthropic kein Lieferkettenrisiko für die nationale Sicherheit darstellt. Lesen Sie hier mehr dazu.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal gibt es täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.