USA führen freiwillige Sicherheitstests für KI-Modelle ein

US-Präsident Donald Trump bei der Unterzeichnung eines Dekrets - Symbolbild. (Source: The Trump White House; via Wikimedia Commons / Public Domain)

US-Präsident Donald Trump bei der Unterzeichnung eines Dekrets - Symbolbild. (Source: The Trump White House; via Wikimedia Commons / Public Domain)

Die US-Regierung will führende KI-Unternehmen dazu anhalten, ihre leistungsfähigsten Modelle vor einer Freigabe ausserhalb der Bundesverwaltung freiwillig von staatlichen Stellen prüfen zu lassen. US-Präsident Donald Trump unterzeichnete gemäss der Nachrichtenagentur "Reuters" ein entsprechendes Dekret. Hintergrund sind die wachsenden Sicherheitsbedenken in Washington angesichts immer leistungsfähigerer KI-Systeme wie Claude Mythos von Anthropic.

US-Behörden sollen bis zu 30 Tage Zeit erhalten, um solche Modelle zu überprüfen, bevor Unternehmen sie externen Organisationen zur Verfügung stellen. Zudem beauftragt das Dekret die Ministerien für Finanzen, Verteidigung, Handel und Innere Sicherheit damit, die Cyberabwehr des Bundes auszubauen.

Auch kritische Infrastrukturen stehen im Fokus. US-Finanzminister Scott Bessent soll gemeinsam mit KI-Entwicklern und Betreibern zentraler Infrastrukturen Software auf Schwachstellen untersuchen und Gegenmassnahmen erarbeiten. Betroffen sind unter anderem Banken, Rettungsdienste und Spitäler.

Freiwillige Sicherheitstests auf Bundesebene gibt es in den USA bereits seit mehreren Jahren. OpenAI und Anthropic liessen einzelne Modelle beim Center for AI Standards and Innovation des Handelsministeriums überprüfen. Laut "Reuters" beteiligten sich zeitweise auch Google, xAI und Microsoft an den Evaluierungen. Hinweise darauf sind inzwischen jedoch von der Website des Ministeriums verschwunden.

KI-Konzerne begrüssen den Vorstoss

Anthropic, OpenAI und Google standen laut einem hochrangigen US-Regierungsvertreter bereits im Austausch mit der US-Regierung über Fragen der Cybersicherheit. Google bezeichnete das Dekret als wichtigen Schritt. Anthropic kündigte an, mit dem Weissen Haus zusammenarbeiten zu wollen.

Auch OpenAI-Chef Sam Altman begrüsste den Ansatz. Die USA müssten weiterhin die leistungsfähigsten KI-Modelle entwickeln und gleichzeitig deren Sicherheit gewährleisten, sagte er.
 

Übrigens: Der Bundesrat will KI in der Schweiz nach dem Vorbild der USA möglichst wirtschaftsfreundlich regulieren - im Gegensatz zur EU, die mit dem AI Act deutlich strengere Vorgaben eingeführt hat. Aktuell ringt die EU allerdings um eine Lockerung des Regelwerks - mehr dazu lesen Sie hier.