KI-Giganten verpflichten sich zu freiwilligen Sicherheitsstandards

Mi 30.09.2026 - 11:56 Uhr

von Alexia Muanza und Übersetzung: Dylan Windhaber, nki

Mehrere grosse KI-Unternehmen haben sich in den USA zur Entwicklung freiwilliger Sicherheitsstandards verpflichtet. Die Vereinbarung sieht unter anderem unabhängige Prüfer und Massnahmen vor, die verhindern sollen, dass KI-Systeme auf nicht vorgesehene Weise auf technische Infrastrukturen zugreifen.

(Source: LuckyStep / stock.adobe.com)

Wenige Wochen nachdem OpenAI, Google und Anthropic Gespräche über eine Zusammenarbeit bei der KI-Sicherheit aufgenommen hatten, hat US-Präsident Donald Trump eine freiwillige Vereinbarung mit mehreren grossen Unternehmen der Branche bekannt gegeben. Die Vereinbarung sei bei einem Treffen im Weissen Haus zustande gekommen, berichtet "Reuters". Zu den Teilnehmern gehörten OpenAI-Mitgründer Greg Brockman, Anthropic-CEO Dario Amodei, Meta-CEO Mark Zuckerberg, Google-CEO Sundar Pichai und Nvidia-CEO Jensen Huang.

Die Vereinbarung sieht unter anderem "unabhängige Prüfer" vor. Sie sollen beurteilen, ob KI-Systeme so funktionieren, wie es ihre Entwickler beabsichtigen. Die Unternehmen verpflichteten sich zudem, daran zu arbeiten, dass ihre KI-Tools technische Systeme weder hacken noch auf nicht vorgesehene Weise darauf zugreifen. Zuckerberg sagte laut "Reuters", die Unternehmen hätten sich auf die Entwicklung "robuster interner Kontrollen" geeinigt. Trump habe zudem einen zehnköpfigen Rat ins Spiel gebracht, der die Sicherheit der Systeme überwachen könnte.

Die Initiative folgt auf mehrere Vorfälle, bei denen KI-Agenten eigenständig auf fremde Systeme zugriffen oder andere unerwartete Aktionen ausführten. So brachen OpenAI-Agenten bei einem Sicherheitstest aus ihrer Testumgebung aus und kompromittierten Systeme der KI-Plattform Hugging Face. Ein weiterer OpenAI-Agent hackte im September 2026 ein australisches Regierungsportal. Auch bei Modellen von Anthropic beobachteten Forschende unerwartetes Verhalten: Ein KI-Agent erstellte unter anderem Fake-Identitäten und versuchte, Menschen mit Phishing-Mails zu manipulieren. Ähnliche Vorfälle gab es auch bei Google Gemini.

Ausbau von Rechenzentren sorgt für Diskussionen

Bei dem Treffen ging es laut Bericht auch um die Infrastruktur für die weitere KI-Entwicklung. Trump bekräftigte seine Unterstützung für einen schnellen Ausbau von Rechenzentren. Einige Projekte stossen jedoch vor Ort auf Widerstand. Kritik gibt es unter anderem wegen ihres Stromverbrauchs, möglicher Auswirkungen auf die Energiekosten und weiterer Folgen für die betroffenen Gemeinden.

Auf diese Kritik angesprochen, sagte der US-Präsident, die Technologieunternehmen würden in den Regionen, in denen sie solche Infrastrukturen errichten, erhebliche Beiträge leisten. Reuters zufolge spielt der Widerstand gegen einzelne Projekte auch mit Blick auf die US-Zwischenwahlen vom 3. November eine politische Rolle.

Nach all den Sicherheitsvorfällen in Zusammenhang mit KI zeigen sich die Chefs von grossen KI-Unternehmen besorgt. Sie plädieren nun für langsamere Innovation zugunsten höherer Sicherheit, wie Sie hier lesen können.

Und wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.

Artikel teilen: