KI-Fehler soll bis 2028 G20-Land lahmlegen

(Source: freepik / freepik.com)

(Source: freepik / freepik.com)

Das Analyseunternehmen Gartner prognostiziert, dass bis 2028 eine Fehlkonfiguration von künstlicher Intelligenz in cyber-physischen Systemen (CPS) die kritische nationale Infrastruktur eines G20-Landes stilllegen wird. Als Ursache sieht Gartner dabei weniger Hackerangriffe, sondern operative Fehler. "Der nächste grosse Infrastrukturausfall wird möglicherweise nicht durch Hacker oder Naturkatastrophen verursacht, sondern durch einen gutmeinenden Ingenieur, ein fehlerhaftes Update-Skript oder eine falsch gesetzte Dezimalstelle", sagt Wam Voster, VP Analyst bei Gartner.

Eine fehlkonfigurierte KI kann laut dem Bericht autonom Dienste abschalten oder Sensordaten falsch interpretieren, was grossflächige Ausfälle, etwa in Stromnetzen, zur Folge haben könnte. Voster beschreibt moderne KI-Modelle als komplexe "Black Boxes", deren Verhalten oft unvorhersehbar sei. Daher sei ein sicherer "Kill-Switch" unerlässlich, um Menschen die finale Kontrolle zu ermöglichen.

Zur Risikominderung empfiehlt Gartner CISOs insgesamt drei Massnahmen:

• Implementierung sicherer Übersteuerungsmodi, die nur autorisierten Personen die Kontrolle über autonome Systeme geben
• Digitale Zwillinge sollen für realistische Tests von Konfigurationsänderungen vor dem Einsatz entwickelt werden
• Die Echtzeitüberwachung soll verpflichtend sein und die Schaffung nationaler KI-Incident-Response-Teams sichergestellt werden

Lesen Sie auch: Der "Cyber Pulse Report" von Microsoft zeigt auf, dass die unüberwachte, unkontrollierte und ungesicherte Nutzung von KI-Agenten neues Gefahrenpotenzial birgt. 

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.