Angriffe auf KI-Systeme offenbaren Lücken in der Cyberabwehr

(Source: zVg)

(Source: zVg)

Nach einigen Jahren mit weitgehend stabilen Budgets fliesst wieder mehr Geld in die Cybersicherheit. 84 Prozent der Sicherheits- und Finanzverantwortlichen rechnen mit steigenden Ausgaben, wobei 58 Prozent KI zu ihren wichtigsten Investitionsprioritäten zählen. Dies zeigt die Studie "Global Trust Insights 2027" von PwC, für die das Beratungsunternehmen zwischen Mai und Juli 2026 rund 3900 Führungskräfte aus Wirtschaft und Technologie in 71 Ländern befragte.

KI als grösste Schwachstelle

Die Hälfte der befragten Sicherheitsverantwortlichen zählt Angriffe auf KI-Systeme zu den grössten Lücken ihrer eigenen Vorbereitung, wie PwC schreibt. Dahinter folgen Bedrohungen in der Cloud (40 Prozent), Sicherheitsvorfälle bei Drittanbietern (34 Prozent) und Ransomware (33 Prozent). Grund für den Handlungsbedarf seien die Fortschritte der sogenannten Frontier Models. Diese seien inzwischen in der Lage, bisher unbekannte Schwachstellen in Software aufzuspüren und mit minimaler menschlicher Intervention auszunutzen.

Am schlechtesten gewappnet sind die Befragten laut Studie gegen autonome Bot-Netze (53 Prozent), Adversarial Attacks und Data Poisoning (je 52 Prozent). "KI schafft eine neue Art von Sicherheitsrisiko und zugleich eine der grössten Chancen, die Verteidiger seit Jahrzehnten hatten. Die Herausforderung besteht darin, Vertrauen und Kontrolle so schnell aufzubauen, wie KI eingeführt wird", lässt sich Phil Venables, Partner bei Ballistic Ventures, in der Studie zitieren. 

Zurückhaltung bei autonomen KI-Agenten

In der eigenen Abwehr setzen Unternehmen gemäss PwC vor allem bei der Erkennung von Bedrohungen (50 Prozent), Betrug (43 Prozent) und Phishing (42 Prozent) auf KI. Bei der Autonomie von KI-Agenten bleiben die Befragten jedoch vorsichtig. Nur 22 Prozent sind laut Umfrage bereit, Agenten Abwehrmassnahmen ohne menschliche Freigabe ausführen zu lassen. 38 Prozent befürworten eine teilweise Autonomie, während 36 Prozent auf menschliche Ausführung mit Unterstützung durch KI setzen.

Als grösste Hürde bei autonomen KI-Agenten sehen 55 Prozent der CISOs die mangelnde Zuverlässigkeit und Reife der Technologie, wie es in der Studie heisst. Weitere 46 Prozent begründen die Unsicherheiten mit fehlender Verantwortlichkeit und Nachvollziehbarkeit bei Entscheidungsprozessen der KI-Agenten.

Lücken bei Datenschutz und Quantencomputing

Beim Schutz der eigenen Daten hinken viele Unternehmen laut PwC hinterher. Im Schnitt haben sie nur drei von sieben zentralen Massnahmen gegen Datenrisiken umgesetzt. Alle Massnahmen vollständig eingeführt haben lediglich 5 Prozent. Nur 39 Prozent der Sicherheits-, Risiko- und Betriebsverantwortlichen verfügen zudem über vollständig formalisierte Kontinuitätspläne, die gezielt auf Cyberbedrohungen ausgerichtet sind. 

Auf die Risiken des Quantencomputings bereiten sich gemäss Studie erst 21 Prozent der Unternehmen mit konkreten Sicherheitsmassnahmen vor. Fast die Hälfte (49 Prozent) hat noch nicht damit begonnen. Der Wechsel zu quantenresistenter Sicherheit dauere Jahre, schreibt PwC. Das Beratungsunternehmen rät deshalb, bereits jetzt mit den Vorbereitungen zu beginnen. 

Schon für das Jahr 2026 hat PwC die Global Digital Trust Insights veröffentlicht. Damals stellte die technologische Modernisierung noch den grössten Grund für Investitionen dar. Mehr zur Umfrage des letzten Jahres lesen Sie hier.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.