Schweizer Firmen forcieren KI-Projekte trotz Sicherheitsrisiken

(Source: Jackie Niam / AdobeStock.com)

(Source: Jackie Niam / AdobeStock.com)

Schweizer Unternehmen treiben die Einführung von künstlicher Intelligenz voran, oft unter bewusster Inkaufnahme von Sicherheitsrisiken. Zu diesem Schluss kommt eine Umfrage des Enterprise-Geschäftsbereichs von Trend Micro, der mittlerweile "TrendAI" heisst. Weltweit nahmen 3700 IT- und Business-Verantwortliche an der Umfrage teil, darunter 100 aus der Schweiz. 

73 Prozent der hiesigen Befragten gaben an, bereits unter dem Druck gestanden zu haben, KI-Projekte trotz Sicherheitsbedenken zu genehmigen. Diese Kluft zwischen dem Innovationstempo und der Entwicklung von Sicherheitsmassnahmen untermauert eine weitere Zahl: 60 Prozent der Befragten in der Schweiz gaben an, dass sich die KI schneller entwickelt, als sie diese absichern können. Gleichzeitig schätzen 58 Prozent ihre Kenntnisse der rechtlichen Rahmenbedingungen für KI als gering bis mittelmässig ein.

Auch bei den internen Regelungen besteht Nachholbedarf. Weniger als ein Drittel (30 Prozent) der Schweizer Unternehmen verfügt gemäss der Umfrage bereits über umfassende KI-Richtlinien. Zwei Drittel befinden sich noch in der Ausarbeitung solcher Vorgaben oder haben gerade erst damit begonnen.

Misstrauen gegenüber autonomen KI-Systemen

Trotz des Drucks zur Einführung bleibt das Vertrauen in autonome KI-Systeme begrenzt. Als grösstes Risiko nannten 48 Prozent der Befragten hierzulande den Zugriff von KI-Agenten auf sensible Daten. Ein Drittel befürchtet eine zusätzliche Angriffsfläche für Cyberkriminelle und Risiken durch manipulierte Prompts.

Diese Skepsis spiegelt sich auch in der Frage nach der Kontrolle wider. Lediglich ein Drittel der Befragten unterstützt die Einführung von "Kill-Switch"-Mechanismen, mit denen sich KI-Systeme bei Fehlfunktionen abschalten liessen. Fast die Hälfte ist sich in dieser Frage noch unsicher.

Das Misstrauen gegenüber autonomen KI-Agenten ist übrigens durchaus berechtigt, weil solche Programme unter Umständen mit einfachen Tricks manipulierbar sind, Daten preisgeben und schädliche Aktionen ausführen, wie eine aktuelle Studie zeigt - mehr dazu lesen Sie hier. 

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal gibt es täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.