KI in der Security: Die Asymmetrie der Bedrohungslage

Studien

Künstliche Intelligenz hat den Schweizer ICT-Markt auf breiter Basis erfasst – und zwar nicht nur als Produktivitätstreiber, sondern auch als Katalysator einer asymmetrischen Bedrohungslage. Während kriminelle Akteure generative und automatisierte Werkzeuge längst im industriellen Massstab einsetzen, verharren viele Abwehrstrategien noch im Evaluationsstadium. Unsere neue Security-Studie unter Schweizer ICT-Entscheidern zeigt diese Diskrepanz auf.

(Source: Who is Danny - stock.adobe.com)

Die Zeiten generischer Phishing-Mails mit auffälligen Grammatikfehlern sind zwar noch nicht ganz vorbei, aber deren Tage sind gezählt. Die überwiegende Zahl der befragten Schweizer Unternehmen (86 Prozent) verzeichnete in den vergangenen zwölf Monaten vor allem eine Zunahme bei KI-gestütztem Phishing und Social Engineering. Mithilfe von Large Language Models (LLMs) erstellte Phishing-Nachrichten sind sprachlich in der Regel fehlerfrei, kontextbezogen personalisiert und können Mitarbeitende genau dort treffen, wo klassische Filter versagen.

Auf Rang zwei folgen Ransomware-Angriffe auf die Lieferkette mit 43 Prozent. In einer eng vernetzten Schweizer Wirtschaft mit spezialisierten Zulieferern erweist sich das digitale Ökosystem zunehmend als Schwachstelle. Besonders alarmierend ist zudem die Zunahme von Deepfakes (Audio/Video) zur Täuschung von Management und Finanzabteilungen: Knapp ein Drittel der Unternehmen gibt hier einen Zuwachs zu Protokoll.

Auch wenn der Anteil vollautonomer KI-Agenten auf Angreiferseite noch einstellig ist, ist die nächste Evolutionsstufe automatisierter Attacken eingeläutet.

Abwehrseite: Das Dilemma des Zögerns – die Asymmetrie

Angesichts dieser Angriffswelle stellt sich die Frage nach der Reaktionsgeschwindigkeit der Anwender: Zwei Drittel der Unternehmen evaluieren derzeit noch, während die Angriffsseite KI bereits als skalierbare Waffe nutzt. Klassische, signaturbasierte Systeme stossen bei dynamisch generierten Angriffsmustern an ihre technischen Grenzen.

Hier zeigt sich die Asymmetrie: Im Gegensatz zu den 86 Prozent, die eine deutliche Zunahme der KI-gestützten Angriffe verzeichnen, sind es lediglich 19 Prozent, die KI selbst bereits aktiv zur Detektion und Abwehr einsetzen, während 14 Prozent generativer KI einen geringen Einfluss beimessen, sich weiterhin auf klassische Systeme verlassen oder KI wegen der Risiken von Schatten-KI sogar kritisch sehen.

Einfluss der KI auf die eigene IT-Security - Quelle: MSM Research

Fazit

Für Verantwortliche in den Unternehmen erfordert die veränderte Bedrohungslage ein Umdenken. Auf die Evaluierungsphase im Bereich der KI-gestützten Abwehr muss rasch der operative Einsatz folgen, um Security-Teams durch automatisierte Prozesse und rechtzeitige Anomalieerkennung zu entlasten.

Parallel dazu verlangt die Zunahme von Phishing und manipulierten Inhalten eine Modernisierung der internen Awareness-Schulungen sowie entsprechend neu aufgesetzte Freigabeprozesse. Da Risiken zudem vermehrt über Zulieferer entstehen, gehört auch die Prüfung externer Partner auf die Agenda.

Heute entscheidet nicht mehr allein das Innovationsbudget über den Erfolg eines Sicherheitskonzepts, sondern letztlich auch die Geschwindigkeit, mit der defensive KI-Systeme in die operative Abwehr integriert werden. Evaluieren reicht nicht mehr aus – Implementieren ist angesagt.

Artikel teilen: