Google findet vollständig automatisierte Cyberangriffskampagne
Im Rahmen einer Analyse hat Google erstmals KI-Agenten gefunden, die vollständig automatisiert eine Cyberangriffskampagne auf französische Websites durchführten. Die KI-Agenten erledigten alles autonom: die Suche nach Schwachstellen, das Schreiben von Exploits und das Durchführen der Angriffe.
Cyberkriminelle setzen bei ihren Angriffen zunehmend auf KI. Der "AI Threat Tracker" der Google Threat Intelligence Group nennt unter anderem die Verlagerung hin zu autonomen Arbeitsabläufen und die automatisierte Suche nach und Ausnutzung von Schwachstellen als Trends bei Cyberangriffen.
Bei der Analyse von ausgenutzten Schwachstellen stiess Google erstmals auf eine Cyberangriffskampagne, bei der KI-Agenten die Suche nach und Ausnutzung von Schwachstellen vollständig automatisierten, wie die Abteilung mitteilt. Menschliches Eingreifen sei dafür nicht nötig gewesen.
Die Google-Abteilung habe einen offen zugänglichen Testserver entdeckt, auf dem ein Multiagenten-Framework namens "exploit_agent" lief. Dieses nutze mehrere Frontier- und lokale LLMs.
Das Multiagenten-Framework vergleiche kontinuierlich den Code verbreiteter Webanwendungen vor und nach Sicherheitsupdates. Dabei suche es nach Schwachstellen, erstelle Exploits und führe diese autonom aus.
Französische Websites im Visier
Den auf dem Server gefundenen Daten zufolge hatte der unbekannte Betreiber des Systems offenbar insbesondere französische Websites aus den Bereichen Medien, Unterhaltung und Bildung im Visier. Google nennt den Betreiber nicht, fand aber russischsprachige Kommentare in einer Konfigurationsdatei für mehrere API-Schlüssel.
Google verweist auf verschiedene Vorfälle, die bereits darauf hingedeutet haben, dass Angreifer versuchen, die Suche nach und Ausnutzung von Schwachstellen zu automatisieren. Auch die PHP-Schwachstellen, die für weltweite Unruhe gesorgt haben, hätten Forschende mithilfe von KI entdeckt.
Google rechnet damit, dass Angreifer solche Frameworks künftig häufiger einsetzen, um Cyberangriffe weitgehend zu automatisieren. Sowohl finanziell motivierte als auch mutmasslich staatlich unterstützte Gruppen experimentierten bereits mit solchen Systemen.
Übrigens: Es hat bereits einige Beispiele gegeben, bei denen KI-Agenten für Cyberangriffe genutzt wurden. So beispielsweise die Angriffswelle gegen Onlineshops, worüber Sie hier mehr lesen können.
Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.
Manipulierte Optimizely-Skripte verteilen Schadcode auf populären Websites
Fünf Schweizer IT-Unternehmen gründen Opensovereign
Wie die Schweiz ihre KI-Infrastruktur besser koordinieren kann
iRIX: Unabhängig seit 1999. Erfahren in Software, Daten und Energie.
"Entscheidend ist, sich heute nicht unnötig festzulegen"
Pandoras Büchse ist geöffnet: Die Schwachstellenflut der KI-Ära
Google findet vollständig automatisierte Cyberangriffskampagne
SOWARIS setzt auf Schweizer Cloud: Virtual Datacenter als IT-Fundament
Digitale Souveränität heisst, handlungsfähig zu bleiben