Google entdeckt ersten Zero-Day-Exploit durch Künstliche Intelligenz

Die Google Threat Intelligence Group hat einen alarmierenden Bericht veröffentlicht, der einen düsteren Meilenstein in der Geschichte der Cybersicherheit bestätigt: die Identifikation des ersten Zero-Day-Exploits, der eindeutig von Künstlicher Intelligenz entwickelt und bewaffnet wurde. Diese Entdeckung signalisiert, dass Hacker den Einsatz von Sprachmodellen (LLMs) von einem experimentellen Stadium auf industrielle Ebene gehoben haben.

Das "DNA" der KI im Schadcode

Forscher von Google identifizierten ein Angriffsskript, das entwickelt wurde, um die Zwei-Faktor-Authentifizierung (2FA) in einem beliebten Open-Source-Tool zu umgehen. Auffallend war nicht nur die Effektivität, sondern auch die Struktur des Codes: Er enthielt äußerst detaillierte und ausgefeilte Docstrings (Dokumentationskommentare), die typisch für Antworten von LLMs wie GPT-4 oder Gemini sind.

Besonders beeindruckend war die technische "Halluzination": Der Code enthielt eine erfundene CVSS-Bewertung (ein System zur Messung der Schwere von Schwachstellen), etwas, das ein menschlicher Entwickler kaum machen würde, aber ein häufiger Fehler bei generativen KIs ist, wenn sie versuchen, die Gefahr eines Exploits zu kategorisieren.

China und Nordkorea an der Spitze

Der Bericht beschreibt, wie Staaten die Aufrüstung beschleunigen. China speist KI-Modelle mit dem Datensatz wooyun-legacy, der die Historie von über 85.000 realen Schwachstellen enthält, um Systeme zu trainieren, moderne Infrastrukturfehler automatisch zu erkennen.

Inzwischen wurde Nordkorea (Gruppe APT45) beim Einsatz massiver rekursiver Prompts zur Validierung von Proofs of Concept (PoCs) von Exploits beobachtet. Die Entstehung von PROMPTSPY, einer neuen Kategorie von autonomen Malware, war ebenfalls bemerkenswert: ein Virus, der KI nutzt, um den Zustand des Opfersystems in Echtzeit zu interpretieren und dynamische Angriffsbefehle zu generieren, was die Erkennung durch traditionelle Antivirenprogramme nahezu unmöglich macht.

Big Sleep: Googles Gegenoffensive

Zur Bekämpfung der Bedrohung enthüllte Google den Fortschritt von Big Sleep (früher bekannt als Project Naptime). Dieser defensive KI-Agent wurde entwickelt, um als autonomer Sicherheitsforscher zu agieren und kritische Schwachstellen zu finden und Korrekturen vorzuschlagen, bevor sie von böswilligen Akteuren entdeckt werden.

Google kündigte ebenfalls CodeMender an, ein Tool, das Entwicklern hilft, von KI vorgeschlagene Sicherheits-Patches sofort anzuwenden. "Wir befinden uns in einem Wettlauf", heißt es im Bericht. "Die Verteidigung muss so autonom und intelligent wie der Angriff sein, wenn wir die Integrität des globalen Internets bewahren wollen."