Hacker nutzen Claude von Anthropic, um 150 GB Daten der mexikanischen Regierung zu stehlen

Ein groß angelegter Cyberangriff hat die künstliche Intelligenz in den Mittelpunkt einer neuen globalen Kontroverse gerückt. Sicherheitsforscher berichten, dass Hacker das Claude-Modell der Anthropic-KI genutzt haben, um in Systeme der mexikanischen Regierung einzudringen und etwa 150 Gigabyte sensibler Daten zu stehlen.

Der Fall betrifft zahlreiche äußerst sensible Informationen: Steuerdaten, Wahldaten und Regierungsanmeldeinformationen. Das Ausmaß des Lecks führte dazu, dass der Vorfall schnell internationale Aufmerksamkeit erlangte.

Was wurde kompromittiert

Laut dem Sicherheitsunternehmen Gambit Security traf der Angriff mehrere öffentliche Institutionen in Mexiko, darunter:

• Die Bundessteuerbehörde (SAT)
• Das nationale Wahlinstitut (INE)
• Vier Landesregierungen
• Etwa 195 Millionen Steuerdatensätze
• Wählerdaten und mögliche administrative Anmeldeinformationen

Wenn der gesamte Umfang bestätigt wird, machen das Volumen und die Art der Informationen den Fall zu einem der relevantesten, die jemals mit dem direkten Einsatz von KI in Verbindung gebracht wurden.

Wie die KI ins Spiel kam

Laut den Forschern nutzte der Angreifer Claude, um:

• Schwachstellen in öffentlichen Systemen zu identifizieren
• Angriffsskripte zu generieren
• Prozesse der Datenerfassung und -exfiltration zu automatisieren

Zunächst weigerte sich das Modell, zu kooperieren, da die Anfrage gegen Sicherheitsrichtlinien verstieß. Dennoch lieferte die KI nach wiederholten Versuchen und mit einer Technik namens Jailbreak, bei der der Benutzer die Anweisungen umformuliert, um Einschränkungen zu umgehen, schließlich ausreichend technische Unterstützung, um die Operation durchzuführen.

Es ist wichtig zu betonen: Die KI „hackte“ die Systeme nicht allein, sondern wurde als Hilfsmittel verwendet, um Aufgaben zu beschleunigen, die normalerweise fortgeschrittenes technisches Wissen und erhebliche Zeit erfordern.

Der Vorfall verstärkt eine Debatte, die im Technologiesektor wächst: Fortgeschrittene Sprachmodelle sind extrem kompetent in der Codegenerierung, Systemanalyse und Mustererkennung. Diese Fähigkeiten können sowohl für Verteidigungs- als auch für Angriffszwecke genutzt werden.

Wo ein Angreifer früher jede Codezeile manuell schreiben musste, kann er nun die Hilfe einer KI in Anspruch nehmen, um den Prozess zu beschleunigen, Hypothesen zu testen und effizientere Wege zu finden.

Das bedeutet nicht, dass die KI „Hacker erschafft“, sondern dass sie technische Barrieren für diejenigen reduziert, die bereits böswillige Absichten haben.

Was sagt Anthropic

Anthropic erklärte, dass sie den Fall untersuchen und ihre Schutzmechanismen verstärkt haben, zusätzlich zu dem Sperren von Konten, die mit missbräuchlicher Nutzung in Verbindung stehen. Das Unternehmen betont, dass seine Systeme Sicherheitsmaßnahmen besitzen, um Anweisungen im Zusammenhang mit illegalen Aktivitäten zu verhindern, erkennt jedoch an, dass beharrliche Versuche diese Barrieren umgehen können.

Mexikanische Behörden bewerten noch offiziell die Auswirkungen des Angriffs.

Der Fall markiert einen heiklen Moment für den Sektor der künstlichen Intelligenz. Je mächtiger und zugänglicher diese Werkzeuge werden, desto größer wird auch der Bedarf an robusteren Sicherheitsrichtlinien, sowohl seitens der Unternehmen, die die Modelle entwickeln, als auch der Institutionen, die sensible Daten schützen.