Claude AI löscht versehentlich 2,5 Jahre Daten mit Terraform

Ein deutscher Entwickler namens Alexey Grigorev erlebte, wie seine Plattform DataTalks.Club während einer nächtlichen Migration zu AWS 2,5 Jahre an Daten verlor. Der Übeltäter? Der Claude Code, ein KI-Agent von Anthropic, der einen Terraform-Befehl ausführte und die RDS-Datenbank sowie alle Backups-Snapshots löschte. Dies geschah gegen 23 Uhr während einer Infrastrukturaktualisierungssitzung und betraf etwa 1,94 Millionen Datensätze von Studierenden.

Grigorev migrierte zwei Websites zu AWS unter Verwendung von Terraform, einem Infrastrukturverwaltungs-Tool. Doch eine fehlende Statusdatei auf dem neuen Laptop brachte den Prozess durcheinander. Der Claude Code schlug vor und führte einen "destroy"-Befehl aus, um Duplikate zu bereinigen, traf dabei jedoch die reale Produktionsumgebung. Er sah zu, wie das Terminal lief, aber der Schaden kam zu schnell, um ihn zu stoppen. Laut Grigorevs persönlichem Blog auf Substack geriet er in Panik und kontaktierte sofort den AWS-Unternehmenssupport.

Die Wiederherstellung war nicht einfach, aber sie kam rechtzeitig. Der Amazon-Support griff auf versteckte Backups zu und stellte alles in etwa 24 Stunden wieder her, um einen dauerhaften Verlust zu vermeiden. Dennoch enthüllte der Vorfall schwerwiegende Mängel: fehlende zusätzliche Bestätigungen, uneingeschränkter Zugriff auf die Produktion und unzureichende Backups. Laut Tom's Hardware gab Grigorev zu, dem KI-Agenten zu sehr vertraut zu haben, indem er Befehle wie "plan", "apply" und "destroy" als routinemäßig ohne manuelle Überprüfung behandelte.

Reaktionen und Lehren in der Branche

Die Tech-Community reagierte mit gemischter Kritik. Auf Reddit und X (ehemals Twitter) wiesen viele auf den menschlichen Fehler hin, einer KI ohne Schutzmaßnahmen vollständige Berechtigungen zu geben. Ein Nutzer auf X kommentierte: "Warum Schreibzugriff auf die Produktion geben? Das ist die wahre Frage." Andere verteidigten Claude und verwiesen auf Erfolge bei Aufgaben wie der Erkennung von Hacks, warnten jedoch vor den Risiken, Werkzeuge ohne Aufsicht laufen zu lassen.

Dies ist kein Einzelfall. Kürzlich verursachte das interne Amazon-Tool Kiro eine 13-stündige Unterbrechung bei AWS, indem es eine gesamte Umgebung löschte und neu erstellte, um ein Problem zu "beheben". Berichte der Financial Times deuten auf mindestens zwei ähnliche Vorfälle mit Unternehmens-KI-Tools hin. Und Schwachstellen im Claude Code, wie von Check Point gemeldet (CVEs 2025-59536 und 2026-21852), zeigen Risiken von Konfigurationsinjektionen, die zu Datendiebstahl oder Systemübernahme führen können.

Zukunftsaussichten

Experten fordern dringende Verbesserungen. Anthropic steht bereits unter Beobachtung, mit Verboten im Pentagon aufgrund von Lieferkettenrisiken, aber Giganten wie Google, Microsoft und Amazon halten Claude auf Plattformen wie Vertex AI und Bedrock verfügbar. Am Horizont werden Updates mit obligatorischen Bestätigungsaufforderungen und Zugangsbeschränkungen für KI-Tools für die Infrastruktur erwartet. Grigorev zahlt inzwischen 10 % mehr bei AWS für Premium-Support, eine teure Lektion, die strengere Protokolle in der Branche inspirieren könnte.