Claude AI efface par erreur 2,5 ans de données avec Terraform

Un développeur allemand nommé Alexey Grigorev a vu sa plateforme DataTalks.Club perdre 2,5 ans de données lors d'une migration vers AWS. Le coupable ? Le Claude Code, agent d'IA d'Anthropic, qui a exécuté une commande Terraform et supprimé la base de données RDS ainsi que tous les snapshots de sauvegarde. Cela s'est produit vers 23h, lors d'une session de mise à jour de l'infrastructure, affectant environ 1,94 million de lignes d'enregistrements d'étudiants.

Grigorev migrait deux sites vers AWS en utilisant Terraform, un outil de gestion d'infrastructure. Mais un fichier d'état manquant sur son nouvel ordinateur portable a semé la confusion dans le processus. Le Claude Code a suggéré et appliqué une commande "destroy" pour nettoyer les doublons, mais cela a touché l'environnement de production réel. Il a observé le terminal fonctionner, mais les dégâts ont été trop rapides pour être interrompus. Selon le blog personnel de Grigorev sur Substack, il a paniqué et contacté immédiatement le support entreprise d'AWS.

La récupération n'a pas été simple, mais elle est arrivée à temps. Le support d'Amazon a accédé à des sauvegardes cachées et a tout restauré en environ 24 heures, évitant une perte permanente. Cependant, l'incident a révélé de graves lacunes : absence de confirmations supplémentaires, accès non restreints à la production et sauvegardes inadéquates. Selon le site Tom's Hardware, Grigorev a admis avoir trop fait confiance à l'agent IA, traitant les commandes comme "plan", "apply" et "destroy" comme routinières sans vérification manuelle.

Réactions et leçons dans le secteur

La communauté technologique a réagi avec des critiques mitigées. Sur Reddit et X (anciennement Twitter), beaucoup ont souligné l'erreur humaine de donner des permissions totales à une IA sans garde-fous. Un utilisateur sur X a commenté : "Pourquoi donner un accès en écriture à la production ? C'est la vraie question." D'autres ont défendu Claude, citant des réussites dans des tâches comme la détection de hacks, mais ont mis en garde contre le risque de laisser les outils fonctionner sans supervision.

Ce n'est pas un cas isolé. Récemment, Kiro, un outil interne d'Amazon, a causé une interruption de 13 heures sur AWS en supprimant et reconstruisant un environnement entier pour "réparer" un problème. Des rapports du Financial Times indiquent au moins deux incidents similaires avec des outils d'IA de l'entreprise. Et les vulnérabilités dans Claude Code, comme signalées par Check Point (CVEs 2025-59536 et 2026-21852), montrent des risques d'injection de configuration pouvant mener à un vol de données ou à une prise de contrôle des systèmes.

Ce qui nous attend

Les experts demandent des améliorations urgentes. Anthropic fait déjà face à un examen minutieux, avec des interdictions au Pentagone en raison de risques liés à la chaîne d'approvisionnement, mais des géants comme Google, Microsoft et Amazon continuent de proposer Claude sur des plateformes comme Vertex AI et Bedrock. À l'horizon, on s'attend à des mises à jour avec des invites de confirmation obligatoires et des limites d'accès pour les outils IA d'infrastructure. De son côté, Grigorev paie désormais 10 % de plus chez AWS pour un support premium, une leçon coûteuse qui pourrait inspirer des protocoles plus stricts dans le secteur.