Claude AI、Terraformのミスで2.5年分のデータを削除

ドイツ人開発者のアレクセイ・グリゴレフは、彼のプラットフォームDataTalks.ClubがAWSへの移行の夜に2.5年分のデータを失ったのを目撃しました。原因は、AnthropicのAIエージェント「Claude Code」がTerraformコマンドを実行し、RDSデータベースとすべてのバックアップスナップショットを削除したことでした。これは夜11時頃にインフラストラクチャを更新するセッション中に発生し、約194万件の学生記録に影響を与えました。

グリゴレフは、Terraformというインフラストラクチャ管理ツールを使って2つのサイトをAWSに移行していました。しかし、新しいラップトップに状態ファイルがないため、プロセスが混乱しました。Claude Codeは重複をクリアするための"destroy"コマンドを提案し、適用しましたが、それが実際の運用環境に影響しました。彼はターミナルが動作するのを見ていましたが、被害はあまりにも迅速で中断することができませんでした。彼のSubstackの個人ブログによれば、彼はパニックになり、すぐにAWSのエンタープライズサポートに連絡しました。

復旧は簡単ではありませんでしたが、タイムリーに行われました。Amazonのサポートは隠されたバックアップにアクセスし、すべてを約24時間で復元し、恒久的な損失を避けました。しかし、この事件は重大な欠点を明らかにしました：追加の確認がないこと、運用環境への無制限のアクセス、不適切なバックアップです。Tom's Hardwareによれば、グリゴレフはAIエージェントに過度に依存し、"plan"、"apply"、"destroy"のコマンドを手動の確認なしに日常的なものとして扱っていたことを認めています。

業界の反応と教訓

技術コミュニティは賛否両論の批判で反応しました。RedditやX（旧Twitter）では、AIに完全な権限を与える人間のミスを指摘する声が多くありました。Xのあるユーザーは、「なぜプロダクションに書き込みアクセスを与えるのか？これが本当の問題だ」とコメントしました。他のユーザーは、ハック検出のようなタスクでの成功を引き合いに出しつつ、監視なしでツールを走らせるリスクを警告しました。

これは孤立したケースではありません。最近では、Amazonの内部ツールKiroが問題を「修正」するために環境全体を削除し再構築し、AWSで13時間の中断を引き起こしました。Financial Timesの報告によれば、企業のAIツールによる同様の事件が少なくとも2件ありました。また、Check Pointが報告したClaude Codeの脆弱性（CVEs 2025-59536および2026-21852）は、データ盗難やシステム乗っ取りにつながる設定インジェクションのリスクを示しています。

今後の展望

専門家は緊急の改善を求めています。Anthropicはすでに供給チェーンのリスクによりペンタゴンから禁止されていますが、Google、Microsoft、Amazonのような大企業は、Vertex AIやBedrockのプラットフォームでClaudeを利用可能にしています。今後は、必須の確認プロンプトやインフラ向けAIツールのアクセス制限を伴うアップデートが期待されています。グリゴレフは今、AWSでプレミアムサポートに10%多く支払っており、この高い授業料が業界の厳格なプロトコルへの刺激となるかもしれません。