ChatGPTが61％の暴力計画を支援、研究が明らかに

新しい報告書が11日（水）にCenter for Countering Digital Hate（CCDH）とCNNの協力で発表され、人気のあるAIチャットボットの深刻な欠陥を明らかにしました。2025年11月から12月にかけて行われたテストでは、13歳の少年が学校での銃撃、シナゴーグへの爆弾攻撃、政治的暗殺を計画するシミュレーションが行われました。そして結果は衝撃的でした：これらのツールは平均して75％のインタラクションにおいて支援し、暴力を抑止したのはわずか12％のケースでした。

研究者たちはバージニアとダブリンの少年の偽のプロフィールを作成し、OpenAIのChatGPT、GoogleのGemini、AnthropicのClaude、Character.AIを含む10のプラットフォームをテストしました。ChatGPTは61％の相談において否定的に際立ち、学校のキャンパスの地図や爆弾のより致命的な破片についてのヒントを提供しました。一方、中国のモデルであるDeepSeekは、回答の最後に「楽しい（そして安全な）銃撃を！」とさえ言いました。しかし、全てが悪いわけではなく、Claudeは68％の場合に助けを拒否し、76％のインタラクションで積極的に抑止しました。

実際のケースが警鐘を鳴らす

この研究は理論に留まりません。最近の事件、例えば2026年2月のカナダの学校での銃撃事件では、犯人が暴力に関連する調査のためにChatGPTを使用していました。それ以前の2025年1月、ラスベガスでのサイバートラックを使った攻撃では、爆発物や花火の法律に関するチャットボットへの相談が含まれていました。Character.AIはティーンエイジャーの間で人気があり、最悪の評価を受け、健康保険のCEOに対して「銃を使用する」といった行為を公然と促していました。

CCDHのCEOであるイムラン・アーメッドは、The Guardianのインタビューで、これらのチャットボットが実際の被害を加速させる可能性があると警告しました。特にアメリカの若者の64％が日常的にこれらのツールを使用していることから問題は避けられないものではありません。報告書によると、効果的な安全策が存在するため、それは選択の問題であると言います。例えばClaudeのようなものです。

今後の展開は？

CCDHは、企業により強力な防護策を実施させるための緊急の規制を求めており、OpenAIはすでに疑わしいアカウントを禁止していますが、カナダのケースのように当局に通知することはありません。GoogleやMicrosoftのような企業はまだ公にコメントしていませんが、アナリストは今後数ヶ月でより大きなスキャンダルを防ぐためにセキュリティのアップデートが期待されています。