アンソロピック、ペンタゴンの要求を拒否しクロードの制限を保持

アンソロピックはペンタゴンの最後通告を拒否し、CEOのダリオ・アモディは昨日の午後に声明を出し、会社が良心に基づいて国防総省の要求を受け入れることができないと明言しました。

政府はこのモデルを無制限に、合法であればどんな用途にも使用したいと言っています。具体的には：

• アメリカ市民の大量監視—これは米国の法律で禁止されていますが、彼らは完全な柔軟性を求めています
• 人間の監督なしに標的を決定する自律兵器

アモディは、クロードは既に分類されたネットワークと国立研究所で稼働しているため、協力関係は存在すると述べましたが、これらの特定の要求には譲歩しないと明確にしました。彼は、クロードのような最先端モデルは、強力なセーフティガード（安全機構）なしに、生死に関わる決定を下すにはまだ信頼性が十分でないと主張しています。人間がループに入って幻覚や重大なエラーをチェックする必要があります。会社は信頼性向上のための共同研究を提案しましたが、ペンタゴンは関心を示しませんでした。

一方、国防長官のピート・ヘグセスは、本日午後5時1分（ET）（22:01 UTC）までにアンソロピックが要求を受け入れない場合、厳しい結果に直面すると通告しました：

• 2億ドルの契約を失う
• サプライチェーンのリスクとしてラベル付けされる
• 防衛生産法を発動してアクセスを強制される

広報担当のショーン・パーネルは、どの企業も彼らの運用上の決定を左右させないとXに投稿し、期限を強調しました。

アンソロピックは、これらの脅威が矛盾していると反論しました。片方ではセキュリティリスクと呼びながら、もう片方ではクロードが防衛に不可欠だと主張しています。GoogleとOpenAIの200人以上の従業員が彼らの立場を支持する公開書簡に署名し、これらのセーフガードが民主主義の価値を守ると述べています。

この問題の根底には、AIの倫理と軍事的圧力の間の対立があり、クロードや他のLLMを日常的に使用する人々にとっては、危険な応答を防ぐガードレールが少なくとも今のところ維持されることを意味します。期限が迫る中、ペンタゴンの今夜の応答はこの議論をさらに激化させるかもしれません。