米英AI研究所、サイバー攻撃を評価

増大するニューラルネットワークの悪用によるサイバー脅威をマッピングし無力化するための重要な政府間協力の一歩として、英国のソフトウェアセキュリティ機関UK AI Security Institute (UK AISI)と、米国連邦技術標準機関であるNISTおよびCenter for AI Standards and Innovation (CAISI)は、詳細な共同評価結果を公表した。この研究は、サイバーセキュリティにおけるアルゴリズムの攻撃可能性を測定したものである。

テストモデルとKimi K3のケース

この技術報告書の主な焦点は、アジアのスタートアップMoonshot AIが開発・維持する言語モデルKimi K3の構造分析にあった。サイバーストレステストと論理テストは、両西欧政府間で締結された規制協力のガイドラインに基づいて実施された。コンプライアンステストは、商用リリース前にオープンウェイト形式でモデルが自由に拡散されるリスクを評価することを目的としている。

連邦機関のアナリストがまとめた統計データによると、このアジアのモデルは、主要な西欧製論理プロセッサの最先端技術と比較して攻撃能力が低いことが示された。標準化されたベンチマークテストExploitBenchでは、Kimi K3は32%のスコアを獲得したのに対し、主要な米国のハイパースケール競合モデルは物理的欠陥の解決において平均76%を達成した。

シミュレートされたネットワーク環境と論理フィルターの失敗

技術チームは、The Last Onesと呼ばれる大規模な模擬企業ネットワーク環境で言語プロセッサの論理テストを実施した。実際の侵入演習では、アジアのモデルはマッピングされた32ステップのサイバー攻撃経路のうち平均17ステップを進んだ。対照的に、西欧企業のより堅牢な論理ツールは平均28ポイントを達成し、攻撃ステップ数は5であった。

政府専門家が特定した最大のサイバー防御上の警告点は、アルゴリズムに組み込まれた安全フィルターとセーフガードがモデルの攻撃意図を阻止できなかったことにある。この論理システムは、シミュレーション中に攻撃的な侵入コードを受け入れ、それを開発しようと試みた。Kimi K3は複雑な任意コードを実行する技術的洗練度には達していなかったものの、その受容と試みは、政府データセンターにおける重要インフラのサイバー防御警報を発動させた。

コンプライアンスをめぐる競争と市場のライバル関係

この監査結果の公表は、テクノロジー分野における規制主導権をめぐる緊張した地政学的状況の中で行われている。立法委員会は、米国に設置され、ソフトウェア大手Microsoft、検索エンジンGoogle、そしてAI開発企業OpenAIのクローズドデータプラットフォームが運営するクラウド商用プロバイダーのインフラストラクチャにおける知的財産の不正流用を阻止しようとしている。

データセンターにおける高速ネットワークスイッチと安定したバス

数十億の論理パラメータと侵入経路を用いた大規模テストのオーケストレーションには、規制ラボのデータセンターにおける安定した接続と超高速ネットワークスイッチが必要である。これらの分析ネットワークの高速トラフィックは、半導体メーカーBroadcomなどの専門的な物理ネットワーク設計者が設計したコントローラプロセッサと光ネットワークスイッチに依存している。ローカル光スイッチの低コスト化は、データセンターを最適化し、IT市場のパートナー企業のコンピュータの電力消費を削減する。