Google、AI生成の初のゼロデイエクスプロイトを検出

Google脅威インテリジェンスグループは、サイバーセキュリティの歴史における暗いマイルストーンを確認する警告報告を発表しました。それは、人工知能によって開発され、武器化された最初のゼロデイエクスプロイトの特定です。この発見は、ハッカーによる言語モデル（LLMs）の使用が実験段階を超え、産業規模に達したことを示しています。

悪意あるコードの中のAIの「DNA」

Googleの研究者たちは、人気のあるオープンソースツールの二要素認証（2FA）を回避するように設計された攻撃スクリプトを特定しました。注目すべきはその効果だけでなく、コードの構造です。それは、GPT-4やGeminiのようなLLMsの応答に典型的な、非常に詳細で洗練されたdocstring（ドキュメントコメント）を含んでいました。

さらに印象的だったのは、「技術的な幻影」の存在です。コードには、CVSS（脆弱性の深刻度を測定するシステム）の偽のスコアが含まれていました。これは、人間の開発者が行うことはほとんどないものですが、エクスプロイトの危険性を分類しようとする生成AIに共通の誤りです。

中国と北朝鮮のリーダーシップ

報告書は、国家がこの軍拡競争を加速させている方法を詳述しています。中国は、wooyun-legacyというデータセットをAIモデルに供給しており、これは現実の85,000以上の脆弱性の歴史を含んでおり、現代のインフラストラクチャにおける欠陥を自動的に検出するようにシステムを訓練しています。

北朝鮮（APT45グループ）は、大規模な再帰的プロンプトを使用してエクスプロイトの概念実証（PoCs）を検証するのに長けています。新たに登場した自律型マルウェアの新カテゴリであるPROMPTSPYも注目されています。これは、被害者のシステム状態をリアルタイムで解釈し、動的な攻撃コマンドを生成するウイルスであり、従来のウイルス対策ソフトウェアによる検出をほぼ不可能にしています。

Big Sleep: Googleの反撃

この脅威に対抗するために、GoogleはBig Sleep（以前はProject Naptimeとして知られていました）の進捗を明らかにしました。この防御的AIエージェントは、自律的なセキュリティ研究者として機能し、悪意のある行為者によって発見される前に重大な欠陥を見つけ出し、修正を提案します。

また、GoogleはCodeMenderを発表しました。これは、AIによって提案されたセキュリティパッチを開発者が即座に適用するのを支援するツールです。「我々は速度の競争に立ち向かっています」と報告書は述べています。「インターネットのグローバルな整合性を維持するためには、防御も攻撃と同じくらい自律的で賢くなければなりません。」