ニュースマクロGoogle DeepMindのAI生成証明、Signalの暗号ライブラリに再植入された2つのバグを検出

Google DeepMindのAI生成証明、Signalの暗号ライブラリに再植入された2つのバグを検出

著者: Blockonomi·

重要ポイント

  • •研究者らが意図的にバグを再植入した後、証明はlibsignalの既知の2つのバグをどちらも検出した。
  • •AIエージェントがこの検証プロジェクトのために約650万行の機械検証済み証明コードを生成した。
  • •検証対象は、指定されたlibsignalおよびSPQRのバージョンを使用するAArch64 Linuxプログラムに限定されていた。
  • •この分析では、鍵生成、グループメッセージング、Signalのスマートフォンアプリ、マルチデバイス状態、量子耐性は直接検証されていない。
  • •GitHubでの更新により10個のルーチンがさらに検証され、モデル化された契約への依存は37のフックから27に削減された。
Google DeepMindのAI生成証明、Signalの暗号ライブラリに再植入された2つのバグを検出

Google DeepMindの研究者らは、以前修正済みだった2つのバグをSignalの暗号ライブラリに再び植入することで、AIが作成したセキュリティ証明のテストを行いました。その結果、機械検証済みの証明は、改変された両方のビルドを期待されるセキュリティルールへの違反として検出しました。

このテストは、より大規模な検証プロジェクトの一環です。このプロジェクトでは、AIエージェントがSignalプロトコルの基盤となるライブラリであるlibsignalのコンパイル済みビルドに紐付いた、約650万行の機械検証済み証明コードを作成しました。調査結果は11月10日にAlphaProof Codeレポートとして公開され、研究者らは他の人が独立して検証できるよう証拠もオンラインで公開しています。証明は機械検証されているため、盲目的に受け入れるのではなく、再実行して精査することが可能です。

このプロジェクトは、5名が4週間にわたって指導しました。人間が作業を方向付け、参照モデルを選定し、仕様をレビューしました。仕様とは、AIエージェントが証明すべき内容を正確に定めた文書であり、結果として得られる証明の段階的な検証は機械チェッカーに委ねられました。

バグテストの仕組み

2つのバグはlibsignalですでに修正済みでした。チームはこれらを再度追加し、改変されたビルドをシンボリックセキュリティ定理に照らして実行しました。どちらの改変版も定理を満たすことができず、この仕様が既知の欠陥を拒否できること、つまり目の前に置かれたコードを何でも承認するわけではないことが実証されました。

証明の対象は1つの特定ターゲットに限られます。libsignal-protocol v0.105.4とSPQR v1.6.0を使用するAArch64(64ビットARM)Linuxプログラムを、小さなコマンドラインツール内で実行したものです。つまり、検証対象はSignalの完全なデプロイメントではなく、狭く固定された構成です。定理は、セッション開始、メッセージ送信、メッセージ受信の3つの動作を対象とし、プログラムをPQXDH(Post-Quantum Extended Diffie-Hellman)およびTriple Ratchet一対一メッセージングのセキュリティ特性に結び付けています。

これらの特性には、前方秘匿性、認証、侵害後セキュリティが含まれます。平たく言えば、鍵が盗まれた後に過去のメッセージが秘密のままか、送信者が本当に本人か、侵害後にセッションが安全な状態に戻れるか、という点を扱います。

この作業は2つの証明モデルに依拠しています。シンボリックモデルは理想化された暗号を仮定し、計算論的モデルは、明示された仮定の下で古典的な攻撃者が成功できる度合いを制限します。

Google AI agents audit Signal's code and one major flaw stays hidden — CryptoSlate (@CryptoSlate) November 17, 2026

証明が対象外とする領域

いくつかの領域は検証対象の範囲外です。鍵生成、グループメッセージング、Signalのスマートフォンアプリは直接証明されていません。計算論的証明は量子攻撃者を考慮しておらず、マルチデバイス状態も対象外です。また、その保証はワークロードが十分に大きくなると有用ではなくなります。

一方、シンボリック証明は、Diffie-Hellmanの特定の事後破局(後発の解読)の下でもハンドシェイクの秘匿性が維持されることを示しています。それでも、これらの結果は、証明が記述されている証明支援系Leanの検証カーネルへの信頼、レビュー済みの仕様、AArch64 Linuxモデル、および選択されたルーチンを網羅する契約に依存しています。これらの契約、いわゆる「フック」は、特定のルーチンの実行を、その動作に関する仮定された記述に置き換えるものです。フックが少ないほど、結果全体のうち仮定に依存する部分が少なくなります。

プロジェクトのコードリポジトリには、固定されたプログラムを再ビルドし証明を検証するための公開手順が含まれています。Linux専用のコンパレータが定理と信頼された記述の一致を確認した後、新しいLeanカーネルで証明を再実行します。

GitHubでマージされた11月11日の更新では、さらに10個のライブラリルーチンが検証され、信頼対象のフックの数は37から27に削減されました。この更新ではlibsignal v0.105.4は維持されましたが、固定されたプログラムが変更されました。新しいビルドでは、モデル化された契約に依存する代わりに、これら10個のルーチンの実際のマシンコードを検査します。

出典:Blockonomi