Plan Aの検証システムを解説｜「約束を守っているか」をどう技術的に確認するのか

前回の「AI 2040とは何か」では、米中共同でAI開発を制御する政策提案「Plan A」の全体像を解説しました。しかし、ここで当然の疑問が浮かびます。相手が本当に約束を守っているか、どうやって確認するのか? 口約束だけでは、どちらの国も安心して開発速度を落とせません。

今回は、ai-2040.comの補足資料をもとに、Plan Aの技術的な核心である「検証(Verification)」の仕組みを詳しく見ていきます。

「隠れて開発していないか」をどう確認するか

補足資料「Verification Plan」によれば、検証すべき問題は大きく2つに分かれます。

1. 申告された計算資源(コンピュート)が、本当に「推論専用」で「学習には使っていない」ことの確認
2. 申告されていない「隠れたコンピュート」が、世界全体の0.5%未満に抑えられていることの確認

つまり、表向き申告されている分についても嘘をついていないかを確認し、さらに申告すらされていない「秘密のデータセンター」が存在しないかも別途確認する、という二重構造になっています。

具体的な検証手段: ネットワーク盗聴と「再計算サーバー」

具体的な仕組みとして提案されているのが、ネットワークタップ(通信内容の監視)と、「再計算サーバー」によるスポットチェックです。申告された計算ワークロードの一部を、検証側が独自に再現・再計算することで、申告内容と実態が一致しているかを技術的に確認します。

このプロセスは2026年から2036年以降にかけて段階的に整備され、最終的には2032年頃から、AIチップやロボットの生産量そのものに上限(おおむね6ヶ月ごとの倍増ペースを超えない制約)をかける段階に至る、という設計になっています。

それでも「隠れて開発」する余地はあるのか

補足資料「Covert AI Projects」は、この問題に真正面から向き合っています。中国が違法に計算資源を確保して秘密裏に開発を進めるケースを、定量的にモデル化しているのです。

その推計によれば、秘密裏に転用されるコンピュートの規模は、H100相当のGPUでおよそ50万〜150万個程度。これは合法的なフロンティア研究機関が持つ計算資源のおよそ24分の1程度の規模です。そして、そうした秘密プロジェクトが「危険な能力水準」(記事内で”TED-AI”と呼ばれる、トップ人間専門家に匹敵する水準)に到達してしまう確率は、およそ13%と見積もられています。

透明性か、それとも完全な情報統制か — 4段階の比較

補足資料「Transparency Plan」では、情報公開の度合いに応じて4つの体制が比較されています。最も開かれた「研究の全面公開(Total Research Transparency)」から、最も閉じた「開発の完全停止(Shut It Down)」まで、スペクトラムとして整理されているのです。

「研究の全面公開」方式では、アルゴリズムの詳細のうちおよそ67%程度が外部に漏洩するリスクがあると見積もられています。かなり大きな漏洩率に思えますが、著者たちの結論は「それでも透明性を選ぶ価値がある」というものです。理由は前回の記事でも触れた通り、良い規制・良い監視体制が機能することの方が、アルゴリズムの秘密を守ることよりも、はるかに重要だという判断です。

セキュリティの3層構造 — それでも「確信度は低い」

補足資料「Security in Plan A」では、検証システム自体を守るためのセキュリティが3層に整理されています。

• モデルの重み(weights)の盗難防止: 5年間で合計100テラバイトまでという上限を設定
• 検証システム自体の完全性の維持: 検証の仕組みそのものが改ざんされないようにする
• アルゴリズムの機密性の維持: 全面公開の対象外とする一部の機密情報を守る

具体的な手段として、外部からの電磁的な干渉を遮断する「ファラデーケージ型」データセンター、外部への通信帯域を毎秒1メガバイトに制限する仕組み、そしてモデルの重みを物理的に運ぶ際は人間が同行して警備する、といった徹底した対策が挙げられています。

ただし興味深いのは、著者たち自身がこのセキュリティ計画について「low confidence(これが本当に実現できるか、確信度は低い)」と明言している点です。前回の記事で見た「Plan A Assumptions」の姿勢と同じく、ここでも過度な楽観は避けられています。

まとめ: 検証という「もう一つの巨大プロジェクト」

Plan Aは、単に「開発速度を落としましょう」という政治合意だけでは成立しません。その裏側には、ネットワーク盗聴、再計算による監査、秘密プロジェクトのリスク評価、ファラデーケージ型データセンターといった、検証のための巨大な技術インフラをまるごと新設する必要があります。冷戦期の核軍縮検証を、AIのコンピュート資源に応用するようなイメージです。

次回の記事では、「では、どのくらいの速さで開発を進めるべきか」という、Plan Aのもう一つの核心——2035年の意図的な一時停止と、その裏にある政治的なリスクを掘り下げます。 → 速すぎず遅すぎず

※本記事はAI Futures Projectが公開するai-2040.com(Verification Plan・Transparency Plan・Covert AI Projects・Security in Plan A)の内容をもとに要約・解説したものです。原文の翻訳ではなく独自の解説であり、詳細・正確な数値は原文をご確認ください。