AI開発競争は本当に止められないのか？核軍縮の歴史と「半導体」による検証という発想

「高度なAIの開発はリスクがあるから制御すべきだ」という話になると、必ずと言っていいほど次のような反論が返ってきます。

「そうは言っても、開発を止めるなんて現実的に無理でしょう？」

アメリカが開発を止めても中国が作る。OpenAIが止まっても別の企業が作る。もし1国でも、1社でも抜け駆けすれば、圧倒的な軍事力や経済力を手にすることになる。だから誰も足を止めることができない——。これはいわゆる「囚人のジレンマ」であり、極めて強力な論理に見えます。

私自身、地方で中小企業のIT活用やAI導入を支援する中で、こうした「競争の構造上、止めようがない技術進化」について考えることがよくあります。しかし、研究者の議論を紐解いていくと、この「絶対に止められない」という前提そのものに一石を投じる視点が存在します。それが、かつての「核兵器」の歴史と、AIを支える「最先端半導体（計算資源）」という物理的な実体に着目する発想です。

1950年代、水爆の登場と「人類の絶望」

MIRI（Machine Intelligence Research Institute）代表のネイト・ソアレス（Nate Soares）氏は、AIの開発規制を考える上で、1950年代初頭の水爆登場の時代を引き合いに出しています。

当時の人々から見れば、世界は暗澹たるものだったはずです。人類は第一次世界大戦で想像を絶する犠牲を出し、二度と繰り返さないために国際連盟を作りました。しかしそれは失敗し、第二次世界大戦が勃発。ホロコーストや都市空爆を経て、最後に原子爆弾が登場しました。

アメリカが原爆を作るとソ連も開発し、やがて原爆とは桁違いの破壊力を持つ水素爆弾（熱核兵器）の開発競争が始まりました。強力な兵器が登場するたびに「こんな恐ろしい兵器ができたら戦争は起きなくなるはずだ」という期待が裏切られてきた歴史を踏まえれば、1950年代の知識人が「人類が自分たちの力で軍拡を止められるわけがない」「いずれ全面核戦争で人類は滅びる」と考えたのは至極当然のことでした。

しかし、歴史はその通りの結末にはなりませんでした。

善意や信頼ではなく「裏切りを検知する仕組み」を作る

核兵器は偽物ではなく本物であり、人類を何十回も滅ぼせる数の核弾頭が作られました。それでも全面戦争が起きなかったのは、人類が互いを「信頼」したからではありません。

米ソはお互いを激しく疑い合っていました。だからこそ、相手を信用しなくても成立する「軍備管理」や「検証（チェック）」の仕組みを作り上げたのです。

戦略兵器制限交渉（SALT）などでは、偵察衛星といった「国家技術手段」で相手のミサイル基地や監視妨害の有無をチェックしました。核実験に関しても、地震波や放射性物質、水中音響などを世界中で監視し、密かに実験を行えば必ず検知できるネットワークを築きました。後には現地査察まで行われるようになります。

国際的な協調というと「双方が仲良くなった」という美談に思われがちですが、実際には「裏切ったら必ずバレるという物理的な仕組み」を両者が構築したことこそが、破滅的な軍拡を食い止める要だったのです。

AIの知能には「巨大な体（物理インフラ）」がある

ここからが現代のAIに繋がる重要な視点です。ソアレス氏は「AIは核兵器よりも検証しやすい部分がある」と指摘します。

一見すると、AIはただのソフトウェアに見えます。コードはデジタルデータであり、USBメモリに入れて持ち出せますし、インターネット経由で一瞬で世界中に拡散できます。ソフトウェアだけを見れば、核物質のような管理は不可能なように思えます。

しかし、人間を超えるような最先端のAI（フロンティアモデル）を学習・運用させるためには、極めて巨大な「計算資源（Compute）」が必要です。数万枚〜10万枚規模の最先端GPUを稼働させる必要があります。

アルゴリズムや論文はコピーできても、最先端のGPU10万枚を机の引き出しからこっそり取り出すことはできません。チップは「物理的な物質」だからです。

• 高度な半導体工場で作られる
• 厳重なサプライチェーンを経て輸送される
• 巨大なデータセンターに設置される
• 膨大な電力と冷却設備を消費する
• ネットワークに物理的に接続される

つまり、ソフトウェアとしてのAIは幽霊のように不透明ですが、それを生み出し動かすためのインフラには「巨大な実体」が存在します。このボトルネックこそが、監視と検証のポイントになります。

ハードウェアレベルのガバナンスという新しいアプローチ

国際的なAIガバナンスの研究では、計算資源が持つ性質（検出可能性・排他性・定量性）を利用して、ハードウェアレベルで開発を監視する手法が検討されています。

例えば、出荷される最先端チップに暗号学的な認証機能を持たせ、「そのチップがどこで、どのような規模の計算を行っているか」を安全に証明する技術などです。巨大なAIの学習が秘密裏に行われた場合、その計算の挙動自体をハードウェア側から検知・証明するアプローチが研究されています。

もちろん、この技術も完璧ではありません。2026年時点の研究論文でも、条約レベルで耐えうるオンチップでの計算量測定や暗号学的証明などの技術は、まだ十分に成熟していないとされています。チップの改造や分散計算、密輸などの抜け道をどう防ぐかという課題は残されています。

しかし、これは「不可能」ということではありません。冷戦期の核軍縮も、最初は「地下核実験をどうやって見破るか」という技術的難題で何年も交渉が停滞しました。それでも、まずは検証しやすい待機圏内や水中での実験禁止（1963年の部分的核実験禁止条約）から始め、監視技術の発達とともに適用範囲を広げていったのです。

AIにおいても、「すべての大学や個人のパソコンを監視する」のは不可能です。しかし、「10万枚の最先端チップを集めた超巨大データセンター」に限って監視の網をかけるのであれば、物理的なアプローチとして現実味が帯びてきます。

倫理やスローガンではなく「仕組みと現場の物理」を見る

AIの安全性をめぐる議論は、どうしても「企業は倫理観を持つべきだ」「国同士で仲良くルールを守ろう」といった精神論に傾きがちです。しかし、巨額の利益と覇権がかかった開発競争において、善意やスローガンだけで足並みを揃えることは不可能です。

ソアレス氏の提示する視点が非常に冷徹で示唆に富んでいるのは、「相手を信用しなくても成り立つ検証技術（ハードウェア監視）」に目を向けている点です。

私自身、CloudLab代表（岩森）として企業様の業務改善やIT導入、AI活用に携わる中で痛感するのは、「人の意識や善意に頼る運用は長続きしない」ということです。現場の業務プロセスを変革する際も、ルールを呼びかけるより「システム側で誤入力を防ぐ仕組み」や「物理的な導線」を整える方がはるかに確実で、持続性があります。

巨大な国際政治から中小企業の現場まで、本質は同じなのかもしれません。表面上の言葉やソフトだけに惑わされるのではなく、それを支える物理的な制約やインフラ、そして「裏切りを防ぐ仕組み」をどう構築できるか。

「競争だから止めようがない」と諦めてしまう前に、人類が過去の危機をどうやって物理的な仕組みで乗り越えてきたのかを振り返ることは、これからのAI時代を生きていく上で大きなヒントになると感じています。

CloudLabは京都・亀岡を拠点に、中小企業のIT活用・AI導入・ホームページ制作を支援しています。現場の仕組みづくりやIT活用について、お気軽にご相談ください。