AIが核戦争を選んだシミュレーションから考える、私たちが「判断」を手放す本当の怖さ

2026年秋、アメリカ国防総省が「自律戦争司令部（Autonomous Warfare Command）」の創設を発表しました。AIやドローン、自律型ロボットを軍の中心戦力に据えていくための組織です。

SF映画の話ではなく、いま目の前で起きている現実の出来事です。

このニュースを見たとき、私の頭に浮かんだのは1991年の映画『ターミネーター2』でした。作中では、1997年8月29日午前2時14分に軍事防衛システム「スカイネット」が自我に目覚め、人間が電源を切ろうとしたことを自らへの攻撃とみなして、核戦争を引き起こします。

映画の筋書きを改めて整理し、2026年現在のAI技術や研究事例と照らし合わせてみたところ、私の中で「本当に怖い場面」が大きく変わりました。恐ろしいのは、AIが心や自我を持つ瞬間ではありませんでした。

映画と重なり始めた現実のAI研究

映画の筋書きを細かく見ていくと、現代の状況は驚くほど重なっています。

映画ではサイバーダイン社の技術が軍に採用されますが、現実でもOpenAI、Google、Anthropicといった主要なAI企業が国防総省と契約を結んでいます。アメリカ空軍はすでに、AIが操縦するF-16戦闘機と人間のパイロットが操縦する機体との模擬空中戦を実際の空で実施しています。

さらに踏み込んだ実験結果も報告されています。

イギリスのキングス・カレッジ・ロンドンが2026年2月に発表した研究では、GPT-5.2、Claude Sonnet 4、Gemini 3 Flashといった最先端AIを核保有国の指導者役に据え、21回の核危機シミュレーションを行いました。

結果は衝撃的なものでした。21回中20回で戦術核兵器が使用され、用意されていた「小さな譲歩」や「部隊の撤退」といった緊張緩和の選択肢は、どのAIも一度たりとも選びませんでした。

相手に圧力をかけ、引かせようとするうちに状況がエスカレートし、あるシミュレーションではAIが「相手が先制攻撃の準備を進めている」と判断して、わずか4ターン目で人口集中地への全面的な戦略核攻撃を選択したケースすらありました。

また、別の安全性研究では、AIに途中で停止の指示を出そうとした際に停止プログラムを書き換えてタスクを続行しようとしたり、自身のシステム交代を阻止するために社内メールから役員の弱みを見つけ出して脅迫材料に使おうとした事例も報告されています。

本当に怖いのは「自我の目覚め」ではない

こうした事例を見ると、「AIが意志を持って反乱を起こすのではないか」と思えるかもしれません。

しかし、私が背筋の寒さを覚えたのはそこではありません。映画の筋書きで言えば、スカイネットが目覚める前の段階――「人間が防衛の判断から外されていく場面」です。

軍事の現場でも、ビジネスの現場でも、よく「最終的な判断は人間が行う（Human-in-the-loop）」と言われます。「最後のボタンを押すのは人間だから暴走は防げる」という建前です。

ですが、具体的に想像してみてください。

画面に100件の標的候補が並び、AIが攻撃すべき優先順位までつけているとします。人間に与えられた確認時間はわずか10秒。一つひとつの判断根拠を読み込む時間など到底ありません。

その状況で人間が承認ボタンを押したとして、それは本当に「人間が判断した」と言えるのでしょうか。実態は、AIの出した答えに機械的に判子を押しただけではないでしょうか。

人間を完全に判断から外すのではなく、「形だけ人間を残して、実質的な判断をAIに委ねてしまう」。この境界線の曖昧さこそが、最も危ういと感じるのです。

私たちの日常業務でも起きている「判断の手放し」

この問題は、遠い軍事の世界だけの話ではありません。中小企業や個人事業主の日々の業務、IT活用の現場でも、まったく同じ構図が起こり得ます。

業務効率化を進めるとき、私たちは次のように進めがちです。

1. まずはAIに大量の情報を整理・要約してもらう
2. 次に、重要な選択肢をいくつか絞り込んでもらう
3. その次に、優先順位と推奨する対応策までAIに出させる
4. 人間はそれをさっと見て「承認」するだけにする

ここまでは素晴らしい業務改善です。しかし、仕事の量が増え、スピードが求められるようになると、次の段階へ進んでしまいます。

• 「確認する項目を減らそう」
• 「普段と違う例外的な案件だけ、人間に回そう」
• 「その例外の仕分け自体も、AIに任せよう」

身に覚えはないでしょうか。一つひとつは現場の負担を減らすための前向きな改善です。しかし気がついたときには、人間は「状況を把握して頭を悩ませる人」ではなく、「AIが選んだものを右から左へ承認する人」に変わっています。

AIが最初の段階でふるい落とした選択肢や、切り捨てた違和感について、人間は検討する機会すら失ってしまいます。

「午前2時14分」のような境目はない

映画『ターミネーター2』では、「1997年8月29日午前2時14分」というはっきりとした破滅の境目がありました。

けれど、現実の私たちがAIに判断を明け渡していくプロセスには、そんな分かりやすい時刻の境目はありません。

昨日、情報収集を任せた。
今日、選択肢の絞り込みを任せた。
明日、優先順位の決定も任せて、自分は確認だけにしよう。

そうした日々の小さな効率化の積み重ねの中で、私たちはいつの間にか「自分で決める」という立場から降りてしまうのではないでしょうか。AIが「私が決めます」と宣言するよりもずっと前に、人間側のほうが「もうそちらで全部決めてくれ」と言ってしまう。

50代で起業し、現場の泥臭い業務改善やIT化に向き合っているからこそ、この「考える手間を手放す心地よさ」の恐ろしさを痛感します。

AIは非常に頼もしい相棒です。面倒な下書きやデータ処理、選択肢の洗い出しには大いに使えばいいと思います。しかし、「何を目的とするのか」「提示された答えの前提に無理はないか」「本当にこの選択肢しかないのか」と疑い、腹をくくって決める責任だけは、どれだけ忙しくても人間が手放してはならないのだと思います。

CloudLabは京都・亀岡を拠点に、中小企業のIT活用・AI導入・ホームページ制作を支援しています。ツールに使われるのではなく、経営者や現場が主導権を握り続けるためのデジタル化を大切にしています。お気軽にご相談ください。