AIの最終決定権は誰が握るべきか——Anthropicと米国防総省の対立から考える

AIの急速な発展に伴い、その活用範囲はビジネスや日常の業務効率化にとどまらず、国家の安全保障や軍事領域にまで広がりつつあります。

近年、AI技術の利便性と同時に、「その決定権を最終的に誰が握るべきか」という重いテーマを突きつける大きな事件がありました。Claudeを開発するAnthropic（アンソロピック）社と、アメリカ国防総省（ペンタゴン）との対立、そして連邦裁判所による差し止め判決です。

私自身、京都・亀岡を拠点に中小企業のIT・AI導入やデータ活用を支援する立場で日々の技術変化を追っていますが、このニュースは単なる海外の政治・軍事トピックではなく、AI社会全体のガバナンスを考える上で非常に重要な示唆を含んでいると感じています。

Anthropicと米国防総省の対立とその経緯

事発端は、Anthropic社が自社開発のAIモデル「Claude」の利用規約において、明確な一線を引いたことにあります。

同社は、米国内での大量監視や、人間を介さずに標的を選んで攻撃する「完全自律型兵器」へのClaudeの利用を認めない方針を示しました。情報分析や作戦計画の支援など、それ以外の軍事利用自体を全面的に否定したわけではありませんが、大量監視と自律兵器という2点については明確に拒否したのです。

これに対し、米国防総省側は「軍事作戦にAIシステムを組み込んだ後で、民間企業から『規約違反だから利用を止める』と言われては作戦上困る」と反発しました。戦場で使われる重要技術の制御権を民間企業が握り続けること自体がリスクであるとして、国防総省はAnthropic社を「サプライチェーン・リスク（供給網上の危険）」に指定したのです。

供給網リスクに指定されると、同社は国防関連の契約から排除され、政府全般との取引停止や大幅な信用低下に直面することになります。

しかし、Anthropic社はこの指定に対して裁判を起こし、2026年8月、アメリカの連邦裁判所は国防総省の措置を「違法であり根拠がない」として差し止める判決を下しました。裁判所は、国家安全保障という名目のもとで、安全方針を掲げる企業に政府が報復的な措置を取ることを咎めた格好です。

単純な「正義 vs 悪」の構造ではない難しさ

一見すると「暴走する政府の軍事利用に対し、倫理観を持ったAI企業が裁判で勝利した」という分かりやすい正義の構図に見えるかもしれません。

しかし、事態はそれほど単純ではありません。この問題には、根深い二重の懸念が存在します。

1. 選挙で選ばれていない民間企業が国家の判断を上書きしてよいのか

まず考えなければならないのは、AI企業の経営者や開発者は「国民の選挙によって選ばれた存在ではない」という点です。

もし、民主的な手続きを経た政府や議会が法律に基づいて特定の政策や安全保障上の判断を下したとしても、わずか数社のAI企業の経営陣が「自社の利用規約」を根拠にそれを拒否できるとすれば、それは民間企業が事実上の国家政策や国際ルールを決定することになってしまいます。

例えば、電力会社が政策に反対だからといって防衛施設への送電を止めたり、通信会社が特定作戦への回線利用を拒否したりすることが自由に許されるべきかというと、社会インフラとしての観点から疑問が生じます。基盤となるAIが社会や安全保障にとって不可欠なインフラとなればなるほど、一企業の意思で供給を制御する危うさが出てくるのです。

2. 国家に無制限の権限を与えた場合の監視社会化

一方で、国家に対して安全保障の名のもとに無制限の利用権限を与えることも非常に危険です。

現代のAI技術は、単に人間が手作業で行っていた分析を速くするだけではありません。全国民の通信データ、映像、位置情報、購買履歴などを同時に一括解析する能力を持っています。一度このような強大な力を政府が自由に使えるようになれば、容易に全方向的な大量監視社会へつながるリスクがあります。

だからこそ、民間企業が技術的・倫理的な限界を提示し、安易な濫用にブレーキをかけようとすることには大きな意味があります。

誰が「最後の拒否権」を持つべきなのか

今回の判決で裁判所が止めたのは、「政府が安全保障を免罪符にして、批判的な企業に報復すること」です。Anthropic側の倫理的判断が絶対的に正解であると認定したわけではありません。

今後、AI企業は国家や政府からの支援（資金、電力供給、データセンター整備、法規制の整備）を一層必要とし、政府側も最先端AIなしでは安全保障を維持できないという、強力な相互依存関係に入っていきます。

その中で「AIが人の命に関わる判断に介入するとき、誰が最終責任を負うのか」という問いは避けて通れません。

私自身は、この決定権を「企業か国家か」という二項対立にしてはならないと考えています。

• 企業：自社技術の限界や危険性を評価し、安全上の利用条件をオープンに示す
• 政府：民主的な手続きを通じて利用範囲を定める
• 議会や裁判所：国家権力が過剰に行使されていないか、国民の権利が侵されていないかを監督する

これらが相互にチェック＆バランスを働かせ、人間が最終判断をしなければならない領域を明瞭な法律として定めていくことこそが重要です。一企業の利用規約だけでも、国家の秘密裏の判断だけでもなく、透明性のある社会的なプロセスを通じて境界線を引く必要があります。

大規模なAI技術が社会の根幹に入り込む時代だからこそ、技術の利便性だけでなく、それがどのようなガバナンスのもとで運用されているのかを、私たち一人ひとりが注視していく必要があります。

CloudLabは京都・亀岡を拠点に、中小企業のIT活用・AI導入・ホームページ制作を支援しています。お気軽にご相談ください。