京都・亀岡を拠点に中小企業のIT活用やAI導入を支援している、CloudLab代表の岩森です。
日頃の業務では、地域の経営者さまに向けて「AIを使って現場業務をいかに効率化するか」「いかに事業に役立てるか」を提案しています。AIの利便性は間違いなく本物であり、中小企業の強い味方になると実感しています。
しかし、その技術を生み出している最先端の現場から、非常に考えさせられるニュースが飛び込んできました。今回は、AIの技術的進歩の陰にある「誰もブレーキを踏めない人間社会の構造」について書いてみたいと思います。
最先端の研究者が投げかけた衝撃的な「告発」
事の発端は、世界トップクラスのAI開発企業であるAnthropic（アンソロピック）を退職した元研究者、ジェイコブ・コクソン氏の告発でした。彼は「AI企業は自己改善する超知能（Superintelligence）を目指して競い合っており、十分な安全性への配慮がないまま人類の未来を危険に晒している」という趣旨のメッセージを発信したのです。
一見すると「退職者の個人的な不満や大げさな主張」として片付けられてしまうかもしれません。しかし、この話の異様なところは、現在も同社で「AIを人間の意図に従わせる安全技術（アライメント）」を研究している現役責任者、エヴァン・ヒュービンガー氏がその警告をほぼ認めたことにあります。
ヒュービンガー氏は「今後10年以内にAIが人類全体に深刻な被害をもたらす確率は、個人的に10％を超えるとみている」と明かしました。さらに「超知能をコントロールする確実な方法は、まだ見つかっていない」とも公然と認めたのです。
安全を守る責任者自身が、「10％を超える確率で致命的な事態が起きるかもしれないが、防ぐ手段は確立されていない」と語る。これほど奇妙で、不気味な状況はありません。
なぜ危険だと知りながら、開発競争は止まらないのか？
なぜ、当事者たちが危険性を認識しながらも開発を止めないのでしょうか。同じく同社の安全研究者であるサミュエル・マークス氏は、大きな理由として以下の2点を挙げています。
- 莫大な利益を生む商業的な競争
- 「自分たちが止まっても、他社や他国が先に開発してしまう」という恐怖
ここに、現在のAI狂騒曲の本質があります。
全員が「このまま加速するのは危険だ」と分かっている。しかし、自分がブレーキを踏めば、競争相手が市場や先導権を奪うだけです。だから誰も最初にブレーキを踏むことができません。
これは経済学や社会学で言われる典型的な「囚人のジレンマ」です。互いに協力して減速すれば事故のリスクは減らせると頭では分かっていても、相手を信頼できないために全員でアクセルを踏み続けてしまう。暴走しているのはAIそのものというより、人間側の競争構造なのです。
冷静な視点と「10％」という数字の受け止め方
もちろん、こうした意見に対しては冷静な論発もあります。
「10％」という数字は統計的に算出された客観的な確率ではなく、研究者の主観的なリスク評価に過ぎません。科学的に証明された事実ではない点には注意が必要です。
また、一部の専門家からは「SF映画のような極端な破滅論に注目しすぎると、現在すでに発生している偽情報の拡散やプライバシー侵害、環境負荷といった現実的な課題から目が逸れてしまう」という懸念も示されています。
さらに穿った見方をすれば、巨大AI企業が「自分たちのAIは人類を滅ぼすほど強力だ」と強調することで、一種の過度な宣伝効果（ハイプ）を生み出したり、厳しい参入規制を作らせて後発のスタートアップを排除しようとしている、という側面も否定はできません。
しかし、主要なAI学会で論文を発表している2,778人の研究者を対象に行った調査（2023〜2024年発表）では、質問の聞き方によって38％〜51％の研究者が「破滅的なシナリオが起きる確率を少なくとも10％以上」と回答しています。一人の奇抜な研究者だけが騒いでいるわけではないのが実状です。
現場でAIを推進する経営者としての葛藤
私自身、50代で起業し、日頃から地元・京都や亀岡の中小企業さまにAI活用を強くお勧めしている立場です。業務の自動化や文章作成、アイデア出しにおいて、AIは間違いなく現場の負担を減らし、事業を前進させる強力なツールです。
だからこそ、足元の利便性を享受する一方で、世界の最前線でこうした冷徹な構造が走っていることに強い違和感を覚えます。
一番恐ろしいのは、映画に出てくるような意図を持った恐ろしいAIではなく、「国同士の対立や企業の利益競争、人間のエゴを抱えたまま、制御不能なほど賢いシステムを作ろうとしている人間の社会構造」そのものです。
仮に失敗したとき、その被害を受けるのは開発企業だけではありません。社会全体、ひいては地球上の全員です。それにもかかわらず、その巨大なリスクを引き受ける判断が、一部のAI企業の経営者や研究者だけで進められている現状には、疑問を持たざるを得ません。
自動車や医薬品、原子力発電には厳格な安全基準や公的な審査基準が存在します。しかし、急速に社会のインフラになろうとしているAIにおいては、開発企業自らが性能と危険性を評価し、市場に投入しています。
国家間の合意や共通ルールの策定が急務ですが、核兵器と違ってコードと計算資源さえあれば研究が進むAIは、外部からの監視や制御が極めて困難です。
私たちに突きつけられた「根本的な問い」
AIが本当に人類に不可逆なダメージを与えるのか、現時点で確実な答えを持っている人はいません。
しかし、私たちはもう一つの問いを突きつけられています。
「人類の未来のリスクを賭ける権利は、一体誰にあるのか？」
企業の経営者なのか、最先端の研究者なのか、国家なのか。それとも、この技術の影響を受けて生きている私たち全員なのか。
遠い世界の極端な技術論として切り捨てるのではなく、「人間社会のブレーキが効かない構造」に対して、一人ひとりが関心を持ち続けることが、これからの時代に必要な姿勢なのではないかと感じています。
CloudLabは京都・亀岡を拠点に、中小企業のIT活用・AI導入・ホームページ制作を支援しています。お気軽にご相談ください。
この記事の内容はYouTubeでも話しています。
動画を見る →