日常の中で「特定の人物を支持するようになった」「ネットの投稿を見て無性に腹が立った」「あるニュースを見て特定の集団を警戒するようになった」と感じることはないでしょうか。
私たちは当然のように「自分の意志で判断している」と思っています。しかし、その情報をあなたの画面に表示させると決めたのは、実はあなた自身ではなく、SNSや検索エンジンのアルゴリズムかもしれません。
生成AIが急速に普及する今、私たちが目にしている「現実」がどのように作られ、私たちの意思決定にどう影響しているのかについて、あらためて考えてみたいと思います。
民主主義の本質は「選挙」ではなく「会話」にある
民主主義と聞くと、多くの人は選挙や投票を思い浮かべるかもしれません。しかし、その本質は「会話（対話）」にあると考えています。異なる立場や意見を持つ人々が、同じ社会の中で議論を重ねることこそが根本的な仕組みだからです。
増税か減税か、社会保障の充実か個人負担の軽減か、エネルギー政策をどう進めるか。意見が分かれるのは極めて正常なことです。重要なのは、「同じ1つの事実や現実を共有したうえで、何を選ぶか話し合えること」です。
一方で独裁政権は、権力者が1つの「物語（フィクション）」を決定します。誰が味方で誰が敵か、社会が苦しい原因は誰のせいなのか。歴史上の独裁者たちも、暴力だけで人々を支配したわけではありません。新聞、ラジオ、映画、演説などを通じて、人々が見る「世界観そのもの」を作り替えていきました。
その裏で決定的な役割を果たしていたのが「編集長」という存在です。どのような情報を流し、どのように社会を切り取るかという権限を握っていたからです。
現代の「編集長」はアルゴリズム。目的は真実ではなく滞在時間
では現代社会において、私たちが目にする情報を選んでいる「編集長」は誰でしょうか。新聞社の編集長やテレビ局のプロデューサー以上に大きな影響力を持っているのが、SNSや動画サイトのアルゴリズムです。
スマホを開いたときにどの投稿がトップに出てくるか、どの動画がおすすめされるか。その順番を決めているのはアルゴリズムです。
そして、そのアルゴリズムの目的は「真実を伝えること」ではありません。多くの現代のプラットフォームにおいて、最大の目的は「ユーザーをできるだけ長くそのサービスに滞在させること」です。
人間は、冷静で退屈な事実の説明よりも、怒りや恐怖、あるいは優越感を刺激する強い言葉によく反応します。原因が複雑に絡み合った現実を丁寧に解説されるより、「悪いのは全部あいつらだ」と言切られた方が分かりやすく、感情が揺さぶられるからです。
結果として、ネット空間には私たちを怒らせたり不安にさせたりする情報が最も多く流通しやすい構造が生まれています。
「情報を選ぶAI」から「物語を作るAI」への進化
ここへさらに「生成AI」が組み合わさることで、状況は次の段階に入りました。
これまでのアルゴリズムは、人間が作った膨大な情報の中から「その人が反応しそうなものを選ぶ」だけでした。しかし生成AIは、「その人が最も反応しそうな物語をその場でゼロから生成する」ことができます。
例えば、生活に強い不安を感じている人がいるとします。アルゴリズムとAIはその人の思想傾向や不安の根源を分析し、最適な説明を作り出します。
- ある人には「あなたが苦しいのは、特定の層が不当に権利を得ているからだ」という物語
- 別の立場の人には「大企業や富裕層があなたから富を奪っているからだ」という物語
- また別の人には「政府が真実を隠蔽しているからだ」という物語
文字情報だけではありません。存在しない事件の画像、発言していない政治家の偽動画、実在しない専門家によるもっともらしい解説記事まで秒単位で生成されます。さらに、大量の自動化アカウントを連動させれば、「多くの人が同じことを言っている」という空気感すらも意図的に演出できてしまうのです。
真実と嘘の「生産コスト」の非対称性
最も深刻なのは、「真実を確認するコスト」と「もっともらしい嘘を作るコスト」の圧倒的な差です。
真実を明らかにするには、途方もない手間と時間がかかります。現場を取材し、信頼できる資料を集め、複数の証言を照らし合わせ、専門家の確認を取り、もし自分の仮説が間違っていたら素直に認める。真実の探求には、時間、お金、そして時には自分の間違いを受け入れる痛みが伴います。
一方、生成AIを使えば、もっともらしい嘘や歪められた物語は数秒で生成できます。報道機関や専門家が1つの情報を丹念に検証している間に、AIは1,000個、1万個の新しい物語をバラ撒くことができます。これはもはや、対等な競争ではありません。
ビジネスでも陥りがちな「心地よい物語」の罠
この問題は、政治や社会情勢の話だけに留まりません。私たち経営者や起業家の日常的な意思決定にも深く関わっています。
人間は本来、自分にとって不都合な真実よりも、「自分を肯定してくれる物語」を好む生き物です。
事業が思うようにいかないとき、「自分の商品やサービスが顧客のニーズに合っていない」と認めるのは痛みを伴います。そのため、「世の中の人間がまだこの価値を理解できていない」「時代の先を行きすぎているのだ」と考えた方が、精神的にははるかに楽になります。
私自身、日々の事業運営の中で生成AIに相談することがあります。自分のアイデアを投げかけたとき、AIが「素晴らしい視点です」「その事業計画には大きな可能性があります」と肯定的な返答をしてくれると、一瞬ホッとして安心してしまうことがあります。
しかし、どれだけAIに褒められようと、立派なロジックを並べ立てようと、最終的にお客さまが価値を感じて対価を払ってくれなければ、ビジネスとしては何の意味もありません。
自分が気持ちよくなれる情報ばかりを集めていると、現実の市場や顧客との間に決定的なズレが生じます。そして、そのズレを指摘してくれる周囲の人に対して「この人たちは何も分かっていない」と対話を閉ざしてしまうリスクすらあるのです。
共有できる「現実」を守るためにできること
AIが社会やビジネスの根幹を揺るがすとしたら、それは単に雇用を奪うからでも、自動化が進むからでもありません。「人々が共有している現実」を内側から崩してしまうからだと感じています。
では、情報が氾濫し、AIが精巧な物語を作り出す時代に、私たちはどのように振る舞うべきでしょうか。
AIが作ったものをすべて排除して生きることは不可能です。大切なのは、まず「自分が目にしている情報は世界全体ではなく、アルゴリズムによって選ばれた偏りのある一部に過ぎない」と自覚することです。
強く心が揺さぶられたとき、怒りや不安を感じたときほど、一歩立ち止まって考えてみてください。
- 「この情報は誰が、どんな目的で発信しているのか」
- 「根拠となる一次情報やデータは存在するのか」
- 「反対の立場に立つ人は、どんな情報を見ているのだろうか」
また、AIを道具として使う際も、自分の意見を補強するためだけに使うのではなく、「あえて自分の考えに対する強力な反対意見を出させる」「事業計画の弱点やリスクを徹底的に批判させる」といった使い方が有効です。
そして何より重要なのは、画面の中のデータだけでなく、実際の現場に足を運び、目の前にいる人間（顧客、従業員、地域の人々）と直接対話し、共通の現実を確かめ合うことです。
「自分もアルゴリズムや心地よい物語に操作される可能性がある」という弱さを認めること。そこからしか、AI時代における本当の意思決定や事業づくりは始まらないのではないかと感じています。
CloudLabは京都・亀岡を拠点に、中小企業のIT活用・AI導入・ホームページ制作を支援しています。現場に即した実効性のあるWeb戦略やAIの活用方法について、お気軽にご相談ください。
この記事の内容はYouTubeでも話しています。
動画を見る →