AIの「ハルシネーション」と人間の記憶のあいまいさ。ジェフリー・ヒントンが語る構造の共通点とリスク

生成AIを使っていると、実在しない論文や本をさも実在するかのように紹介されたり、間違った計算結果を自信満々に答えられたりすることがあります。

こうした現象は「ハルシネーション（幻覚）」と呼ばれ、「AIはまだ信用できない」「単なる確率的な文章作成マシンに過ぎない」といった評価の理由に使われることが少なくありません。

しかし、「ノーベル物理学賞」を受賞したAI研究の第一人者であるジェフリー・ヒントン教授は、非常に示唆に富む指摘をしています。それは「人間の脳も、AIとまったく同じように日常的に嘘をついている」という話です。

私たち人間がふだん行っている「記憶」と、AIが文章を生成する仕組みには、驚くほどの共通点があります。

「ファイルの再生」と「物語の再構成」の違い

普通のコンピュータで文章やデータを保持する場合、情報は特定フォルダの「ファイル」としてハードディスクやSSDに記録されます。その場所へアクセスすれば、保存したときとまったく同じデータを取り出すことができます。これが「再生」です。

私たちは自分たちの脳も、そうやって過去の出来事を録画データのように保存していると勘違いしがちです。

しかし、ヒントン教授によれば、人間の脳の記憶は「再生」ではありません。何かを経験すると、脳内にある神経細胞（ニューロン）同士の結びつきの強さがほんの少し変化します。数年後にその出来事を思い出すとき、過去の映像ファイルを読み直しているのではなく、変化した神経接続を手がかりに「おそらくこういう出来事だったはずだ」という物語を、その場でもう一度作り直しています。

つまり、人間の記憶とは過去の「再生」ではなく、その場での「再構成」なのです。

ウォーターゲート事件に見る「ありそうな記憶」の捏造

この記憶の再構成を裏付ける有名な例として、1970年代のアメリカで起きたウォーターゲート事件における、ホワイトハウス法律顧問ジョン・ディーンの証言があります。

彼はニクソン大統領との質疑応答について、誰が出席し、誰がどのような順番で何を発言したかを、議会で極めて具体的に証言しました。その語り口は緻密で、記憶力の良さを誰もが疑いませんでした。

しかし奇妙なことに、大統領執務室の会話は秘密裏に録音されていました。のちに実際の録音テープとディーンの証言を突き合わせたところ、細部には数多くの間違いが存在していたのです。

存在しない会議が証言されていたり、別の人物の発言がすり替わっていたり、実際にはなかったやり取りが付け加わっていました。心理学者のウルリック・ナイサーが分析したところ、ディーンが嘘をつこうとしていたわけではないことがわかりました。彼はホワイトハウスで経験した無数の会議を材料に、脳内で「最も整合性の高い、ありそうな会議」を再構成していたのです。

私たち自身の日常生活でも同様です。数年前の家族旅行や社内会議の記憶を「絶対にこうだった」と確信して話していても、当時の写真やメールの履歴を確認すると、日付や参加者、発言者が食い違っていることがよくあります。

厄介なのは、人間は正しく記憶しているときと、間違って記憶を再構成したときで、「確信の強さ」に差がないという点です。どれほど本人が自信満々に語っていても、その記憶が正確である保証にはなりません。

生成AIも書庫から文章を取り出しているのではない

大規模言語モデル（LLM）をはじめとする生成AIの仕組みも、これによく似ています。

AIは過去に読み込んだ膨大な文章データを、図書館の書庫のようにそのまま保存しているわけではありません。学習データを通じてニューラルネットワークのパラメータ（接続の重み）を変化させ、質問されたときにその接続を使って「その文脈において最もありそうな回答」を再構成して合成出力します。

学習内容と質問が非常に近ければ、正確な情報を答えます。しかし、情報が曖昧だったり、複数の知識が複雑に交差する領域だったりすると、文脈としては自然で最もらしいものの、事実とは異なる答えを合成します。これがAIのハルシネーションです。

つまりハルシネーションは、プログラミング上の単純なバグや一時的な不具合ではなく、パターンを学習して文脈を生成する仕組みそのものに由来する、根本的な性質である可能性があります。

「人間も間違えるからAIでいい」ではない本当のリスク

ここで重要なのは、「人間だって記憶を間違えるのだから、AIの嘘も許容すべきだ」ということではありません。ヒントン教授が警告しているのは、むしろその逆です。

一人の人間が記憶を勘違いして語る間違いの波及範囲には限界があります。しかしAIの場合、同じ構造の間違いが、一瞬にして何億人ものユーザーに、一言一句狂わぬ『自信満々な文章』として大量複製・配信されてしまいます。

もしそれが契約手続き、医療判断、法律業務、あるいは事業の意思決定に使われれば、その影響は個人の勘違いとは比べものになりません。

私たちは無意識のうちに、「本人が自信を持っている」「具体的に語られている」という理由で、相手の言葉を真実だと思い込む癖があります。AIに対しても、あまりにスムーズで論理的な文章が出てくると、無条件で正解だと信じてしまいがちです。

現場でAIを活用するために

私自身、京都の亀岡を拠点に中小企業の現場でIT活用やAI導入を支援していますが、AIを業務に組み込む際は「AIは検索エンジンでもデータベースでもなく、過去のパターンから高精度に回答を再構成する存在である」という前提を共有することを徹底しています。

事実確認（ファクトチェック）が必要な数値データや一次情報については、人間が必ず確認する仕組みを作るか、あるいは社内文書などの信頼できるデータソースを直接読み込ませて参照先を限定する手法（RAGなど）を組み合わせることが不可欠です。

AIは恐ろしい存在というわけではありませんが、魔法の道具でもありません。人間の脳が持つ「記憶を再構成する」という仕組みの面白さと危険性を理解した上で、適切な距離感で業務の道具として使いこなしていく姿勢が求められています。

CloudLabは京都・亀岡を拠点に、中小企業のIT活用・AI導入・ホームページ制作を支援しています。お気軽にご相談ください。