AIは本当に「単なる確率計算」なのか？ジェフリー・ヒントンの論考から考えるAIと人間の「理解」

「ChatGPTは次に来そうな単語を確率で選んでいるだけで、言葉の意味なんて理解していない」

ITやAIの解説記事を読むと、こうした説明を一度は目にしたことがあるのではないでしょうか。

私自身、京都・亀岡を拠点に中小企業のIT活用やAI導入を支援するなかで、「AIは意味を分かって計算しているわけではないから、重要な業務には使えないのではないか」という懸念を経営者の方から伺うことがよくあります。

確かに、生成AIは「次の単語を予測する」ようにトレーニングされています。しかし、「次の単語を予測しているだけ」なら、本当に意味を理解していないと言い切れるのでしょうか。

AI研究の第一人者であり、2024年にノーベル物理学賞を受賞したジェフリー・ヒントン（Geoffrey Hinton）教授は、まったく逆の視点を提示しています。

「次の単語を正確に予測しようとするからこそ、AIは言葉の意味を獲得している」

ヒントン教授の講演内容を振り返りながら、AIが言葉を扱う仕組みと、私たち人間が「理解する」ということの本質について考えてみたいと思います。

1950年代からの2つのアプローチ：「記号」か「ニューラルネットワーク」か

ヒントン教授は講演の中で、1950年代に始まった人工知能研究の歴史に触れています。当時、AIへのアプローチには大きく分けて2つの流派がありました。

1つ目は、知能とは「論理記号をルールに従って操作すること」だとする考え方（記号主義）です。「すべての人間は死ぬ」「ソクラテスは人間である」「ゆえにソクラテスは死ぬ」というような三段論法のように、言葉や記号同士の関係性を辞書のように定義していけば意味を表現できると考えました。

2つ目は、脳の神経細胞（ニューロン）の働きを模したネットワークにデータを学習させれば知能が生まれるという考え方（ニューラルネットワーク）です。ヒントン教授はこちらの研究を何十年も愚直に続けてきた人物です。

この2つの立場では、「言葉の意味」に対する捉え方が大きく異なります。

記号的な立場では、「犬」の意味を「動物である」「4本足がある」「猫とは違う」といった他の言葉との関係性のネットワークとして記述しようとします。

一方、心理学やニューラルネットワークの立場では、言葉の意味とは「多数の特徴の組み合わせ」と考えます。

たとえば、「火曜日」と「水曜日」という単語を考えてみます。これらは別の言葉ですが、「曜日である」「1週間の一部である」「時間に関係している」「平日である」といった共通の特徴を数多く持っています。現在のAI内部では、こうした特徴の集まりを「ベクトルの数値の並び」として表現しています。

レゴブロックのように文脈で形を変える「言葉」

ヒントン教授は1985年の時点で、単語をベクトルに変換し、直前の単語から次の単語を予測する小さな言語モデルを作成していました。

最初はランダムな数値が入っているため、AIはまともに次の単語を予測できません。しかし、予測を間違えるたびに、内部の数値や繋がりを少しずつ修正していきます。これを無数に繰り返すと、誰かが辞書を与えたわけではないのに、似た文脈で使われる言葉同士が自然と似た特徴（ベクトル）を持つようになります。

次の単語を正確に予測するためにどうしても必要だったからこそ、単語同士の関係性や意味がネットワーク内部に圧縮されていったのです。

ヒントン教授は、この内部の言葉の働きを「レゴブロック」に例えています。

ただし、AIの中にある単語ブロックは形が固定されていません。文脈に合わせて何千もの次元の中で柔軟に変形し、周囲の単語と互いに矛盾なくぴったり噛み合う「形」を探し出します。

講演の中で、ヒントン教授は次のような英文を挙げています。

"She scrummed him with the flying pan."

「scrum（スクラム）」という動詞は、ヒントン教授が説明のために作った造語です。辞書には載っていませんし、誰も学習したことがありません。

それでもこの文章を読むと、英語圏の人でなくても「彼女はフライパンで彼を何かした（おそらく殴ったか叩いた）」のだろうと推測できます。

周囲にある「彼女」「彼」「フライパン」という言葉の文脈に合わせて、未知の単語の意味を推測し、文章全体が成り立つ形を見つけ出しているからです。これは、小さな子どもが未知の言葉を聞いた際、辞書を引かずに前後の状況から意味を理解していくプロセスと酷似しています。

チョムスキーへの反論と、反転する「人間側の理解」

これまで言語学の巨頭ノーム・チョムスキー教授などは、「AIは統計的なパターンを計算しているだけで、言葉を理解しているわけではない」と主張してきました。

チョムスキー教授はかつて、表面的には似ているが構造が全く異なる2つの文を例に挙げ、統計処理ではこの違いを理解できないと論じていました。

• John is easy to please.（誰かがジョンを喜ばせるのは簡単だ＝ジョンは喜ばされる側）
• John is eager to please.（ジョンは誰かを喜ばせたがっている＝ジョンは喜ばせる側）

しかし、現在のChatGPTにこの2つの文の違いを説明させると、文脈におけるジョンの役割の違いをきわめて正確に解説してみせます。

ヒントン教授は、「なぜ統計的であることと、理解していることが対立するのか」と問いかけます。不確実な世界で言葉を交わす以上、人間の脳も何らかの高度な統計処理や特徴の抽出を行っているはずだからです。

人間だって、誰かの話を聞いているときに無意識に「次に来る言葉」を予測しながら聞いています。予想外の言葉が来れば驚き、自然な文脈なら先回りして理解を深めます。私自身、こうしてブログの文章を書いたり話をしたりするときも、最初から頭の中に固定された文章が存在しているわけではなく、文脈に沿って次の言葉を紡ぎ出しています。

だとすれば、「次の言葉を予測する」という機能は、偽物の理解などではなく、理解という営みそのものの根幹なのかもしれません。

「人間は意味を理解し、AIはただの確率計算をしている」という単純な二元論は、少し見直す時期に来ているように感じます。AIが人間に近づいたというより、AIを構築・観察したことで、「人間の理解という現象も、私たちが思っていたほど神秘的なものではないのかもしれない」という裏返しが見えてきたのです。

経営現場におけるAIとの向き合い方

この議論は、単なる学術的な好奇心にとどまらず、私たちが仕事や経営の現場でAIとどう付き合うかという姿勢に直結しています。

「AIは単なる確率計算機だから信用できない」と一蹴してしまうと、その真価を見誤る可能性があります。

生成AIは、提示された文脈（コンテキスト）や前提条件を深く読み込み、その背景に合わせた出力を作成する能力に長けています。自社の業務手順、自社が大切にしている価値観、顧客のプロフィールといった「文脈」をしっかりと与えてあげれば、AIは単なる自動化ツールを超えて、文脈を汲み取る優秀なアシスタントとして機能します。

AIを「無知な機械」と見下すでもなく、「完璧な万能の知能」と崇めるでもなく、文脈に応じて柔軟に形を変える「思考のパートナー」として捉え直すこと。それが、中小企業が現場でAIを有効に活かしていくための実利的な第一歩だと感じています。

---

CloudLabは京都・亀岡を拠点に、中小企業のIT活用・AI導入・ホームページ制作を支援しています。お気軽にご相談ください。