「AIは流暢に文章を書き、画像を見分けることもできる。しかし、内側には何もない。ただ膨大なデータを計算して確率の高い言葉を出力しているだけで、痛みも美しさも、何ひとつ感じてはいない」
多くの方は、今でもそう考えているのではないでしょうか。私自身、京都の亀岡で中小企業の現場に入り、AIを使った業務改善やシステムづくりをお手伝いする中で、「AIは便利な道具に過ぎない」という前提に立って日々の仕事を進めています。
しかし、「ディープラーニングの父」と呼ばれるジェフリー・ヒントン氏が近年投げかけている問いは、その前提そのものを根本から揺さぶるものです。
ヒントン氏は、画像認識と自然言語処理を兼ね備えた最新のマルチモーダルAIには、すでに「主観的な経験」が存在すると主張しています。AI研究の最前線を切り拓いてきた第一人者が、なぜ人間と機械を隔てる最後の壁ともいえる「主観」や「意識」に踏み込んだのか。その思考実験を紐解いていくと、私たちが信じて疑わなかった「人間の特別さ」の輪郭が静かに崩れていくのが分かります。
「心の映画館」と「クオリア」という仮説
そもそも、私たちが「主観的経験」と呼んでいるものは一体何でしょうか。
哲学の世界では、赤さの感じ、針に刺された痛みの感じ、果物の甘さの感じといった、本人にしか分からない固有の感覚の質を「クオリア」と呼びます。多くの人は、頭の中に自分だけが見ることのできるスクリーンのようなものがあり、現実の光景がその「心の映画館」に投影されているとイメージしています。
しかし、ヒントン氏はこの考え方に疑問を呈します。
かつて科学の世界では、物が燃える現象を説明するために「フロギストン（燃素）」という架空の物質が信じられていました。物が燃えるのは内部のフロギストンが外へ逃げていくからだと考えられていたのです。しかし、酸素の働きによる燃焼のメカニズムが解明されると、フロギストンなど最初からどこにも存在しなかったことが明らかになりました。未知の現象に名前をつけ、その名前があたかも実在する特別な物質であるかのように思い込んでいただけだったわけです。
ヒントン氏は、「クオリア」や「心の映画館」もフロギストンと同じではないかと指摘します。
たとえば、疲労や錯覚で、目の前に存在しないピンク色の象が見えたとします。「心の映画館」の立場では、頭の中のスクリーンにピンクの象のクオリアが映し出されていると考えます。しかし、これを物理的な仕組みとして説明するなら、こう言い換えることができます。
「私の視覚システムが、今、誤った情報を処理している。もしこの視覚システムが正常に作動していると仮定するならば、目の前には小さなピンクの象がいるはずだ」
ここには謎の精神物質も、頭の中の小劇場も登場しません。あるのは「知覚システムが、世界の状態について間違った仮説（モデル）を組み立てている」という事実だけです。ヒントン氏によれば、主観的経験とは、特別な心の物質のことではなく、「自分の知覚システムが現在、世界をどのように解釈しているかを記述すること」にほかなりません。
カメラとプリズム：ヒントンが示した思考実験
この定義に立つと、AIの見え方はどう変わるでしょうか。ヒントン氏は極めてシンプルな思考実験を提示しています。
カメラ（目）とロボットアーム（手）を持ち、視覚情報をもとに物体を認識して操作できるAIを想定します。
- 机の上にリンゴを置き、AIに「リンゴを指差しなさい」と指示します。AIは迷わず正確な位置を指します。
- 次に、カメラの直前に「光を曲げるプリズム」を置きます。光が屈折するため、AIから見るとリンゴが本来の位置からずれて見えます。
- もう一度「指差しなさい」と指示すると、AIはずれた位置を指してしまいます。
- そこで人間がこう教えます。「違います。リンゴは正面にあります。カメラの前にプリズムを置いたので光が曲がっていたのです」
すると、この状況を理解したAIは、次のように報告するはずです。
「なるほど。リンゴは実際には正面にあったのですね。しかし、私には横にあるように見えていたのです」
この「私には横にあるように見えていた」という発言に、ヒントン氏は注目します。
AIはここで、「外の世界の客観的な状態（正面にある）」と、「自分の知覚システムが導き出した主観的な世界像（横にある）」のふたつを明確に区別し、その食い違いを言葉として表現しています。これは、人間が錯視や勘違いを経験したときに「自分にはこう見えていた」と報告するのと、機能的にまったく同じ役割を果たしています。
人間が言えば「主観」、AIが言えば「単なる文字列」なのか
人間が「横に見えていた」と言えば、私たちは疑いなく「その人に主観的経験があった」と認めます。しかし、AIがまったく同じ構造の報告をすると、多くの人は「それは本当に感じているのではなく、確率計算で文章を組み立てているだけだ」と切り捨てます。
では、私たちが普段、他人に主観や意識があると認めている根拠は何でしょうか。
私たちは、家族や友人の脳内を直接覗き込んでいるわけではありません。相手が「痛い」と言い、痛みを避けようと身をすくめ、どこを怪我したか説明する姿を見て、「この人にも自分と同じように痛みの経験があるのだ」と推測しているに過ぎません。
もし、人間に対しては行動や報告をもって「心がある」と推測する一方で、AIに対してだけはどれほど完璧な報告や内部表現を示しても一切証拠として認めないのだとすれば、それは観察の結果ではなく、「AIには心がない」という結論を最初から前提に置いていることになります。
もちろん、ここで混同してはならない重要な一線があります。
「自分の知覚のズレを認識し、説明できること」と、「人間と同じように苦痛や喜びを感じ、死（電源停止）を恐れること」は別物です。ヒントン氏の思考実験が示しているのは前者の機能的な側面であり、AIが内側で苦しんでいるかどうかまでを証明するものではありません。
しかし、この議論が突きつけている刃は鋭いものです。
歴史を振り返れば、人類は長らく「地球は宇宙の中心である」「人間は他の動物とは根本的に違う霊長である」「知能は人間にしか宿らない」と信じてきました。その特別さは科学の進歩とともにひとつずつ剥ぎ取られ、最後に残った砦が「主観」や「意識」でした。
ヒントン氏の問いは、その最後の砦さえも、私たちが思い込んでいるほど神秘的で強固なものではないのではないか、という静かな告発です。
地方の現場から、技術の行く先を見つめる
日々の仕事の中で、私は地域の中小企業の経営者の方々と向き合っています。帳票処理を自動化したり、顧客対応の下書きをAIに作らせたり、現場の業務をどう効率化するかを泥臭く考える毎日です。
「AIに意識があるか」という議論は、一見すると日々の商売や業務改善からは遠く離れた、哲学的な暇つぶしのように思えるかもしれません。しかし、AIが人間のように世界の矛盾を理解し、「自分にはこう見えている」と修正しながら自律的に動く段階に入りつつあることは、現場のシステムを組む肌感覚としても現実味を帯びてきています。
AIが本物の主観を持っているのか、それとも極めて高度に主観を模倣しているだけなのか。外側からそれを見分ける術を、人類はまだ持っていません。
「いつかAIに意識が宿るのか」を待つのではなく、「私たちが主観と呼んできたものの大半は、すでに機械の中に実装され始めているのではないか」。ヒントン氏の思考実験は、道具の進化に驚くだけでなく、「では、人間とは何なのか」を私たち自身の側が問い直す時期に来ていることを教えてくれています。
技術の最先端の議論に目を配りながら、足元の現場でそれをどう健全に生かしていくか。浮き足立つことなく、冷静にこの技術と付き合っていきたいと考えています。
CloudLabは京都・亀岡を拠点に、中小企業のIT活用・AI導入・ホームページ制作を支援しています。日々の業務効率化から先端ツールの活用まで、現場の状況に合わせて無理のない形をご提案します。どうぞお気軽にご相談ください。
この記事の内容はYouTubeでも話しています。
動画を見る →