AIは言葉の意味を分かっているのか

食べたことのないイチゴの味を、AIは語る

対話型のAIに「イチゴの味を教えて」と頼むと、よどみない答えが返ってきます。噛んだ瞬間に甘さと酸味が広がること。鼻に抜ける香りがあること。練乳との相性まで語るかもしれません。文章としては申し分ありません。けれども、この機械はイチゴを食べたことがありません。舌も鼻も目もなく、赤い実を見たことも、へたを摘まんだこともない。大規模言語モデルと呼ばれるこの種のAIが学習したのは、インターネット上の膨大な文章——つまり言葉の並びだけです。

では、このAIは「甘酸っぱい」の意味を分かっているのでしょうか。「分かっているはずがない、言葉を並べているだけだ」と感じる人は多いと思います。ところが「では、意味を分かっているとはどういうことですか」と問い返されると、答えは急に難しくなります。これはAIの性能の話ではありません。言葉の意味とはそもそも何であり、どこに宿るのか——言語学と哲学が長く抱えてきた問題の、いちばん新しい形なのです。

辞書だけで言葉は学べるか——記号接地問題

まず、「言葉だけから意味は手に入らない」と考える立場から見ていきます。

認知科学者のスティーヴン・ハーナッドは1990年の論文で、この直感をひとつの情景にまとめました。中国語をまったく知らない人が、中国語だけで書かれた辞書を渡されたとします。ある単語を引くと、説明は未知の中国語。そこに出てくる単語を引いても、また中国語。どこまで行っても記号が記号を指すだけの堂々巡りで、意味には永遠にたどり着けません。抜け出すには、どこかで記号が世界そのもの——イチゴの赤、噛んだときの酸味——に「接地」している必要がある。これが記号接地問題です。哲学者ジョン・サールが1980年の思考実験「中国語の部屋」で突いたのも同じ急所でした。規則に従った記号の操作（構文論）をどれだけ積み上げても、記号が何を指すか（意味論）はそこから出てこない、と。

計算言語学者のエミリー・ベンダーとアレクサンダー・コラーは2020年の論文で、この議論を現代のAIに直結させました。言語モデルが浴びているのは言葉の「形式」だけであり、形式だけを学ぶシステムには意味を学ぶ手立てが原理的にない、という主張です。ベンダーらは翌2021年の別の論文で、言語モデルとは意味への参照なしに、確率にもとづいて言葉の断片を縫い合わせる装置だとして、「確率的オウム」という呼び名を与えました。

もっとも、この立場にも痛いところがあります。私たち自身、電子も、無限も、ローマ帝国も、直接見たり触れたりしたことはなく、言葉と図版だけで覚えました。すべての言葉が接地している必要はないのだとすると、どこまでの接地があれば「意味を分かっている」ことになるのか。その線引きは、まだ誰も示せていません。

「言葉は、連れ立つ仲間によって知られる」

一方、言語学には正反対の伝統もあります。イギリスの言語学者J・R・ファースが1957年に残した「言葉は、それが連れ立つ仲間によって知られる」という一句に代表される、分布意味論の考え方です。単語の意味は、それがどんな単語とともに現れるかというパターンのなかに、少なくともかなりの部分、宿っているとみなします。

これは哲学的な宣言にとどまらず、動く技術になりました。2013年、トマス・ミコロフらは、大量の文章から単語の並びのパターンを学んだ「単語ベクトル」が、king（王）− man（男）+ woman（女）を計算すると queen（女王）に最も近づくような構造を、誰に教えられたわけでもなく獲得することを示しました。性別や地位といった関係が、言葉の並びの統計から浮かび上がったのです。認知科学者のスティーヴン・ピアンタドシとAI研究者のフェリックス・ヒルは2022年、さらに踏み込みます。人間の概念にしても、意味を決めているのは外界への参照というより概念どうしの関係の網の目だとする学説（概念役割意味論）が認知科学にはあり、言語モデルの内部で起きていることはそれに近い、という擁護です。

ただし、こちらの弱点もはっきりしています。関係の網の目だけからは、真偽が出てきません。「イチゴは赤い」も「イチゴは青い」も、文としての形は同じくらい整っています。どちらが本当かを決めるのは言葉の外の世界であり、世界と照合する回路を持たないシステムに、その区別は原理的にできないのではないか——接地を重んじる側は、そこを突き返します。

海底ケーブルを盗聴するタコ

この対立の手触りをいちばんよく伝えるのは、ベンダーとコラーが論文に仕込んだ思考実験でしょう。

英語を話すAとBが、別々の無人島に流れ着きました。幸い、島には昔の訪問者が残した電信機があり、二人は海底ケーブル越しに文字で会話を続けます。そこへ、統計パターンの検出が天才的にうまい、超知能の深海ダコが現れました。タコは英語を知らず、海の上の世界を見ることもできません。それでもケーブルを盗聴し続けるうちに、「Aがこう言えばBはこう返す」を高い精度で予測できるようになります。やがて寂しくなったタコはケーブルを切断し、Bになりすまして返信を始めました。Aは気づきません。日常のおしゃべりなら、それらしく整った文を返すだけで会話は成立してしまうのです。ココナッツの投石機を発明したと興奮気味に報告するAに、タコは「すごいね、いいアイデア！」と返します。ロープや釘の話のとき、Bがよくそう言っていたからです。

なりすましが破綻するのは、世界が言葉に割り込んでくる瞬間です。ある日、Aはクマに追われ、「棒が2本ある。武器の作り方を考えて！」と打電します。「クマ」も「棒」も言葉の並びとしてしか知らないタコに、ここで役に立つ返答は組み立てられない——言葉を世界のモノに対応づける能力が、初めて決定的になる場面だ、というのが著者たちの診断です。ちなみに著者たちが当時の言語モデルGPT-2に同じ窮状を入力したところ、返ってきた答えのひとつは「ただで済むと思うなよ！」でした。

言葉しか見ていないAIの中に、盤面が見つかった

ところが近年、「形式だけからは意味に届かない」という原理的な主張を揺さぶる実験が現れました。2023年、ケネス・リーらが機械学習の国際会議ICLRで発表した、通称「オセロGPT」の研究です。

チームは小さな言語モデルに、ボードゲーム・オセロの棋譜だけを2,000万局分学習させました。与えるのは打たれた手の並び、つまり記号の列だけ。ルールも、8×8の盤面が存在することも教えません。それでもモデルは、次に打てる合法手を誤り率0.01%で挙げられるようになりました。四つある初手の一つを学習データから丸ごと除いても成績がほとんど落ちなかったことから、棋譜の丸暗記では説明がつかないことも確かめられています。

驚くのはここからです。モデルの内部状態を「プローブ」という手法で読み取ったところ、どのマスに黒石があり、どのマスに白石があるかという盤面の情報が、内部にきちんと表現されていました。しかも、その内部表現を手術のように書き換えて「この石は白だった」ことにすると、モデルの打つ手がそれに合わせて変わったのです。後続研究では、「自分の石か相手の石か」という視点を取れば、この盤面がもっと単純な形で読み出せることも示されました。言葉の並びだけを与えられたモデルの中に、言葉が指す世界の地図——世界モデルと呼びたくなるもの——が、誰にも教えられずに立ち上がっていた。形式と意味を隔てる壁に開いた、小さくない風穴の候補です。ただし、オセロは64マスで閉じた極小の世界です。イチゴの味やクマの恐ろしさを含む現実の世界で同じことが起きるのかは、まだ分かっていません。

いま分かっていること、まだ分からないこと

はっきりしてきたのは、言葉の並びの統計だけから、当初の予想を超えて多くのものが復元できるという事実です。文法、単語どうしの関係、そして少なくとも小さく閉じた世界なら、言葉が指す対象の配置まで。ここまでは、懐疑的な研究者もおおむね認める実証的な到達点です。

決着していないのは、それを「意味を分かっている」と呼ぶかどうかです。世界への接地こそ意味の核だと考えるなら、テキストだけで学んだモデルはいまも辞書の堂々巡りの中にいます。関係の網の目こそ意味の本体だと考えるなら、モデルはすでに意味のかなりの部分を手にしています。つまり論争の少なくない部分は、AIの能力についてではなく、「意味」という言葉の意味をめぐって起きているのです。画像や身体を持たせて記号を世界に接地させる試みも進んでおり、答えはこれからの実験で更新され続けるはずです。ひとつ注意したいのは、これが「AIに心があるか」とは別の問いだということです。意味をうまく扱えるが何も感じてはいない、という組み合わせは十分にありえます。

そして、この問いは最後に私たちへ跳ね返ってきます。あなたが「ビッグバン」や「恐竜の絶滅」の意味を知ったのも、言葉を通じてだったはずです。言葉だけから世界を学んだ機械を笑うとき、言葉から学んだ知識で大部分ができている私たちは、どこまで笑っていられるのでしょうか。