Showing Posts From
予測する脳
同じ長さの線が違って見えるのはなぜ？｜予測する脳とAIのハルシネーションをやさしく
2本の線が並んでいます。片方は矢羽根が外向き、もう片方は内向き。どう見ても下の線のほうが長い。ところが定規を当てると、2本はぴったり同じ長さです。 種明かしを聞いたあと、もう一度見てみてください。それでも、やっぱり違う長さに見えませんか。「同じだと知っているのに、同じに見えない」。この頑固さこそ、脳の面白いところです。 脳科学とやさしいAIシリーズ、続編シリーズに続く第3弾を、きょうから3回でお届けします。第1回のテーマは「錯視」。目の錯覚から見えてくる「予測する脳」の姿と、AIのハルシネーションとの意外な関係を見ていきます。 脳は世界を「見て」いない、「予測して」いる 冒頭の図は「ミュラー・リヤー錯視」と呼ばれます。ドイツの学者フランツ・ミュラー・リヤーが1889年に発表した、100年以上研究され続けている定番の錯視です。 なぜ知識で分かっていても騙され続けるのか。その答えのヒントになるのが、目から入る情報の性質です。網膜に届くのは、上下逆さまで、ぶれていて、中心以外はぼやけた二次元の光にすぎません。私たちが「見ている」と感じる安定したカラーの世界は、この不完全な材料から脳が組み立てた、いわば完成予想図です。この組み立てを説明する有力な考え方が「予測符号化（predictive coding）」です。1999年にラジェッシュ・ラオとダナ・バラードが発表したモデルがよく知られています。脳は入ってくる情報をゼロから処理するのではなく、先に「たぶんこう見えるはず」という予測を立て、実際の入力とのズレだけを拾って修正している、という考え方です。 こうすると錯視の頑固さにも説明がつきます。よく知られた説では、矢羽根のような奥行きの手がかりを見ると、脳は長年の経験から「この形はきっと遠くにある、なら実際はもっと長いはず」と自動で補正をかける。なぜこの錯視が起きるかには他の説もありますが、補正が意識より深い場所で走っている点は共通しています。だから「同じ長さだ」と知識で知っていても止められません。錯視は脳の故障ではなく、普段は世界を素早く正しく見るための予測が、たまたま裏目に出た瞬間なのです。 「思い込み」もまた、予測のズレ 予測する脳は、ものの見え方だけの話ではありません。人の言葉や表情を受け取るときも、私たちは予測を使っています。 たとえば、同僚からの「了解です」という短い返事。急いでいるだけかもしれないのに、前日にすれ違いがあった相手だと「怒っているのかも」と読んでしまう。相手の実際の気持ちではなく、自分の予測のほうを見ている瞬間です。 思い込みやすれ違いの多くは、この予測が外れているのに、外れたことに気づけないまま進んでしまうことから起きます。錯視と同じで、本人には「そう見えている」ので、疑うきっかけがありません。だからこそ、「自分はいま、予測込みで見ているのだ」と知っておくことに意味があります。自分の見え方を一歩引いて眺められる人は、相手の見え方が違うことにも気づきやすい。予測する脳を知ることは、やさしさの足場になると私たちは考えています。 AIのハルシネーションは「AIの錯視」なのか ここでAIの話です。AIが事実ではないことを、もっともらしい顔で答えてしまう現象は「ハルシネーション（幻覚）」と呼ばれます。存在しない論文をすらすら紹介する、あの現象です。 似ているのは「もっともらしく埋める」こと 錯視とハルシネーションには、確かに似た構造があります。脳は不完全な入力を経験からの予測で補い、「一番ありそうな世界」を見せる。言葉を予測するAIも、学習した膨大なパターンから「一番ありそうな続き」を出力します。どちらも、足りない部分をそれらしく埋める仕組みが、本来の力の源であると同時に、間違いの源にもなっている。ここは本当によく似ています。違うのは「答え合わせの相手」 ただし、大きな違いがあります。脳の予測には、身体と世界という答え合わせの相手がいることです。 コップの位置を見誤れば手が空を切り、その瞬間に予測は修正されます。人の表情を読み違えれば、気まずい沈黙が返ってきて、次からの予測が変わります。予測して、外れて、直す。このループを、私たちは生まれてからずっと回し続けています。 いまのAIには、この意味での身体がありません。文章を出力しても、その内容が現実の壁にぶつかって痛い思いをするわけではない。検索で裏を取る仕組みや、間違いを指摘されて学ぶ仕組みは整いつつありますが、世界との絶え間ない答え合わせが学びの土台になっている脳とは、まだ隔たりがあります。だからAIの出力は、どれだけ流ちょうでも「予測のままの完成予想図」でありえます。読み手の側が定規を当てる、つまり出典や事実を確かめる余地を残しておくことが大事になります。 まとめ脳は網膜に届く不完全な情報を予測で補い、「一番ありそうな世界」を見せている。錯視はその予測が裏目に出た瞬間で、知識では止められない 人間関係の思い込みやすれ違いも予測のズレから起きる。「予測込みで見ている」と知ることが、相手の見え方を想像するやさしさにつながる AIのハルシネーションは「もっともらしく埋める」点で錯視と似ているが、身体と世界による答え合わせを持たない点が違う。だから確かめる余地を人の側に残しておく次回は、見たものを受け取ったあとの「考える」の話です。つい即答してしまう直感と、じっくり考える熟考。脳の2つの思考モードから、AIの「考えるモード」を眺めます。次に読むのがおすすめの記事うるさい店内で自分の名前だけ聞こえるのはなぜ？｜注意とAIのアテンションをやさしく AIは自分の「わからなさ」に気づけるか——メタ認知とAIをやさしく AIは間違いに気づけるのか——失敗・謝罪・自己修正の仕組みやさしいAI研究所ブログ｜脳科学とやさしいAI 第3弾シリーズ（全3回）第1回 「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。