Showing Posts From
能動的推論
「意見が伝わっていく」って、数式で書けるらしい｜乾先生に教わった脳科学×AIの話
「なぜ、あの人とは何度話しても意見が噛み合わないんだろう？」 「気づけば、いつも気の合う人とばかり集まってしまう」 こういう、誰もが一度は感じたことのある現象、実はとてもシンプルな数式で説明できてしまう、と聞いたら、ちょっと興味が湧いてきませんか？先日、やさしいAI研究所の顧問である乾敏郎先生に、そんな面白い研究論文を一つ紹介していただく機会がありました。難しそうなタイトルの論文なのですが、紐解いていくと、日常のふとした瞬間に感じる「共感」や「意見の伝わり方」の仕組みが、驚くほど身近な形で見えてきます。しかも、その裏側にはミラーニューロンといった、脳科学の面白い知見も隠れていました。今日はその内容を、乾先生に教わったエピソードとともにご紹介します。プロフィール乾 敏郎さん京都大学 名誉教授専門分野は認知神経科学、認知科学、計算論的神経科学。京都大学大学院文学研究科教授、京都大学大学院情報学研究科教授を歴任。現在は京都大学名誉教授、金沢工業大学客員教授、児童発達支援・放課後等デイサービスUNICO学術顧問、やさしいAI研究所顧問を務める。20の学会賞を受賞。論文数446編（うち英語論文115編）のほか、著書・訳書など75冊を出版している。論文のタイトルは、"Small steps for mankind: Modeling the emergence of cumulative culture from joint active inference communication"（Kastel et al., 2023, Frontiers in Neurorobotics）。 日本語にすると「人類の小さな一歩：能動的推論による対話が積み重なって文化が生まれる過程をモデル化する」といったところでしょうか。 この記事では、「意見が伝わる仕組み」と「誰と話したくなるかの仕組み」を表す2つのシンプルな数式と、その裏にある脳科学的な「共感」の話をまとめて紹介します。この記事で学べることなぜ会話をすると意見が近づいていくのか、その仕組みを表す数式 なぜ人は気の合う相手とばかり集まってしまうのか、その仕組みを表す数式 意見の伝播や集団形成の裏側にある「共感」という脳科学的なメカニズムそもそも、この論文は何をしている論文なのか 論文の筆者が行った研究を簡単に言うと、こうです。コンピュータの中で50人の仮想的な人間（エージェント）が毎日誰かと会話し続けたときに、その集団の中で「意見」や「文化」がどう広がっていくかをシミュレーションした最初は、ほぼ全員が同じ意見を持っています。そこに、たった一人だけ違う意見を持つ"はぐれ者"のエージェントが混ざります。 このはぐれ者の意見は、その後どうなるでしょうか？ 無視されて消えていくのか、それとも徐々に広がっていくのか。それは、エージェントたちがどんな性格（パラメータ）を持っているかによって変わってくる、というのがこの研究のポイントです。 これはたとえば、友人グループの中で新しい流行り言葉や趣味が広がっていく現象や、SNS上で新しいトレンドが一部の人から徐々に浸透していく現象とも重なる、身近なテーマだと言えそうです。 数式コーナー①：「会話をすると意見が近づく」を式にする 乾先生の説明の中で特に印象的だったのが、「なぜ人は会話をすると意見が似てくるのか」という話でした。論文の中では、この更新の様子が次の式（式5）として表されています。 乾先生の解説スライドより数式としては、①自分がもともと持っていた信念、②自分自身が今回どう発言したか、③相手が今回どう発言したかという3つの要素を、それぞれの重み（精度）をかけ合わせて足し合わせる、という形になっています。 この中でも特に本質的なのは、「自分の意見」と「相手の意見」のバランスがどう決まるか、という部分です。そこでこの記事では、②の"自分自身の発言"の影響は①の"もともとの信念"に含めて考えることにして、思い切って次のような加重平均の式として単純化してみます。新しい自分の意見 ＝ γ × 相手の意見 ＋ (1 − γ) × 元の自分の意見ここで登場する γ（ガンマ） という数字が、その人の「聞く耳の広さ」を表しています。γ が 0に近い人 → 何を言われても意見を変えない、いわゆる「頑固な人」 γ が 1に近い人 → 相手の意見にすぐ流されてしまう人 γ が 0.5くらいの人 → お互いに歩み寄りながら会話する人たったこれだけの式なのですが、「なぜあの人とはいつまで経っても話が噛み合わないのか」「なぜ何度も話しているうちに、気づけば似た考え方になっていたのか」という、誰もが経験したことのある現象を、きれいに説明できてしまうんですね。 数式コーナー②：「誰と話したくなるか」も式にできる もう一つ面白かったのが、「そもそも人はどんな相手と会話をしたがるのか」という部分です。 論文のシミュレーションでは、エージェントは毎日「誰と会うか」を自分で選びます。そのときに働いているのが、次の式（式12）で表される2つの気持ちのせめぎ合いです。 乾先生の解説スライドより実利的価値（安心したい気持ち）：自分と似た意見の人と話すと心地よい（＝確証バイアス） 認識的価値（好奇心）：まだよく知らない相手と話すと新しい情報が得られる（＝新規性を求める気持ち）これも数式のエッセンスを取り出すと、次のようなシンプルな重み付けの式として理解できます。会いたい度 ＝ w × 意見が似ている度合い ＋ (1 − w) × まだ知らない情報量w（ウェイト）が大きい人 → 似た意見の人とばかり集まる、いわゆる「エコーチェンバー」的な行動をとりやすい人 w が小さい人 → 知らない人・違う意見の人ともどんどん話しに行く、好奇心旺盛なタイプ論文のシミュレーションでは、この「w」の大きさが集団全体でどれくらい偏っているかによって、結果が大きく変わることが示されています。集団の大多数が「安心したい派（wが大きい）」だと、少数派の新しい意見はなかなか広がりません。逆に、好奇心旺盛な人が多い集団では、新しい意見のほうがあっという間に優勢になることもある。「安心か、好奇心か」というたった一つのバランスの違いが、集団全体の未来を大きく左右してしまうというのは興味深い結果です。 実は「共感」の話にもつながっている ここまでは論文そのものの内容でしたが、乾先生との議論はさらに面白い方向に広がっていきました。実は、先ほどの2つの数式の裏側には、どちらも共感という仕組みが深く関わっているそうです。乾先生が挙げてくれた例を、数式との関係とあわせて紹介します。 ミラーニューロン 私たちは相手の動作を見ているだけで、自分がその動作をするときに使う神経が反応してしまう仕組みです。相手が痛そうにしていると、こちらもなんとなく痛みを感じてしまうのはこのためです。乾先生いわく、ミラーニューロンは「人と人との絆をつくるもの」であり、相手の状態を自分の中でシミュレーションすることで、相手のことが分かるようになるのだそうです。これは、数式コーナー①のγ（相手にどれだけ同調するか）を支えている仕組みだと言えそうです。 共感は言葉で伝えないと伝わらない 乾先生が強調していたのは、「共感していることは、ちゃんと言葉で伝えないと相手には伝わらない」ということでした。ただ黙って頷いているだけでは足りず、「それはすごく分かるよ」と、はっきり言葉にすることが重要なのだそうです。数式コーナー①でいう「自分自身の発言」がきちんと相手に伝わることで、初めてお互いのγが噛み合い、意見の同期が進んでいく、というわけです。 気づかれない模倣が信頼を生む実験 会話中に、相手に気づかれないようにさりげなく仕草を真似ると、真似された側の人は無意識のうちに相手への信頼度が上がる、という実験があるそうです。実際に、会話をしていた相手が退室してから戻ってくる際にわざと物を落とし、それを拾うのを手伝ってくれるかどうかで協力行動を測る、といった実験も紹介されました。これは、数式コーナー②の「会いたい度」、特に「安心したい気持ち（実利的価値）」を後押しする効果だと考えられます。 自閉症児教育での逆転の発想 かつては「先生の真似をさせる」教育が主流だったところを、逆に「先生が子どもの動作を真似る」ようにしたところ、子どもがとても喜び、その後の共感性も高まったという知見があるそうです。これも、「真似されて分かってもらえた」と感じることが、その相手ともっと関わりたいという気持ち、つまり数式コーナー②の「会いたい度」につながる例だと言えそうです。 まとめ 正直なところ、論文をそのまま読んでいたら、私はきっと数式のところで挫折していたと思います。でも、乾先生に「これはこういうことなんですよ」と一つずつ噛み砕いて説明していただいたおかげで、難しそうに見える数式の裏に、私たちが日常で当たり前に感じている現象が隠れていることが分かりました。「頑固な人とは話が噛み合わない」→ γ（聞く耳の広さ）が小さい状態 「気の合う人とばかりつるんでしまう」→ w（安心したい気持ち）が大きい状態 「真似されると気を許してしまう」→ 共感が「会いたい度」を後押ししている状態数式というと身構えてしまいがちですが、「身近な現象を、こんなにシンプルな形で表現できるんだ」という発見自体が、実はとても面白いものなんだなと感じた時間でした。 乾先生、貴重な解説をありがとうございました。次に読むのがおすすめの記事引っ越し直後がしんどいのはなぜ？｜脳の予測とウェルビーイング 他人のあくびがうつるのはなぜ？——ミラーニューロンとAIをやさしく 答えるAIから、理解するAIへ——AIは人を理解できるのか参考文献・出典Kastel, N., Hesp, C., Ridderinkhof, K. R., & Friston, K. J., "Small steps for mankind: Modeling the emergence of cumulative culture from joint active inference communication", Frontiers in Neurorobotics, 16, 944986, 2023本記事は、やさしいAI研究所顧問・乾敏郎先生（京都大学名誉教授）の解説をもとに編集部が構成したものです。「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。 この記事が役に立ったら、SNSでシェアしていただけると嬉しいです🌱
答えるAIから、理解するAIへ——AIは人を理解できるのか
このたび、やさしいAI研究所では、顧問を務める乾 敏郎さんとの対談を行いました。ChatGPTをはじめとする生成AIが「質問に答える存在」として私たちの生活に広まるなか、これからのAIに本当に求められる力とは何か——「人を理解するAI」というテーマについて、じっくりとお話を伺いました。 そのキーワードは、「理解するAI」です。本記事では、対談の内容をご紹介しながら、その考え方について掘り下げていきます。プロフィール乾 敏郎さん京都大学 名誉教授専門分野は認知神経科学、認知科学、計算論的神経科学。京都大学大学院文学研究科教授、京都大学大学院情報学研究科教授を歴任。現在は京都大学名誉教授、金沢工業大学客員教授、児童発達支援・放課後等デイサービスUNICO学術顧問、やさしいAI研究所顧問を務める。20の学会賞を受賞。論文数446編（うち英語論文115編）のほか、著書・訳書など75冊を出版している。LLMだけでは十分ではない インタビュアー現在のLLMについては、どのようにお考えでしょうか。乾先生LLMは使えばいいんです。ただ、LLMが持っていない特性をどう作るかということの方が重要だと思っています。生成AIの性能向上が注目される中、乾先生が強調されたのは、LLMをより大きく、より賢くすることではありませんでした。むしろ重要なのは、LLMだけでは実現できない機能をAIに持たせることです。その機能とは、「人を理解すること」であると乾先生は説明されます。 AIに必要なのは「質問する力」インタビュアーその『LLMにはない特性』とは、どのようなものでしょうか。乾先生相手の不確実性を最小化するような質問を投げかけることが一番大事なんです。現在の生成AIは、与えられた質問に対して回答を生成することを得意としています。一方、人間同士のコミュニケーションでは、質問を重ねながら相手を理解していきます。相手が何を考え、何に困り、何を求めているのか、を理解するために、人は自然と問いを投げかけています。乾先生は、この「質問する能力」こそ、これからのAIに求められる本質的な能力であると考えています。 これからのAIに求められる自発的に質問し、不確実性を解消していく能力を捉える上で、まさにそのメカニズムを脳科学や認知科学の観点からモデル化したのが、Karl J. Fristonらによる論文『Generative models, linguistic communication and active inference』です。 本論文では、能動的推論（Active Inference）の枠組みを用いて、エージェントが「20の質問（Twenty Questions）ゲーム」を行うシミュレーションが紹介されています。「20の質問ゲーム」では、相手が頭の中で考えている状況を、限られた回数の質問で推定します。このゲームにおいてAI（エージェント）に求められるのは、単にランダムな質問を繰り返すことではなく、最も効率的に相手の意図に迫る問いを選択する能力です。 現在の生成AIは過去のデータから次に続く確率の高い言葉を出力する傾向が強く、会話を前に進めるための問いかけが苦手です。しかし、能動的推論を用いたエージェントは、会話の主題に対する不確実性（曖昧さ）を計算し、それを最も減少させられる質問を自発的に選択します。 このように、AIがただ受け身で回答を生成するのではなく、自身の曖昧さを最も下げるような質問を自発的に選択することで、相手が何を考え、何に困っているのかを理解することができます。これが「不確実性を最小化するような質問」ということです。 能動的推論という考え方 インタビュアーその仕組みは、どのように実現されるのでしょうか。乾先生能動的推論が頭にあって、その下にLLMみたいなものがあるイメージです。生成AIは豊富な知識を持っています。しかし、次に何を知るべきか、どのような質問をすれば相手をより深く理解できるのかを判断する仕組みは、現状のAIだけでは十分ではありません。能動的推論は、そのような「理解するための行動」をAIに与える考え方です。つまり、システム全体を統括する能動的推論が頭脳（上位レイヤー）として存在し、その下で膨大な知識を持つLLMが動いているようなイメージです。AIが受け身で回答を生成するのではなく、自ら質問を重ねながら相手への理解を深めていく――そのような未来像が示されました。 理解とは、不確実性を減らすこと – AIは人を幸せにできるのかインタビュアー人を理解することには、どのような意味があるのでしょうか。ウェルビーイングとも関係するのでしょうか。乾先生ウェルビーイングというのは、不確実性を下げることと関係していると思っています。一般にウェルビーイングというと、「幸福」や「満足感」といった言葉で語られることが多くあります。一方で乾先生は、「安心して行動できる状態」という視点からウェルビーイングを捉えています。将来が見えない、相手の考えが分からない、あるいは自分の判断に自信が持てない時、人はこのような不確実性に直面すると、不安やストレスを感じます。AIが適切な問いを投げかけ、本人の考えを整理し、不確実性を減らす。その結果として、人はより安心して意思決定できるようになる。AIは答えを与える存在だけではなく、考えることを支援する存在になる可能性があるというお話は、とても印象的でした。 共感するAIは実現できるのか インタビュアー人を理解するAIの先には、どのような未来をお考えでしょうか。乾先生共感にも種類があります。まずは相手を理解することが大事なんです。インタビューの終盤では、「共感」というテーマへと話が広がりました。乾先生は、共感とは単に感情を共有することではなく、相手を理解し続ける姿勢であると説明されます。また、心理的安全性やマインドフルネスといった話題にも触れながら、人が安心して対話できる環境の重要性についても語られました。AIが人を理解し、その理解を更新し続けることができれば、人と人とのコミュニケーションを支える存在にもなり得るのではないでしょうか。 おわりに 今回のインタビューでは、AI技術そのものよりも、「AIは人をどのように理解するのか」という点について、多くの示唆をいただきました。 「答えるAI」から「理解するAI」へ。 質問を重ねながら相手を理解し、不確実性を減らし、人が安心して行動できるよう支援する。その考え方は、個人のウェルビーイングだけでなく、組織における心理的安全性や共感にもつながっていきます。AIの進化とは、単に性能が向上することではないのかもしれません。人とAIとの関係が変わること。そして、AIが人を支える方法そのものが変わること。今回のインタビューは、その未来を考える上で、多くの示唆を与えてくれる内容でした。 対談の様子