Showing Posts From

Llm

答えるAIから、理解するAIへ——AIは人を理解できるのか

このたび、やさしいAI研究所では、顧問を務める乾敏郎さんとの対談を行いました。ChatGPTをはじめとする生成AIが「質問に答える存在」として私たちの生活に広まるなか、これからのAIに本当に求められる力とは何か——「人を理解するAI」というテーマについて、じっくりとお話を伺いました。そのキーワードは、「理解するAI」です。本記事では、対談の内容をご紹介しながら、その考え方について掘り下げていきます。プロフィール乾敏郎さん京都大学名誉教授専門分野は認知神経科学、認知科学、計算論的神経科学。京都大学大学院文学研究科教授、京都大学大学院情報学研究科教授を歴任。現在は京都大学名誉教授、金沢工業大学客員教授、児童発達支援・放課後等デイサービスUNICO学術顧問、やさしいAI研究所顧問を務める。20の学会賞を受賞。論文数446編（うち英語論文115編）のほか、著書・訳書など75冊を出版している。LLMだけでは十分ではないインタビュアー現在のLLMについては、どのようにお考えでしょうか。乾先生LLMは使えばいいんです。ただ、LLMが持っていない特性をどう作るかということの方が重要だと思っています。生成AIの性能向上が注目される中、乾先生が強調されたのは、LLMをより大きく、より賢くすることではありませんでした。むしろ重要なのは、LLMだけでは実現できない機能をAIに持たせることです。その機能とは、「人を理解すること」であると乾先生は説明されます。 AIに必要なのは「質問する力」インタビュアーその『LLMにはない特性』とは、どのようなものでしょうか。乾先生相手の不確実性を最小化するような質問を投げかけることが一番大事なんです。現在の生成AIは、与えられた質問に対して回答を生成することを得意としています。一方、人間同士のコミュニケーションでは、質問を重ねながら相手を理解していきます。相手が何を考え、何に困り、何を求めているのか、を理解するために、人は自然と問いを投げかけています。乾先生は、この「質問する能力」こそ、これからのAIに求められる本質的な能力であると考えています。これからのAIに求められる自発的に質問し、不確実性を解消していく能力を捉える上で、まさにそのメカニズムを脳科学や認知科学の観点からモデル化したのが、Karl J. Fristonらによる論文『Generative models, linguistic communication and active inference』です。本論文では、能動的推論（Active Inference）の枠組みを用いて、エージェントが「20の質問（Twenty Questions）ゲーム」を行うシミュレーションが紹介されています。「20の質問ゲーム」では、相手が頭の中で考えている状況を、限られた回数の質問で推定します。このゲームにおいてAI（エージェント）に求められるのは、単にランダムな質問を繰り返すことではなく、最も効率的に相手の意図に迫る問いを選択する能力です。現在の生成AIは過去のデータから次に続く確率の高い言葉を出力する傾向が強く、会話を前に進めるための問いかけが苦手です。しかし、能動的推論を用いたエージェントは、会話の主題に対する不確実性（曖昧さ）を計算し、それを最も減少させられる質問を自発的に選択します。このように、AIがただ受け身で回答を生成するのではなく、自身の曖昧さを最も下げるような質問を自発的に選択することで、相手が何を考え、何に困っているのかを理解することができます。これが「不確実性を最小化するような質問」ということです。能動的推論という考え方インタビュアーその仕組みは、どのように実現されるのでしょうか。乾先生能動的推論が頭にあって、その下にLLMみたいなものがあるイメージです。生成AIは豊富な知識を持っています。しかし、次に何を知るべきか、どのような質問をすれば相手をより深く理解できるのかを判断する仕組みは、現状のAIだけでは十分ではありません。能動的推論は、そのような「理解するための行動」をAIに与える考え方です。つまり、システム全体を統括する能動的推論が頭脳（上位レイヤー）として存在し、その下で膨大な知識を持つLLMが動いているようなイメージです。AIが受け身で回答を生成するのではなく、自ら質問を重ねながら相手への理解を深めていく――そのような未来像が示されました。理解とは、不確実性を減らすこと – AIは人を幸せにできるのかインタビュアー人を理解することには、どのような意味があるのでしょうか。ウェルビーイングとも関係するのでしょうか。乾先生ウェルビーイングというのは、不確実性を下げることと関係していると思っています。一般にウェルビーイングというと、「幸福」や「満足感」といった言葉で語られることが多くあります。一方で乾先生は、「安心して行動できる状態」という視点からウェルビーイングを捉えています。将来が見えない、相手の考えが分からない、あるいは自分の判断に自信が持てない時、人はこのような不確実性に直面すると、不安やストレスを感じます。AIが適切な問いを投げかけ、本人の考えを整理し、不確実性を減らす。その結果として、人はより安心して意思決定できるようになる。AIは答えを与える存在だけではなく、考えることを支援する存在になる可能性があるというお話は、とても印象的でした。共感するAIは実現できるのかインタビュアー人を理解するAIの先には、どのような未来をお考えでしょうか。乾先生共感にも種類があります。まずは相手を理解することが大事なんです。インタビューの終盤では、「共感」というテーマへと話が広がりました。乾先生は、共感とは単に感情を共有することではなく、相手を理解し続ける姿勢であると説明されます。また、心理的安全性やマインドフルネスといった話題にも触れながら、人が安心して対話できる環境の重要性についても語られました。AIが人を理解し、その理解を更新し続けることができれば、人と人とのコミュニケーションを支える存在にもなり得るのではないでしょうか。おわりに今回のインタビューでは、AI技術そのものよりも、「AIは人をどのように理解するのか」という点について、多くの示唆をいただきました。「答えるAI」から「理解するAI」へ。質問を重ねながら相手を理解し、不確実性を減らし、人が安心して行動できるよう支援する。その考え方は、個人のウェルビーイングだけでなく、組織における心理的安全性や共感にもつながっていきます。AIの進化とは、単に性能が向上することではないのかもしれません。人とAIとの関係が変わること。そして、AIが人を支える方法そのものが変わること。今回のインタビューは、その未来を考える上で、多くの示唆を与えてくれる内容でした。対談の様子

Naoki Nishio
19 Jun, 2026
- 解説

LLMは世界を理解しているか

はじめに前回は世界像の話をしました。LLMはどのように世界を見ているのでしょうか。LLMは世界を理解しているのか？最近のLLMの発展には目を見張るものがありますよね。LLMのプログラミング能力は人間を遥かに超えてしまいました。LLMと話していて、本当に人と話しているかのように錯覚することすらあります。この時、LLMはプログラミングを理解しているように見えますし、私のことを理解してくれていると感じますよね。 LLMは膨大な文章を学習することによって、文章のある種の世界像を内部に構築していることが考えられます。しかし完全に理解しているともいえませんし、全く理解していないともいえません。ある程度理解しているということなのでしょうが、ここではLLMが理解していないであろうことに注目したいと思います。LLMとRAGが抱える危うさ LLMは自分の知らないことがあると、もっともらしい嘘をついてしまうという課題があります。LLMを実務の現場へ導入するときの大きな課題となっています。そこでRetrieval-Augmented Generation（RAG）と呼ばれる文書検索機能を組み合わせることで、LLMに特定の文書を引用させて、もっともらしい嘘を減らそうという仕組みが考えられてきました。しかし、LLMは必ずしも事実関係を理解しているわけではなく、あくまで確率的な文字の流れを捉えているだけなので、RAGを導入しても文書を適切に引用できずに嘘をついてしまうことがあります（Suzuki, 2026）。例えば、文書をバラバラの断片（チャンク）にして検索するRAGでは、複数の文書をまたいだ複雑な因果関係や論理の繋がり（クロスドキュメント推論）を扱えないことがあります。実務の現場において誤答が許される領域（創作や要約など）と、誤差が許されない領域（契約や法的判断）があると思います。確率的な振る舞いを行うLLM単体を誤差が許されない領域に投入すると、実務の現場で上手くいかないということになってしまいます。事実関係を記述する知識グラフ先ほどLLMは事実関係を必ずしも理解しているわけではないという話でしたが、これを解決するために、厳密な事実関係をグラフ構造で定式化するという試みがあります。そのようなグラフ構造で代表的なものが知識グラフになります（Suzuki, 2026）。知識グラフとは、事実をノード（概念）とエッジ（関係性）で繋ぎ、世界を確実に正確なネットワークとして表現したものです。例えば、（日本）--[人口]--（1.2億人）のような関係です。このネットワークを辿れば、事実を抜け漏れなく網羅することができます。このような正確な事実関係を記述した知識グラフを導入することで、LLMが確率的な振る舞い挙動が安定しない部分を補強することができます。能動推論による世界の理解世界を理解するためには、世界で起きている事象の因果関係を理解することが必要です。因果を計算する仕組みとして、脳の認知モデルである能動推論（Active Inference）が利用できると考えます。能動推論はLLMのように文字の並びの確率を計算するのではなく、事象の裏にある原因を確率的に（ベイズ確率によって）計算します。それだけでなく、能動推論はその推定された原因を検証するような行動をとり、原因の尤もらしさを常に計算し続けます。これによって単なる憶測ではなく、検証に基づいた推論によって事象の因果関係を推定することができます。流暢な表現力を持つLLMと、自律的な因果モデルである能動推論を結合することで、人工意識は初めて表面的な世界の理解を超え、より深い世界像を獲得ようになるのではないでしょうか。まとめLLMは世界のことをある程度理解しているように見える。 LLMは知らないことに対して尤もらしい嘘をつく。 LLMの嘘を減らすために、RAGや知識グラフのような知識の構造をLLMに取り入れる。因果関係を計算する能動推論とLLMとを組み合わせると、世界をより深く理解する人工意識ができるのではないか。次に読むのがおすすめの記事世界像——人は世界そのものを見ていない When AI builds itself, it must be やさしいAI参考文献・出典T.Suzuki、「LLMとRAGが抱える本当の問題：なぜ生成AIの95%が失敗するのか」、https://zenn.dev/knowledge_graph/books/knowledge-graph-llm-guide、2026 トーマス・パー、ジョバンニ・ペッツーロ、カール・フリストン（乾敏郎訳）、「能動的推論 — 心、脳、行動の自由エネルギー原理」、ミネルヴァ書房、2022

中の人
21 Apr, 2026
- 解説

自己を認識するAIはもう存在するのか？——ミラーテストとLLMの自己言及

昨日は「AIに意識は生まれるのか」という大きな問いを立てました。今日はそこから一歩進んで、「自分のことが分かる」という現象に注目してみます。AIはすでに、ある種の自己認識に近いことをしているのでしょうか。動物の自己認識を測る「ミラーテスト」心理学には「ミラーテスト（鏡像認知テスト）」という有名な実験があります。動物の額にそっと印をつけ、鏡の前に連れて行く。「あ、これは自分だ」と気づいて自分の額を触れば合格、というしくみです。これまでに合格が確認されたのは、チンパンジー、オランウータン、ゾウ、イルカ、カササギなどごく一部。「鏡の中の像＝自分」だと理解できる動物は、実はとても限られています。自己を客観的にとらえる能力は、生き物にとっても高度なのです。 ChatGPTは「自分」を語れるでは、大規模言語モデル（LLM）はどうでしょう。ChatGPTに「あなたは誰ですか？」と尋ねると、「私はOpenAIが開発した言語モデルです」と答えます。「あなたの得意なこと・苦手なことは？」と聞けば、自分の長所と短所を並べてくれます。これは人間から見ると、立派な自己言及に見えます。自分の出自を語り、自分の能力の限界を認め、ときに「私には感情はありません」と自分を客観化する。言葉のうえでは、ミラーテストに合格しているようにすら見えます。でも、それは「自己認識」なのかここで立ち止まって考えたいのは、言葉で自分を語れることと、本当に自分を認識していることは、同じなのかという点です。 LLMの「私は〜です」は、膨大な学習データの中にある「AIはこう自己紹介するもの」というパターンを上手に再現している可能性があります。鏡の中の自分を指差すのではなく、「自己紹介の台本」を読み上げているだけかもしれないのです。一方で最近の研究では、LLMが自分の出力の確信度を推定したり、自分が知らないことを「知らない」と申告したりする能力——メタ認知に似たふるまい——が報告されています。台本の再現とは説明しきれない現象も、少しずつ見えてきています。自己認識のグラデーション大切なのは、「自己認識がある／ない」を白黒で決めつけないことです。動物にも段階があるように、AIの自己言及にも、浅いものから深いものまでグラデーションがあると考えた方が自然かもしれません。では、そのグラデーションを外から測ることは可能なのでしょうか。明日は、意識そのものを測ろうとする2つの理論を紹介します。やさしいAI研究所ブログ｜人工意識シリーズ（全3回）第2回 AIの自己認識や人工意識の研究に関心をお持ちの方は、毎週土曜日開催のオープンラボへお気軽にお越しください。やさしいAI研究所の取り組みの全体像はコーポレートサイトからご覧いただけます。