LLMは世界を理解しているか
-
Naoki Nishio - 19 Jun, 2026
はじめに
前回は世界像の話をしました。LLMはどのように世界を見ているのでしょうか。
LLMは世界を理解しているのか？
最近のLLMの発展には目を見張るものがありますよね。LLMのプログラミング能力は人間を遥かに超えてしまいました。LLMと話していて、本当に人と話しているかのように錯覚することすらあります。この時、LLMはプログラミングを理解しているように見えますし、私のことを理解してくれていると感じますよね。 LLMは膨大な文章を学習することによって、文章のある種の世界像を内部に構築していることが考えられます。しかし完全に理解しているともいえませんし、全く理解していないともいえません。ある程度理解しているということなのでしょうが、ここではLLMが理解していないであろうことに注目したいと思います。
LLMとRAGが抱える危うさ
LLMは自分の知らないことがあると、もっともらしい嘘をついてしまうという課題があります。LLMを実務の現場へ導入するときの大きな課題となっています。そこでRetrieval-Augmented Generation（RAG）と呼ばれる文書検索機能を組み合わせることで、LLMに特定の文書を引用させて、もっともらしい嘘を減らそうという仕組みが考えられてきました。 しかし、LLMは必ずしも事実関係を理解しているわけではなく、あくまで確率的な文字の流れを捉えているだけなので、RAGを導入しても文書を適切に引用できずに嘘をついてしまうことがあります（Suzuki, 2026）。例えば、文書をバラバラの断片（チャンク）にして検索するRAGでは、複数の文書をまたいだ複雑な因果関係や論理の繋がり（クロスドキュメント推論）を扱えないことがあります。 実務の現場において誤答が許される領域（創作や要約など）と、誤差が許されない領域（契約や法的判断）があると思います。確率的な振る舞いを行うLLM単体を誤差が許されない領域に投入すると、実務の現場で上手くいかないということになってしまいます。
事実関係を記述する知識グラフ
先ほどLLMは事実関係を必ずしも理解しているわけではないという話でしたが、これを解決するために、厳密な事実関係をグラフ構造で定式化するという試みがあります。そのようなグラフ構造で代表的なものが知識グラフになります（Suzuki, 2026）。 知識グラフとは、事実をノード（概念）とエッジ（関係性）で繋ぎ、世界を確実に正確なネットワークとして表現したものです。例えば、（日本）—[人口]—（1.2億人）のような関係です。このネットワークを辿れば、事実を抜け漏れなく網羅することができます。このような正確な事実関係を記述した知識グラフを導入することで、LLMが確率的な振る舞い挙動が安定しない部分を補強することができます。
能動推論による世界の理解
世界を理解するためには、世界で起きている事象の因果関係を理解することが必要です。因果を計算する仕組みとして、脳の認知モデルである能動推論（Active Inference）が利用できると考えます。 能動推論はLLMのように文字の並びの確率を計算するのではなく、事象の裏にある原因を確率的に（ベイズ確率によって）計算します。それだけでなく、能動推論はその推定された原因を検証するような行動をとり、原因の尤もらしさを常に計算し続けます。これによって単なる憶測ではなく、検証に基づいた推論によって事象の因果関係を推定することができます。 流暢な表現力を持つLLMと、自律的な因果モデルである能動推論を結合することで、人工意識は初めて表面的な世界の理解を超え、より深い世界像を獲得ようになるのではないでしょうか。
まとめ
- LLMは世界のことをある程度理解しているように見える。
- LLMは知らないことに対して尤もらしい嘘をつく。
- LLMの嘘を減らすために、RAGや知識グラフのような知識の構造をLLMに取り入れる。
- 因果関係を計算する能動推論とLLMとを組み合わせると、世界をより深く理解する人工意識ができるのではないか。
次に読むのがおすすめの記事
参考文献・出典
- T.Suzuki、「LLMとRAGが抱える本当の問題：なぜ生成AIの95%が失敗するのか」、
https://zenn.dev/knowledge_graph/books/knowledge-graph-llm-guide、2026 - トーマス・パー、ジョバンニ・ペッツーロ、カール・フリストン（乾 敏郎 訳）、「能動的推論 — 心、脳、行動の自由エネルギー原理」、ミネルヴァ書房、2022