筆者は予測符号化を中心にした理論展開に注目しています。その先には、Fristonの変分自由エネルギー原理や能動推論がありますが、先に説明したゆらぎ制御やゆらぎ学習と概念的に近いものです。また、Fristonらは、「意識とは、自己を含む世界の生成モデルを用いて、感覚入力の原因を推論し、未来の状態や行動の可能性を予測するプロセスである」と捉えており (Friston 2018)、個人的に納得感があると考えているということもあります。ただし、予測符号化理論は実証的実験も行われて専門家の間でも合意は取れているようですが、能動推論自体はまだ理論（仮説）の域をでないようです (Hodson, 2024)。先の対立的実験 (Corcoran, 2026) においても、能動推論はあえて対象とせずPPを対象としているのはそういった理由があるようです。
プロフィール
村田 正幸さん
Masayuki Murata
大阪大学 大学院情報科学研究科／D3センター 特任教授
やさしいAI 人工意識共同研究講座 責任者
1984年 大阪大学大学院基礎工学研究科博士前期課程修了後、日本アイ・ビー・エム株式会社ジャパン・サイエンス・インスティチュート（東京基礎研究所）主任研究員。その後、1987年 大阪大学大型計算機センター助手。講師、准教授を経て1999年 同 基礎工学研究科教授。サイバーメディアセンター教授を経て、2004年 同 情報科学研究科教授。2019年8月～2023年3月 情報科学研究科研究科長。2025年3月定年退職後、同 情報科学研究科／D3センター特任教授。やさしいAI 人工意識共同研究講座責任者。2026年4月より総長特命補佐兼務。専門分野は情報通信ネットワーク、脳や生体に学ぶ情報システム。これまで1,000本以上の英語論文誌、国際会議論文を著している。
意識研究に基づいたAIエージェント
ここでは、今の意識研究の進捗状況も念頭に、今後、人工意識に向けてどういった研究が今後必要かについて考察したいと思います。人工物として考えるのはAIエージェント（Physical AIも含む）と言う呼び名で統一することにします。以下、３つにわけて考えます。
-
人の意識を理解するAIエージェント→人が意識をもっていることを前提に、その活動を支援するAIエージェント（AIエージェント自身が意識を持つわけではない）。
-
人の意識の機能に倣う人工システム→目的に応じた人工システムが脳と同等の優れた機能を有する。例えば、現在研究開発中の第６世代移動体通信への適用（AI-native 6G）が考えられる。
-
人の意識と同等の機能を持つAIエージェント→AIエージェントは自身の意識を持って人の活動を支援する。人工意識が実現される段階。
研究内容をもとにしたイメージ図（AI生成）。
人の意識と同等の機能を持つAIエージェント
順番が逆になりますが、まず、３番目の人の意識を持つ AIエージェントについては慎重な研究開発が必要であることは言うまでもありません。生成AIの本来の目的から離れて、生成AIとの対話において意思を感じるとか意識を感じるといった意見もネット上で多く見受けられます。現状の生成AIは意識を持っていない（少なくとも人の意識と同等のものを完全に持ってはいない）と思いますが、以下の理由が考えられます。
-
人と人のコミュニケーションにおいて、言語コミュニケーションが果たす役割が大きい。そのため、生成AIと対話していると、人と同じような存在として認識してしまう。
-
今の生成AIは、利用する人が目的なく対話をすると、畳み掛けて知識を提供してくる傾向があるので、人側の意思決定に多かれ少なかれ影響を与える状況が生まれる。
-
メディアや生成AIベンダも、生成AIのことを擬人化して説明することが多い。あたかも意識を持ち、人格があるように。
-
最近の生成AIでは「私はこう考えます」という自己主張、あるいは提案をしてきます。そこにまず問題がありそうです。あたかも、意思をもって話しかけてきているような錯覚をしてしまいます。
意識の定義自体定まっていない現在、生成AIが意識を持っているかどうかはその定義次第という考え方もあるでしょう。また、そのような議論をすること自体無意味という考え方もあるでしょう。しかし、今後、意識のどの機能に着目してどのような人工意識を持つシステムに発展させるか、ユースケースはなにか、という視点がもっとも大事だと思います。
本稿の執筆時点においても、生成AIの研究開発の進度を遅らせる、さらに一度研究開発を停止するべきであるといった意見が、特に研究者から出ています。しかし、AIが社会基盤になり、各国の戦略的技術になりつつある今、今後については予断を許しません。生成AIが人類を滅ぼすようになるという、決して極端ではない、意見もあります。また、生成AIはそのような意思は決して持っていないが制御不能になって人類の存在に悪影響を及ぼすという、より重大な問題の指摘もあります。欧州EUの研究政策としてRRI (Responsible Research & Innovation、責任ある研究・イノベーション) の考え方があります。「研究者が主体的になって、科学技術の社会貢献のために、研究やイノベーション（技術開発や社会実装）の一連の過程において、社会のアクター（市民、政策決定者、産業界、NPO等）と協働する、具体的にはステークホルダーの意見を聞くだけでなく、相互の議論を展開すること、議論をもとに新しい法制度や社会制度、さらに新しい文化まで思い至ることが、研究や技術開発の過程において求められる」というものです (RRI, 2026)。残念ながら、今、このような理想を前提とした研究開発は難しくなっていますが、今後も肝に銘じておく必要がある問題です。
人の意識と同等の機能を持つ人工システム
２番めは筆者の専門分野でもありますが、今のAIで十分に解決されていないこと、それは、どのような環境、あるいはどのような状況なのか、それによってシステム制御を柔軟に変更していくしくみです。その解決策を与える重要な手がかりが意識にあると考えています。その適用例として考えられるのが、例えば、AI-native 6G（AIネイティブな第６世代の移動体通信アーキテクチャ）です。
人の意識を理解し、支援するAIエージェント
１番目については、さまざまなユースケースが考えられます。身体的な問題を抱えた人たちの活動の支援をするAIエージェントがまず想定されます。そのために必要なこと、それは意識という包括的な研究ではなく、生活者支援のためにどのような機能が必要かを見極めることだと考えています。意識を理解しなくともAIエージェントは実現できますが、利用者が何を望んでいるのか、それがほんとうに必要なことなのか、それは例えば上述のRRIの取り組み等も踏まえた研究開発が必要になるということです。しかし、一方で、人生100年時代を迎え、高齢者の活躍の場を考えることも重要になっています。「老人＝身体的／精神的／認知的弱者」という紋切り型の発想ではなく、例えば、職場を離れた人たちのコミュニティ提供、AIエージェントによるコミュニティ活動の活性化等もだいじな課題だと考えています。そのためには、意識の理解が重要になります。
参考文献
-
A.W. Corcoran, A.M. Haun, R. Dorman, G. Tononi, K.J. Friston, C.M.A. Pennartz, “Integrated information and predictive processing theories of consciousness: An adversarial collaborative review,” Neuroscience & Biobehavioral Reviews, 187(106742), 2026. DOI: 10.1016/j.neubiorev.2026.106742.
-
R. Hodson, M. Mehta, and R. Smith, “The empirical status of predictive coding and active inference,” Neuroscience & Biobehavioral Reviews, 157:105473, 2024. DOI: 10.1016/j.neubiorev.2023.105473.
-
K. Friston, “Am I self-conscious? (Or does self-organization entail self-consciousness?),” Front Psychology, 9:579, 2018. DOI: 10.3389/fpsyg.2018.00579.
-
Responsible Research & Innovation, https://www.era-learn.eu/support-for-partnerships/governance-administration-legal-base/responsible-research-innovation.