Showing Posts From
村田先生シリーズ
人工意識の研究開発に必要な要件 (2)：感情が果たす役割？
これまでの筆者の研究においてわかってきたこと、それは私の想定以上に人は多様であるということです。遺伝的・身体的な多様性、経験の多様性、記憶の多様性、予測の多様性など、さらにその組み合わせによって、人の多様性が決まってくるものと考えられます。生成AIも統計的にそのような多様性は理解できているとしても、AIエージェントがその支援対象となっている人が今、どのような多様性を持つかを推論することは簡単ではありません。利用者の現在の状況やその反応を見ながら、推論する必要があります。先に述べたゆらぎ学習は、現在の状況を推論しながらスモールデータに対応しうるという意味で可能性があります。 プロフィール村田 正幸さんMasayuki Murata大阪大学 大学院情報科学研究科／D3センター 特任教授やさしいAI 人工意識共同研究講座 責任者1984年 大阪大学大学院基礎工学研究科博士前期課程修了後、日本アイ・ビー・エム株式会社ジャパン・サイエンス・インスティチュート（東京基礎研究所）主任研究員。その後、1987年 大阪大学大型計算機センター助手。講師、准教授を経て1999年 同 基礎工学研究科教授。サイバーメディアセンター教授を経て、2004年 同 情報科学研究科教授。2019年8月～2023年3月 情報科学研究科研究科長。2025年3月定年退職後、同 情報科学研究科／D3センター特任教授。やさしいAI 人工意識共同研究講座責任者。2026年4月より総長特命補佐兼務。専門分野は情報通信ネットワーク、脳や生体に学ぶ情報システム。これまで1,000本以上の英語論文誌、国際会議論文を著している。感情推定の難しさ：室内環境に対する快適度の例 最近得られた実験データとして、以下のようなものがあります。研究課題はIoT機器によって室内環境（温度と湿度）を制御しようとするもので、オフィスにおけるウエルビーイング環境の実現を目指したものです（Hara, 2024）。そのために、その時々の人の快適度（Valence：心地よさ）を知る必要があり、そのために脳波や生理情報を取得します。その前調査として、被験者29人（データがとれなかった被験者がいるため欠番あり）に対して定期的に快適度をどう感じるか10点満点で記入してもらうアンケート調査を実施したものです。この実験では、特に細かい指示を出していませんので、実験プロトコルとしてはもう少し厳格化できる可能性もありますが、このような結果は決して特異な例ではありません。例えば、文献 (Chang, 2019) でも同じような結果が出されていますが、広がりはかなり大きいことがわかります。対象はオフィス内環境制御、オフィスワーカーの室内快適度というわかりやすい例です。AIエージェントとのやりとりの中ではもっと多様な反応が、多様な人によって生み出されることが容易に想像されます。研究内容をもとにしたイメージ図（AI生成）。 感情モデルとその推定 人の感情に関する研究は心理学の分野を中心にこれまでも数多くありますが、意識研究ではまだほとんど取り扱われていません。感情そのものの研究に関しては、当該分野で有名な J. Russelの感情円環モデル（Circumplex Model of Affect）があります (Russell 2003)。感情価 (Valence) と覚醒度 (Arousal) の２軸で考えるものであり、感情を円環状に配置したモデルです。さらに、感情が意思決定や行動に与える影響を考えた場合にはその強度も考慮する必要があります。Genevaモデルではそれらの強度についても取り扱われています (Scherer, 2005)。AIエージェントを実現しようとすれば、利用者側の感情が今どうなっているかの推定も重要な技術要素になります。最近では、ヘッドセット型EEGやスマートウオッチなどにより現時点の感情を脳波情報や生理情報で推定するという研究が盛んになっています。しかし、それぞれのデバイスからの推定精度はまだそれほど高くありません。そこで、技術的にはマルチモーダル推定、つまり推定のためのモダリティを増やすことが有効になります（吉田, 2023）。 感情が意思決定や行動に与える影響？ 感情を２次元上に表現するのはわかりやすいものですが、それが意思決定に与える影響はまだ十分に明らかになっておらず、単純なものではないようです。意識との関係で言うと、例えば、危険を察知して心拍数が上がったとして、しきい値を上回ることによって、人は過去の経験に基づいてその原因を「怖い」と認識するというプロセスとして説明は可能です。このことは、進化の過程で感情をどのように獲得したかを考えると理解しやすくなります。生存と適応：感情は、危険を察知したり、重要な資源を求めたりするなど、生存に必要な行動を促す役割を果たす。例えば、恐怖→逃避行動、怒り→攻撃行動、愛情→子育てを促すことによって、個体の生存確率を高められる。コミュニケーション：表情、身振り、声音などを通して感情を表現し、他者とのコミュニケーションを円滑にする。それによって、自分の状態や意図を伝え、他者の行動に影響を与える。意思決定：意思決定を助けるため、感情的な反応によって迅速かつ効率的な意思決定を可能にする。ただし、逆の効果（悪い認知バイアス）を引き起こすこともある。社会的なつながり：喜びや愛情など他者との親密な関係を築き、維持するのに役立てる。感情的なつながりによって協力や助け合いを促す。意思決定も含めて、感情は決して原始的なものではなく、その果たす役割は大きいということは明らかです。ただし、残念ながら、それが理論的にどのようなメカニズムになっているのかはまだ不明です (Crivelli, 2024)。感情についても二重過程理論による説明がなされています(例えばCrivelli, 2024)。強い情動を伴う場合、意思決定に影響を与える度合いも大きく、システム２を経ることなく、システム１の出力がそのまま表出する、ということです。これも一種の認知バイアス（感情バイアス）と考えることができます。上の例では、順番にシステム１に比較的比重があるものから、システム２に比重があるものになります。最後の４はいわゆる共感に属するものですが、共感そのものが重要ということではなく、それが産まれるプロセスをAIエージェント側でどう実現するかが課題になります。重要な点は人によって経験も異なりますから、AIエージェントの開発にはじゅうぶんな配慮が必要になります。 現在、声（声音）も加えた感情推定に関する研究を進めています。十分な精度の感情推定ができれば、例えば、スマホ依存度の高いユーザに適切なアドバイスを与えるAIエージェントが実現可能と考えています。YouTubeなどのショート動画を際限なく見るような場合、AIエージェントが適切なアドバイス（「そろそろやめましょう」）を利用状況（熱中度のレベル）に応じて適切に与えるものです。 感情を考慮したAIエージェントのあり方 ゆらぎ学習の項でも述べましたが、AIエージェントの実現や意識を持つ人工システムを実現する際に考えるべきことは、対象のシステムにおける機能を明確にし、その機能に絞って対象システムを開発することが必要になると思います。そのために、感情や認知バイアスの影響を考えておくことは必要で、多様性、特に人の経験や記憶に依存する多様性を考慮する必要があると考えています。それでも、生成AIが現在まさに直面している問題（AI Alignmentの問題や自己修復による制御不能状態の発生問題）は起こり得るかも知れません。そのために、Interpretability（解釈可能性）を最初から基本原理に組み込んでおくことが必要になると思います。参考文献K. Hara, R. Yoshida, D. Kominami, Y. Ohsita, M. Kaihotsu and M. Murata, “Indoor environment control method for improving well-being using human thermal stress estimated by Yuragi learning,” Proceedings of 2024 IEEE International Conference on Consumer Electronics (ICCE), 2024. DOI: 10.1109/ICCE59016.2024.10444245.T.Y. Chang, A. Kajackaite, “Battle for the thermostat: Gender and the effect of temperature on cognitive performance,” PLoS ONE 14(5): e0216362, 2019. DOI: 10.1371/journal.pone.0216362.J.A. Russell, “Core affect and the psychological construction of emotion,” Psychological Review, 110(1):145-72, 2003. DOI: 10.1037/0033-295x.110.1.145. PMID: 12529060.K.R. Scherer, “What are emotions? And how can they be measured?” Social Science Information, 44:693-727, 2005. DOI:10.1177/0539018405058216.吉田理沙, 大下裕一, 村田正幸, “生体情報を用いたゆらぎ学習とマルチモーダル統合処理によるリアルタイムなストレス状態の検知,” 電子情報通信学会MEとバイオサイバネティックス研究会技報, 122(424), MBE2022-68, pp. 49-54, 2023年3月.K.R. Scherer, “Emotions are emergent processes: they require a dynamic computational architecture,” Philosophical Transaction B, Biological Science, 364(1535):3459-74, 2009. DOI: 10.1098/rstb.2009.0141.D. Crivelli, C. Acconito, M. Balconi, “Emotional and cognitive “Route” in decision-making process: The relationship between executive functions,” Psychophysiological Correlates, Decisional Styles, and Personality. Brain Science, 14:734, 2024. DOI: 10.3390/brainsci14070734
人工意識の研究開発に必要な要件 (1)：認知バイアスの影響？
人の活動を支援するAIエージェントの実現に当たってやっかいな問題、ゆえにチャレンジングな課題であると考えているものは、今２つあります。認知バイアスと感情です。これら２つの課題も統合して初めて、プロセスとしての意識が理解できると考えています。 プロフィール村田 正幸さんMasayuki Murata大阪大学 大学院情報科学研究科／D3センター 特任教授やさしいAI 人工意識共同研究講座 責任者1984年 大阪大学大学院基礎工学研究科博士前期課程修了後、日本アイ・ビー・エム株式会社ジャパン・サイエンス・インスティチュート（東京基礎研究所）主任研究員。その後、1987年 大阪大学大型計算機センター助手。講師、准教授を経て1999年 同 基礎工学研究科教授。サイバーメディアセンター教授を経て、2004年 同 情報科学研究科教授。2019年8月～2023年3月 情報科学研究科研究科長。2025年3月定年退職後、同 情報科学研究科／D3センター特任教授。やさしいAI 人工意識共同研究講座責任者。2026年4月より総長特命補佐兼務。専門分野は情報通信ネットワーク、脳や生体に学ぶ情報システム。これまで1,000本以上の英語論文誌、国際会議論文を著している。認知バイアスとは 認知バイアスがどのように発生し、人の意思決定にどのような影響を与えるかは十分にわかっていません。以前紹介したゆらぎ制御／ゆらぎ学習や、深層学習や生成AIも確率的な意味では合理的な意思決定を行います。しかし、人の意思決定では、それだけでは説明できない認知バイアスがあります。一般に説明される認知バイアスは、「意思決定の際に、先入観や思い込み、常識、自身の経験、周囲の情報などの要因によって非合理的な判断をしてしまう心理傾向である」とされています。例えば、確証バイアス (Confirmation Bias) は自分の考えに合う都合のよい情報ばかり集めて、反対の情報を軽視するバイアスとして有名です。認知バイアスには、一説には200以上の種類があると言われていますが、詳細に見ていくと違いがよくわからない、似たバイアスも少なからずあります。それについては「バイアス・バイアス」、つまり、研究者が自分の研究対象とする認知バイアスに新しい名称を付けたくなる、というバイアスもあるそうで、注意が必要です。 認知バイアスと二重過程理論 それはさておき、認知バイアスは一般に悪いものとして扱われることが多く、ビジネス書を中心に、自分の認知バイアスをどう克服するか、ビジネス相手の認知バイアスをどう利用するか、といった解説も見受けられます。認知バイアスを説明する有名理論として、行動経済学者D. Kahnemanの二重過程理論があります（Gawronski, 2024）。「人の判断は必ずしも規範的な公理に基づくものではなく、特にヒューリスティックを用いることで多くの系統的な誤りを生み出す」というものです。「直感的、自動的、感情的、無意識的に判断する」システム１、「論理的、分析的、意識的、熟慮的に判断する」システム２に分けて説明されます。例えば、細長いとぐろを巻いた物体を見た時の反応は、捨てられたロープかも知れませんが、ヘビかも知れないという前提で行動する、とにかく逃げる（システム１）、少し離れて再度観察する（システム２）ということになります。しかし、この時の反応も、過去の記憶（ヘビを知っているか）や経験（へびに噛まれたことがある）に大きく左右されることは簡単に予想できます。そのため、システム１を「無意識的」と説明されていることには注意が必要です。無意識的といっても、ほんとうに意識がない場合には判断できません。現代における意識に対する理解とは異なっているようです。また、感情についても、感情だけで判断するわけではありません。その強度によって影響度が異なるという理解が妥当ですが、判断に対するさまざまな感情の影響の解明は、今後、AIエージェントの実装において重要な研究項目になると考えています。つまり、システム１、２に単純に分けて考えることは、非常に乱暴な考え方であるということが言えます。研究内容をもとにしたイメージ図（AI生成）。 認知バイアスは資源合理的な判断のためのメカニズム？ さらに、最近では、脳という有限の資源を用いて、環境に紐付けられた記憶等に基づいて、合理的な判断をするためのしくみであるという資源合理性に注目されるようになっています (Genewein 2015, Lieder 2020)。Speed-Accuracy Tradeoffと呼ばれるもので、危険が近づいているような場合は間違ってもよいので素早く判断する（システム１）、時間の余裕がある場合は過去の経験や記憶も呼び起こしながら時間をかけて判断する（システム２）、といった解釈です。この場合でも、システム１は無意識的に何の前提もなく直感で判断するわけではなく、認知資源への依存が低い自律的な処理であり、確証バイアス等では近似的なベイズ推論によって高速処理が行われているという研究結果もあります (Pilgrim 2024)。この立場に立てば、少なくとも論理的な意思決定において生じる認知バイアスは有用な機構と考えられます。実際、人工システムへの応用を考えた場合は、システムの効率化という側面から有効な機能と考えることができます。事実、ロボット実装において、このような考え方に基づいた研究成果も見られるようになっています（例えば、Ganapini 2023）。ただし、文献Ganapini 2023 においても、システム１、２だけでは不十分で、過去の経験や知識に基づいた意識のプロセス（論文ではメタ認知）が必要であることは認識されていますが、具体的な手法について今後の課題になっています。 人の活動を支援する、人に寄り添う、AIエージェントのために 一方、人の活動を支援する、人に寄り添う、AIエージェントの場合は、人の意思決定においてどちらかと言えば「悪い」認知バイアスの軽減や解消をする必要があります。この場合、寄り添うというだけでなく、相手の経験に基づき、また、相手の将来を考えた アドバイスまで考える必要もありそうです。ベイズ理論に基づいたものとして、文献 (Rastogi, 2022) があります。 ℙ(Ỹ|D,f(M))∝ℙ(D|Ỹ)αℙ(f(M)|Ỹ)βℙpr(Ỹ)γAIを使った意思決定において、人が利用する情報は、D：人が観察したデータ、f(M)：AIモデルの出力、Pᵖʳ(Y)：人がもともと持っている事前確率（prior）として、それらの影響が意思決定にどのように影響を与えるかを明らかにしたものです。右辺の各項は認知バイアスによる判断の「歪み」を考慮しています。順に、選択的アクセス(α>1)、アンカリングバイアス (β>1)、確証バイアス (γ>1) です。パラメータがすべて1の場合はベイズ推論における合理的判断を意味します。これはAI利用者の判断がAIエージェントを相手にした場合、どのような認知バイアスが発生するかを表しますが、AIエージェントでは逆に人の認知バイアスを考慮した上で人の活動を支援する必要があるということが言えます。ただし、このようなしくみで説明されるとしても、それが過去の経験からどのような時間オーダで影響を与えるのか（上式には時間変化の概念がありません）、人ごとに異なるパラメータ推定をどうやって行うか等の観点も必要で（大島, 2025）、それを前提とした人工システムの構築にはさらなる研究が必要です。 参考文献B. Gawronski, D. M. Luke, and L.A. Creighton, “Dual-process theories,” In D. E. Carlston, K. Hugenberg, & K. L. Johnson (Eds.), The Oxford handbook of social cognition (2nd ed., pp. 319–353), 2024. Oxford University Press.T. Genewein, F. Leibfried, J. Grau-Moya J and D.A. Braun, “Bounded rationality, abstraction, and hierarchical decision-making: An Information-theoretic optimality principle,” Frontiers in Robotics and AI, vol.2, 2015. DOI: 10.3389/frobt.2015.00027.F. Lieder, T.L. Griffiths, “Resource-rational analysis: Understanding human cognition as the optimal use of limited computational resources,” Behavioral and Brain Sciences, 43, e1:1–60, 2020. DOI:10.1017/ S0140525X1900061X.C. Pilgrim, A. Sanborn, E. Malthouse, and T.T. Hills, “Confirmation bias emerges from an approximation to Bayesian reasoning,” Cognition, 245, 2024. DOI: 10.1016/j.cognition.2023.105693.M.B. Ganapini, et al., “Thinking fast and slow in AI: The role of metacognition,” Machine Learning, Optimization, and Data Science, Springer, Cham, 2023. DOI: 10.1007/978-3-031-25891-6_38.C. Rastogi, et al., “Deciding fast and slow: The role of cognitive biases in AI-assisted decision-making,” Proceedings of the ACM on Human-Computer Interaction, 6(83):1 – 22, 2022. DOI: 10.1145/3512930.大島 良介, “操作者の認知バイアスを推定し支援する VR 型訓練システムの実装と有効性の評価,” 大阪大学基礎工学部情報科学科特別研究報告, February 2025.
人工意識の研究開発に向けた取り組み
筆者は予測符号化を中心にした理論展開に注目しています。その先には、Fristonの変分自由エネルギー原理や能動推論がありますが、先に説明したゆらぎ制御やゆらぎ学習と概念的に近いものです。また、Fristonらは、「意識とは、自己を含む世界の生成モデルを用いて、感覚入力の原因を推論し、未来の状態や行動の可能性を予測するプロセスである」と捉えており (Friston 2018)、個人的に納得感があると考えているということもあります。ただし、予測符号化理論は実証的実験も行われて専門家の間でも合意は取れているようですが、能動推論自体はまだ理論（仮説）の域をでないようです (Hodson, 2024)。先の対立的実験 (Corcoran, 2026) においても、能動推論はあえて対象とせずPPを対象としているのはそういった理由があるようです。 プロフィール村田 正幸さんMasayuki Murata大阪大学 大学院情報科学研究科／D3センター 特任教授やさしいAI 人工意識共同研究講座 責任者1984年 大阪大学大学院基礎工学研究科博士前期課程修了後、日本アイ・ビー・エム株式会社ジャパン・サイエンス・インスティチュート（東京基礎研究所）主任研究員。その後、1987年 大阪大学大型計算機センター助手。講師、准教授を経て1999年 同 基礎工学研究科教授。サイバーメディアセンター教授を経て、2004年 同 情報科学研究科教授。2019年8月～2023年3月 情報科学研究科研究科長。2025年3月定年退職後、同 情報科学研究科／D3センター特任教授。やさしいAI 人工意識共同研究講座責任者。2026年4月より総長特命補佐兼務。専門分野は情報通信ネットワーク、脳や生体に学ぶ情報システム。これまで1,000本以上の英語論文誌、国際会議論文を著している。意識研究に基づいたAIエージェント ここでは、今の意識研究の進捗状況も念頭に、今後、人工意識に向けてどういった研究が今後必要かについて考察したいと思います。人工物として考えるのはAIエージェント（Physical AIも含む）と言う呼び名で統一することにします。以下、３つにわけて考えます。人の意識を理解するAIエージェント→人が意識をもっていることを前提に、その活動を支援するAIエージェント（AIエージェント自身が意識を持つわけではない）。人の意識の機能に倣う人工システム→目的に応じた人工システムが脳と同等の優れた機能を有する。例えば、現在研究開発中の第６世代移動体通信への適用（AI-native 6G）が考えられる。人の意識と同等の機能を持つAIエージェント→AIエージェントは自身の意識を持って人の活動を支援する。人工意識が実現される段階。研究内容をもとにしたイメージ図（AI生成）。 人の意識と同等の機能を持つAIエージェント 順番が逆になりますが、まず、３番目の人の意識を持つ AIエージェントについては慎重な研究開発が必要であることは言うまでもありません。生成AIの本来の目的から離れて、生成AIとの対話において意思を感じるとか意識を感じるといった意見もネット上で多く見受けられます。現状の生成AIは意識を持っていない（少なくとも人の意識と同等のものを完全に持ってはいない）と思いますが、以下の理由が考えられます。人と人のコミュニケーションにおいて、言語コミュニケーションが果たす役割が大きい。そのため、生成AIと対話していると、人と同じような存在として認識してしまう。今の生成AIは、利用する人が目的なく対話をすると、畳み掛けて知識を提供してくる傾向があるので、人側の意思決定に多かれ少なかれ影響を与える状況が生まれる。メディアや生成AIベンダも、生成AIのことを擬人化して説明することが多い。あたかも意識を持ち、人格があるように。最近の生成AIでは「私はこう考えます」という自己主張、あるいは提案をしてきます。そこにまず問題がありそうです。あたかも、意思をもって話しかけてきているような錯覚をしてしまいます。意識の定義自体定まっていない現在、生成AIが意識を持っているかどうかはその定義次第という考え方もあるでしょう。また、そのような議論をすること自体無意味という考え方もあるでしょう。しかし、今後、意識のどの機能に着目してどのような人工意識を持つシステムに発展させるか、ユースケースはなにか、という視点がもっとも大事だと思います。 本稿の執筆時点においても、生成AIの研究開発の進度を遅らせる、さらに一度研究開発を停止するべきであるといった意見が、特に研究者から出ています。しかし、AIが社会基盤になり、各国の戦略的技術になりつつある今、今後については予断を許しません。生成AIが人類を滅ぼすようになるという、決して極端ではない、意見もあります。また、生成AIはそのような意思は決して持っていないが制御不能になって人類の存在に悪影響を及ぼすという、より重大な問題の指摘もあります。欧州EUの研究政策としてRRI (Responsible Research & Innovation、責任ある研究・イノベーション) の考え方があります。「研究者が主体的になって、科学技術の社会貢献のために、研究やイノベーション（技術開発や社会実装）の一連の過程において、社会のアクター（市民、政策決定者、産業界、NPO等）と協働する、具体的にはステークホルダーの意見を聞くだけでなく、相互の議論を展開すること、議論をもとに新しい法制度や社会制度、さらに新しい文化まで思い至ることが、研究や技術開発の過程において求められる」というものです (RRI, 2026)。残念ながら、今、このような理想を前提とした研究開発は難しくなっていますが、今後も肝に銘じておく必要がある問題です。 人の意識と同等の機能を持つ人工システム ２番めは筆者の専門分野でもありますが、今のAIで十分に解決されていないこと、それは、どのような環境、あるいはどのような状況なのか、それによってシステム制御を柔軟に変更していくしくみです。その解決策を与える重要な手がかりが意識にあると考えています。その適用例として考えられるのが、例えば、AI-native 6G（AIネイティブな第６世代の移動体通信アーキテクチャ）です。 人の意識を理解し、支援するAIエージェント １番目については、さまざまなユースケースが考えられます。身体的な問題を抱えた人たちの活動の支援をするAIエージェントがまず想定されます。そのために必要なこと、それは意識という包括的な研究ではなく、生活者支援のためにどのような機能が必要かを見極めることだと考えています。意識を理解しなくともAIエージェントは実現できますが、利用者が何を望んでいるのか、それがほんとうに必要なことなのか、それは例えば上述のRRIの取り組み等も踏まえた研究開発が必要になるということです。しかし、一方で、人生100年時代を迎え、高齢者の活躍の場を考えることも重要になっています。「老人＝身体的／精神的／認知的弱者」という紋切り型の発想ではなく、例えば、職場を離れた人たちのコミュニティ提供、AIエージェントによるコミュニティ活動の活性化等もだいじな課題だと考えています。そのためには、意識の理解が重要になります。 参考文献A.W. Corcoran, A.M. Haun, R. Dorman, G. Tononi, K.J. Friston, C.M.A. Pennartz, “Integrated information and predictive processing theories of consciousness: An adversarial collaborative review,” Neuroscience & Biobehavioral Reviews, 187(106742), 2026. DOI: 10.1016/j.neubiorev.2026.106742.R. Hodson, M. Mehta, and R. Smith, “The empirical status of predictive coding and active inference,” Neuroscience & Biobehavioral Reviews, 157:105473, 2024. DOI: 10.1016/j.neubiorev.2023.105473.K. Friston, “Am I self-conscious? (Or does self-organization entail self-consciousness?),” Front Psychology, 9:579, 2018. DOI: 10.3389/fpsyg.2018.00579.Responsible Research & Innovation, https://www.era-learn.eu/support-for-partnerships/governance-administration-legal-base/responsible-research-innovation.
意識研究から人工意識の研究へ
筆者は、人が環境センシングをし、今ある状況を認知し、次の行動を決定するプロセスに興味があり、それらを包括するテーマとして意識に興味を持っています。しかし、意識という言葉ほど日常生活で頻繁に使われているにも関わらず、その定義とまでは言わなくとも、その意味するところがあいまいな言葉はないと思います。筆者は、意識に倣った人工意識に関する研究を進めていますが、その前に意識に関する研究の状況について概観したいと思います。 プロフィール村田 正幸さんMasayuki Murata大阪大学 大学院情報科学研究科／D3センター 特任教授やさしいAI 人工意識共同研究講座 責任者1984年 大阪大学大学院基礎工学研究科博士前期課程修了後、日本アイ・ビー・エム株式会社ジャパン・サイエンス・インスティチュート（東京基礎研究所）主任研究員。その後、1987年 大阪大学大型計算機センター助手。講師、准教授を経て1999年 同 基礎工学研究科教授。サイバーメディアセンター教授を経て、2004年 同 情報科学研究科教授。2019年8月～2023年3月 情報科学研究科研究科長。2025年3月定年退職後、同 情報科学研究科／D3センター特任教授。やさしいAI 人工意識共同研究講座責任者。2026年4月より総長特命補佐兼務。専門分野は情報通信ネットワーク、脳や生体に学ぶ情報システム。これまで1,000本以上の英語論文誌、国際会議論文を著している。これまでの意識研究の発展 意識研究に関しては、哲学や認知心理学分野での研究を経て、脳科学からのアプローチは比較的新しく、2000年前後からいくつかの仮説が出ています。現在、よく言われる「意識の定義」は以下のようになると思います。意識とは、行動と心理的内容を生成および制御する能力を持つ統一された自己の経験を含む、人の知覚、思考、感情、行動、記憶を認識するという私的で主観的な経験を指す。サーベイ論文等においてよく取り上げられる理論（仮説）、すなわち、現在主流となっているものは、以下のとおりですが、理論ごとに説明の対象が異なっている部分もあるため、上の定義であってもすべて説明しきれているものはまだありません、逆に、上の定義が不十分であるという可能性もあるのかも知れません（個々の仮説については、例えばCleeremans, 2025、及び、論文内の引用参照）。GWT (Global Workspace Theory)/GNWT (Global Neuronal Workspace Theory)IIT (Integrated Information Theory)HOT (Higher Order Theory)RPT (Recurrent Processing Theory)その後、2010年代にはNCC（Neural Correlates of Consciousness, 意識の脳内相関）を説明する提案がそれぞれの理論でありました。NCCは、人が何かを体験しているとき、つまり意識的な主観的経験があるときに、脳内で生じている最小限の神経活動やメカニズムの集合を指します。例えば、IITでは後方ホットスポット説を採用し、脳の後ろ側（頭頂葉、側頭葉、後頭葉）の領域こそが、意識体験のコアであるという説を採用しています。前頭葉が損傷しても意識体験自体は失われないというデータに基づいています。一方、GWTでは前頭側頭ネットワーク説(Prefrontal-Parietal)脳の前側（前頭葉）と後ろ側が連携し、情報をグローバルに共有・アクセス可能にすることで初めて意識にのぼるという説です。 2020年代には複数の理論の統合の他、理論の根拠となる実験が進められるようになっています。例えば、現在ではほぼ正しいと考えられている脳の処理機構である予測符号化(PP, Predictive Processing) をベースに、上記のGWTやIITとの統合が提案されています。PGNW (Predictive Global Neuronal Workspace): GNWと能動推論の統合IWMT (Integrated World Modeling Theory): IIT/GWTと自由エネルギー原理の統合また、実験については、GWTとIITは対立する仮説 (Adversarial Theories) であるにも関わらず、それぞれを支持する研究者らが共同で実験を進めるという科学の発展にとってすばらしい取り組みがあります。実験結果に対する詳細なレポートがすでに出版されていますが (Cogitate Consortium 2025)、それぞれの仮説をサポートする結果、サポートしない結果が得られ、両仮説とも決定打を欠く結果になったようです。さらに、IITとPPに関する対立仮説の共同実験も計画されていて、実験プロトコルの検討も進んでいるようです (Corcoran, 2026)。今から結果が楽しみな計画になっています。研究内容をもとにしたイメージ図（AI生成）。 工学応用に足りないもの 意識の工学応用としてAIエージェントの実現を考えた場合、何が足りないでしょうか？ 一つは感情の役割だと思います。感情は感情として、その研究は認知心理学の分野を中心に長く研究が続けられてきています。その割に、例えば、注意 (Attention) の役割が強調されたりするものの、それがどのような役割を果たすのかはっきりしません。感情自体については、ラッセルの円環モデルなどが有名ですが、それの意思決定への役割はAIエージェントの発展に向けて早急に研究を進める必要があると思います。「人工意識の研究開発に必要な要件 (2)：感情が果たす役割？」において再度触れる予定です。もう一点、AIエージェントを実現するに当たって考慮すべきものは認知バイアスと考えています。認知バイアス自体、研究分野としてこれまで多くの成果があるものの、AIエージェントの実現に当たって十分に考慮する必要があると考えています。「人工意識の研究開発に必要な要件 (1)：認知バイアスの影響？」で触れる予定です。 参考文献Cogitate Consortium, et al., “Adversarial testing of global neuronal workspace and integrated information theories of consciousness,” Nature, 642:133–142, 2025. DOI: 10.1038/s41586-025-08888-1.A. Cleeremans, L. Mudrik, and K. Seth, “Consciousness science: where are we, where are we going, and what if we get there?,” Frontiers in Science, 2025, DOI: 10.3389/fsci.2025.1546279.A.W. Corcoran, A.M. Haun, R. Dorman, G. Tononi, K.J. Friston, C.M.A. Pennartz, “Integrated information and predictive processing theories of consciousness: An adversarial collaborative review,” Neuroscience & Biobehavioral Reviews, 187(106742), 2026. DOI: 10.1016/j.neubiorev.2026.106742.
新しい脳型情報処理で何を目指すか？ (2) －ゆらぎ学習の場合－
次に、ゆらぎ制御で扱えていなかった予測機能を組み込んだ「ゆらぎ学習」について紹介します。ゆらぎ制御では、入力値はセンサーデバイスによって実環境の状況を正しく把握できることを前提にしていました。もちろん、現実の世界ではそのようなことはなく、センシング誤差があります。そのような入力データの誤差や変動（IoTのようにリアルタイムに入力されるストリームデータ）を考慮したものになります。 プロフィール村田 正幸さんMasayuki Murata大阪大学 大学院情報科学研究科／D3センター 特任教授やさしいAI 人工意識共同研究講座 責任者1984年 大阪大学大学院基礎工学研究科博士前期課程修了後、日本アイ・ビー・エム株式会社ジャパン・サイエンス・インスティチュート（東京基礎研究所）主任研究員。その後、1987年 大阪大学大型計算機センター助手。講師、准教授を経て1999年 同 基礎工学研究科教授。サイバーメディアセンター教授を経て、2004年 同 情報科学研究科教授。2019年8月～2023年3月 情報科学研究科研究科長。2025年3月定年退職後、同 情報科学研究科／D3センター特任教授。やさしいAI 人工意識共同研究講座責任者。2026年4月より総長特命補佐兼務。専門分野は情報通信ネットワーク、脳や生体に学ぶ情報システム。これまで1,000本以上の英語論文誌、国際会議論文を著している。スモールデータによる解発見のメカニズムの実現 ゆらぎ学習は、既存研究の脳の認知モデルであるBayesian Attractor Model（BAM）(図 1右）(Bitzer 2015) をベースに、 ・環境に対するセンシング情報の欠落やノイズに対する耐性を有し、 ・既存の深層学習のような大量データによる学習を必要とせずに ・短時間で意思決定可能なメカニズム であり、それを用いた実時間のシステム制御の実現を目指したものです（図 1左）（Murata, 2021）。ゆらぎ制御と同様にベイズ推定を基礎にしています。ゆらぎ学習において着目している脳機能はどのようなものでしょうか？ 脳は効率性・最適解を追求するだけでなく、状況や環境に応じた判断に長けています。唯一の最適解を求めることを目的とするのではなく、時間制約のなかで、最適解に対してたとえ90%性能しか得られなくとも、それよりも環境の予測困難な変動に適応していく能力に特徴があります。その結果、ゆらぎ学習においては、深層学習や生成AIとは異なり、ストリーム型データの入力に対して「スモールデータ」による処理やノイズ耐性、環境の変動に対する適応力が実現できました。図 １ 脳の認知機構の特徴とベイジアンアトラクタモデル 深層学習や生成AIのようなデータ駆動型の機械学習では、あらかじめ学習するためのデータが多く必要で（ビッグデータ）、環境変化によって入力データが変化した場合には再学習が原則必要です。それに比べて、ゆらぎ学習ではアトラクタセット（解候補の集合）を適切に準備することができれば、識別に必要なデータ量や計算時間を1/100～1/1000と飛躍的に削減できることを明らかにしています。研究内容をもとにしたイメージ図（AI生成）。 アトラクタセットをどう準備するか アトラクタセットをどう準備するか、これにはいくつかの方法があります。比喩的なことばを用いれば、過去の学習によって記憶している、結果がうまくいった行動の集合ということになります。データ駆動型AIのように入力データがあれば、解候補を見つけておくことは可能です。このような手法は深層学習を応用した実システムでも数多く採用されています。 しかし、実際には大量のデータを用意すること自体が難しい例は多くあります。症例データが少ない医療分野の他、電炉制御の例があります。総務省委託研究開発「脳の仕組みに倣った省エネ型の人工知能関連技術の開発・実証事業」で取り組んだものです。電炉制御では、クズ鉄を溶鉱炉に投入し、すべて溶け落ちたタイミングで操作を停止する必要があります。うまく停止することができれば、省電力に繋がります。現状では、熟練操業者が目視や音によって経験的に判断しているそうで、まさにマルチモーダルな判断を人に依存している例になります。鉄を溶かすのは一日仕事、つまり、１セットのデータを得るのに１日かかります。一般的に、深層学習では5,000データセットが少なくとも必要と言われています。つまり、5,000日必要ということになります。 ゆらぎ学習の実システムへの応用 ゆらぎ学習の適用において、アトラクタをマルチモーダルデータに基づいたベテラン操業者の判断を正解とすれば、アトラクタ集合を準備しておくことも可能になります。もちろん、学術的には、アトラクタをどう準備するかはたいへん重要で、動作途中で新規アトラクタを自動に生成する方法や不要なアトラクタを削除する方法についての研究成果も得ています (Otoshi, 2023)。しかし、それよりも、実システムの現場からは (i) スモールデータ、つまり入力データが少数でも動作可能であること、 (ii) 現場のセンシングではノイズが多く、測定誤差への対応は必須であること、 (iii) 運用時に結果の解釈が可能であること (Interpretability) は必須要求事項である 等の意見がある一方で、正解は厳密でなくてよい、目標は電力量削減であり数％であっても効果は大きいということです。大規模な深層学習や生成AIが必要な領域ももちろん多くありますが、置き去りにされている社会課題も数多くあるという当たり前の結論を、身を持って知りました。 今後の課題 少量データによる意思決定まではよいのですが、もう一点、予測機能はまだ実現できていませんでした。予測がないと、間違った判断をして操業を止めてしまうと取り戻せない、再び、電炉のスイッチを入れることは困難であるという問題になります。ゆらぎ学習の拡張として、この点も含めた取り組みを今行っています。また、操業者の経験に頼るとやはり結果にムラが生じることもあるようです。熟練操業者の操業データにはその時々におかれた状況や感情も考慮する必要があり、それがAIに求められるということだと思います。その点も含めた研究課題が次の人の意識を理解するAIということになります。 参考文献S. Bitzer, J. Bruineberg, S.J. Kiebel, “A Bayesian attractor model for perceptual decision making,” PLOS Computational Biology, 2015, DOI: 10.1371/journal.pcbi.1004442M. Murata and K. Leibnitz (Eds.), Fluctuation-Induced Network Control and Learning, Springer, Mar. 2021. DOI: 10.1007/978-981-33-4976-6T. Otoshi, M. Murata, H. Shimonishi, and T. Shimokawa, “Hierarchical Bayesian attractor model for dynamic task allocation in edge-cloud computing,” Proceedings of the International Conference on Computing, Networking and Communications (ICNC 2023), Feb. 2023. DOI: 10.1109/ICNC57223.2023.10073977日刊産業新聞、「阪大発ＡＩ 電炉実証へ」、2023年6月7日 、https://www.japanmetal.com/news-t20230607127397.html日本経済新聞、「電炉省エネ、大阪大のAIが挑む 少量データで熟練技学習」, 2023年8月29日. https://www.nikkei.com/article/DGXZQOUF2124O0R20C23A8000000/
新しい脳型情報処理で何を目指すか？ (1) －ゆらぎ制御の場合－
脳に倣う新しい情報処理について、２回にわけて、筆者が取り組んできた「ゆらぎ理論」と「ゆらぎ制御」、「ゆらぎ学習」について紹介します。現在、生成AIの技術的・社会的な動きが激しい状態ですが、脳科学においても脳に関する研究は着実に進められており、それをどのように人工システムに応用するか、という例を紹介します。 全体構成 人工意識の研究開発に向けて、今後、研究が必要な課題をまとめる。そのために、筆者が取り組んできた脳型情報処理についてまず紹介し、現状の意識研究を概観し、人工意識の研究開発の方向性について紹介する。新しい脳型情報処理で何を目指すか？ (1) －ゆらぎ制御の場合－ 新しい脳型情報処理で何を目指すか？ (2) －ゆらぎ学習の場合－ 意識研究から人工意識の研究へ 人工意識の研究開発に向けた取り組み 人工意識の研究開発に必要な要件 (1)：認知バイアスの影響？ 人工意識の研究開発に必要な要件 (2)：感情が果たす役割？プロフィール村田 正幸さんMasayuki Murata大阪大学 大学院情報科学研究科／D3センター 特任教授やさしいAI 人工意識共同研究講座 責任者1984年 大阪大学大学院基礎工学研究科博士前期課程修了後、日本アイ・ビー・エム株式会社ジャパン・サイエンス・インスティチュート（東京基礎研究所）主任研究員。その後、1987年 大阪大学大型計算機センター助手。講師、准教授を経て1999年 同 基礎工学研究科教授。サイバーメディアセンター教授を経て、2004年 同 情報科学研究科教授。2019年8月～2023年3月 情報科学研究科研究科長。2025年3月定年退職後、同 情報科学研究科／D3センター特任教授。やさしいAI 人工意識共同研究講座責任者。2026年4月より総長特命補佐兼務。専門分野は情報通信ネットワーク、脳や生体に学ぶ情報システム。これまで1,000本以上の英語論文誌、国際会議論文を著している。ゆらぎ原理の発見 現在、深層学習、そしてそれに続くLLM（生成AI）が目覚ましい発展を遂げ、企業活動だけでなく、私たちの社会活動や日常生活までも変えつつあります。しかし、これらの技術の元になっている、ニューラルネットワーク（神経回路網）に倣う機械学習の成り立ちは1970年代に始まり、最近の計算機技術（特にGPU）や並列計算技術の発展に支えられて花開いたことはご承知のとおりです。 もちろん、その間にも脳科学を中心として脳機能に関する研究は進められてきました。そのうちの１つが、2000年頃から開始された「脳や生体のゆらぎ」に関する研究です。大阪大学の柳田敏雄教授（当時）を中心とした研究者グループは脳や生体は、ゆらぎやノイズを遮断せず積極的に利用して、高次元システムを制御するシステムであると捉えました (柳田他、2009)。生体は、分子レベルから細胞・個体レベルに至るまで階層構造を持つ、ダイナミックかつ複雑・高次元なシステムです。このようなシステムにおいて、決定論的手法で厳密に制御しているとはおよそ考えられません。そうではなく、ゆらぎやノイズを遮断せずに積極的に利用して高次元システムを制御するシステムであると考えました。その結果として、飛躍的な省エネ効果が生まれます。これは、深層学習や生成AIのように巨大データセンターにおいて大きなエネルギーを用いて処理を追求するのとは対極的な考え方です。 ゆらぎ方程式による解探索 そして、分子レベルだけでなく、細胞や脳の研究によって一般化された「ゆらぎ方程式」として、生体システムの「ゆらぎ原理」を提唱しました。ゆらぎ方程式は、 dxidt⏟システムの挙動=α⏟活性度⋅f(x1,x2,…,xn)⏟アトラクタを持つ制御構造+ηi⏟ノイズ（ゆらぎ）という簡潔な形で表現されます。システムの状態はxi(i=1,2,…,N)で定義され、あらかじめ定められたアトラクタ構造（f）を持ち、ゆらぎ（ηi）によって解を探索しながら、活性度（システム状態の「良さ」：α）がよくなれば相対的に第１項が大きくなり、アトラクタのどれかに収束する、というものです。つまり、 (1) ゆらぎを積極的に使って局所解から脱出することを狙い、 (2) 活性度によってノイズとのバランスをとります。 図１は、ゆらぎを利用して解（アトラクタ）探索を行う動作原理を示したものです。ちなみに、このような形を持つ方程式はランジュバン方程式と呼ばれ、能動推論 (Parr et al., 2022) における連続状態空間を扱う場合と似たものになりますが、ここではノイズ項を明示的に扱っており、能動推論においても解決できていない局所最適解に陥る問題を解決できることになります。なお、アトラクタ集合は、能動推論と同じく予め準備する必要がありますが、最適解である必要はなく、システムとして望ましい解を指定することになります。この点については次回、さらに説明します。図 1 ゆらぎ制御による解探索と収束の様子 ゆらぎ制御：情報通信ネットワークへの応用 筆者の研究グループでは、総務省の支援をいただいたキャリア企業との受託研究において、このゆらぎ原理を情報通信ネットワーク制御に応用しました（ゆらぎ制御 (Murata 2021)）。詳細は省略しますが、絶えず利用状況が変動するネットワーク制御に適用し、制御に要する計算時間は、もちろん対象の規模や構成によりますが、従来の最適解を求める手法と比較して1/100から1/1000になることをシミュレーション及び実証実験で確認しました。だいじなことは、ネットワークという人工システムの機能実現において、脳や生体に何を学ぶか、という点です。カワセミのくちばしを模倣した新幹線の先頭部など、人工システムの設計において自然界に学んでいる例は数多くあります。ゆらぎ制御では、絶えず変化するネットワーク環境（ユーザの利用状況やネットワーク内部の動作状況）において、ゆらぎを利用して現時点でいちばん適した解を見つけ出す機能に学ぶということになります。もちろん、最適解の保証はできませんが、現実の世界では最適でなくともそれに近ければ十分である、という状況は多くあります。研究内容をもとにしたイメージ図（AI生成）。 現在、生成AIのデータ処理を担うデータセンターの建設ラッシュが続き、大量の消費電力（データセンターの規模によりますが、最近では最大数100MWと言われています）の問題も指摘されています。一方、脳機能は通常、消費電力が20W程度であると言われています。AIと人の脳では処理速度が異なりますので単純な比較は困難ですが、それを割り引いて考えても、脳の情報処理のための消費電力は格段に低いと言えます。この点に着目した脳の情報処理に倣う学習のメカニズム（ゆらぎ学習）を次に紹介します。 参考文献柳田, 四方, 石黒, 村田, “生体ゆらぎに学ぶ知的人工物と情報システム,” 応用物理学会誌, 78(7), 2009. DOI: 10.11470/oubutsu.78.8_788.T. Parr, G. Pezzulo, and K. J. Friston, Active Inference: The Free Energy Principle in Mind, Brain, and Behavior. The MIT Press, 2022.（邦訳：乾敏郎, 能動的推論：心、脳、行動の自由エネルギー原理、ミネルヴァ書房, 2022）M. Murata and K. Leibnitz (Eds.), Fluctuation-Induced Network Control and Learning, Springer, Mar. 2021. DOI:10.1007/978-981-33-4976-6