人工意識の研究開発に必要な要件 (2)：感情が果たす役割？

人工意識の研究開発に必要な要件 (2)：感情が果たす役割？

これまでの筆者の研究においてわかってきたこと、それは私の想定以上に人は多様であるということです。遺伝的・身体的な多様性、経験の多様性、記憶の多様性、予測の多様性など、さらにその組み合わせによって、人の多様性が決まってくるものと考えられます。生成AIも統計的にそのような多様性は理解できているとしても、AIエージェントがその支援対象となっている人が今、どのような多様性を持つかを推論することは簡単ではありません。利用者の現在の状況やその反応を見ながら、推論する必要があります。先に述べたゆらぎ学習は、現在の状況を推論しながらスモールデータに対応しうるという意味で可能性があります。

村田 正幸さん

プロフィール

村田 正幸さん

Masayuki Murata

大阪大学　大学院情報科学研究科／D3センター　特任教授
やさしいAI 人工意識共同研究講座 責任者

1984年 大阪大学大学院基礎工学研究科博士前期課程修了後、日本アイ・ビー・エム株式会社ジャパン・サイエンス・インスティチュート（東京基礎研究所）主任研究員。その後、1987年 大阪大学大型計算機センター助手。講師、准教授を経て1999年 同 基礎工学研究科教授。サイバーメディアセンター教授を経て、2004年 同 情報科学研究科教授。2019年8月～2023年3月 情報科学研究科研究科長。2025年3月定年退職後、同 情報科学研究科／D3センター特任教授。やさしいAI 人工意識共同研究講座責任者。2026年4月より総長特命補佐兼務。専門分野は情報通信ネットワーク、脳や生体に学ぶ情報システム。これまで1,000本以上の英語論文誌、国際会議論文を著している。

感情推定の難しさ：室内環境に対する快適度の例

最近得られた実験データとして、以下のようなものがあります。研究課題はIoT機器によって室内環境（温度と湿度）を制御しようとするもので、オフィスにおけるウエルビーイング環境の実現を目指したものです（Hara, 2024）。そのために、その時々の人の快適度（Valence：心地よさ）を知る必要があり、そのために脳波や生理情報を取得します。その前調査として、被験者29人（データがとれなかった被験者がいるため欠番あり）に対して定期的に快適度をどう感じるか10点満点で記入してもらうアンケート調査を実施したものです。この実験では、特に細かい指示を出していませんので、実験プロトコルとしてはもう少し厳格化できる可能性もありますが、このような結果は決して特異な例ではありません。例えば、文献 (Chang, 2019) でも同じような結果が出されていますが、広がりはかなり大きいことがわかります。対象はオフィス内環境制御、オフィスワーカーの室内快適度というわかりやすい例です。AIエージェントとのやりとりの中ではもっと多様な反応が、多様な人によって生み出されることが容易に想像されます。

生理情報などから一人ひとりの快適さを推定する研究のイメージ

研究内容をもとにしたイメージ図（AI生成）。

感情モデルとその推定

人の感情に関する研究は心理学の分野を中心にこれまでも数多くありますが、意識研究ではまだほとんど取り扱われていません。感情そのものの研究に関しては、当該分野で有名な J. Russelの感情円環モデル（Circumplex Model of Affect）があります (Russell 2003)。感情価 (Valence) と覚醒度 (Arousal) の２軸で考えるものであり、感情を円環状に配置したモデルです。さらに、感情が意思決定や行動に与える影響を考えた場合にはその強度も考慮する必要があります。Genevaモデルではそれらの強度についても取り扱われています (Scherer, 2005)。AIエージェントを実現しようとすれば、利用者側の感情が今どうなっているかの推定も重要な技術要素になります。最近では、ヘッドセット型EEGやスマートウオッチなどにより現時点の感情を脳波情報や生理情報で推定するという研究が盛んになっています。しかし、それぞれのデバイスからの推定精度はまだそれほど高くありません。そこで、技術的にはマルチモーダル推定、つまり推定のためのモダリティを増やすことが有効になります（吉田, 2023）。

感情が意思決定や行動に与える影響？

感情を２次元上に表現するのはわかりやすいものですが、それが意思決定に与える影響はまだ十分に明らかになっておらず、単純なものではないようです。意識との関係で言うと、例えば、危険を察知して心拍数が上がったとして、しきい値を上回ることによって、人は過去の経験に基づいてその原因を「怖い」と認識するというプロセスとして説明は可能です。このことは、進化の過程で感情をどのように獲得したかを考えると理解しやすくなります。

  1. 生存と適応：感情は、危険を察知したり、重要な資源を求めたりするなど、生存に必要な行動を促す役割を果たす。例えば、恐怖→逃避行動、怒り→攻撃行動、愛情→子育てを促すことによって、個体の生存確率を高められる。

  2. コミュニケーション：表情、身振り、声音などを通して感情を表現し、他者とのコミュニケーションを円滑にする。それによって、自分の状態や意図を伝え、他者の行動に影響を与える。

  3. 意思決定：意思決定を助けるため、感情的な反応によって迅速かつ効率的な意思決定を可能にする。ただし、逆の効果（悪い認知バイアス）を引き起こすこともある。

  4. 社会的なつながり：喜びや愛情など他者との親密な関係を築き、維持するのに役立てる。感情的なつながりによって協力や助け合いを促す。

意思決定も含めて、感情は決して原始的なものではなく、その果たす役割は大きいということは明らかです。ただし、残念ながら、それが理論的にどのようなメカニズムになっているのかはまだ不明です (Crivelli, 2024)。感情についても二重過程理論による説明がなされています(例えばCrivelli, 2024)。強い情動を伴う場合、意思決定に影響を与える度合いも大きく、システム２を経ることなく、システム１の出力がそのまま表出する、ということです。これも一種の認知バイアス（感情バイアス）と考えることができます。上の例では、順番にシステム１に比較的比重があるものから、システム２に比重があるものになります。最後の４はいわゆる共感に属するものですが、共感そのものが重要ということではなく、それが産まれるプロセスをAIエージェント側でどう実現するかが課題になります。重要な点は人によって経験も異なりますから、AIエージェントの開発にはじゅうぶんな配慮が必要になります。

現在、声（声音）も加えた感情推定に関する研究を進めています。十分な精度の感情推定ができれば、例えば、スマホ依存度の高いユーザに適切なアドバイスを与えるAIエージェントが実現可能と考えています。YouTubeなどのショート動画を際限なく見るような場合、AIエージェントが適切なアドバイス（「そろそろやめましょう」）を利用状況（熱中度のレベル）に応じて適切に与えるものです。

感情を考慮したAIエージェントのあり方

ゆらぎ学習の項でも述べましたが、AIエージェントの実現や意識を持つ人工システムを実現する際に考えるべきことは、対象のシステムにおける機能を明確にし、その機能に絞って対象システムを開発することが必要になると思います。そのために、感情や認知バイアスの影響を考えておくことは必要で、多様性、特に人の経験や記憶に依存する多様性を考慮する必要があると考えています。それでも、生成AIが現在まさに直面している問題（AI Alignmentの問題や自己修復による制御不能状態の発生問題）は起こり得るかも知れません。そのために、Interpretability（解釈可能性）を最初から基本原理に組み込んでおくことが必要になると思います。

被験者ごとの快適度アンケート結果の分布

参考文献

  • K. Hara, R. Yoshida, D. Kominami, Y. Ohsita, M. Kaihotsu and M. Murata, “Indoor environment control method for improving well-being using human thermal stress estimated by Yuragi learning,” Proceedings of 2024 IEEE International Conference on Consumer Electronics (ICCE), 2024. DOI: 10.1109/ICCE59016.2024.10444245.

  • T.Y. Chang, A. Kajackaite, “Battle for the thermostat: Gender and the effect of temperature on cognitive performance,” PLoS ONE 14(5): e0216362, 2019. DOI: 10.1371/journal.pone.0216362.

  • J.A. Russell, “Core affect and the psychological construction of emotion,” Psychological Review, 110(1):145-72, 2003. DOI: 10.1037/0033-295x.110.1.145. PMID: 12529060.

  • K.R. Scherer, “What are emotions? And how can they be measured?” Social Science Information, 44:693-727, 2005. DOI:10.1177/0539018405058216.

  • 吉田理沙, 大下裕一, 村田正幸, “生体情報を用いたゆらぎ学習とマルチモーダル統合処理によるリアルタイムなストレス状態の検知,” 電子情報通信学会MEとバイオサイバネティックス研究会技報, 122(424), MBE2022-68, pp. 49-54, 2023年3月.

  • K.R. Scherer, “Emotions are emergent processes: they require a dynamic computational architecture,” Philosophical Transaction B, Biological Science, 364(1535):3459-74, 2009. DOI: 10.1098/rstb.2009.0141.

  • D. Crivelli, C. Acconito, M. Balconi, “Emotional and cognitive “Route” in decision-making process: The relationship between executive functions,” Psychophysiological Correlates, Decisional Styles, and Personality. Brain Science, 14:734, 2024. DOI: 10.3390/brainsci14070734