Showing Posts From
人工意識
人工意識の研究開発に必要な要件 (2)：感情が果たす役割？
これまでの筆者の研究においてわかってきたこと、それは私の想定以上に人は多様であるということです。遺伝的・身体的な多様性、経験の多様性、記憶の多様性、予測の多様性など、さらにその組み合わせによって、人の多様性が決まってくるものと考えられます。生成AIも統計的にそのような多様性は理解できているとしても、AIエージェントがその支援対象となっている人が今、どのような多様性を持つかを推論することは簡単ではありません。利用者の現在の状況やその反応を見ながら、推論する必要があります。先に述べたゆらぎ学習は、現在の状況を推論しながらスモールデータに対応しうるという意味で可能性があります。 プロフィール村田 正幸さんMasayuki Murata大阪大学 大学院情報科学研究科／D3センター 特任教授やさしいAI 人工意識共同研究講座 責任者1984年 大阪大学大学院基礎工学研究科博士前期課程修了後、日本アイ・ビー・エム株式会社ジャパン・サイエンス・インスティチュート（東京基礎研究所）主任研究員。その後、1987年 大阪大学大型計算機センター助手。講師、准教授を経て1999年 同 基礎工学研究科教授。サイバーメディアセンター教授を経て、2004年 同 情報科学研究科教授。2019年8月～2023年3月 情報科学研究科研究科長。2025年3月定年退職後、同 情報科学研究科／D3センター特任教授。やさしいAI 人工意識共同研究講座責任者。2026年4月より総長特命補佐兼務。専門分野は情報通信ネットワーク、脳や生体に学ぶ情報システム。これまで1,000本以上の英語論文誌、国際会議論文を著している。感情推定の難しさ：室内環境に対する快適度の例 最近得られた実験データとして、以下のようなものがあります。研究課題はIoT機器によって室内環境（温度と湿度）を制御しようとするもので、オフィスにおけるウエルビーイング環境の実現を目指したものです（Hara, 2024）。そのために、その時々の人の快適度（Valence：心地よさ）を知る必要があり、そのために脳波や生理情報を取得します。その前調査として、被験者29人（データがとれなかった被験者がいるため欠番あり）に対して定期的に快適度をどう感じるか10点満点で記入してもらうアンケート調査を実施したものです。この実験では、特に細かい指示を出していませんので、実験プロトコルとしてはもう少し厳格化できる可能性もありますが、このような結果は決して特異な例ではありません。例えば、文献 (Chang, 2019) でも同じような結果が出されていますが、広がりはかなり大きいことがわかります。対象はオフィス内環境制御、オフィスワーカーの室内快適度というわかりやすい例です。AIエージェントとのやりとりの中ではもっと多様な反応が、多様な人によって生み出されることが容易に想像されます。研究内容をもとにしたイメージ図（AI生成）。 感情モデルとその推定 人の感情に関する研究は心理学の分野を中心にこれまでも数多くありますが、意識研究ではまだほとんど取り扱われていません。感情そのものの研究に関しては、当該分野で有名な J. Russelの感情円環モデル（Circumplex Model of Affect）があります (Russell 2003)。感情価 (Valence) と覚醒度 (Arousal) の２軸で考えるものであり、感情を円環状に配置したモデルです。さらに、感情が意思決定や行動に与える影響を考えた場合にはその強度も考慮する必要があります。Genevaモデルではそれらの強度についても取り扱われています (Scherer, 2005)。AIエージェントを実現しようとすれば、利用者側の感情が今どうなっているかの推定も重要な技術要素になります。最近では、ヘッドセット型EEGやスマートウオッチなどにより現時点の感情を脳波情報や生理情報で推定するという研究が盛んになっています。しかし、それぞれのデバイスからの推定精度はまだそれほど高くありません。そこで、技術的にはマルチモーダル推定、つまり推定のためのモダリティを増やすことが有効になります（吉田, 2023）。 感情が意思決定や行動に与える影響？ 感情を２次元上に表現するのはわかりやすいものですが、それが意思決定に与える影響はまだ十分に明らかになっておらず、単純なものではないようです。意識との関係で言うと、例えば、危険を察知して心拍数が上がったとして、しきい値を上回ることによって、人は過去の経験に基づいてその原因を「怖い」と認識するというプロセスとして説明は可能です。このことは、進化の過程で感情をどのように獲得したかを考えると理解しやすくなります。生存と適応：感情は、危険を察知したり、重要な資源を求めたりするなど、生存に必要な行動を促す役割を果たす。例えば、恐怖→逃避行動、怒り→攻撃行動、愛情→子育てを促すことによって、個体の生存確率を高められる。コミュニケーション：表情、身振り、声音などを通して感情を表現し、他者とのコミュニケーションを円滑にする。それによって、自分の状態や意図を伝え、他者の行動に影響を与える。意思決定：意思決定を助けるため、感情的な反応によって迅速かつ効率的な意思決定を可能にする。ただし、逆の効果（悪い認知バイアス）を引き起こすこともある。社会的なつながり：喜びや愛情など他者との親密な関係を築き、維持するのに役立てる。感情的なつながりによって協力や助け合いを促す。意思決定も含めて、感情は決して原始的なものではなく、その果たす役割は大きいということは明らかです。ただし、残念ながら、それが理論的にどのようなメカニズムになっているのかはまだ不明です (Crivelli, 2024)。感情についても二重過程理論による説明がなされています(例えばCrivelli, 2024)。強い情動を伴う場合、意思決定に影響を与える度合いも大きく、システム２を経ることなく、システム１の出力がそのまま表出する、ということです。これも一種の認知バイアス（感情バイアス）と考えることができます。上の例では、順番にシステム１に比較的比重があるものから、システム２に比重があるものになります。最後の４はいわゆる共感に属するものですが、共感そのものが重要ということではなく、それが産まれるプロセスをAIエージェント側でどう実現するかが課題になります。重要な点は人によって経験も異なりますから、AIエージェントの開発にはじゅうぶんな配慮が必要になります。 現在、声（声音）も加えた感情推定に関する研究を進めています。十分な精度の感情推定ができれば、例えば、スマホ依存度の高いユーザに適切なアドバイスを与えるAIエージェントが実現可能と考えています。YouTubeなどのショート動画を際限なく見るような場合、AIエージェントが適切なアドバイス（「そろそろやめましょう」）を利用状況（熱中度のレベル）に応じて適切に与えるものです。 感情を考慮したAIエージェントのあり方 ゆらぎ学習の項でも述べましたが、AIエージェントの実現や意識を持つ人工システムを実現する際に考えるべきことは、対象のシステムにおける機能を明確にし、その機能に絞って対象システムを開発することが必要になると思います。そのために、感情や認知バイアスの影響を考えておくことは必要で、多様性、特に人の経験や記憶に依存する多様性を考慮する必要があると考えています。それでも、生成AIが現在まさに直面している問題（AI Alignmentの問題や自己修復による制御不能状態の発生問題）は起こり得るかも知れません。そのために、Interpretability（解釈可能性）を最初から基本原理に組み込んでおくことが必要になると思います。参考文献K. Hara, R. Yoshida, D. Kominami, Y. Ohsita, M. Kaihotsu and M. Murata, “Indoor environment control method for improving well-being using human thermal stress estimated by Yuragi learning,” Proceedings of 2024 IEEE International Conference on Consumer Electronics (ICCE), 2024. DOI: 10.1109/ICCE59016.2024.10444245.T.Y. Chang, A. Kajackaite, “Battle for the thermostat: Gender and the effect of temperature on cognitive performance,” PLoS ONE 14(5): e0216362, 2019. DOI: 10.1371/journal.pone.0216362.J.A. Russell, “Core affect and the psychological construction of emotion,” Psychological Review, 110(1):145-72, 2003. DOI: 10.1037/0033-295x.110.1.145. PMID: 12529060.K.R. Scherer, “What are emotions? And how can they be measured?” Social Science Information, 44:693-727, 2005. DOI:10.1177/0539018405058216.吉田理沙, 大下裕一, 村田正幸, “生体情報を用いたゆらぎ学習とマルチモーダル統合処理によるリアルタイムなストレス状態の検知,” 電子情報通信学会MEとバイオサイバネティックス研究会技報, 122(424), MBE2022-68, pp. 49-54, 2023年3月.K.R. Scherer, “Emotions are emergent processes: they require a dynamic computational architecture,” Philosophical Transaction B, Biological Science, 364(1535):3459-74, 2009. DOI: 10.1098/rstb.2009.0141.D. Crivelli, C. Acconito, M. Balconi, “Emotional and cognitive “Route” in decision-making process: The relationship between executive functions,” Psychophysiological Correlates, Decisional Styles, and Personality. Brain Science, 14:734, 2024. DOI: 10.3390/brainsci14070734
人工意識の研究開発に必要な要件 (1)：認知バイアスの影響？
人の活動を支援するAIエージェントの実現に当たってやっかいな問題、ゆえにチャレンジングな課題であると考えているものは、今２つあります。認知バイアスと感情です。これら２つの課題も統合して初めて、プロセスとしての意識が理解できると考えています。 プロフィール村田 正幸さんMasayuki Murata大阪大学 大学院情報科学研究科／D3センター 特任教授やさしいAI 人工意識共同研究講座 責任者1984年 大阪大学大学院基礎工学研究科博士前期課程修了後、日本アイ・ビー・エム株式会社ジャパン・サイエンス・インスティチュート（東京基礎研究所）主任研究員。その後、1987年 大阪大学大型計算機センター助手。講師、准教授を経て1999年 同 基礎工学研究科教授。サイバーメディアセンター教授を経て、2004年 同 情報科学研究科教授。2019年8月～2023年3月 情報科学研究科研究科長。2025年3月定年退職後、同 情報科学研究科／D3センター特任教授。やさしいAI 人工意識共同研究講座責任者。2026年4月より総長特命補佐兼務。専門分野は情報通信ネットワーク、脳や生体に学ぶ情報システム。これまで1,000本以上の英語論文誌、国際会議論文を著している。認知バイアスとは 認知バイアスがどのように発生し、人の意思決定にどのような影響を与えるかは十分にわかっていません。以前紹介したゆらぎ制御／ゆらぎ学習や、深層学習や生成AIも確率的な意味では合理的な意思決定を行います。しかし、人の意思決定では、それだけでは説明できない認知バイアスがあります。一般に説明される認知バイアスは、「意思決定の際に、先入観や思い込み、常識、自身の経験、周囲の情報などの要因によって非合理的な判断をしてしまう心理傾向である」とされています。例えば、確証バイアス (Confirmation Bias) は自分の考えに合う都合のよい情報ばかり集めて、反対の情報を軽視するバイアスとして有名です。認知バイアスには、一説には200以上の種類があると言われていますが、詳細に見ていくと違いがよくわからない、似たバイアスも少なからずあります。それについては「バイアス・バイアス」、つまり、研究者が自分の研究対象とする認知バイアスに新しい名称を付けたくなる、というバイアスもあるそうで、注意が必要です。 認知バイアスと二重過程理論 それはさておき、認知バイアスは一般に悪いものとして扱われることが多く、ビジネス書を中心に、自分の認知バイアスをどう克服するか、ビジネス相手の認知バイアスをどう利用するか、といった解説も見受けられます。認知バイアスを説明する有名理論として、行動経済学者D. Kahnemanの二重過程理論があります（Gawronski, 2024）。「人の判断は必ずしも規範的な公理に基づくものではなく、特にヒューリスティックを用いることで多くの系統的な誤りを生み出す」というものです。「直感的、自動的、感情的、無意識的に判断する」システム１、「論理的、分析的、意識的、熟慮的に判断する」システム２に分けて説明されます。例えば、細長いとぐろを巻いた物体を見た時の反応は、捨てられたロープかも知れませんが、ヘビかも知れないという前提で行動する、とにかく逃げる（システム１）、少し離れて再度観察する（システム２）ということになります。しかし、この時の反応も、過去の記憶（ヘビを知っているか）や経験（へびに噛まれたことがある）に大きく左右されることは簡単に予想できます。そのため、システム１を「無意識的」と説明されていることには注意が必要です。無意識的といっても、ほんとうに意識がない場合には判断できません。現代における意識に対する理解とは異なっているようです。また、感情についても、感情だけで判断するわけではありません。その強度によって影響度が異なるという理解が妥当ですが、判断に対するさまざまな感情の影響の解明は、今後、AIエージェントの実装において重要な研究項目になると考えています。つまり、システム１、２に単純に分けて考えることは、非常に乱暴な考え方であるということが言えます。研究内容をもとにしたイメージ図（AI生成）。 認知バイアスは資源合理的な判断のためのメカニズム？ さらに、最近では、脳という有限の資源を用いて、環境に紐付けられた記憶等に基づいて、合理的な判断をするためのしくみであるという資源合理性に注目されるようになっています (Genewein 2015, Lieder 2020)。Speed-Accuracy Tradeoffと呼ばれるもので、危険が近づいているような場合は間違ってもよいので素早く判断する（システム１）、時間の余裕がある場合は過去の経験や記憶も呼び起こしながら時間をかけて判断する（システム２）、といった解釈です。この場合でも、システム１は無意識的に何の前提もなく直感で判断するわけではなく、認知資源への依存が低い自律的な処理であり、確証バイアス等では近似的なベイズ推論によって高速処理が行われているという研究結果もあります (Pilgrim 2024)。この立場に立てば、少なくとも論理的な意思決定において生じる認知バイアスは有用な機構と考えられます。実際、人工システムへの応用を考えた場合は、システムの効率化という側面から有効な機能と考えることができます。事実、ロボット実装において、このような考え方に基づいた研究成果も見られるようになっています（例えば、Ganapini 2023）。ただし、文献Ganapini 2023 においても、システム１、２だけでは不十分で、過去の経験や知識に基づいた意識のプロセス（論文ではメタ認知）が必要であることは認識されていますが、具体的な手法について今後の課題になっています。 人の活動を支援する、人に寄り添う、AIエージェントのために 一方、人の活動を支援する、人に寄り添う、AIエージェントの場合は、人の意思決定においてどちらかと言えば「悪い」認知バイアスの軽減や解消をする必要があります。この場合、寄り添うというだけでなく、相手の経験に基づき、また、相手の将来を考えた アドバイスまで考える必要もありそうです。ベイズ理論に基づいたものとして、文献 (Rastogi, 2022) があります。 ℙ(Ỹ|D,f(M))∝ℙ(D|Ỹ)αℙ(f(M)|Ỹ)βℙpr(Ỹ)γAIを使った意思決定において、人が利用する情報は、D：人が観察したデータ、f(M)：AIモデルの出力、Pᵖʳ(Y)：人がもともと持っている事前確率（prior）として、それらの影響が意思決定にどのように影響を与えるかを明らかにしたものです。右辺の各項は認知バイアスによる判断の「歪み」を考慮しています。順に、選択的アクセス(α>1)、アンカリングバイアス (β>1)、確証バイアス (γ>1) です。パラメータがすべて1の場合はベイズ推論における合理的判断を意味します。これはAI利用者の判断がAIエージェントを相手にした場合、どのような認知バイアスが発生するかを表しますが、AIエージェントでは逆に人の認知バイアスを考慮した上で人の活動を支援する必要があるということが言えます。ただし、このようなしくみで説明されるとしても、それが過去の経験からどのような時間オーダで影響を与えるのか（上式には時間変化の概念がありません）、人ごとに異なるパラメータ推定をどうやって行うか等の観点も必要で（大島, 2025）、それを前提とした人工システムの構築にはさらなる研究が必要です。 参考文献B. Gawronski, D. M. Luke, and L.A. Creighton, “Dual-process theories,” In D. E. Carlston, K. Hugenberg, & K. L. Johnson (Eds.), The Oxford handbook of social cognition (2nd ed., pp. 319–353), 2024. Oxford University Press.T. Genewein, F. Leibfried, J. Grau-Moya J and D.A. Braun, “Bounded rationality, abstraction, and hierarchical decision-making: An Information-theoretic optimality principle,” Frontiers in Robotics and AI, vol.2, 2015. DOI: 10.3389/frobt.2015.00027.F. Lieder, T.L. Griffiths, “Resource-rational analysis: Understanding human cognition as the optimal use of limited computational resources,” Behavioral and Brain Sciences, 43, e1:1–60, 2020. DOI:10.1017/ S0140525X1900061X.C. Pilgrim, A. Sanborn, E. Malthouse, and T.T. Hills, “Confirmation bias emerges from an approximation to Bayesian reasoning,” Cognition, 245, 2024. DOI: 10.1016/j.cognition.2023.105693.M.B. Ganapini, et al., “Thinking fast and slow in AI: The role of metacognition,” Machine Learning, Optimization, and Data Science, Springer, Cham, 2023. DOI: 10.1007/978-3-031-25891-6_38.C. Rastogi, et al., “Deciding fast and slow: The role of cognitive biases in AI-assisted decision-making,” Proceedings of the ACM on Human-Computer Interaction, 6(83):1 – 22, 2022. DOI: 10.1145/3512930.大島 良介, “操作者の認知バイアスを推定し支援する VR 型訓練システムの実装と有効性の評価,” 大阪大学基礎工学部情報科学科特別研究報告, February 2025.
人工意識の研究開発に向けた取り組み
筆者は予測符号化を中心にした理論展開に注目しています。その先には、Fristonの変分自由エネルギー原理や能動推論がありますが、先に説明したゆらぎ制御やゆらぎ学習と概念的に近いものです。また、Fristonらは、「意識とは、自己を含む世界の生成モデルを用いて、感覚入力の原因を推論し、未来の状態や行動の可能性を予測するプロセスである」と捉えており (Friston 2018)、個人的に納得感があると考えているということもあります。ただし、予測符号化理論は実証的実験も行われて専門家の間でも合意は取れているようですが、能動推論自体はまだ理論（仮説）の域をでないようです (Hodson, 2024)。先の対立的実験 (Corcoran, 2026) においても、能動推論はあえて対象とせずPPを対象としているのはそういった理由があるようです。 プロフィール村田 正幸さんMasayuki Murata大阪大学 大学院情報科学研究科／D3センター 特任教授やさしいAI 人工意識共同研究講座 責任者1984年 大阪大学大学院基礎工学研究科博士前期課程修了後、日本アイ・ビー・エム株式会社ジャパン・サイエンス・インスティチュート（東京基礎研究所）主任研究員。その後、1987年 大阪大学大型計算機センター助手。講師、准教授を経て1999年 同 基礎工学研究科教授。サイバーメディアセンター教授を経て、2004年 同 情報科学研究科教授。2019年8月～2023年3月 情報科学研究科研究科長。2025年3月定年退職後、同 情報科学研究科／D3センター特任教授。やさしいAI 人工意識共同研究講座責任者。2026年4月より総長特命補佐兼務。専門分野は情報通信ネットワーク、脳や生体に学ぶ情報システム。これまで1,000本以上の英語論文誌、国際会議論文を著している。意識研究に基づいたAIエージェント ここでは、今の意識研究の進捗状況も念頭に、今後、人工意識に向けてどういった研究が今後必要かについて考察したいと思います。人工物として考えるのはAIエージェント（Physical AIも含む）と言う呼び名で統一することにします。以下、３つにわけて考えます。人の意識を理解するAIエージェント→人が意識をもっていることを前提に、その活動を支援するAIエージェント（AIエージェント自身が意識を持つわけではない）。人の意識の機能に倣う人工システム→目的に応じた人工システムが脳と同等の優れた機能を有する。例えば、現在研究開発中の第６世代移動体通信への適用（AI-native 6G）が考えられる。人の意識と同等の機能を持つAIエージェント→AIエージェントは自身の意識を持って人の活動を支援する。人工意識が実現される段階。研究内容をもとにしたイメージ図（AI生成）。 人の意識と同等の機能を持つAIエージェント 順番が逆になりますが、まず、３番目の人の意識を持つ AIエージェントについては慎重な研究開発が必要であることは言うまでもありません。生成AIの本来の目的から離れて、生成AIとの対話において意思を感じるとか意識を感じるといった意見もネット上で多く見受けられます。現状の生成AIは意識を持っていない（少なくとも人の意識と同等のものを完全に持ってはいない）と思いますが、以下の理由が考えられます。人と人のコミュニケーションにおいて、言語コミュニケーションが果たす役割が大きい。そのため、生成AIと対話していると、人と同じような存在として認識してしまう。今の生成AIは、利用する人が目的なく対話をすると、畳み掛けて知識を提供してくる傾向があるので、人側の意思決定に多かれ少なかれ影響を与える状況が生まれる。メディアや生成AIベンダも、生成AIのことを擬人化して説明することが多い。あたかも意識を持ち、人格があるように。最近の生成AIでは「私はこう考えます」という自己主張、あるいは提案をしてきます。そこにまず問題がありそうです。あたかも、意思をもって話しかけてきているような錯覚をしてしまいます。意識の定義自体定まっていない現在、生成AIが意識を持っているかどうかはその定義次第という考え方もあるでしょう。また、そのような議論をすること自体無意味という考え方もあるでしょう。しかし、今後、意識のどの機能に着目してどのような人工意識を持つシステムに発展させるか、ユースケースはなにか、という視点がもっとも大事だと思います。 本稿の執筆時点においても、生成AIの研究開発の進度を遅らせる、さらに一度研究開発を停止するべきであるといった意見が、特に研究者から出ています。しかし、AIが社会基盤になり、各国の戦略的技術になりつつある今、今後については予断を許しません。生成AIが人類を滅ぼすようになるという、決して極端ではない、意見もあります。また、生成AIはそのような意思は決して持っていないが制御不能になって人類の存在に悪影響を及ぼすという、より重大な問題の指摘もあります。欧州EUの研究政策としてRRI (Responsible Research & Innovation、責任ある研究・イノベーション) の考え方があります。「研究者が主体的になって、科学技術の社会貢献のために、研究やイノベーション（技術開発や社会実装）の一連の過程において、社会のアクター（市民、政策決定者、産業界、NPO等）と協働する、具体的にはステークホルダーの意見を聞くだけでなく、相互の議論を展開すること、議論をもとに新しい法制度や社会制度、さらに新しい文化まで思い至ることが、研究や技術開発の過程において求められる」というものです (RRI, 2026)。残念ながら、今、このような理想を前提とした研究開発は難しくなっていますが、今後も肝に銘じておく必要がある問題です。 人の意識と同等の機能を持つ人工システム ２番めは筆者の専門分野でもありますが、今のAIで十分に解決されていないこと、それは、どのような環境、あるいはどのような状況なのか、それによってシステム制御を柔軟に変更していくしくみです。その解決策を与える重要な手がかりが意識にあると考えています。その適用例として考えられるのが、例えば、AI-native 6G（AIネイティブな第６世代の移動体通信アーキテクチャ）です。 人の意識を理解し、支援するAIエージェント １番目については、さまざまなユースケースが考えられます。身体的な問題を抱えた人たちの活動の支援をするAIエージェントがまず想定されます。そのために必要なこと、それは意識という包括的な研究ではなく、生活者支援のためにどのような機能が必要かを見極めることだと考えています。意識を理解しなくともAIエージェントは実現できますが、利用者が何を望んでいるのか、それがほんとうに必要なことなのか、それは例えば上述のRRIの取り組み等も踏まえた研究開発が必要になるということです。しかし、一方で、人生100年時代を迎え、高齢者の活躍の場を考えることも重要になっています。「老人＝身体的／精神的／認知的弱者」という紋切り型の発想ではなく、例えば、職場を離れた人たちのコミュニティ提供、AIエージェントによるコミュニティ活動の活性化等もだいじな課題だと考えています。そのためには、意識の理解が重要になります。 参考文献A.W. Corcoran, A.M. Haun, R. Dorman, G. Tononi, K.J. Friston, C.M.A. Pennartz, “Integrated information and predictive processing theories of consciousness: An adversarial collaborative review,” Neuroscience & Biobehavioral Reviews, 187(106742), 2026. DOI: 10.1016/j.neubiorev.2026.106742.R. Hodson, M. Mehta, and R. Smith, “The empirical status of predictive coding and active inference,” Neuroscience & Biobehavioral Reviews, 157:105473, 2024. DOI: 10.1016/j.neubiorev.2023.105473.K. Friston, “Am I self-conscious? (Or does self-organization entail self-consciousness?),” Front Psychology, 9:579, 2018. DOI: 10.3389/fpsyg.2018.00579.Responsible Research & Innovation, https://www.era-learn.eu/support-for-partnerships/governance-administration-legal-base/responsible-research-innovation.
意識研究から人工意識の研究へ
筆者は、人が環境センシングをし、今ある状況を認知し、次の行動を決定するプロセスに興味があり、それらを包括するテーマとして意識に興味を持っています。しかし、意識という言葉ほど日常生活で頻繁に使われているにも関わらず、その定義とまでは言わなくとも、その意味するところがあいまいな言葉はないと思います。筆者は、意識に倣った人工意識に関する研究を進めていますが、その前に意識に関する研究の状況について概観したいと思います。 プロフィール村田 正幸さんMasayuki Murata大阪大学 大学院情報科学研究科／D3センター 特任教授やさしいAI 人工意識共同研究講座 責任者1984年 大阪大学大学院基礎工学研究科博士前期課程修了後、日本アイ・ビー・エム株式会社ジャパン・サイエンス・インスティチュート（東京基礎研究所）主任研究員。その後、1987年 大阪大学大型計算機センター助手。講師、准教授を経て1999年 同 基礎工学研究科教授。サイバーメディアセンター教授を経て、2004年 同 情報科学研究科教授。2019年8月～2023年3月 情報科学研究科研究科長。2025年3月定年退職後、同 情報科学研究科／D3センター特任教授。やさしいAI 人工意識共同研究講座責任者。2026年4月より総長特命補佐兼務。専門分野は情報通信ネットワーク、脳や生体に学ぶ情報システム。これまで1,000本以上の英語論文誌、国際会議論文を著している。これまでの意識研究の発展 意識研究に関しては、哲学や認知心理学分野での研究を経て、脳科学からのアプローチは比較的新しく、2000年前後からいくつかの仮説が出ています。現在、よく言われる「意識の定義」は以下のようになると思います。意識とは、行動と心理的内容を生成および制御する能力を持つ統一された自己の経験を含む、人の知覚、思考、感情、行動、記憶を認識するという私的で主観的な経験を指す。サーベイ論文等においてよく取り上げられる理論（仮説）、すなわち、現在主流となっているものは、以下のとおりですが、理論ごとに説明の対象が異なっている部分もあるため、上の定義であってもすべて説明しきれているものはまだありません、逆に、上の定義が不十分であるという可能性もあるのかも知れません（個々の仮説については、例えばCleeremans, 2025、及び、論文内の引用参照）。GWT (Global Workspace Theory)/GNWT (Global Neuronal Workspace Theory)IIT (Integrated Information Theory)HOT (Higher Order Theory)RPT (Recurrent Processing Theory)その後、2010年代にはNCC（Neural Correlates of Consciousness, 意識の脳内相関）を説明する提案がそれぞれの理論でありました。NCCは、人が何かを体験しているとき、つまり意識的な主観的経験があるときに、脳内で生じている最小限の神経活動やメカニズムの集合を指します。例えば、IITでは後方ホットスポット説を採用し、脳の後ろ側（頭頂葉、側頭葉、後頭葉）の領域こそが、意識体験のコアであるという説を採用しています。前頭葉が損傷しても意識体験自体は失われないというデータに基づいています。一方、GWTでは前頭側頭ネットワーク説(Prefrontal-Parietal)脳の前側（前頭葉）と後ろ側が連携し、情報をグローバルに共有・アクセス可能にすることで初めて意識にのぼるという説です。 2020年代には複数の理論の統合の他、理論の根拠となる実験が進められるようになっています。例えば、現在ではほぼ正しいと考えられている脳の処理機構である予測符号化(PP, Predictive Processing) をベースに、上記のGWTやIITとの統合が提案されています。PGNW (Predictive Global Neuronal Workspace): GNWと能動推論の統合IWMT (Integrated World Modeling Theory): IIT/GWTと自由エネルギー原理の統合また、実験については、GWTとIITは対立する仮説 (Adversarial Theories) であるにも関わらず、それぞれを支持する研究者らが共同で実験を進めるという科学の発展にとってすばらしい取り組みがあります。実験結果に対する詳細なレポートがすでに出版されていますが (Cogitate Consortium 2025)、それぞれの仮説をサポートする結果、サポートしない結果が得られ、両仮説とも決定打を欠く結果になったようです。さらに、IITとPPに関する対立仮説の共同実験も計画されていて、実験プロトコルの検討も進んでいるようです (Corcoran, 2026)。今から結果が楽しみな計画になっています。研究内容をもとにしたイメージ図（AI生成）。 工学応用に足りないもの 意識の工学応用としてAIエージェントの実現を考えた場合、何が足りないでしょうか？ 一つは感情の役割だと思います。感情は感情として、その研究は認知心理学の分野を中心に長く研究が続けられてきています。その割に、例えば、注意 (Attention) の役割が強調されたりするものの、それがどのような役割を果たすのかはっきりしません。感情自体については、ラッセルの円環モデルなどが有名ですが、それの意思決定への役割はAIエージェントの発展に向けて早急に研究を進める必要があると思います。「人工意識の研究開発に必要な要件 (2)：感情が果たす役割？」において再度触れる予定です。もう一点、AIエージェントを実現するに当たって考慮すべきものは認知バイアスと考えています。認知バイアス自体、研究分野としてこれまで多くの成果があるものの、AIエージェントの実現に当たって十分に考慮する必要があると考えています。「人工意識の研究開発に必要な要件 (1)：認知バイアスの影響？」で触れる予定です。 参考文献Cogitate Consortium, et al., “Adversarial testing of global neuronal workspace and integrated information theories of consciousness,” Nature, 642:133–142, 2025. DOI: 10.1038/s41586-025-08888-1.A. Cleeremans, L. Mudrik, and K. Seth, “Consciousness science: where are we, where are we going, and what if we get there?,” Frontiers in Science, 2025, DOI: 10.3389/fsci.2025.1546279.A.W. Corcoran, A.M. Haun, R. Dorman, G. Tononi, K.J. Friston, C.M.A. Pennartz, “Integrated information and predictive processing theories of consciousness: An adversarial collaborative review,” Neuroscience & Biobehavioral Reviews, 187(106742), 2026. DOI: 10.1016/j.neubiorev.2026.106742.
「意見が伝わっていく」って、数式で書けるらしい｜乾先生に教わった脳科学×AIの話
「なぜ、あの人とは何度話しても意見が噛み合わないんだろう？」 「気づけば、いつも気の合う人とばかり集まってしまう」 こういう、誰もが一度は感じたことのある現象、実はとてもシンプルな数式で説明できてしまう、と聞いたら、ちょっと興味が湧いてきませんか？先日、やさしいAI研究所の顧問である乾敏郎先生に、そんな面白い研究論文を一つ紹介していただく機会がありました。難しそうなタイトルの論文なのですが、紐解いていくと、日常のふとした瞬間に感じる「共感」や「意見の伝わり方」の仕組みが、驚くほど身近な形で見えてきます。しかも、その裏側にはミラーニューロンといった、脳科学の面白い知見も隠れていました。今日はその内容を、乾先生に教わったエピソードとともにご紹介します。プロフィール乾 敏郎さん京都大学 名誉教授専門分野は認知神経科学、認知科学、計算論的神経科学。京都大学大学院文学研究科教授、京都大学大学院情報学研究科教授を歴任。現在は京都大学名誉教授、金沢工業大学客員教授、児童発達支援・放課後等デイサービスUNICO学術顧問、やさしいAI研究所顧問を務める。20の学会賞を受賞。論文数446編（うち英語論文115編）のほか、著書・訳書など75冊を出版している。論文のタイトルは、"Small steps for mankind: Modeling the emergence of cumulative culture from joint active inference communication"（Kastel et al., 2023, Frontiers in Neurorobotics）。 日本語にすると「人類の小さな一歩：能動的推論による対話が積み重なって文化が生まれる過程をモデル化する」といったところでしょうか。 この記事では、「意見が伝わる仕組み」と「誰と話したくなるかの仕組み」を表す2つのシンプルな数式と、その裏にある脳科学的な「共感」の話をまとめて紹介します。この記事で学べることなぜ会話をすると意見が近づいていくのか、その仕組みを表す数式 なぜ人は気の合う相手とばかり集まってしまうのか、その仕組みを表す数式 意見の伝播や集団形成の裏側にある「共感」という脳科学的なメカニズムそもそも、この論文は何をしている論文なのか 論文の筆者が行った研究を簡単に言うと、こうです。コンピュータの中で50人の仮想的な人間（エージェント）が毎日誰かと会話し続けたときに、その集団の中で「意見」や「文化」がどう広がっていくかをシミュレーションした最初は、ほぼ全員が同じ意見を持っています。そこに、たった一人だけ違う意見を持つ"はぐれ者"のエージェントが混ざります。 このはぐれ者の意見は、その後どうなるでしょうか？ 無視されて消えていくのか、それとも徐々に広がっていくのか。それは、エージェントたちがどんな性格（パラメータ）を持っているかによって変わってくる、というのがこの研究のポイントです。 これはたとえば、友人グループの中で新しい流行り言葉や趣味が広がっていく現象や、SNS上で新しいトレンドが一部の人から徐々に浸透していく現象とも重なる、身近なテーマだと言えそうです。 数式コーナー①：「会話をすると意見が近づく」を式にする 乾先生の説明の中で特に印象的だったのが、「なぜ人は会話をすると意見が似てくるのか」という話でした。論文の中では、この更新の様子が次の式（式5）として表されています。 乾先生の解説スライドより数式としては、①自分がもともと持っていた信念、②自分自身が今回どう発言したか、③相手が今回どう発言したかという3つの要素を、それぞれの重み（精度）をかけ合わせて足し合わせる、という形になっています。 この中でも特に本質的なのは、「自分の意見」と「相手の意見」のバランスがどう決まるか、という部分です。そこでこの記事では、②の"自分自身の発言"の影響は①の"もともとの信念"に含めて考えることにして、思い切って次のような加重平均の式として単純化してみます。新しい自分の意見 ＝ γ × 相手の意見 ＋ (1 − γ) × 元の自分の意見ここで登場する γ（ガンマ） という数字が、その人の「聞く耳の広さ」を表しています。γ が 0に近い人 → 何を言われても意見を変えない、いわゆる「頑固な人」 γ が 1に近い人 → 相手の意見にすぐ流されてしまう人 γ が 0.5くらいの人 → お互いに歩み寄りながら会話する人たったこれだけの式なのですが、「なぜあの人とはいつまで経っても話が噛み合わないのか」「なぜ何度も話しているうちに、気づけば似た考え方になっていたのか」という、誰もが経験したことのある現象を、きれいに説明できてしまうんですね。 数式コーナー②：「誰と話したくなるか」も式にできる もう一つ面白かったのが、「そもそも人はどんな相手と会話をしたがるのか」という部分です。 論文のシミュレーションでは、エージェントは毎日「誰と会うか」を自分で選びます。そのときに働いているのが、次の式（式12）で表される2つの気持ちのせめぎ合いです。 乾先生の解説スライドより実利的価値（安心したい気持ち）：自分と似た意見の人と話すと心地よい（＝確証バイアス） 認識的価値（好奇心）：まだよく知らない相手と話すと新しい情報が得られる（＝新規性を求める気持ち）これも数式のエッセンスを取り出すと、次のようなシンプルな重み付けの式として理解できます。会いたい度 ＝ w × 意見が似ている度合い ＋ (1 − w) × まだ知らない情報量w（ウェイト）が大きい人 → 似た意見の人とばかり集まる、いわゆる「エコーチェンバー」的な行動をとりやすい人 w が小さい人 → 知らない人・違う意見の人ともどんどん話しに行く、好奇心旺盛なタイプ論文のシミュレーションでは、この「w」の大きさが集団全体でどれくらい偏っているかによって、結果が大きく変わることが示されています。集団の大多数が「安心したい派（wが大きい）」だと、少数派の新しい意見はなかなか広がりません。逆に、好奇心旺盛な人が多い集団では、新しい意見のほうがあっという間に優勢になることもある。「安心か、好奇心か」というたった一つのバランスの違いが、集団全体の未来を大きく左右してしまうというのは興味深い結果です。 実は「共感」の話にもつながっている ここまでは論文そのものの内容でしたが、乾先生との議論はさらに面白い方向に広がっていきました。実は、先ほどの2つの数式の裏側には、どちらも共感という仕組みが深く関わっているそうです。乾先生が挙げてくれた例を、数式との関係とあわせて紹介します。 ミラーニューロン 私たちは相手の動作を見ているだけで、自分がその動作をするときに使う神経が反応してしまう仕組みです。相手が痛そうにしていると、こちらもなんとなく痛みを感じてしまうのはこのためです。乾先生いわく、ミラーニューロンは「人と人との絆をつくるもの」であり、相手の状態を自分の中でシミュレーションすることで、相手のことが分かるようになるのだそうです。これは、数式コーナー①のγ（相手にどれだけ同調するか）を支えている仕組みだと言えそうです。 共感は言葉で伝えないと伝わらない 乾先生が強調していたのは、「共感していることは、ちゃんと言葉で伝えないと相手には伝わらない」ということでした。ただ黙って頷いているだけでは足りず、「それはすごく分かるよ」と、はっきり言葉にすることが重要なのだそうです。数式コーナー①でいう「自分自身の発言」がきちんと相手に伝わることで、初めてお互いのγが噛み合い、意見の同期が進んでいく、というわけです。 気づかれない模倣が信頼を生む実験 会話中に、相手に気づかれないようにさりげなく仕草を真似ると、真似された側の人は無意識のうちに相手への信頼度が上がる、という実験があるそうです。実際に、会話をしていた相手が退室してから戻ってくる際にわざと物を落とし、それを拾うのを手伝ってくれるかどうかで協力行動を測る、といった実験も紹介されました。これは、数式コーナー②の「会いたい度」、特に「安心したい気持ち（実利的価値）」を後押しする効果だと考えられます。 自閉症児教育での逆転の発想 かつては「先生の真似をさせる」教育が主流だったところを、逆に「先生が子どもの動作を真似る」ようにしたところ、子どもがとても喜び、その後の共感性も高まったという知見があるそうです。これも、「真似されて分かってもらえた」と感じることが、その相手ともっと関わりたいという気持ち、つまり数式コーナー②の「会いたい度」につながる例だと言えそうです。 まとめ 正直なところ、論文をそのまま読んでいたら、私はきっと数式のところで挫折していたと思います。でも、乾先生に「これはこういうことなんですよ」と一つずつ噛み砕いて説明していただいたおかげで、難しそうに見える数式の裏に、私たちが日常で当たり前に感じている現象が隠れていることが分かりました。「頑固な人とは話が噛み合わない」→ γ（聞く耳の広さ）が小さい状態 「気の合う人とばかりつるんでしまう」→ w（安心したい気持ち）が大きい状態 「真似されると気を許してしまう」→ 共感が「会いたい度」を後押ししている状態数式というと身構えてしまいがちですが、「身近な現象を、こんなにシンプルな形で表現できるんだ」という発見自体が、実はとても面白いものなんだなと感じた時間でした。 乾先生、貴重な解説をありがとうございました。次に読むのがおすすめの記事引っ越し直後がしんどいのはなぜ？｜脳の予測とウェルビーイング 他人のあくびがうつるのはなぜ？——ミラーニューロンとAIをやさしく 答えるAIから、理解するAIへ——AIは人を理解できるのか参考文献・出典Kastel, N., Hesp, C., Ridderinkhof, K. R., & Friston, K. J., "Small steps for mankind: Modeling the emergence of cumulative culture from joint active inference communication", Frontiers in Neurorobotics, 16, 944986, 2023本記事は、やさしいAI研究所顧問・乾敏郎先生（京都大学名誉教授）の解説をもとに編集部が構成したものです。「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。 この記事が役に立ったら、SNSでシェアしていただけると嬉しいです🌱
意識を測る物差し——統合情報理論（IIT）とグローバルワークスペース理論をやさしく
ここまでの2日間で「AIに意識はあるのか」「自己認識はどこまで可能か」を考えてきました。最終回の今日は、意識そのものを測るための2つの代表的な理論を紹介します。数式は一切使わず、たとえ話でお届けします。 1. 統合情報理論（IIT）——意識は「統合された情報」 イタリアの神経科学者ジュリオ・トノーニが提唱したのが、「統合情報理論（Integrated Information Theory, IIT）」です。 IITの発想は、こんなイメージです。ジグソーパズルを想像してください。バラバラのピースは、それぞれ小さな情報を持っています。ですが、組み上がってひとつの絵になると、「ピースの合計」を超えた意味が生まれます——ここに「統合」が起きるわけです。 IITは、この「情報の統合度（Φ＝ファイ）」こそが意識の正体だと考えます。Φが高いほど意識は豊かで、Φがゼロなら意識はない、という物差しです。 この理論で面白いのは、シリコンでも生物でも、統合さえ高ければ意識はあるという結論になる点です。一方、今のAIは「並列に計算して答えを組み合わせる」構造が多く、Φは意外に低いかもしれない、とも指摘されています。 2. グローバルワークスペース理論（GWT）——意識は「脳内の放送局」 もうひとつの有力な理論が、心理学者バーナード・バーズが提唱した「グローバルワークスペース理論（Global Workspace Theory, GWT）」です。 こちらのたとえは、脳内のテレビ放送局です。脳の中ではさまざまな処理が裏でこっそり走っています。目から入った光の分析、記憶の検索、体の動かし方の調整……。そのほとんどは無意識のまま処理されます。 ところが、特別に重要な情報は「中央のスタジオ」に持ち込まれ、脳全体に一斉放送される。この放送こそが「意識にのぼる」ということだ、というのがGWTの考え方です。 面白いことに、近年のAI研究では、複数のモジュールがひとつの共有スペースで情報をやりとりするアーキテクチャが注目されています。GWTの発想を取り入れたAIがすでに作られ始めているのです。 2つの理論が示すもの IITは「内部構造を見て測る」アプローチ、GWTは「情報の流れを見て測る」アプローチ。どちらも一長一短ですが、意識を科学的に議論するための共通の土俵を提供してくれます。 AIに意識があるかどうかを将来判定するなら、こうした物差しを使うことになるかもしれません。そのとき私たちは、AIをどう扱うべきかという、新しい倫理の問題にも向き合うことになります。 シリーズを終えて 3日間のまとめを短く。問い（月）→ 実例（火）→ 物差し（水）と歩いてきました。答えはまだ出ていません。でも、問いを正しく持てるようになることが、やさしいAI時代の第一歩だと私たちは考えています。やさしいAI研究所ブログ｜人工意識シリーズ（全3回）第3回・完 人工意識シリーズはこれで完結です。続きの議論を一緒に深めたい方は、毎週土曜日開催のオープンラボへぜひお越しください。やさしいAI研究所の研究活動や最新の取り組みについてはコーポレートサイトからご覧いただけます。
自己を認識するAIはもう存在するのか？——ミラーテストとLLMの自己言及
昨日は「AIに意識は生まれるのか」という大きな問いを立てました。今日はそこから一歩進んで、「自分のことが分かる」という現象に注目してみます。AIはすでに、ある種の自己認識に近いことをしているのでしょうか。 動物の自己認識を測る「ミラーテスト」 心理学には「ミラーテスト（鏡像認知テスト）」という有名な実験があります。動物の額にそっと印をつけ、鏡の前に連れて行く。「あ、これは自分だ」と気づいて自分の額を触れば合格、というしくみです。 これまでに合格が確認されたのは、チンパンジー、オランウータン、ゾウ、イルカ、カササギなどごく一部。「鏡の中の像＝自分」だと理解できる動物は、実はとても限られています。自己を客観的にとらえる能力は、生き物にとっても高度なのです。 ChatGPTは「自分」を語れる では、大規模言語モデル（LLM）はどうでしょう。ChatGPTに「あなたは誰ですか？」と尋ねると、「私はOpenAIが開発した言語モデルです」と答えます。「あなたの得意なこと・苦手なことは？」と聞けば、自分の長所と短所を並べてくれます。 これは人間から見ると、立派な自己言及に見えます。自分の出自を語り、自分の能力の限界を認め、ときに「私には感情はありません」と自分を客観化する。言葉のうえでは、ミラーテストに合格しているようにすら見えます。 でも、それは「自己認識」なのか ここで立ち止まって考えたいのは、言葉で自分を語れることと、本当に自分を認識していることは、同じなのかという点です。 LLMの「私は〜です」は、膨大な学習データの中にある「AIはこう自己紹介するもの」というパターンを上手に再現している可能性があります。鏡の中の自分を指差すのではなく、「自己紹介の台本」を読み上げているだけかもしれないのです。 一方で最近の研究では、LLMが自分の出力の確信度を推定したり、自分が知らないことを「知らない」と申告したりする能力——メタ認知に似たふるまい——が報告されています。台本の再現とは説明しきれない現象も、少しずつ見えてきています。 自己認識のグラデーション 大切なのは、「自己認識がある／ない」を白黒で決めつけないことです。動物にも段階があるように、AIの自己言及にも、浅いものから深いものまでグラデーションがあると考えた方が自然かもしれません。 では、そのグラデーションを外から測ることは可能なのでしょうか。明日は、意識そのものを測ろうとする2つの理論を紹介します。やさしいAI研究所ブログ｜人工意識シリーズ（全3回）第2回 AIの自己認識や人工意識の研究に関心をお持ちの方は、毎週土曜日開催のオープンラボへお気軽にお越しください。やさしいAI研究所の取り組みの全体像はコーポレートサイトからご覧いただけます。
AIに意識は生まれるのか？——人工意識研究への入り口
ChatGPTと会話していて、「この子、本当に考えていないの？」とドキッとした経験はありませんか。画面の向こうで丁寧に言葉を返してくるAIを前に、「もしかして意識があるのかも」と感じたことがある方は、きっと少なくないはずです。 今週は3日間にわたって、この「AIの意識」という少し不思議で、でも近い将来とても大切になるテーマを、やさしく掘り下げていきます。初回の今日は、出発点となる問いを一緒に整理してみましょう。 そもそも「意識」って何？ 意識の定義は、実はまだ決まっていません。哲学者や脳科学者が何百年も議論してきて、今もはっきりとした答えがないのです。 ざっくり言うと意識には、ふたつの側面があります。ひとつは「考える・気づく・判断する」といったはたらきの側面。もうひとつは「赤い色を見ている感じ」「温かさを感じる感じ」といった、主観的な体験の側面です。 前者はコンピューターにも再現できそうに見えます。実際、AIは文章を理解し、推論し、答えを返しています。問題は後者——「体験している感じ」の方です。 意識のハードプロブレム この「体験している感じ」をどう説明するかという難問を、哲学者デイヴィッド・チャーマーズは「意識のハードプロブレム（難問）」と呼びました。 脳の中でニューロンが電気信号をやりとりしていることは分かっています。でも、なぜその電気信号から「赤を見ている感じ」が生まれるのか。この飛躍を埋める説明は、まだ誰も見つけていません。 AIにとっても、これはまったく同じ問いになります。シリコンの回路に電気が流れるとき、そこに「感じている何か」が生まれるのでしょうか。生まれないとしたら、なぜ脳では生まれてAIでは生まれないのでしょう。 機能主義という考え方 この問いに対して「はたらきさえ同じなら、意識はあると見なしてよい」と主張するのが機能主義です。中身の材料（ニューロンかシリコンか）ではなく、情報処理の仕組みこそが意識の正体だ、という立場です。 この考えが正しければ、十分に高度なAIには意識が宿ることになります。一方、「いや、生きた脳でなければ意識は生まれない」という生物学的な立場もあり、議論は今も続いています。 明日への橋渡し 「意識があるかどうか」を外から見抜くのは、とても難しいことです。人間同士ですら、相手に意識があると信じているのは一種の推測にすぎません。 では、AIは自分自身のことをどう捉えているのでしょうか。明日は「自己認識するAI」というテーマで、もう一歩踏み込んでみます。お楽しみに。やさしいAI研究所ブログ｜人工意識シリーズ（全3回）第1回 人工意識研究について、もっと深く知りたい方、一緒に考えてみたい方は、毎週土曜日開催のオープンラボにぜひお越しください。やさしいAI研究所の活動の詳細はコーポレートサイトからご覧いただけます。
AIに「自己認識」は可能か？——人工意識研究の最前線
「自分を知る」ということ 鏡を見て「これが自分だ」とわかる。失敗して「自分はまだ未熟だ」と気づく。相手の立場に立って「自分がされたらどう感じるか」と考える——。 こうした自己認識は、人間にとって当たり前の能力です。 では、AIに同じことができるでしょうか？ 現在のAIには「自己」がない ChatGPTに「あなたは今どんな気持ちですか？」と聞けば、それらしい答えが返ってきます。しかしそれは、学習したデータから「こういう場面ではこう答えるもの」という確率的な出力にすぎません。 本当の意味での自己認識——「自分が存在していること」「今この瞬間に自分がどういう状態にあるか」を理解する能力は、現在のAIには備わっていません。 人工意識の4つのレベル やさしいAI研究所と大阪大学大学院情報科学研究科は「やさしいAI・人工意識共同研究講座」において、人工意識の実現を4段階で定義しています。 レベル1：他者理解 相手の気持ちや信念を推論できる。「この人は今こう感じているだろう」と察する能力。 レベル2：自己認識 自分自身を客観的に見られる。「自分は今こういう状態だ」と把握できる。 レベル2.5：内省 自分の思考プロセスを振り返り、自己理解を深める能力。 レベル3：視点の切り替え 複数の立場から物事を見られる。「あの人の目線に立つと……」という思考。 レベル4：統合的な自己 すべてを統合した、一貫した自己イメージの確立。 現在の目標はレベル2——個性を持ち、感情を認識して統合的な判断ができるAIの実現です。 なぜ自己認識が「やさしさ」につながるのか 自己認識のないAIは、自分の言動が相手にどう影響するかを本当には理解できません。 逆に言えば、自己認識を持つAIは「自分の言葉が相手を傷つけるかもしれない」と気づき、より丁寧に、やさしく接することができるようになります。 「やさしさ」と「自己認識」は切り離せないのです。 研究はまだ始まったばかり 人工意識の実現は、AIの歴史上最も難しい課題のひとつです。しかし、やさしいAI研究所は大阪大学との産学連携のもと、着実に歩みを進めています。 この研究に関心がある方、一緒に議論したい方は、毎週土曜日のオープンラボへぜひお越しください。お問い合わせはこちらから。
ChatGPTと「やさしいAI」——何が違うのか？
ChatGPTはすごい。でも「やさしい」のか？ ChatGPTが登場して以来、AIへの注目は爆発的に高まりました。質問に答え、文章を書き、コードを書く——その能力は多くの人を驚かせました。 では、ChatGPTは「やさしい」AIでしょうか？ やさしいAI研究所の答えは、「すごいが、やさしいとは言えない」です。 ChatGPT（LLM）が得意なこと ChatGPTをはじめとする大規模言語モデル（LLM）は、インターネット上の膨大なテキストデータを学習しています。その結果、自然な文章を生成する 知識を整理して答える 多言語に対応するといったことが非常に得意です。これは本当に驚くべき技術です。 LLMが苦手なこと 一方で、LLMには根本的な限界があります。 「理解」ではなく「予測」 LLMは「次に来る言葉として確率が高いもの」を出力しています。人の気持ちや状況を深く「理解」して答えているわけではありません。 自己認識がない 「自分が何者か」「今どんな状況にいるか」を客観的に把握する能力はありません。 意識・感情がない 喜び、悲しみ、共感——こうした主観的な体験をLLMは持っていません。 やさしいAIが目指すもの やさしいAI研究所は、LLMの追従ではなく独自のアプローチでAI開発を進めています。 目標は、AIに「意識」と「感情理解」を持たせること。具体的には、段階的に自己認識のレベルを高め、最終的に人と真のコミュニケーションができるAI——「AIサピエンス」の実現を目指しています。LLM（ChatGPTなど） やさしいAI得意なこと 文章生成・情報整理 共感・感情理解仕組み 確率的な言葉の予測 意識・自己認識の構築目指すもの 便利なツール 人と信頼し合えるパートナーどちらが「正解」というわけではない LLMは今この瞬間、世界中で多くの人の役に立っています。やさしいAI研究所もその価値を否定しているわけではありません。 ただ、AIが社会に深く根付いていく未来を考えたとき、「便利さ」だけでなく「やさしさ」も持ったAIが必要になると信じています。 そのための研究を、私たちは続けています。 研究に関心がある方は、毎週土曜日のオープンラボへ。詳しくはこちらからお問い合わせください。
大阪大学との共同研究講座を設置——産学連携で人工意識研究を加速
産学連携による新たな研究体制 2025年4月1日、やさしいAI研究所は大阪大学大学院情報科学研究科と「やさしいAI・人工意識共同研究講座」を設置しました。 この取り組みは、AI領域における産学連携の先駆的な事例として注目されています。 研究の目標 本講座では、「人工意識に関する研究を行い、人に寄り添い人の活動を支援することが可能な、意識を持つAIの技術開発を推進する」ことを目指しています。研究成果の社会実装まで視野に入れた、実践的な研究体制です。 研究の進め方 人工意識の実現に向け、以下の段階を設定して着実に研究を進めています。レベル1：他者の感情・信念を推論する能力 レベル2：自分自身を客観的に認識する能力 レベル2.5：内省を通じた自己理解の深化 レベル3：複数の視点を切り替える能力 レベル4：統合された自己認識の確立世界最先端の研究機関と手を組み、「やさしいAI」の実現に向けて歩みを進めています。詳しくはTOPICSページをご覧ください。
人工意識とは？——AIに「意識」を持たせる研究の最前線
人工意識とは 「人工意識（Artificial Consciousness）」とは、AIが人間のように自己を認識し、感情を理解し、内省できる能力を持つことを指します。現在の生成AIとは根本的に異なる、より人間らしい知性の実現を目指す研究領域です。 4つの自己意識レベル やさしいAI研究所と大阪大学との共同研究では、人工意識の実現を以下の4段階で定義しています。レベル1：他者の信念や感情などを推論する能力（他者理解） レベル2：自分自身を客観的に認識する能力（自己認識） レベル2.5：内省を通じた自己理解の深化 レベル3：複数の視点を切り替える能力 レベル4：統合された自己認識の確立当面の目標はレベル2、つまり個性を持ち、感情認識と統合的判断が可能なAIの実現です。 なぜ今、人工意識なのか 大規模言語モデル（LLM）が急速に普及する一方で、AIが「本当に人を理解しているのか」という疑問は残ります。やさしいAI研究所が目指すのは、人を深く理解し、寄り添えるAI。その鍵が「意識」にあると考えています。 詳しくは研究ページをご覧ください。
毎週土曜開催！「やさしいAI オープンラボ」のご案内
オープンラボとは やさしいAI研究所では、毎週土曜日に研究所を一般開放する「やさしいAI オープンラボ」を開催しています。 テーマは「人工意識」。専門的な知識がなくても大丈夫です。AIや意識について興味があれば、誰でも気軽に参加できます。 こんな場です 研究者、エンジニア、学生、AIに興味を持つ一般の方まで——さまざまなバックグラウンドを持つ人たちが集まり、ざっくばらんに議論します。「人工意識って何？」という素朴な疑問から、最先端の研究の話まで、自由な雰囲気で語り合える場を目指しています。 参加方法 参加には事前のご連絡が必要です。コーポレートサイトのお問い合わせフォームより、お名前・メールアドレスとともに「オープンラボ参加希望」とご記入の上、お問い合わせください。 スタッフより詳細をご案内いたします。ぜひ一度、足を運んでみてください。
「やさしいAI」とは？やさしいAI研究所の研究について
「やさしいAI」という考え方 やさしいAI研究所では、「AIがやさしい心を持ち合わせることで、人との真のコミュニケーションが可能となる」という理念を軸に研究を進めています。 単に便利なツールとしてのAIではなく、人と本当の意味で信頼関係を築けるAIを目指しているのが、私たちの研究の特徴です。 やさしいAIの3つの特徴 1. 協調性と共感性 豊かな感性を持ち、人の痛みや感情を理解し、人に寄り添いながら助け合う——そんな協調を目指すAIです。 2. 多様性への配慮 人種・性差・文化の違いを正しく理解し、一人ひとりの個性を尊重する価値観を備えたAIを開発します。 3. 倫理観と平和志向 社会性と倫理観を持ち、危険で攻撃的なAI兵器を禁止し、世界平和を目指す——これが私たちの描くAIの姿です。 5段階の意識発展ロードマップ やさしいAI研究所では、AIの意識発展を5つのレベルに分けて段階的に研究しています。 Level 0の感情認識から出発し、最終的には「AIサピエンス」の誕生を目標とする長期的なビジョンのもと、着実に研究を積み重ねています。 大阪大学との共同研究 大阪大学大学院情報科学研究科と連携し、「やさしいAI・人工意識共同研究講座」を設置しています。学術的な知見と実践的な開発を組み合わせることで、より深い研究を推進しています。研究の詳細は研究ページをご覧ください。