人工意識の研究開発に必要な要件 (1)：認知バイアスの影響？

村田正幸
13 Oct, 2026
- 研究紹介

人の活動を支援するAIエージェントの実現に当たってやっかいな問題、ゆえにチャレンジングな課題であると考えているものは、今２つあります。認知バイアスと感情です。これら２つの課題も統合して初めて、プロセスとしての意識が理解できると考えています。

認知バイアスとは

認知バイアスがどのように発生し、人の意思決定にどのような影響を与えるかは十分にわかっていません。以前紹介したゆらぎ制御／ゆらぎ学習や、深層学習や生成AIも確率的な意味では合理的な意思決定を行います。しかし、人の意思決定では、それだけでは説明できない認知バイアスがあります。一般に説明される認知バイアスは、「意思決定の際に、先入観や思い込み、常識、自身の経験、周囲の情報などの要因によって非合理的な判断をしてしまう心理傾向である」とされています。例えば、確証バイアス (Confirmation Bias) は自分の考えに合う都合のよい情報ばかり集めて、反対の情報を軽視するバイアスとして有名です。認知バイアスには、一説には200以上の種類があると言われていますが、詳細に見ていくと違いがよくわからない、似たバイアスも少なからずあります。それについては「バイアス・バイアス」、つまり、研究者が自分の研究対象とする認知バイアスに新しい名称を付けたくなる、というバイアスもあるそうで、注意が必要です。

認知バイアスと二重過程理論

それはさておき、認知バイアスは一般に悪いものとして扱われることが多く、ビジネス書を中心に、自分の認知バイアスをどう克服するか、ビジネス相手の認知バイアスをどう利用するか、といった解説も見受けられます。認知バイアスを説明する有名理論として、行動経済学者D. Kahnemanの二重過程理論があります（Gawronski, 2024）。「人の判断は必ずしも規範的な公理に基づくものではなく、特にヒューリスティックを用いることで多くの系統的な誤りを生み出す」というものです。「直感的、自動的、感情的、無意識的に判断する」システム１、「論理的、分析的、意識的、熟慮的に判断する」システム２に分けて説明されます。例えば、細長いとぐろを巻いた物体を見た時の反応は、捨てられたロープかも知れませんが、ヘビかも知れないという前提で行動する、とにかく逃げる（システム１）、少し離れて再度観察する（システム２）ということになります。しかし、この時の反応も、過去の記憶（ヘビを知っているか）や経験（へびに噛まれたことがある）に大きく左右されることは簡単に予想できます。そのため、システム１を「無意識的」と説明されていることには注意が必要です。無意識的といっても、ほんとうに意識がない場合には判断できません。現代における意識に対する理解とは異なっているようです。また、感情についても、感情だけで判断するわけではありません。その強度によって影響度が異なるという理解が妥当ですが、判断に対するさまざまな感情の影響の解明は、今後、AIエージェントの実装において重要な研究項目になると考えています。つまり、システム１、２に単純に分けて考えることは、非常に乱暴な考え方であるということが言えます。

限られた認知資源の中で判断の速さと精度を調整するイメージ

研究内容をもとにしたイメージ図（AI生成）。

認知バイアスは資源合理的な判断のためのメカニズム？

さらに、最近では、脳という有限の資源を用いて、環境に紐付けられた記憶等に基づいて、合理的な判断をするためのしくみであるという資源合理性に注目されるようになっています (Genewein 2015, Lieder 2020)。Speed-Accuracy Tradeoffと呼ばれるもので、危険が近づいているような場合は間違ってもよいので素早く判断する（システム１）、時間の余裕がある場合は過去の経験や記憶も呼び起こしながら時間をかけて判断する（システム２）、といった解釈です。この場合でも、システム１は無意識的に何の前提もなく直感で判断するわけではなく、認知資源への依存が低い自律的な処理であり、確証バイアス等では近似的なベイズ推論によって高速処理が行われているという研究結果もあります (Pilgrim 2024)。この立場に立てば、少なくとも論理的な意思決定において生じる認知バイアスは有用な機構と考えられます。実際、人工システムへの応用を考えた場合は、システムの効率化という側面から有効な機能と考えることができます。事実、ロボット実装において、このような考え方に基づいた研究成果も見られるようになっています（例えば、Ganapini 2023）。ただし、文献Ganapini 2023 においても、システム１、２だけでは不十分で、過去の経験や知識に基づいた意識のプロセス（論文ではメタ認知）が必要であることは認識されていますが、具体的な手法について今後の課題になっています。

人の活動を支援する、人に寄り添う、AIエージェントのために

一方、人の活動を支援する、人に寄り添う、AIエージェントの場合は、人の意思決定においてどちらかと言えば「悪い」認知バイアスの軽減や解消をする必要があります。この場合、寄り添うというだけでなく、相手の経験に基づき、また、相手の将来を考えたアドバイスまで考える必要もありそうです。ベイズ理論に基づいたものとして、文献 (Rastogi, 2022) があります。

ℙ (\tilde{Y} | D, f (M)) \propto ℙ {(D | \tilde{Y})}^{α} ℙ {(f (M) | \tilde{Y})}^{β} ℙ_{p r} {(\tilde{Y})}^{γ}

AIを使った意思決定において、人が利用する情報は、D：人が観察したデータ、f(M)：AIモデルの出力、Pᵖʳ(Y)：人がもともと持っている事前確率（prior）として、それらの影響が意思決定にどのように影響を与えるかを明らかにしたものです。右辺の各項は認知バイアスによる判断の「歪み」を考慮しています。順に、選択的アクセス(α>1)、アンカリングバイアス (β>1)、確証バイアス (γ>1) です。パラメータがすべて1の場合はベイズ推論における合理的判断を意味します。これはAI利用者の判断がAIエージェントを相手にした場合、どのような認知バイアスが発生するかを表しますが、AIエージェントでは逆に人の認知バイアスを考慮した上で人の活動を支援する必要があるということが言えます。ただし、このようなしくみで説明されるとしても、それが過去の経験からどのような時間オーダで影響を与えるのか（上式には時間変化の概念がありません）、人ごとに異なるパラメータ推定をどうやって行うか等の観点も必要で（大島, 2025）、それを前提とした人工システムの構築にはさらなる研究が必要です。

参考文献

B. Gawronski, D. M. Luke, and L.A. Creighton, “Dual-process theories,” In D. E. Carlston, K. Hugenberg, & K. L. Johnson (Eds.), The Oxford handbook of social cognition (2nd ed., pp. 319–353), 2024. Oxford University Press.
T. Genewein, F. Leibfried, J. Grau-Moya J and D.A. Braun, “Bounded rationality, abstraction, and hierarchical decision-making: An Information-theoretic optimality principle,” Frontiers in Robotics and AI, vol.2, 2015. DOI: 10.3389/frobt.2015.00027.
F. Lieder, T.L. Griffiths, “Resource-rational analysis: Understanding human cognition as the optimal use of limited computational resources,” Behavioral and Brain Sciences, 43, e1:1–60, 2020. DOI:10.1017/ S0140525X1900061X.
C. Pilgrim, A. Sanborn, E. Malthouse, and T.T. Hills, “Confirmation bias emerges from an approximation to Bayesian reasoning,” Cognition, 245, 2024. DOI: 10.1016/j.cognition.2023.105693.
M.B. Ganapini, et al., “Thinking fast and slow in AI: The role of metacognition,” Machine Learning, Optimization, and Data Science, Springer, Cham, 2023. DOI: 10.1007/978-3-031-25891-6_38.
C. Rastogi, et al., “Deciding fast and slow: The role of cognitive biases in AI-assisted decision-making,” Proceedings of the ACM on Human-Computer Interaction, 6(83):1 – 22, 2022. DOI: 10.1145/3512930.
大島良介, “操作者の認知バイアスを推定し支援する VR 型訓練システムの実装と有効性の評価,” 大阪大学基礎工学部情報科学科特別研究報告, February 2025.