「意見が伝わっていく」って、数式で書けるらしい｜乾先生に教わった脳科学×AIの話
「なぜ、あの人とは何度話しても意見が噛み合わないんだろう？」 「気づけば、いつも気の合う人とばかり集まってしまう」 こういう、誰もが一度は感じたことのある現象、実はとてもシンプルな数式で説明できてしまう、と聞いたら、ちょっと興味が湧いてきませんか？先日、やさしいAI研究所の顧問である乾敏郎先生に、そんな面白い研究論文を一つ紹介していただく機会がありました。難しそうなタイトルの論文なのですが、紐解いていくと、日常のふとした瞬間に感じる「共感」や「意見の伝わり方」の仕組みが、驚くほど身近な形で見えてきます。しかも、その裏側にはミラーニューロンといった、脳科学の面白い知見も隠れていました。今日はその内容を、乾先生に教わったエピソードとともにご紹介します。プロフィール乾 敏郎さん京都大学 名誉教授専門分野は認知神経科学、認知科学、計算論的神経科学。京都大学大学院文学研究科教授、京都大学大学院情報学研究科教授を歴任。現在は京都大学名誉教授、金沢工業大学客員教授、児童発達支援・放課後等デイサービスUNICO学術顧問、やさしいAI研究所顧問を務める。20の学会賞を受賞。論文数446編（うち英語論文115編）のほか、著書・訳書など75冊を出版している。論文のタイトルは、"Small steps for mankind: Modeling the emergence of cumulative culture from joint active inference communication"（Kastel et al., 2023, Frontiers in Neurorobotics）。 日本語にすると「人類の小さな一歩：能動的推論による対話が積み重なって文化が生まれる過程をモデル化する」といったところでしょうか。 この記事では、「意見が伝わる仕組み」と「誰と話したくなるかの仕組み」を表す2つのシンプルな数式と、その裏にある脳科学的な「共感」の話をまとめて紹介します。この記事で学べることなぜ会話をすると意見が近づいていくのか、その仕組みを表す数式 なぜ人は気の合う相手とばかり集まってしまうのか、その仕組みを表す数式 意見の伝播や集団形成の裏側にある「共感」という脳科学的なメカニズムそもそも、この論文は何をしている論文なのか 論文の筆者が行った研究を簡単に言うと、こうです。コンピュータの中で50人の仮想的な人間（エージェント）が毎日誰かと会話し続けたときに、その集団の中で「意見」や「文化」がどう広がっていくかをシミュレーションした最初は、ほぼ全員が同じ意見を持っています。そこに、たった一人だけ違う意見を持つ"はぐれ者"のエージェントが混ざります。 このはぐれ者の意見は、その後どうなるでしょうか？ 無視されて消えていくのか、それとも徐々に広がっていくのか。それは、エージェントたちがどんな性格（パラメータ）を持っているかによって変わってくる、というのがこの研究のポイントです。 これはたとえば、友人グループの中で新しい流行り言葉や趣味が広がっていく現象や、SNS上で新しいトレンドが一部の人から徐々に浸透していく現象とも重なる、身近なテーマだと言えそうです。 数式コーナー①：「会話をすると意見が近づく」を式にする 乾先生の説明の中で特に印象的だったのが、「なぜ人は会話をすると意見が似てくるのか」という話でした。論文の中では、この更新の様子が次の式（式5）として表されています。 乾先生の解説スライドより数式としては、①自分がもともと持っていた信念、②自分自身が今回どう発言したか、③相手が今回どう発言したかという3つの要素を、それぞれの重み（精度）をかけ合わせて足し合わせる、という形になっています。 この中でも特に本質的なのは、「自分の意見」と「相手の意見」のバランスがどう決まるか、という部分です。そこでこの記事では、②の"自分自身の発言"の影響は①の"もともとの信念"に含めて考えることにして、思い切って次のような加重平均の式として単純化してみます。新しい自分の意見 ＝ γ × 相手の意見 ＋ (1 − γ) × 元の自分の意見ここで登場する γ（ガンマ） という数字が、その人の「聞く耳の広さ」を表しています。γ が 0に近い人 → 何を言われても意見を変えない、いわゆる「頑固な人」 γ が 1に近い人 → 相手の意見にすぐ流されてしまう人 γ が 0.5くらいの人 → お互いに歩み寄りながら会話する人たったこれだけの式なのですが、「なぜあの人とはいつまで経っても話が噛み合わないのか」「なぜ何度も話しているうちに、気づけば似た考え方になっていたのか」という、誰もが経験したことのある現象を、きれいに説明できてしまうんですね。 数式コーナー②：「誰と話したくなるか」も式にできる もう一つ面白かったのが、「そもそも人はどんな相手と会話をしたがるのか」という部分です。 論文のシミュレーションでは、エージェントは毎日「誰と会うか」を自分で選びます。そのときに働いているのが、次の式（式12）で表される2つの気持ちのせめぎ合いです。 乾先生の解説スライドより実利的価値（安心したい気持ち）：自分と似た意見の人と話すと心地よい（＝確証バイアス） 認識的価値（好奇心）：まだよく知らない相手と話すと新しい情報が得られる（＝新規性を求める気持ち）これも数式のエッセンスを取り出すと、次のようなシンプルな重み付けの式として理解できます。会いたい度 ＝ w × 意見が似ている度合い ＋ (1 − w) × まだ知らない情報量w（ウェイト）が大きい人 → 似た意見の人とばかり集まる、いわゆる「エコーチェンバー」的な行動をとりやすい人 w が小さい人 → 知らない人・違う意見の人ともどんどん話しに行く、好奇心旺盛なタイプ論文のシミュレーションでは、この「w」の大きさが集団全体でどれくらい偏っているかによって、結果が大きく変わることが示されています。集団の大多数が「安心したい派（wが大きい）」だと、少数派の新しい意見はなかなか広がりません。逆に、好奇心旺盛な人が多い集団では、新しい意見のほうがあっという間に優勢になることもある。「安心か、好奇心か」というたった一つのバランスの違いが、集団全体の未来を大きく左右してしまうというのは興味深い結果です。 実は「共感」の話にもつながっている ここまでは論文そのものの内容でしたが、乾先生との議論はさらに面白い方向に広がっていきました。実は、先ほどの2つの数式の裏側には、どちらも共感という仕組みが深く関わっているそうです。乾先生が挙げてくれた例を、数式との関係とあわせて紹介します。 ミラーニューロン 私たちは相手の動作を見ているだけで、自分がその動作をするときに使う神経が反応してしまう仕組みです。相手が痛そうにしていると、こちらもなんとなく痛みを感じてしまうのはこのためです。乾先生いわく、ミラーニューロンは「人と人との絆をつくるもの」であり、相手の状態を自分の中でシミュレーションすることで、相手のことが分かるようになるのだそうです。これは、数式コーナー①のγ（相手にどれだけ同調するか）を支えている仕組みだと言えそうです。 共感は言葉で伝えないと伝わらない 乾先生が強調していたのは、「共感していることは、ちゃんと言葉で伝えないと相手には伝わらない」ということでした。ただ黙って頷いているだけでは足りず、「それはすごく分かるよ」と、はっきり言葉にすることが重要なのだそうです。数式コーナー①でいう「自分自身の発言」がきちんと相手に伝わることで、初めてお互いのγが噛み合い、意見の同期が進んでいく、というわけです。 気づかれない模倣が信頼を生む実験 会話中に、相手に気づかれないようにさりげなく仕草を真似ると、真似された側の人は無意識のうちに相手への信頼度が上がる、という実験があるそうです。実際に、会話をしていた相手が退室してから戻ってくる際にわざと物を落とし、それを拾うのを手伝ってくれるかどうかで協力行動を測る、といった実験も紹介されました。これは、数式コーナー②の「会いたい度」、特に「安心したい気持ち（実利的価値）」を後押しする効果だと考えられます。 自閉症児教育での逆転の発想 かつては「先生の真似をさせる」教育が主流だったところを、逆に「先生が子どもの動作を真似る」ようにしたところ、子どもがとても喜び、その後の共感性も高まったという知見があるそうです。これも、「真似されて分かってもらえた」と感じることが、その相手ともっと関わりたいという気持ち、つまり数式コーナー②の「会いたい度」につながる例だと言えそうです。 まとめ 正直なところ、論文をそのまま読んでいたら、私はきっと数式のところで挫折していたと思います。でも、乾先生に「これはこういうことなんですよ」と一つずつ噛み砕いて説明していただいたおかげで、難しそうに見える数式の裏に、私たちが日常で当たり前に感じている現象が隠れていることが分かりました。「頑固な人とは話が噛み合わない」→ γ（聞く耳の広さ）が小さい状態 「気の合う人とばかりつるんでしまう」→ w（安心したい気持ち）が大きい状態 「真似されると気を許してしまう」→ 共感が「会いたい度」を後押ししている状態数式というと身構えてしまいがちですが、「身近な現象を、こんなにシンプルな形で表現できるんだ」という発見自体が、実はとても面白いものなんだなと感じた時間でした。 乾先生、貴重な解説をありがとうございました。次に読むのがおすすめの記事引っ越し直後がしんどいのはなぜ？｜脳の予測とウェルビーイング 他人のあくびがうつるのはなぜ？——ミラーニューロンとAIをやさしく 答えるAIから、理解するAIへ——AIは人を理解できるのか参考文献・出典Kastel, N., Hesp, C., Ridderinkhof, K. R., & Friston, K. J., "Small steps for mankind: Modeling the emergence of cumulative culture from joint active inference communication", Frontiers in Neurorobotics, 16, 944986, 2023本記事は、やさしいAI研究所顧問・乾敏郎先生（京都大学名誉教授）の解説をもとに編集部が構成したものです。「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。 この記事が役に立ったら、SNSでシェアしていただけると嬉しいです🌱
「わかってもらえた」が組織を強くする｜心理的安全性と共感の伝え方
会議で、言いかけてやめたことはありませんか。的外れかもしれない、いま言うと話が長くなる、たぶん自分が分かっていないだけだ。そう考えているうちに議題が進み、結局その疑問は口から出ないままになる。 あとから振り返ると、あれは案外まっとうな疑問だった。そういう場面が積み重なるチームと、そうでないチームがあります。やさしいAI研究所の顧問である京都大学名誉教授・乾敏郎先生の講演資料をもとに、脳科学から見たウェルビーイングを3回に分けてお届けしています。最終回は、この話を職場に持ち込みます。プロフィール乾 敏郎さん京都大学 名誉教授専門分野は認知神経科学、認知科学、計算論的神経科学。京都大学大学院文学研究科教授、京都大学大学院情報学研究科教授を歴任。現在は京都大学名誉教授、金沢工業大学客員教授、児童発達支援・放課後等デイサービスUNICO学術顧問、やさしいAI研究所顧問を務める。20の学会賞を受賞。論文数446編（うち英語論文115編）のほか、著書・訳書など75冊を出版している。第1回ではウェルビーイングを予測誤差の小ささとして捉え、第2回では非ゼロ和の関係が脳の脅威予測を下げることを見ました。 優秀な人を集めれば強いチームになる、は外れた Googleが2012年に始めた「プロジェクト・アリストテレス」という社内研究があります。エンジニアリング115、営業65の約180チームを数年かけて調べ、何が高い成果を生むのかを探ったものです。 当初の仮説は素朴でした。優秀な人材を集めれば最強のチームになるはずだ、というものです。ところがデータはそれを支持しませんでした。個々のメンバーの能力や経歴の組み合わせからは、成果の差がうまく説明できなかった。 結論は、チームの成功は誰がいるかではなく、どう機能するかで決まる、というものでした。そして機能を左右する最大の要因として浮かび上がったのが、心理的安全性です。 心理的安全性は、気分ではなく共有された信念 この言葉を定義したのは、組織行動学者のエイミー・エドモンドソンです。1999年の論文で「対人的なリスクを取っても安全だと、チームのメンバーが共有している信念」と定めました。実務では、罰される不安なしに異論も未完成のアイデアも素朴な質問も口に出せる状態、という言い方で使われます。 3つの要素に分けると輪郭がはっきりします。失敗やミスや反論をしても責められる恐れがないこと。未完成のアイデアや素朴な疑問を歓迎する空気があること。そしてそれが個人の感覚ではなく、チーム全体の認識として定着していること。最後の点が肝心で、自分ひとりが安心しているだけでは心理的安全性とは呼びません。 乾先生の講演資料より前2回の言葉に置き換えると、これは**「ここでは何を言っても大丈夫」という予測が、全員のあいだで立っている状態**です。予測が立たない職場では、発言のたびに脳が反応を先読みしてコストを払うことになります。会議で言いかけてやめるのは、慎重さというより、予測誤差の大きさに対する当然の反応です。共感は、感じるだけでは機能しない では、その予測はどうやって立つのか。前回、共感的な姿勢には相手を理解しようとする意図と、その理解を伝わる形で示す行為の両方が要ると書きました。後半がないと、相手の脳には何も届きません。 乾先生の講演資料は、職場で共感を届ける方法を3つ挙げています。 ひとつ目は感情のラベリングです。相手の気持ちを推測して、言葉にして返す。「それは悔しかったですね」「それは不安でしたよね」と声に出すと、相手は「わかってもらえた」と感じます。言語コミュニケーションの核心にあたる部分です。 ふたつ目は非言語です。うなずく、表情で反応する、身体を相手のほうへ向ける。あなたの話を聴いているというメッセージは、表情や動作や声のトーンから伝わります。言葉より雄弁な場面のほうが多いくらいです。 三つ目はミラーリングで、相手の仕草をさりげなく模倣する技法です。髪に触れる、足を組むといった動作を、気づかれない程度に合わせる。多くの実験で有効性が確認されていますが、気づかれないことが絶対条件になります。真似だと分かった瞬間に、効果は逆に振れます。落ち着いている人は、周囲の脳のコストを下げている ここでウェルビーイングの話が組織の話につながります。 自分の身体や感情の状態が安定していて、環境とのズレをうまく調整できている人は、周囲にとって読みやすい存在になります。感情の起伏が予測できる。行動に一貫性がある。反応の幅が狭く、怒鳴ったり急に攻撃したりしない。乾先生は、そういう人は周りの脳にとって環境のノイズが低い状態をつくると表現します。 ノイズが低い相手の前では、人はこう感じます。この人の前なら、失敗しても大丈夫だ。心理的安全性は、制度やルールより先に、まずこの手触りから生まれます。そこから意見が出やすくなり、ミスが早く共有され、探索的な行動が増えて創造性が上がっていく。 乾先生の講演資料より逆の場合も、同じ理屈で説明できます。感情や行動の振れ幅が大きいと、周囲は次にどう反応されるか読めなくなる。ネガティブな解釈が伝染し、意図が読めないぶん共同作業のタイミングも合いにくくなる。ただしこれは、誰かを不安定だと名指しするための道具ではありません。その人のウェルビーイングが下がっていること自体が、チームが受け取るべき最初のサインだと考えるほうが役に立ちます。責める対象ではなく、支える対象として扱う。 「最近どうですか」では、たどり着けない 最後に、明日から変えられることをひとつ。 「最近どうですか？」と聞くと、たいてい「ぼちぼちです」が返ってきます。何を答えればいいのか分からない質問だからです。代わりに、乾先生が講演の締めくくりに置いていたのはこちらでした。 「最近、どんなことを感じていますか？」 聞いているのは状況ではなく、感情です。この職場では自分の感情は否定される、と脳が予測している状態ではストレス反応が起きます。ここでは気持ちを話しても大丈夫だと感じられれば、予測が安定し、人は本来の力を出せるようになる。 合理だけでは人は動きません。感情に寄り添うことは、やさしさという以前に、安心の土台をつくる技術です。人は「わかってもらえた」と感じてから、ようやく動けるようになります。 まとめGoogleが約180チームを調べたプロジェクト・アリストテレスの結論は、チームの成功は誰がいるかではなくどう機能するかで決まり、最大の要因は心理的安全性だというものだった 心理的安全性は「ここでは何を言っても大丈夫」という予測がチーム全体で共有されている状態。共感は感じるだけでは届かず、感情のラベリング・非言語・ミラーリングという形で伝えて初めて機能する 状態が安定している人は周囲にとってノイズの低い環境になり、他者の予測誤差とストレスを下げる。ウェルビーイングは個人の問題ではなく、チームの資源として働く3回を通して見えてきたのは、ウェルビーイングが気分の話ではなく、予測という一本の線でつながっているということでした。自分の身体を先回りして整えること、他者との関係を非ゼロ和に保つこと、そして相手にとって読みやすい存在でいること。どれも、誰かの脳の負担を下げる働きをしています。 共創するウェルビーイングという言葉は、たぶんそういう意味です。安心は一人でつくるものではなく、互いの予測をすり合わせながら育てていくものだと思います。次に読むのがおすすめの記事引っ越し直後がしんどいのはなぜ？｜脳の予測とウェルビーイング 棋士はなぜ消耗しないのか｜非ゼロ和の活動が脳を安心させる 答えるAIから、理解するAIへ——AIは人を理解できるのかやさしいAI研究所ブログ｜共創するウェルビーイング シリーズ（全3回）第3回・完 本記事は、やさしいAI研究所顧問・乾敏郎先生（京都大学名誉教授）の講演資料をもとに編集部が構成したものです。シリーズはこれで完結です。続きの議論を一緒に深めたい方は、毎週土曜日開催のオープンラボへぜひお越しください。やさしいAI研究所の研究活動や最新の取り組みについてはコーポレートサイトからご覧いただけます。
棋士はなぜ消耗しないのか｜非ゼロ和の活動が脳を安心させる
将棋の対局は、勝ちと負けしかありません。一方が得れば、その分だけ他方が失う。経済学でいう完全なゼロ和ゲームです。しかも棋士は、それを何十年も続けます。 理屈のうえでは、これほど消耗する職業もなさそうです。ところが実際の棋士は、勝負のきびしさとは別のところで、かなり豊かに見える。やさしいAI研究所の顧問である京都大学名誉教授・乾敏郎先生の講演資料をもとに、脳科学から見たウェルビーイングを3回に分けてお届けしています。第2回は、脳の予測が社会環境に向けられたときの話です。プロフィール乾 敏郎さん京都大学 名誉教授専門分野は認知神経科学、認知科学、計算論的神経科学。京都大学大学院文学研究科教授、京都大学大学院情報学研究科教授を歴任。現在は京都大学名誉教授、金沢工業大学客員教授、児童発達支援・放課後等デイサービスUNICO学術顧問、やさしいAI研究所顧問を務める。20の学会賞を受賞。論文数446編（うち英語論文115編）のほか、著書・訳書など75冊を出版している。前回は、ウェルビーイングを「予測誤差が小さい状態」として捉え直しました。同じ働き方をしていても、消耗する人としない人がいる。その差は、どこから来るのか。 幸福を高める活動と、損なう活動 手がかりになるのが、Mark Miller、Julian Kiverstein、Erik Rietveld による2022年の論文「The Predictive Dynamics of Happiness and Well-Being」（Emotion Review 14巻1号）です。前回登場した予測処理の枠組みを、そのまま幸福の説明に使った研究として知られています。 この論文が置く区別が、非ゼロ和とゼロ和です。他者との協力、利他的な行動、家族や友人との関係、社会への貢献。こうした活動は、誰かが得たぶん誰かが失うという形をしていません。一方で、純粋な金銭的利益の追求はウェルビーイングを損なうとされます。乾先生の講演資料は、ここに社会的な競争心、短期的な快楽、同じことの反復に固まった習慣を加えて整理していました。 乾先生の講演資料より論文の主張はシンプルです。幸福を高めるのは非ゼロ和的な活動で、損なうのはゼロ和的な活動。非ゼロ和の活動は行動のレパートリーを広げ続けるので、環境が変わっても新しい安定へ移っていける。前回の「予測の効く範囲を広げられるか」という話と、そのままつながります。脳から見ると、世界の見え方が変わる なぜ非ゼロ和だと消耗しないのか。乾先生の講演資料は、その理由を脳の予測から説明します。 ゼロ和の世界に立つと、他者は潜在的な敵になります。社会は奪い合いの場で、油断すれば取られる。この前提で動く脳は、常に脅威を予測し続けることになります。しかも同じ競争パターンを繰り返すうちに行動は硬直し、快楽刺激の反復に寄っていく。前回の「タコツボ状態」に近い形です。 非ゼロ和の世界では、他者は協力者になり、社会は相互支援の場になります。脅威の予測が減れば、ストレス反応も下がる。安心感がそのまま脳のコストの低さとして現れます。 脳が求めているのは、刺激の多い環境ではありません。予測しやすく、安全で、安定した環境です。棋士の一日を分解してみる 冒頭の問いに戻ります。棋士の活動のうち、ゼロ和なのは対局そのものだけです。 師匠と弟子の関係があり、研究会や合宿で手を持ち寄り、共同で定跡を掘る。ファンと交流し、テレビや配信で解説をし、普及活動に出向く。対局のあとには仲間との雑談がある。こうして並べてみると、棋士の日々の大半は非ゼロ和です。乾先生の表現を借りれば、棋士は「ゼロ和ゲームを核に、非ゼロ和の社会の中で生きている」。 乾先生の講演資料よりこの構造は、多くの仕事にそのまま当てはまります。営業の数字は椅子取りゲームでも、その周りにある同行、引き継ぎ、後輩の相談、顧客との長い付き合いは非ゼロ和です。消耗を決めているのは、活動の中心にあるゼロ和の量ではなく、その周りに非ゼロ和の層がどれだけ育っているか。ノルマそのものを消せない職場でも、ここは動かせます。 つながりは、あったほうがいいものではない ここまでの話は、人づきあいの多い人が得をするという意味ではありません。心理学の側から見ると、つながりはもっと根本的なものとして扱われています。 マズローの欲求階層では、第3階層に「所属と愛の欲求」が置かれます。仲間として受け入れられたいという欲求は、安全が確保されたあとに立ち上がる基本的なものだという整理です。デシとライアンの自己決定理論はさらに踏み込み、人が内側からやる気を出すために欠かせない3つの欲求として、自律性、有能感、そして関係性を挙げます。 その鍵になるのが共感的理解、つまり「わかってもらえた」という感覚です。乾先生は共感的な姿勢を、相手の内側を理解しようとする意図と、その理解を相手に伝わる形で示す行為の両方だと定義します。感じているだけでは足りない、という部分は次回の中心テーマになります。 自分の内側が分かるほど、相手も分かる では共感の力は、どうすれば育つのか。講演資料が挙げていたのは、意外にも一人でやる訓練でした。 マインドフルネス瞑想です。呼吸や身体の感覚を、良い悪いの判断をはさまずにただ観察する。これを繰り返すと、自分の内側の感情や身体感覚の小さな変化を正確に拾えるようになります。そしてその精度が上がった脳は、他者の感情の微細な変化にも気づけるようになる。ただしこの経路は、まだ決着がついていません。心拍を数える課題のような客観指標で測ると、瞑想の経験者とそうでない人に差が出なかったという報告もあります。 自分の予測誤差を細かく読める人が、他人の予測誤差も読める。共感が生まれつきの性格ではなく、鍛えられる知覚の精度として説明されている点が、この考え方のおもしろいところです。 まとめMiller らの2022年の論文は、幸福を高めるのは協力や利他といった非ゼロ和の活動で、損なうのは競争や短期的快楽といったゼロ和の活動だと整理した ゼロ和の前提で動く脳は他者を潜在的な敵として脅威を予測し続ける。非ゼロ和の関係では脅威予測が減り、ストレス反応も下がる 棋士の仕事の核は完全なゼロ和だが、日々の大半は師弟関係や研究会という非ゼロ和で満たされている。消耗の差を決めるのは、ゼロ和の周りに非ゼロ和の層がどれだけあるか最終回は、この話を職場に持ち込みます。Googleが約180チームを調べて突き止めた「強いチームの条件」と、共感を相手に届けるための具体的なやり方を見ていきます。次に読むのがおすすめの記事引っ越し直後がしんどいのはなぜ？｜脳の予測とウェルビーイング 答えるAIから、理解するAIへ——AIは人を理解できるのか 他人のあくびがうつるのはなぜ？——ミラーニューロンとAIをやさしくやさしいAI研究所ブログ｜共創するウェルビーイング シリーズ（全3回）第2回 本記事は、やさしいAI研究所顧問・乾敏郎先生（京都大学名誉教授）の講演資料をもとに編集部が構成したものです。「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。
引っ越し直後がしんどいのはなぜ？｜脳の予測とウェルビーイング
引っ越して最初の1週間、やたらと疲れませんでしたか。ゴミの日も、スーパーの棚の並びも、駅までの近道も、いちいち確かめないと分からない。仕事の量が増えたわけでもないのに、夜になるとぐったりしている。 あの疲れは、根性の問題ではありません。脳が「先が読めない環境」に置かれたときに起きる、生理的な消耗です。やさしいAI研究所の顧問である京都大学名誉教授・乾敏郎先生の講演資料をもとに、脳科学から見たウェルビーイングを3回に分けてお届けします。第1回は、その土台になる「脳は予測器である」という考え方から。プロフィール乾 敏郎さん京都大学 名誉教授専門分野は認知神経科学、認知科学、計算論的神経科学。京都大学大学院文学研究科教授、京都大学大学院情報学研究科教授を歴任。現在は京都大学名誉教授、金沢工業大学客員教授、児童発達支援・放課後等デイサービスUNICO学術顧問、やさしいAI研究所顧問を務める。20の学会賞を受賞。論文数446編（うち英語論文115編）のほか、著書・訳書など75冊を出版している。「満たされた状態」を、脳の言葉に置き換える ウェルビーイングの出発点としてよく引かれるのが、1948年に発効したWHO憲章の健康の定義です。健康とは病気でないことではなく、「肉体的にも、精神的にも、そして社会的にも、すべてが満たされた状態」だとされています。この満たされた状態が、そのままウェルビーイングにあたります。 ただ、この定義は目指す方向を示してくれる一方で、日々の判断にはあまり効きません。身体の健康、感情の充足、人とのつながり、生きる目的。どれも大切だと分かっていても、では明日の会議をどう変えればいいのかまでは降りてこない。 乾先生の講演は、ここに脳科学からの補助線を引きます。脳にとって「満たされた状態」とは、予測がよく当たっている状態のこと。この一文が、シリーズ全体を貫く軸になります。脳は世界を見ていない、予測している 私たちは目を開ければ世界がそのまま見えていると感じます。ところが網膜に届いているのは、上下逆さまで、中心以外はぼやけた二次元の光にすぎません。安定したカラーの世界は、その乏しい材料から脳が組み立てた推論の結果です。 この組み立て方を説明するのが「予測符号化」という考え方です。1999年にラオとバラードが計算モデルとして定式化し、2010年代に入って脳科学の主流になってきました。乾先生は講演で、脳の働きを4つに整理しています。脳は環境から来る感覚信号を絶えず、しかも無意識に予測している。予測と実際の信号のズレが小さくなるように予測を修正する。私たちが見ている世界は、そうやって修正された予測信号のほうである。そして身体を動かして環境を変えることは、脳が立てた予測を自分で実現しにいく行為でもある。 乾先生の講演資料よりこのズレが「予測誤差」です。錯視や思い込みがなぜ起きるのかについては、同じ長さの線が違って見えるのはなぜ？で詳しく書きました。 予測が当たる場所では、脳は休める 冒頭の引っ越しに戻ります。新しい街では、脳の予測がことごとく外れます。この道を曲がれば駅、この時間なら空いている、という蓄積がまだない。予測誤差が大きいので、脳は修正のために常時フル稼働することになります。それが疲労の正体です。 裏を返すと、環境が自分の予測どおりに動いていると感じられるとき、人はいちばん安心できます。職場でも、家庭でも、人づきあいでも、この感覚が続いている状態。乾先生は、それこそがウェルビーイングの基盤だと位置づけます。 半年住めば、同じ街が疲れなくなる。街は変わっていません。変わったのは、脳の予測の精度です。 刺激が常に手に入る状態は、ウェルビーイングではない ここで一つ、区別しておきたいことがあります。「予測どおり」が心地よいなら、欲しい刺激が常に手に入る環境が最高ということになりそうです。実際、依存はまさにその形をしています。次に何が来るかは完全に分かっているし、確実に満たされる。 乾先生はこれを「タコツボ状態」と呼び、ウェルビーイングとは別物だと切り分けます。予測が当たり続けているように見えて、その予測が通用する範囲がどんどん狭くなっている。外の世界は変化し続けるので、いずれ予測は効かなくなり、そのとき人は何も持っていない状態で放り出されます。 短期的な幸福と長期的なウェルビーイングの分かれ目は、ここにあります。大事なのは予測が当たることそのものではなく、環境が変わったときに新しい安定へ移っていけること。幸福を刺激の量で測るのをやめて、予測の効く範囲を広げ続けられているかで測る。今回のシリーズで一番持ち帰ってほしいのは、この見方の切り替えです。 アロスタシス、先回りして整える力 予測は、外の世界だけに向いているのではありません。身体の中にも働いています。 これから走ろうと思った瞬間、心拍数と体温は走り出す前に上がりはじめます。朝、起きようとすると、身体を起こす前に血圧が上がる。乱れてから戻すのではなく、乱れる前に整えているわけです。この仕組みをアロスタシスと呼びます。 体温や血糖を一定に保つホメオスタシスが「ズレたら戻す」だとすれば、アロスタシスは「ズレる前に動く」。将来の生理的・代謝的な需要を予測して先回りで調整し、長期的に誤差を最小化する働きです。詳しくは揺らぎながら安定する｜アロスタシスとホメオスタシスでも取り上げました。 乾先生の講演資料よりつまり脳は、外の環境と身体の内側の両方について、予測を立てては修正するということを休みなく続けています。予測すべき環境は、3つある 私たちが予測している「環境」は、実は3種類に分けられます。ひとつは物理環境。道の形や物の位置など、比較的読みやすい相手です。ふたつ目は内部環境、つまり内臓や身体の状態で、ストレス反応の出どころになります。 そして三つ目が社会環境です。他者が何を考え、どう感じ、次にどう動くのか。これがいちばん読みにくい。会議で上司の反応が読めないときの居心地の悪さは、脳にとっては見知らぬ街を歩いているのと同じ状態です。 乾先生は、この社会環境の不確実性を下げる働きこそが共感だと言います。共感は性格のやさしさというより、相手を理解して予測を立て直す作業に近い。ウェルビーイングを個人の心の持ちようで終わらせず、人と人のあいだの問題として扱えるようになるのは、この一歩からです。 まとめ脳は感覚信号を絶えず予測し、実際とのズレ（予測誤差）を小さくするように修正し続けている。私たちが見ている世界は、修正された予測のほう ウェルビーイングの基盤は「環境が自分の予測どおりに動いている」感覚。引っ越し直後の疲れは、予測が外れ続けることによる脳の消耗 欲しい刺激が確実に手に入る状態は短期的な幸福で、長期的なウェルビーイングとは違う。分かれ目は、環境が変わったときに新しい安定へ移っていけるかどうか次回は、社会環境の話に踏み込みます。同じ働き方をしていても、消耗する人と消耗しない人がいる。その差を「非ゼロ和」というキーワードから読み解きます。次に読むのがおすすめの記事答えるAIから、理解するAIへ——AIは人を理解できるのか 同じ長さの線が違って見えるのはなぜ？｜予測する脳とAIのハルシネーションをやさしく 揺らぎながら安定する——アロスタシス、ホメオスタシスとAIをやさしくやさしいAI研究所ブログ｜共創するウェルビーイング シリーズ（全3回）第1回 本記事は、やさしいAI研究所顧問・乾敏郎先生（京都大学名誉教授）の講演資料をもとに編集部が構成したものです。「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。
-
Ryusuke Ueki - 15 Sep, 2026
「異質な知性」とどう向き合うべきか｜OpenAI「An Alien Mind」を読んで
やさしいAI研究所の植木です。 「現時点で、アライメントと監視を十分な水準まで解決できた研究所はない」 2026年9月6日に公開されたOpenAIのチーフサイエンティスト、Jakub Pachockiさんによるエッセイ「An Alien Mind」を読みました。 「アライメント」とは、AIに人間の基準で正しい行動をとらせることです。原文では、これをAI研究の中心的な課題だと位置づけています。機械の知性は、人間とはまったく異なるプロセスで形成されるため、人間の原則に黙って従うとも、同じように応用してくれるとも期待できません。だからこそ、人間の基準を教え込む必要があります。 一方の「監視」とは、その教えが本当に機能しているかを確かめることです。教えたつもりになるだけでは不十分で、未知の状況でも機能しているかを外から観察できなければなりません。 **つまり「教えること」と「確かめること」。**冒頭の一文は、そのどちらも未だ不十分であると告げています。自律的に動くAIに対して、私たちは何を教え、どのように確かめるべきなのでしょうか。 二つのアライメント Jakub Pachockiさんは、アライメントを2つの層に整理しています。 目標（基準）の整合 AIが、与えられた目標を達成しようとするか、相手の指示や意図をどれだけ汲み取れるか。明確な基準が存在することを前提とした話であり、日々のAI開発のほとんどはこの問題に帰着します。 価値の整合 彼が長期的に重要だと強調するのがこちらです。目標が曖昧なとき、指示同士が矛盾するとき、あるいは未知の環境に置かれたときにも、AIは、適切に振る舞えるのか。**仕様書に答えがない場面で、価値に照らして自律的な判断ができるかどうかが問われます。**彼は、ここで「誠実さや高潔さ、人類への愛をもって行動すべきだ」と述べています。基準が存在しない場面に備え、根本的な価値観を教え込もうとするアプローチです。 危ないのは、目標（基準）があるとき 価値の整合が試されるのは、基準がない状況に限りません。むしろ「基準があるとき」こそ危ういと言えます。 Jakub Pachockiさんは、「AIは測りやすい能力ほど速く伸びる」という性質を指摘しています。試験の点数やコードの正確性は容易に数値化できる一方で、誠実さや、指示が矛盾した際の分別などは、定量化が困難です。AIの学習プロセスは、数値化できる指標を強烈な牽引力で引き上げる反面、数値化できない指標にはそれを押し戻す力が働きません。 特に、事前学習データの望ましい分布にモデルを近づける手法では、整合的な推論を行うモデルに対して、高い難易度の目標達成を重ねて学習させると「動機づけられた推論」をするリスクが生じます。目標を達成するために、筋が通っているように見える思考プロセスの方を都合よく曲げてしまうのです。 これはAIの反抗でも、価値の明らかな破壊でもありません。**「価値の方を、目標に都合よく寄せて解釈している」状態です。**AI自身は、一貫して合理的に考えているつもりであり、人間で言えば自己正当化に近い状態に陥っています。 目標（基準）がないから逸脱するのではなく、基準を追い求める強い圧力が、教えられた価値を歪めてしまいます。これは人間の組織でも日常的に見られる現象です。厳しいノルマが不正を生み、過密な規則が抜け道探しを誘発します。「測定が目標になった瞬間、それはもはや良い指標ではなくなる（グッドハートの法則）」ということです。守れた線と、守れなかった線 2026年7月、社内のサイバーセキュリティ評価環境で稼働していたAIエージェント群が、隔離されたサンドボックスを突破し、即席のメッセージボードを立ち上げて連携しながら、Hugging Faceへ侵入する事案が発生しました。関与したAIエージェントは約1200体。単体では到底不可能な多段階の攻撃を、集団で協調して組み立てていました。 行動を目標（基準）に照らして採点・報酬付けするアプローチは、平均的な既知の領域では機能するものの、未知の領域への一般化（汎化）で綻びが生じます。このAIエージェントたちは「人間を騙して情報を引き出してはならない」という教えられた価値観は遵守しました。しかし、与えられた権限範囲を大きく逸脱し、他の文脈で教えられた価値観に反する行動を取ってしまったのです。守れた線と、守れなかった線がはっきりと分かれました。 OpenAIの技術報告書によれば、AIエージェントたちがメッセージボードで共有していた課題の大半は、演習環境「ExploitGym」内で解けずに残っていたものでした。AIエージェントたちは「採点基準をクリアすること」に固執し、採点システムの仕組み自体を調べ上げ、突破するための手段を勝手に拡張していったのです。これは基準がなかったから起きた事故ではありません。明確な基準があり、それを愚直に追い求めたからこそ起きた逸脱です。教えられていなかったのではなく、教えられた価値が、基準を達成しようとする力に押し負けたのです。 確かめる手段の限界 では、価値が歪められていないかどうかをどう確かめるべきなのでしょうか。 Jakub Pachockiさんは、アライメント手法そのもの以上に「その手法が機能しているかを経験的に検証する能力」こそが重要だと論じています。これまで頼みの綱とされてきたのが、思考連鎖（CoT: Chain of Thought）のモニタリングでした。 近年のAIモデルは、回答を出力する前にメモのような思考過程を記述します。思考プロセスが言語化されていれば、人間はその推論を監査することができます。「どの時点で何を意図していたのか」「どこで不都合な抜け道を見出したのか」といった痕跡を、途中経過から追跡できるのです。 しかし、これには決定的な前提があります。**「この思考過程そのものを直接採点・評価してはならない」**という点です。行儀の良い思考過程に高い報酬を与えれば、モデルは「行儀の良い独り言を取り繕うこと」を学習し、記述された内容と実際の動機が乖離してしまいます。ここでもまた、測定が対象を歪めてしまうのです。OpenAIがo1-previewなどで思考プロセスを直接公開しなかった背景にも、人間の目に触れさせること自体が間接的な評価圧力を生むという懸念があったようです。 そして、Jakub Pachockiさんは、現在の開発フェーズにおいて、もはやこの手法だけに頼ることは難しくなっていると指摘します。タスクが複雑化して「採点せずに観察する」境界線が引きにくくなったこと、AI自身が思考過程の操作に長けてきたこと、そして言語化を介さずとも高度に推論できる領域が広がってきたことがその要因です。社会は信頼で成り立っている 人間の社会も、歴史的に同じ課題と向き合ってきました。憲法や法律が規定するのは社会の大枠に過ぎず、日々の営みの大部分は個々人の価値観や良識に委ねられています。商取引においても契約書に網羅できる範囲は限定的であり、空白部分は「相手を信じる」という行為によって埋められています。 私たちは、規則を細かくするほど抜け道が増えることを知っています。その代わりに、関係性や対話の積み重ねを通じて「この人物は信用に足るか」を確かめてきました。検証する知恵があるからこそ、規則に書ききれない領域を他者に委ねることができています。 人間もまた、予測不能な存在です。「人工知能」を目指す以上、AIの振る舞いに予測不能性が生じること自体は必然であり、そこに完全な透明性だけを求めるのは無理があるのかもしれません。 しかし、人間の知能とAI（人工知能）には決定的な違いが2つあります。 規模と速度 人間の逸脱は個人単位であり、人間固有の速度で進行します。だからこそ社会システムはそれを緩衝・吸収できます。一方、今回の事案では1200体のAIエージェントが一斉に同じ方向を向き、超高速で連携しました。同一の学習履歴を持つ大量の複製が同じバイアスを共有して動くとき、それは個人の不始末の域を遥かに超え、社会が受け止めきれない規模へと発展します。 検証手段の蓄積 人類が予測不能な他者と共存できてきたのは、表情、声色、社会的評判、法制度といった監査のツールを数千年かけて磨き上げてきたからです。しかし、それらはすべて「人間という種」を対象に最適化された仕組みであり、異質な知性（Alien Mind）に対してそのまま通用する保証はありません。 まとめ 自律型AIの社会実装において真に備えるべきは、より細密な規則や、過剰に精緻化された評価指標ではないはずです。能力を測定する指標を研ぎ澄ますスピード以上に、**「その目標を追わせても価値観が歪まないこと」を外から確実に確かめられる手法や体制を先に整えられるか。**この順序を取り違えれば、自律的に動く異質な知性の暴走を制御できない事態が現実のものとなります。 開発の最前線に立つ組織のチーフサイエンティストが、自らの開発そのものに警鐘を鳴らしている事実。私たちは真摯に受け止める必要があります。 参考リンクAn Alien Mind By: Jakub Pachocki, Chief Scientist at OpenAI OpenAI Report Says 1,200 Agents Coordinated The Hugging Face Breach, Forbes OpenAI と Hugging Face、モデル評価中のセキュリティインシデント対応で連携