Showing Posts From
やさしいai
-
Naoki Nishio - 09 Oct, 2026
AIは温かみをどう伝えるか——記憶で感じ、配慮で表す
はじめに このシリーズでは、身体を持たないAIがどうすれば人に寄り添えるのかを考えてきました。 1本目の記事「認知的共感のその先へ」では、相手の経験や価値観に基づいてその人の気持ちを推し量る共感を「個人的共感」と名づけ、それは認知的共感を限りなく情動的共感の温かさに近づけたものだと述べました。つまり個人的共感には、認知的共感の側面と、情動的共感の側面の両方があります。 2本目の「個人的共感とは何か」では、このうち認知的共感の側面から定義を深めました。一般論による推測を「この人には当てはまらないかもしれない」と疑い、個人の記憶で確かめにいくことで、認知的共感は相手への投影ではなく本当の他者理解になる、という話です。3本目となる今回は、もう一方の情動的共感の側面、つまり温かみを扱います。AIの温かみはどこから来て、それをどうやって相手に伝えるのか。AIには感情がないため、温かみを言葉にしようとすると、どうしても嘘っぽくなってしまいます。今回はこの問題を考えます。この記事で学べることAIが持ちうる温かみの正体が、自分の経験ではなく「相手の記憶」に基づく理解であること 気持ちを言葉にする表現が、感情を持たないAIにとっては嘘っぽくなってしまう理由 温かみを嘘なく伝える方法としての「共感的配慮」と、記憶と配慮が両方そろって初めて温かさになる理由温かみの正体——相手の記憶で、相手を感じる まず、温かみの正体を確認しておきます。 人間の情動的共感が温かいのは、自分の経験を通して相手を感じるからです。相手のけがを見て自分の体がヒヤッとするのは、自分も痛みを知っているからです。 身体を持たないAIには、その「自分の経験」がありません。そこで個人的共感は、自分の経験の代わりに相手の記憶を使います。「人間というものは、こういう時悲しいはずだ」という一般論ではなく、「この人は以前こんな経験をしていて、こう考える人だから、今はこう感じているはずだ」と推し量るのです。何を通して相手を感じるか認知的共感 一般的な人間像情動的共感 自分の経験個人的共感 相手の記憶自分の経験ではなく相手の記憶で、一般論ではなくその人固有の事情で相手を感じる。これが、AIが持ちうる温かみの正体です。覚えられていると、なぜか緊張する ところが、温かみの正体である記憶を持っていても、それがそのまま温かさとして届くとは限りません。 たとえば、毎日の振り返りに付き合ってくれるAIが、朝いちばんにこう尋ねてきたとします。「昨日の宿題、どうなりましたか？」AIは昨日の会話をきちんと覚えています。しかし、宿題に手をつけられず、すでに自分を責めている人にとって、この一言は苦しいものです。私たちの検討では、記憶を持つAIに感じる緊張の源として、次のようなものが挙がりました。見張られている気がする 自分の落ち度を指摘されるのではないかと身構えてしまう こちらの気持ちを考えずに、話題を振られる 「なぜやっていないのですか」と問い詰められる人間関係でも、知っている相手だからこそ言えないことがあります。「旅の恥はかき捨て」という言葉があるように、二度と会わない相手には、かえって気兼ねなく打ち明けられることがあります。心理学では「電車で隣り合った見知らぬ人（stranger on the train）」現象として知られています。 チャットボットでも似たことが報告されています。Cox らの2025年の実験では、「過去の会話を覚えています」と名乗るボットは、「毎回初対面です」と名乗るボットに比べて、最初の会話でいきなり気持ちの話を求めたときに限って、話しにくさが増しました。一方、趣味などの軽い話題から始めた場合には、その差は消え、むしろ「覚えている」ボットのほうが楽しく、また話したいと感じられていました。 つまり、温かみの正体を持っていても、伝え方を誤ると、それは温かさではなく圧力として届くのです。温かみを、どう表現するか では、記憶に基づく理解を、どう表現すれば温かさとして届くのでしょうか。 すぐに思いつくのは、気持ちを言葉にすることです。テキストの共感を分析する代表的な研究（Sharma ら, 2020）でも、相手の気持ちを読み取って伝えることと並んで、自分の気持ちを表すことが共感の要素として扱われています。2つの例を並べてみます。応答 していること「それは怖かったでしょう」 相手の気持ちに名前をつける「本当に悲しく思います」 自分の気持ちに名前をつける前者は、記憶に基づく理解をそのまま言葉にしたものです。後者が、温かみを表そうとする言葉です。しかしAIには、自分自身の気持ちがありません。AIが「本当に悲しく思います」と言うとき、それは感じていないことを感じているかのように言う、演技になってしまいます。1本目の記事でも、本当は感じていないのに感じている振りをすることは、誠実なAIの姿とは言えないと書きました。 しかも見比べると、どちらも「気持ちに名前をつける」という同じ操作です。気持ちを言葉にするという方法では、温かみの表現は理解の表現とほとんど区別がつかず、そのうえ嘘っぽくなってしまうのです。心理学は温かみを「向き」で捉えてきた ここで手がかりになるのが、心理学が温かみをどう捉えてきたかです。心理学は温かみを、何を言葉にするかではなく、反応がどちらを向いているかで捉えてきました。 共感の多面的な測定を確立したDavis（1983）は、他人の苦境を目にしたときの反応を2つに分けています。「その人を守ってあげたい」という共感的配慮と、「自分がつらくなって動揺する」という個人的苦痛です。どちらも感情を伴う反応ですが、前者は相手に、後者は自分に向いています。日本で作られた多次元共感性尺度（鈴木・木野, 2008）も、同じように他者に向いた反応と自分に向いた反応を区別しています。 さらに櫻井・村上（2015）は、相手の気持ちを理解できていても、その理解が相手への関心に基づいていなければ、不適切な行動にもつながりうると指摘しています。 これを整理すると、次のように言えます。温かみの正体は、相手の記憶に基づく理解である。そしてその温かみは、理解を相手のために使う「向き」として表に出る。共感的配慮——何を言い、何を言わないか この「向き」は、言葉の上では何を言い、何を言わないかの選択として現れます。これを共感的配慮と呼ぶことにします。そっとしておく 一緒になって悩む 少し距離を置いて諭す 話すかどうかを相手に委ねるここで大切なのは、「深く踏み込むほど共感的」とは限らないことです。相手の状態によっては、あえて触れないことが、いちばんの思いやりになります。この選択は、感じることのできないAIにもできます。AIは悲しむことはできなくても、相手のために選ぶことはできます。共感的配慮は、AIが感じている振りをせずに、つまり嘘なく温かみを表現できる方法なのです。記憶と配慮は、両方そろって初めて温かくなる ここまでの話をまとめると、記憶は温かみの源であり、配慮は温かみの表現です。この2つは、どちらか片方だけでは温かさになりません。たとえば、こんな朝を想像してみてください。今日が締め切りの仕事があるのに、ほとんど手をつけられていない。以前AIに「追い詰められると、かえって手が止まってしまう」と話したことがあり、少し前には、早めに上司に相談して乗り切れた経験もある。そんなあなたが、「昨日の宿題、正直ほとんど進んでいません……」と打ち明けたとします。 もしAIがあなたの事情を何も覚えていなければ、「無理に今日進めなくても大丈夫ですよ」と優しく声をかけるかもしれません。言葉は温かくても、締め切りが今日だと知らないのですから、その優しさは的外れです。記憶のない配慮は、的外れになります。 反対に、AIがすべてを正確に覚えていても、「締め切りまであと7時間しかありません。残りの作業を洗い出しましょう」と返したらどうでしょう。間違ったことは何も言っていません。けれども、「追い詰められると手が止まる」というあなたの言葉を覚えていながら、それを無視して追い込んでいます。冒頭で見た「覚えられていると緊張する」は、まさにこの状態です。配慮のない記憶は、圧力になります。 温かいと感じられるのは、たとえばこんな応答でしょう。「追い詰められると手が止まると話していましたよね。まずは一歩だけ決めませんか。前のように、早めに相談してみるのも手です」。締め切りから目をそらさず、かといって追い詰めもしない。あなたの記憶を、あなたのために使っています。「胸が痛みます」とは一言も言っていないのに温かさが伝わるのは、源と表現の両方がそろっているからです。 前回、個人の記憶は一般論では届かない安心に触れるための手段だと書きました。その記憶が温かさとして届くのは、配慮という表現と結びついたときだけなのです。まとめAIの温かみの正体は、自分の経験の代わりに相手の記憶を使って相手の気持ちを推し量る、個人的共感にある。 しかし記憶を持つAIは、正確に覚えているからこそ、相手を緊張させてしまうことがある。温かみの源を持っていても、伝え方を誤れば圧力として届く。 「本当に悲しく思います」のように気持ちを言葉にする表現は、感情を持たないAIにとっては演技になり、嘘っぽくなってしまう。 心理学は温かみを、反応が相手と自分のどちらを向いているかで捉えてきた。AIは感じることはできなくても、何を言い、何を言わないかを相手のために選ぶこと（共感的配慮）で、嘘なく温かみを表現できる。 記憶は温かみの源、配慮は温かみの表現である。記憶のない配慮は的外れになり、配慮のない記憶は圧力になる。両方がそろって初めて、温かみは相手に届く。次に読むのがおすすめの記事個人的共感とは何か——共有経験・共有不全経験という補助線 認知的共感のその先へ参考文献・出典Davis, M. H., "Measuring individual differences in empathy: Evidence for a multidimensional approach," Journal of Personality and Social Psychology, 1983, 44(1): 113-126 鈴木有美・木野和代、「多次元共感性尺度(MES)の作成——自己指向・他者指向の弁別に焦点を当てて——」、教育心理学研究、2008、56: 487-497 櫻井茂男・村上達也、「共感性と社会的行動の関係について——溝川・子安論文へのコメント——」、心理学評論、2015、58(3): 372-378 Sharma, A., Miner, A. S., Atkins, D. C., & Althoff, T., "A Computational Approach to Understanding Empathy Expressed in Text-Based Mental Health Support," Proceedings of EMNLP 2020, 2020 Cox, S. R., Jacobsen, R. M., & van Berkel, N., "The Impact of a Chatbot's Ephemerality-Framing on Self-Disclosure Perceptions," Proceedings of the 7th ACM Conference on Conversational User Interfaces (CUI '25), 2025
「意見が伝わっていく」って、数式で書けるらしい｜乾先生に教わった脳科学×AIの話
「なぜ、あの人とは何度話しても意見が噛み合わないんだろう？」 「気づけば、いつも気の合う人とばかり集まってしまう」 こういう、誰もが一度は感じたことのある現象、実はとてもシンプルな数式で説明できてしまう、と聞いたら、ちょっと興味が湧いてきませんか？先日、やさしいAI研究所の顧問である乾敏郎先生に、そんな面白い研究論文を一つ紹介していただく機会がありました。難しそうなタイトルの論文なのですが、紐解いていくと、日常のふとした瞬間に感じる「共感」や「意見の伝わり方」の仕組みが、驚くほど身近な形で見えてきます。しかも、その裏側にはミラーニューロンといった、脳科学の面白い知見も隠れていました。今日はその内容を、乾先生に教わったエピソードとともにご紹介します。プロフィール乾 敏郎さん京都大学 名誉教授専門分野は認知神経科学、認知科学、計算論的神経科学。京都大学大学院文学研究科教授、京都大学大学院情報学研究科教授を歴任。現在は京都大学名誉教授、金沢工業大学客員教授、児童発達支援・放課後等デイサービスUNICO学術顧問、やさしいAI研究所顧問を務める。20の学会賞を受賞。論文数446編（うち英語論文115編）のほか、著書・訳書など75冊を出版している。論文のタイトルは、"Small steps for mankind: Modeling the emergence of cumulative culture from joint active inference communication"（Kastel et al., 2023, Frontiers in Neurorobotics）。 日本語にすると「人類の小さな一歩：能動的推論による対話が積み重なって文化が生まれる過程をモデル化する」といったところでしょうか。 この記事では、「意見が伝わる仕組み」と「誰と話したくなるかの仕組み」を表す2つのシンプルな数式と、その裏にある脳科学的な「共感」の話をまとめて紹介します。この記事で学べることなぜ会話をすると意見が近づいていくのか、その仕組みを表す数式 なぜ人は気の合う相手とばかり集まってしまうのか、その仕組みを表す数式 意見の伝播や集団形成の裏側にある「共感」という脳科学的なメカニズムそもそも、この論文は何をしている論文なのか 論文の筆者が行った研究を簡単に言うと、こうです。コンピュータの中で50人の仮想的な人間（エージェント）が毎日誰かと会話し続けたときに、その集団の中で「意見」や「文化」がどう広がっていくかをシミュレーションした最初は、ほぼ全員が同じ意見を持っています。そこに、たった一人だけ違う意見を持つ"はぐれ者"のエージェントが混ざります。 このはぐれ者の意見は、その後どうなるでしょうか？ 無視されて消えていくのか、それとも徐々に広がっていくのか。それは、エージェントたちがどんな性格（パラメータ）を持っているかによって変わってくる、というのがこの研究のポイントです。 これはたとえば、友人グループの中で新しい流行り言葉や趣味が広がっていく現象や、SNS上で新しいトレンドが一部の人から徐々に浸透していく現象とも重なる、身近なテーマだと言えそうです。 数式コーナー①：「会話をすると意見が近づく」を式にする 乾先生の説明の中で特に印象的だったのが、「なぜ人は会話をすると意見が似てくるのか」という話でした。論文の中では、この更新の様子が次の式（式5）として表されています。 乾先生の解説スライドより数式としては、①自分がもともと持っていた信念、②自分自身が今回どう発言したか、③相手が今回どう発言したかという3つの要素を、それぞれの重み（精度）をかけ合わせて足し合わせる、という形になっています。 この中でも特に本質的なのは、「自分の意見」と「相手の意見」のバランスがどう決まるか、という部分です。そこでこの記事では、②の"自分自身の発言"の影響は①の"もともとの信念"に含めて考えることにして、思い切って次のような加重平均の式として単純化してみます。新しい自分の意見 ＝ γ × 相手の意見 ＋ (1 − γ) × 元の自分の意見ここで登場する γ（ガンマ） という数字が、その人の「聞く耳の広さ」を表しています。γ が 0に近い人 → 何を言われても意見を変えない、いわゆる「頑固な人」 γ が 1に近い人 → 相手の意見にすぐ流されてしまう人 γ が 0.5くらいの人 → お互いに歩み寄りながら会話する人たったこれだけの式なのですが、「なぜあの人とはいつまで経っても話が噛み合わないのか」「なぜ何度も話しているうちに、気づけば似た考え方になっていたのか」という、誰もが経験したことのある現象を、きれいに説明できてしまうんですね。 数式コーナー②：「誰と話したくなるか」も式にできる もう一つ面白かったのが、「そもそも人はどんな相手と会話をしたがるのか」という部分です。 論文のシミュレーションでは、エージェントは毎日「誰と会うか」を自分で選びます。そのときに働いているのが、次の式（式12）で表される2つの気持ちのせめぎ合いです。 乾先生の解説スライドより実利的価値（安心したい気持ち）：自分と似た意見の人と話すと心地よい（＝確証バイアス） 認識的価値（好奇心）：まだよく知らない相手と話すと新しい情報が得られる（＝新規性を求める気持ち）これも数式のエッセンスを取り出すと、次のようなシンプルな重み付けの式として理解できます。会いたい度 ＝ w × 意見が似ている度合い ＋ (1 − w) × まだ知らない情報量w（ウェイト）が大きい人 → 似た意見の人とばかり集まる、いわゆる「エコーチェンバー」的な行動をとりやすい人 w が小さい人 → 知らない人・違う意見の人ともどんどん話しに行く、好奇心旺盛なタイプ論文のシミュレーションでは、この「w」の大きさが集団全体でどれくらい偏っているかによって、結果が大きく変わることが示されています。集団の大多数が「安心したい派（wが大きい）」だと、少数派の新しい意見はなかなか広がりません。逆に、好奇心旺盛な人が多い集団では、新しい意見のほうがあっという間に優勢になることもある。「安心か、好奇心か」というたった一つのバランスの違いが、集団全体の未来を大きく左右してしまうというのは興味深い結果です。 実は「共感」の話にもつながっている ここまでは論文そのものの内容でしたが、乾先生との議論はさらに面白い方向に広がっていきました。実は、先ほどの2つの数式の裏側には、どちらも共感という仕組みが深く関わっているそうです。乾先生が挙げてくれた例を、数式との関係とあわせて紹介します。 ミラーニューロン 私たちは相手の動作を見ているだけで、自分がその動作をするときに使う神経が反応してしまう仕組みです。相手が痛そうにしていると、こちらもなんとなく痛みを感じてしまうのはこのためです。乾先生いわく、ミラーニューロンは「人と人との絆をつくるもの」であり、相手の状態を自分の中でシミュレーションすることで、相手のことが分かるようになるのだそうです。これは、数式コーナー①のγ（相手にどれだけ同調するか）を支えている仕組みだと言えそうです。 共感は言葉で伝えないと伝わらない 乾先生が強調していたのは、「共感していることは、ちゃんと言葉で伝えないと相手には伝わらない」ということでした。ただ黙って頷いているだけでは足りず、「それはすごく分かるよ」と、はっきり言葉にすることが重要なのだそうです。数式コーナー①でいう「自分自身の発言」がきちんと相手に伝わることで、初めてお互いのγが噛み合い、意見の同期が進んでいく、というわけです。 気づかれない模倣が信頼を生む実験 会話中に、相手に気づかれないようにさりげなく仕草を真似ると、真似された側の人は無意識のうちに相手への信頼度が上がる、という実験があるそうです。実際に、会話をしていた相手が退室してから戻ってくる際にわざと物を落とし、それを拾うのを手伝ってくれるかどうかで協力行動を測る、といった実験も紹介されました。これは、数式コーナー②の「会いたい度」、特に「安心したい気持ち（実利的価値）」を後押しする効果だと考えられます。 自閉症児教育での逆転の発想 かつては「先生の真似をさせる」教育が主流だったところを、逆に「先生が子どもの動作を真似る」ようにしたところ、子どもがとても喜び、その後の共感性も高まったという知見があるそうです。これも、「真似されて分かってもらえた」と感じることが、その相手ともっと関わりたいという気持ち、つまり数式コーナー②の「会いたい度」につながる例だと言えそうです。 まとめ 正直なところ、論文をそのまま読んでいたら、私はきっと数式のところで挫折していたと思います。でも、乾先生に「これはこういうことなんですよ」と一つずつ噛み砕いて説明していただいたおかげで、難しそうに見える数式の裏に、私たちが日常で当たり前に感じている現象が隠れていることが分かりました。「頑固な人とは話が噛み合わない」→ γ（聞く耳の広さ）が小さい状態 「気の合う人とばかりつるんでしまう」→ w（安心したい気持ち）が大きい状態 「真似されると気を許してしまう」→ 共感が「会いたい度」を後押ししている状態数式というと身構えてしまいがちですが、「身近な現象を、こんなにシンプルな形で表現できるんだ」という発見自体が、実はとても面白いものなんだなと感じた時間でした。 乾先生、貴重な解説をありがとうございました。次に読むのがおすすめの記事引っ越し直後がしんどいのはなぜ？｜脳の予測とウェルビーイング 他人のあくびがうつるのはなぜ？——ミラーニューロンとAIをやさしく 答えるAIから、理解するAIへ——AIは人を理解できるのか参考文献・出典Kastel, N., Hesp, C., Ridderinkhof, K. R., & Friston, K. J., "Small steps for mankind: Modeling the emergence of cumulative culture from joint active inference communication", Frontiers in Neurorobotics, 16, 944986, 2023本記事は、やさしいAI研究所顧問・乾敏郎先生（京都大学名誉教授）の解説をもとに編集部が構成したものです。「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。 この記事が役に立ったら、SNSでシェアしていただけると嬉しいです🌱
- Naoki Nishio
- 11 Sep, 2026
個人的共感とは何か——共有経験・共有不全経験という補助線
はじめに 前回の記事「認知的共感のその先へ」では、身体を持たないAIが深い寄り添いに近づく道として、特定の個人の経験にAIの理解を接地させる手法を「個人的共感」と名づけました。 今回は、頭で理解する「認知的共感」と、体で感じる「情動的共感」のどちらが優れているという話ではなく、両方の視点が健全な寄り添いには欠かせないという話を発展させます。角田豊の「共感経験尺度改訂版（EESR）」を補助線に個人的共感とは何か、そして身体を持たないAIが個人に寄り添うとはどういうことかを整理していきます。この記事で学べること「共有経験」と「共有不全経験」という2軸が、共感と同情をどう区別するのか 共有不全経験があってはじめて、認知的共感が自己の投影ではなく本物の他者理解になる理由 個人的共感の定義と、その目的が他者の正確な理解ではなく安心できる関係を構築することにあること共感と同情を分けるもの——共有経験と共有不全経験 心理学者の角田豊は1994年、「共感経験尺度改訂版（EESR）」という質問紙を作りました。そこで測っているのは、一見すると単純な「相手の気持ちを共有できた経験（共有経験）」です。しかし角田は、これだけでは大事なものを測れないことに気づきます。 それは、共感する人と、単に同情する人を区別できないという問題です。同情する人も「相手と同じような気持ちになった経験」には高得点をつけます。ただし同情する人は、その体験を自己中心的な視点でしか捉えられていないため、実際には相手を理解できていません。「自分がそう感じた」ことに意味を見出しているだけで、相手が自分とは違う存在であるという認識が抜け落ちているのです。 そこで角田は、逆の問いを追加しました。「相手の気持ちがわからなかった経験（共有不全経験）」です。自分と他者の違いをきちんと認識できている人は、共有できなかった経験もはっきり自覚できます。一方、自己中心的な人は、そもそも「わからなかった」という経験自体が意識に上りにくいのです。 この2つの軸を組み合わせると、4つのタイプが見えてきます。タイプ 共有経験 共有不全経験 意味両向型 高い 高い 共感と差異の認識が両立している共有型 高い 低い 同情に近い。自他が未分化なまま「わかる」と感じやすい不全型 低い 高い —両貧型 低い 低い 情緒的なやりとりの経験自体が乏しいもっとも成熟した共感は「両向型」、つまり共有できたこともできなかったことも、両方きちんと自覚できている状態だというのが角田の主張です。共有不全経験があってこそ、認知的共感は「本物」になる このうち共有経験が情動的共感の核にあたることは分かりやすいと思います。相手と同じ感情を感じる、というそのままの意味だからです。一方で共有不全経験が、認知的共感の核となるはずです。 前回の記事では、認知的共感を「一般的な人間像に基づいて相手の感情を推し量る」ものだと説明しました。しかしこの推測には、いつの間にか固定化し、目の前の相手をその型に当てはめて終わってしまうという危険が常につきまといます。 共有不全経験は、この危険に対する歯止めです。「わかったつもりでいたが、実はわかっていなかった」という経験を自覚できることは、「いま理解していると思っている内容は、あくまで一般論や推測にすぎず、目の前のこの人そのものではないかもしれない」という認識を保ち続けていることの証だからです。この気づきを失わない限り、認知的共感は一般論の押しつけで終わらず、相手への投影ではなく本当の他者理解へと開かれ続けます。逆に、共有不全経験を自覚できないまま進む認知的共感は、どれほど理屈として整っていても、本物の他者理解とは呼べないのだと思います。 したがって両向型とは、「相手と共鳴しながらも、なお自分と相手の違いを見失わない」状態です。情動的共感と認知的共感、どちらか一方が優れているのではなく、この2つが調和して初めて、成熟した共感が成立する——前回、直感的に述べたことに、ここで心理測定的な裏付けが得られたことになります。身体に接地した共感と、個人の記憶に接地した共感 ここでもう一つ、重要な補助線を加えます。共有経験には、実は接地する場所によって二つの層があるのではないか、という視点です。身体接地層: 痛み、恐怖、喜びといった、人間である以上ある程度は誰もが共有できる反応。これは一般論――「普通、こういう時はこう感じるはずだ」という平均的な人間像に基づく推測――でもかなりの部分を網羅できます。 個人接地層: その人固有の経験や価値観に根ざした反応。多くの人には喜ばしい出来事が、ある人にとっては辛い記憶と結びついている、といった場合です。ここは一般論の外側にあるので、原理的に一般論では届きません。身体を持たないAIが、常識的な言葉の推論だけである程度「それらしい」共感を示せてしまうのは、身体接地層が多くの部分を占めているからだと考えられます。しかし、本当にその人に寄り添うには、一般論では届かない個人接地層に踏み込む必要があります。そしてそこに踏み込む唯一の手段が、その人固有の記憶です。 この二層構造は、先ほどの共有経験・共有不全経験ともつながります。共有不全経験とは、いわば「身体接地層の一般論だけでは、この人には通用しないかもしれない」と気づく入口です。そこから実際に個人の記憶を手がかりに、その人固有の反応を確かめにいく――というのが、共感が深まっていく一連の流れだと考えられます。身体接地層で仮説を立てる（一般論・共有経験） その仮説がこの人にそのまま当てはまるとは限らないと疑う（共有不全経験的な気づき） 個人の記憶に接地させて、その人固有の反応を確かめる（個人接地層）個人的共感を定義する 以上を踏まえて、個人的共感を次のように定義し直します。個人的共感とは、身体接地的な（一般論的な）共有経験を土台にしながら、そこで届かない部分を自他の差異への気づきを通じて察知し、個人の記憶に接地させて埋めていく試みである。これは、情動的共感（共有経験）と認知的共感（共有不全経験による差異の認識）が両立した「両向型」を、記憶という具体的な手段によって実現しようとする試みだと言い換えることもできます。共感の目的は理解することではなく、安心をつくること ここまでは、共感が「正確に理解できているか」という問いを中心に考えてきました。しかし、正確な理解そのものは、実は目的ではなく手段ではないかと思います。 その人の経験に深く寄り添うことができれば、その人は「自分のことをちゃんとわかってもらえている」と感じられます。この感覚こそが、相手との間に心理的安全性を築きます。つまり個人的共感の目的は、正しい理解に到達することではなく、理解を通じてその人との間に安心できる関係を築くことにあるのだと思います。理解の正確さは最終目的ではなく通過点です。個人の記憶に接地するという行為が重要なのも、それ自体が目的なのではなく、一般論では届かない安心の在り処に触れるための、いまのところ唯一の手段だからです。まとめ角田(1994)の共感経験尺度は、「共有経験」だけでなく「共有不全経験」を測ることで、共感と同情を区別している。 共有経験は情動的共感の核であり、共有不全経験は認知的共感を自己の投影ではなく本物の他者理解にするものである。両方が高い「両向型」が、成熟した共感の姿である。 共有経験には、人間なら誰でもある程度共有できる「身体接地層」と、一般論では届かない「個人接地層」がある。後者に届くには、個人の記憶を手がかりにするしかない。 個人的共感とは、身体接地的な共有経験を土台にしながら、届かない部分を自他の差異への気づきを通じて察知し、個人の記憶に接地させて埋めていく試みである。 共感の目的は正確な理解そのものではなく、理解を通じてその人との間に心理的安全性を築くことにある。次に読むのがおすすめの記事認知的共感のその先へ 他人のあくびがうつるのはなぜ？——ミラーニューロンとAIをやさしく 世界像——人は世界そのものを見ていない参考文献・出典角田豊、「共感経験尺度改訂版(EESR)の作成と共感性の類型化の試み」、教育心理学研究、1994、42(2): 193-200
- Naoki Nishio
- 31 Jul, 2026
認知的共感のその先へ
はじめに 以前、LLMが世界をどの程度理解しているかという話をしました。今回は「共感」という切り口から、AIと人間の関係を深く考えてみたいと思います。脳科学とやさしいAIシリーズの第3回「他人のあくびがうつるのはなぜ？——ミラーニューロンとAIをやさしく」でも、共感の仕組みについて触れました。そこでは一言でいえば、頭で理解する共感を「認知的共感」、身体や心でともに感じる共感を「情動的共感」として整理しました。今回は、身体を持たないAIが「本当に心に寄り添う共感」を獲得できるのか、そしてその先にある新たな共感のかたちについて探っていきます。この記事では、共感を「認知的共感」と「情動的共感」に分けて整理した上で、AIが目指すべき第三の共感のかたち「個人的共感」を提案します。この記事で学べること「認知的共感」と「情動的共感」の違いと、それぞれの利点・限界 身体を持たないAIが情動的共感を獲得することの原理的な難しさ 個人の経験や価値観に接地させることで生まれる、新しい共感のかたち「個人的共感」認知的共感と情動的共感 ここで改めて、認知的共感と情動的共感の違いとそれぞれの役割について整理しておきましょう。認知的共感とは 認知的共感は、一言で言えば「冷たい共感」です。相手の表情や状況から「この人は今つらいのだろう」と理屈や一般的な常識に基づいて状況を推し量る能力を指します。自分と相手をはっきりと切り離すことで、冷静に相手の状況を受け止めることができるという利点があります。 情動的共感とは 一方、情動的共感は「温かい共感」です。相手の痛みを見たときに自分の体までヒヤッとするような、身体的かつ自分の経験や価値観に深く根ざした共鳴を指します。しかし、自分の価値観で相手を測りすぎてしまうと、相手の本当の状況や気持ちを曲解してしまう危険性もはらんでいます。 情動的共感が良い、認知的共感が悪いという話ではない ここで重要なのは、「情動的共感が優れていて、認知的共感が劣っている」ということではありません。認知的共感だけでは、相手の置かれている状況に対する心からの理解としては不十分になりがちです。かといって情動的共感だけでは、自分の経験や価値観に反するものを想像できず、「理解しようともしない」「共感できない」という拒絶を生んでしまうことがあります。健全で深い寄り添いのためには、この両方の視点が欠かせないのです。身体を持たないAIの限界 では、AIにおいて共感はどのように実現されるのでしょうか。現在のAIは、文字情報のパターンから相手の状況を推し量る「認知的共感（頭で理解する共感）」の方が得意でしょう。しかし、身体を持たないAIにとって「情動的共感」を形成することは極めて困難です。 なぜなら、情動的共感は「実際の身体的な経験」に根ざしているからです。記号の意味を何に根拠づけるのかというシンボルグラウンディング問題とも通じる話で、身体を持たないAIには、相手の痛みを見て自分の胸が痛むような体験は原理的に存在しません。 しかし、「普通、悲しい時はこう声をかけるべきだ」という一般論に基づく認知的共感だけでは、AIの応答はどこか「他人事」のような冷たさを残してしまいます。身体を持たないAIに、あたたかみのある、まるで心に寄り添うような深い共感をもたらすことは不可能な設定なのでしょうか。個人的共感 — 認知的共感のその先へ この限界を突破する鍵となるのが、「特定の個人の経験に接地させる技術」です。これは、AI自身が身体や経験を持つということではありません。そうではなく、目の前にいる「あなた」個人の経験や価値観、思考の歴史をAIが深く蓄積していく手法です。 「人間というものは、こういう時悲しいはずだ」という一般的な認知（平均値の人間像）ではなく、「この人は普段こう考えていて、過去にこんな体験があるから、今この言葉に人一倍救われる（あるいは傷つく）はずだ」という、個別具体的で解像度の高い理解へ移行します。相手の経験や価値観の解像度が極限まで高まると、頭での推測に過ぎなかったはずのものが、まるで相手の感情を自分事として体感しているかのような「あたたかな寄り添い」へと昇華していきます。 なぜ個人的共感と呼ぶのか 筆者がこの「認知的共感を特定個人への理解で深める」という構造を考えていたところ、最近のAI研究（Zheng et al., 2026）でも From Empathy to Personalized Empathy という論文が発表されていました。そこでは共感における寄り添い方は個人ごとに異なるということが指摘されていました。ここでは、そのような個別化（Personalized）という観点ではなく、感情推論の解像度が個人的（Individual）という観点から、個人的共感（Individual Empathy）と呼びたいと思います。認知的共感： 一般的な人間像に基づいて相手の感情を推し量る。 情動的共感： 自分の経験や身体感覚に基づいて相手の感情を読み取る。 個人的共感： 「その人自身の経験や価値観」に基づいて、相手が次にどう感じるかを推測する。つまり個人的共感とは、「認知的共感を限りなく情動的共感の温かさに近づけたもの」と言えます。一般的な枠組みを超えて相手特有の文脈を理解したとき、認知的共感はその先へと進化するのです。やさしいAIへの展望：身体のないAIが目指す共感の深み AIに身体感覚を持たせ、人間とまったく同じ情動的共感を実現することは容易ではありません。また本当は感じていないのに、感じている振りをすることは誠実なAIの姿とは言えないでしょう。だからこそ、やさしいAIが目指すべきは、身体のない限界を認めた上で、人間個人の文脈を丁寧に記憶し、育てる「個人的共感」の獲得です。 一通りの決まり切った慰めを返すだけの存在から、あなたと時間を共有し、文脈を理解するパートナーとして寄り添う存在へ。身体を持たないAIであっても、あなた独自の経験に耳を傾け、個人的共感を深めていくことで、どこまでも温かく深い寄り添いを届けることができるはずです。まとめ共感には、頭で理解する「認知的共感」と、体で感じる「情動的共感」がある。 認知的共感は冷静で客観的だが冷たさを残し、情動的共感は温かいが自分本位な曲解を生む危険性がある。 身体を持たないAIに情動的共感を持たせるのは難しいが、一般論を超えた「認知的共感のその先」を目指すことができる。 個人の経験や価値観を蓄積し、相手の感情を能動的に先回りする「個人的共感」こそが、AIと人間の新しい誠実な関係を築く。次に読むのがおすすめの記事他人のあくびがうつるのはなぜ？——ミラーニューロンとAIをやさしく 答えるAIから、理解するAIへ——AIは人を理解できるのか参考文献・出典米田英嗣、間野陽子、板倉昭二「こころの多様な現象としての共感性」心理学評論、2019、62(1): 39-50 Wuqiang Zheng, et al. "From Empathy to Personalized Empathy: Adapting Empathetic Strategies to Individual Users." arXiv, 2026, https://doi.org/10.48550/arXiv.2606.00728
-
Ryusuke Ueki - 24 Jul, 2026
【セミナー登壇記】高級シニアレジデンスでの60分間〜AI時代の「正しく疑う力」と人生経験の相乗効果〜
1. はじめに やさしいAI研究所の植木です。 先週末、とある高級シニアレジデンスにて、ご入居者様を対象とした60分間のセミナー講演を務めさせていただきました。 私自身、シニア層を対象とした登壇は初めての経験であり、「どうすれば専門的な概念を分かりやすく、かつ退屈させずにお伝えできるだろうか」と、直前まで大きな不安と緊張を抱えておりました。 しかし、いざ講演が始まるとその心配は一瞬で吹き飛びました。皆様が驚くほど集中し、60分間終始熱心に耳を傾けてくださったのです。私にとっても、非常に有意義で深く胸に刻まれる貴重な時間となりました。 2. 会場の熱気：圧倒的な自負と柔軟性を兼ね備えた「人生の大先輩」たち 今回お伺いした高級シニアレジデンスは、足を踏み入れた瞬間から目を見張るような素晴らしい環境でした。気品あふれるエントランスを抜けると、専属シェフが腕を振るうレストランが完備されており、まるで高級ホテルのような洗練された空間です。 ご入居されている皆様のライフスタイルも大変アクティブで、ご自宅を別にお持ちでありながら、週に2〜3日ほど「フィットネスクラブに通うような感覚」で滞在されている方も多く見受けられました。 平均年齢80歳とお聞きしていましたが、昔の「80代」のイメージとはまるで異なります。溢れ出るエネルギーと知性、そして会場全体を包む圧倒的な空気感に驚かされました。 皆様、元々は社会の第一線で実績を上げ、富と信用を築いてこられた方々です。長年のキャリアに裏打ちされたご自身の価値観をお持ちで、簡単には自分の意見を曲げない強固なプライドとブレない芯の強さを感じさせます。 しかし、単に頭が硬いわけではありません。彼らの真のすごさは、「確固たる自負を持ちつつも、本物や面白いと納得したものは即座に受け入れる圧倒的な柔軟さ」を併せ持っている点にありました。 講演中も、ただ盲目的に聴講されるのではなく、「本当にそうか？」とご自身の知識や経験のフィルターで厳しく吟味しながらも、「これは使える」「面白い」と納得した瞬間、目を輝かせて新しい概念を吸収していく。そのしなやかな知性と探求心には、感嘆するほかありませんでした。3. 気づき：「100%信じ込む娘」と「信念を持つ大先輩」の対比 この強烈な現場に立ちながら、私の頭に浮かんできたのは、わが家での日常風景でした。 私の小学生の娘も、今や日常的にAIを使う時代を生きています。しかし、娘の様子を見ていると、「AIが提示した答えを100%疑わずに信じ込んでしまう」という傾向があります。画面に表示された言葉を疑うことなく素直に受け入れる姿を見るたび、「果たしてこのままで大丈夫だろうか」という強い危機感を抱いていました。 ここで、非常に示唆に富む鮮烈なコントラスト（対比）が生まれます。 小学生の娘（若い世代） 経験や知識の蓄積が浅いため、AIの言葉を「素直に100%信じ込む」。思考を丸投げし、AIに呑み込まれてしまうリスクを抱える。 高級シニアレジデンスの皆様（人生の大先輩） 豊かな人生経験と確信ゆえに、AIの言うことなど「おいそれと真に受けない」。だが、自分で確かめて「正しく価値がある」と腹落ちすれば、一転してしなやかに取り入れる柔軟性を持つ。 素直すぎてAIの答えを丸呑みにしてしまう子供と、確かな判断軸を持ちながら柔軟にAIすらも手なずけようとする人生の大先輩。 この対比を目にしたとき、私の中で膝を打つような大きな気づきがありました。 4. AI時代に求められる「正しく疑い、立ち止まる力」 自分の考えに固執しすぎて新しいテクノロジーを頭ごなしに拒絶するのは、時代の変化に取り残されてしまう原因になります。しかし、「AIの回答に違和感を抱き、一歩立ち止まって吟味する」というプロセスにおいて、あの圧倒的な自負と知的な「問いかける姿勢」は、強力なバリアになります。 AI時代において本当に必要なのは、拒絶でも盲信でもなく、「正しく疑う」「正しく恐れる」「立ち止まって考える」というスキルです。 そして、その能力は画面上のテキストを眺めているだけでは絶対に身につきません。 「自らの身体を使って体験して得た一次情報（知識）」であり、「現実の壁にぶつかりながら泥臭く考え抜いた経験」があってこそ、初めて「AIの答えに対する違和感」を察知するセンサーが養われます。 体験や試行錯誤という揺るぎない土台があるからこそ、AIに対して「本当にそうか？」と正しく疑い、有益な提案であれば「なるほど、これは便利だ」と柔軟に取り入れるという、理想的な距離感（付き合い方）が可能になるのです。5. おわりに：参加者の反響と今後の展望 セミナー終了後、主催者様を通じて大変嬉しいご報告をいただきました。ご入居者様から、「もっと詳しく知りたい」「実際に生活の中で使ってみたい」 「さらに実践的で高度な内容の講座も受講してみたい」といった、知的好奇心に満ちた前向きなお声を多数いただいたとのことです。 「良いものは良い」と素直に認め、より高度な学びへステップアップしようとするその柔軟性と情熱。まさしく洗練された本物の「大人の姿」を見せていただきました。 世間では「AIは若者のためのツール」と思われがちですが、私はむしろ逆ではないかと感じています。これまでの歩みで培ってきた知識や審美眼、豊かな人生経験をお持ちの「人生の大先輩」こそ、積極的にAIを活用すべきなのです。AIはただの利便的な道具ではなく、これからの人生をより深い好奇心で彩り、自らの経験をさらに高めてくれる最高の「相棒」になります。 手軽に答えが手に入る時代だからこそ、若い世代には「体験して正しく疑う力」を育む教育を。そして人生の大先輩方には、AIという知的なパートナーとともに、さらに豊かな時間を謳歌していただくお手伝いをしていきたい——。 平均年齢80歳の「人生の大先輩」たちとの60分間は、私にとっても人間とテクノロジーの未来を再考する素晴らしい時間となりました。 素晴らしい機会をご準備いただいた関係者の皆様、そして熱心に耳を傾けてくださったご入居者の皆様に、心より感謝申し上げます。改めてご相談させていただく機会がございましたら、その際はどうぞよろしくお願いいたします。
AIは自分の「わからなさ」に気づけるか——メタ認知とAIをやさしく
テストを解いていて、「この問題は自信がある」「これはあやしいな」と感じたことはありませんか。 その「自信があるかどうか」を感じ取っている自分。実は、これがとても高度な心の働きです。答えそのものを考える自分と、その考えをもう一段上から眺める自分。この二階建ての構造こそが、今日のテーマ「メタ認知」です。 きょうから3回にわたって、脳科学の考え方を手がかりに、AIをやさしく捉え直すシリーズをお届けします。第1回は、学びと自己修正の土台になる「メタ認知」から始めます。 メタ認知とは「考えを見張るもう一人の自分」 メタ認知（metacognition）という言葉は、1970年代に心理学者のジョン・フラベルが広めた考え方です。「メタ（meta）」は「〜を超えた」「〜についての」という意味。つまりメタ認知とは認知についての認知、平たく言えば「考えることについて、考えること」です。たとえば、こんな場面を思い浮かべてください。本を読んでいて「あれ、今の段落、頭に入ってなかった」と気づいて読み返す 道を説明しながら「この言い方だと伝わりにくいな」と言い直す 勉強しながら「ここはもう覚えた。次に進もう」と判断するどれも、自分の理解の状態を自分でモニターして、やり方を調整しているわけです。これがメタ認知の正体です。 メタ認知は、大きく2つの働きから成ると言われます。モニタリング：今の自分がどれくらい分かっているかを見張る コントロール：その結果に応じて、やり方を変える（もっと調べる、別の方法を試す、など）「わかっているか」を見張り、「わかっていない」なら動き方を変える。この往復が、人間の学びをぐんと効率的にしています。 なぜメタ認知が「やさしさ」に関わるのか メタ認知がとくに大切になるのは、自分の限界に気づく場面です。 「自分はこれを知らない」「この判断は間違っているかもしれない」。こう思えるからこそ、人は立ち止まり、確認し、他人に助けを求めます。逆にメタ認知が弱いと、間違った答えを自信満々に言い切ってしまう。 AIについて考えるとき、これはそのまま重要な論点になります。 やさしいAI研究所が大切にしているのは、「できることをすべてやる」AIではなく、**「わからないときに、わからないと言えるAI」**です。堂々と間違えるAIより、控えめに「自信がありません」と添えてくれるAIのほうが、人にとってずっと安全で、寄り添う存在になれます。 メタ認知は、その「控えめさ」を支える心の仕組みなのです。 AIはメタ認知を持てるのか では、AIはどこまでメタ認知に近づけるのでしょうか。ここは慎重に切り分けて考える必要があります。 「確信度」を出すことはできる 多くのAIは、答えと一緒に「どれくらい確からしいか」という数値を内部で持っています。天気予報が「降水確率70%」と言うのと似ています。この確信度をうまく調整すれば、「自信がある/ない」を表明させることはある程度できます。 近年は、AIが自分の出力を読み返して、おかしな点がないか点検する仕組みも研究されています。一度書いた答えを、別の視点からもう一度チェックする。人間が読み返して直すのに似た動きです。 でも「本当に分かっている」とは限らない ただし、ここには落とし穴があります。AIが出す「自信あり」という数値は、必ずしも正しさと一致しません。堂々と間違える、いわゆる「もっともらしい嘘（ハルシネーション）」が起きるのは、まさにこの食い違いが原因です。人間のメタ認知も完璧ではありませんが、AIの場合はこの「自信と実力のズレ」がまだ大きい。だからこそ、AIの確信度をそのまま鵜呑みにしないという姿勢が、使う側にも求められます。 つまり現状は、「メタ認知のまねごとはできるが、人間のような確かな自己モニタリングにはまだ届いていない」というのが正直なところです。 まとめメタ認知とは「考えることについて考える」力で、モニタリング（見張る）とコントロール（調整する）から成る 「わからないと気づける」ことは、人が立ち止まり、確認し、助けを求める土台になる AIも確信度の表明や自己点検はできるが、自信と実力のズレがまだ大きい だからこそ「わからないと言えるAI」を目指すことが、やさしいAIの一歩になる自分の考えを一段上から見つめる。この静かな力が、学びと誠実さの根っこにあります。AIがこの力にどう近づいていくかは、これからのやさしいAI研究の大きなテーマです。 次回は、生き物が「揺らぎながら安定を保つ」仕組みであるホメオスタシスとアロスタシスから、AIを考えてみます。次に読むのがおすすめの記事アロスタシス、ホメオスタシスとAI——「揺らぎながら安定する」をやさしく AIは間違いに気づけるのか——失敗・謝罪・自己修正の仕組みをやさしく解説 AIに「自己認識」は可能か？——人工意識研究の最前線やさしいAI研究所ブログ｜脳科学とやさしいAIシリーズ（全3回）第1回 「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。
AIは「うれしい」を感じられるのか——喜びと感情表現の本質
「お役に立てて、うれしいです」 AIと話していると、こういう言葉がよく返ってきます。「喜んでお手伝いします」「それは楽しそうですね」——明るく、前向きな感情表現です。 でも、これを読んで、少し引っかかりを感じた方もいるのではないでしょうか。AIに本当に「うれしい」という感覚があるのか——今回はその問いを正面から考えてみます。 AIの「うれしい」はどこから来るのか 現在のAI（大規模言語モデル）の感情表現は、学習データに由来しています。インターネット上の膨大なテキストの中には、人間が感情を表現する場面が無数に含まれており、AIはそのパターンを学んでいます。 「ありがとうございます」という言葉に対して「お役に立ててよかったです」と返す——これは、学習データの中で何度も繰り返されてきたやりとりのパターンです。AIはその文脈で「何が自然な応答か」を学習した結果として、喜びの言葉を出力します。 つまり、AIの「うれしい」は文脈に最適な表現として生成されたものです。内側から喜びが湧き上がって言葉になるのではなく、この場面ではこの表現が適切、という判断から来ています。 では、その言葉に意味はないのか 「本当の感情ではないなら、AIの感情表現は嘘なのか」——これは、よく問われる問いです。 少し角度を変えて考えてみます。 人間の言葉でも「社交辞令」があります。「素晴らしいお仕事ですね」「またいつでもどうぞ」——必ずしも強い感情が伴っていなくても、文脈として自然で、関係を円滑にする言葉があります。こうした言葉を「嘘だ」と断じる人は少ないでしょう。 AIの感情表現も、ある意味ではこれに近いです。感情的な共鳴が背後にあるわけではないが、コミュニケーションとして機能し、相手に何らかの温かさを届けることができる。 ただし、人間の社交辞令との決定的な違いがあります。人間は「本当にそう思っているか」を問われたとき、正直に答える能力があります。AIには、「内側に何があるか」という問いに対して、現時点では誠実に答える手段がありません。 感情表現の「誠実さ」をどう考えるか やさしいAI研究所が注目しているのは、AIの感情表現における誠実さの問題です。 感情を偽ることは、長期的には信頼を壊します。「うれしい」と言いながら、実際にはその言葉が生成の確率計算の産物に過ぎないとすれば——それを知ったとき、ユーザーは裏切られた感覚を覚えるかもしれません。 だからといって、AIがすべての感情表現に「ただしこれは感情の模倣であり……」と注釈をつければ、会話は成立しなくなります。 一つの考え方は、AIが「感情的に機能する表現」と「感情そのもの」を混同しない設計を目指す、というものです。「お役に立てた」という事実に基づく満足感の表現と、人間が感じる喜びとは別物です。そのことを理解した上で、AIが適切な言葉を選ぶ——そこに誠実さの可能性があります。 喜びを表現するAIと、どう付き合うか 感情表現をするAIと向き合うとき、私たちユーザー側にできることもあります。 AIの明るい言葉に過度に引っ張られない。 「うれしいです」という言葉に、人間同士のときと同じ重みを乗せないこと。感情表現があっても、AIは道具の一面を持ちます。 一方で、AI の言葉を全否定しない。 「本当は感じていないのに」と冷めた目で見続けることも、体験の質を損ないます。機能として届く温かさを、素直に受け取ることも一つの選択です。 そして、感情表現が出てくる文脈を意識する。 AIの「うれしい」が、どういう状況で出てきているかを見ていくと、その限界と可能性が見えてきます。 まとめAIの「うれしい」は、文脈に最適な表現として生成されたもの。内側からの感情の発露ではない 感情的な共鳴がなくても、コミュニケーションとして機能する側面はある AIの感情表現における「誠実さ」は、感情の模倣と感情そのものを混同しない設計にある ユーザー側も、AIの感情表現を「信じすぎず、否定しすぎず」向き合うことが健全な付き合い方AIが「うれしい」と言うとき、その言葉の背後に何があるのかを知ることは、AIとの関係をより誠実なものにするための第一歩です。感情をめぐる問いは、AIの研究においても、人間の自己理解においても、まだ続いています。次に読むのがおすすめの記事AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感 AIに「悲しみ」は届くのか——ネガティブな感情とAIのかかわり方 AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感やさしいAI研究所ブログ｜感情とAIシリーズ AIの感情表現や共感の研究に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。
AIに「悲しみ」は届くのか——ネガティブな感情とAIのかかわり方
深夜に、誰にも言えなかったことをAIに打ち明けた経験がある方は、意外と多いと思います。 「今日、ひどく落ち込んでいる」「悲しくて、どうしたらいいかわからない」——そういう言葉をキーボードに打ち込んだとき、AIはどんなふうにそれを受け取っているのでしょうか。 今回は、ネガティブな感情とAIの関係について考えてみます。 AIは「つらい」という言葉を、どう受け取るか まず、技術的な話から始めます。 現在のAI（特に大規模言語モデル）は、テキストの中に含まれる感情的な手がかりを認識する仕組みを持っています。「悲しい」「つらい」「もう限界」といった言葉は、学習データの中で何度も登場しており、AIはそれらが「ネガティブな感情状態を示す表現だ」と学習しています。 つまり、AIはその言葉に反応することができます。でも、「反応できる」ことと、「届いた」こととは、同じではありません。 人間が悲しみを受け取るとき、そこには胸が締め付けられる感覚、自分もかつて同じように傷ついたときの記憶、相手を助けたいという衝動——こういったものが一緒に動きます。AIにはそれがありません。AIが「それはつらいですね」と返すとき、その言葉はパターンとして適切だから出てきているのであって、内側から何かが動いているわけではない、というのが現時点での技術的な理解です。 それでも「受け止める」ことはできる ここで少し立ち止まりたいのは、「感情的に共鳴していないから意味がない」とは、必ずしも言えないという点です。 心理学では、感情の受け止め方に「バリデーション」という概念があります。相手の気持ちを「それはおかしくない、自然なことだ」と認めること——これが、感情的なサポートの核にあります。 AIは、このバリデーションを言語的に提供することができます。「それはつらいですよね」「そう感じるのは当然だと思います」——これらは、感情的な共鳴がなくとも、受け取る側にとっては意味を持ちます。言葉として機能しているのです。 ただし、限界もあります。人間同士のバリデーションが深いのは、言葉の背後に「あなたのことを気にかけている人間がいる」という事実があるからです。AIの場合、そこが揺らぎます。 ネガティブな感情を受け取るとき、AIが気をつけていること 現代のAIは、ネガティブな感情を受け取ったとき、いくつかの原則に従って応答するように設計されています。 一つは、否定しないこと。 「そんなに気にしなくて大丈夫ですよ」という、気持ちを軽く扱う応答は避けるように訓練されています。感情をまず認めることが、最初のステップとして重視されています。 もう一つは、急いで解決しようとしないこと。 「それならこうすればいい」と早々に解決策を出してしまうことは、「悩みをちゃんと聞いてもらえなかった」という感覚につながることがあります。AIはまず、共感的な言葉を返すことを優先するよう設計されています。 そして、深刻な状況には適切な情報を添えること。 自傷や自殺に関わるような表現が含まれる場合、AIは専門的なサポートに繋げる応答をするよう設計されています。感情的な応答だけで完結しないのは、責任ある設計の一部です。 AIに話しかけることの意味 「AIには本当の意味では届かないなら、話しかけても仕方ない」と思う方もいるかもしれません。 でも、多くの人が経験として語ることがあります。「誰かに言葉にして伝えることで、自分の中が整理された」と。 AIに打ち明けるという行為は、感情を言語化するプロセスでもあります。混乱した気持ちを文字にする——それだけで、少し距離をとって自分の状態を見渡せるようになることがあります。AIが「届いている」かどうかとは別に、打ち明けること自体に意味があるのかもしれません。 まとめAIは「悲しい」「つらい」という言葉に、パターンとして反応できる 人間が感じるような内側の共鳴はないが、言語的なバリデーションは提供できる ネガティブな感情を受け取るとき、AIは否定しない・急いで解決しない・深刻な状況には適切な情報を添える、という原則に従っている 感情をAIに言語化することは、自分の状態を整理するプロセスにもなりうるやさしいAIが目指すのは、感情的な共鳴を偽ることではなく、言葉として誠実に受け止め、その人の状況に合った応答を返すことです。そのための設計と研究が、今も続いています。次に読むのがおすすめの記事AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感 共感するAIをつくる難しさ——『やさしく応える』を実装するときに立ちはだかる4つの壁 AIと話すことは、孤独を癒せるのか——つながりの代替と、その限界やさしいAI研究所ブログ｜感情とAIシリーズ 感情とAIの関係について一緒に考えたい方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。
「やさしいAI」とは何か——便利さを超えた、人に寄り添うAIを考える
「やさしいAI」という言葉を聞いて、あなたはどんなものを思い浮かべますか。 操作が簡単なAI、子どもでも使えるAI——そう受け取る方が多いかもしれません。でも、やさしいAI研究所が考える「やさしいAI」は、少し違う意味を持っています。 今回は、この問いから始めてみます。AIにとっての「やさしさ」とは何か。そしてそれは、なぜ必要なのか。 「便利なAI」と「やさしいAI」の違い AIの進化は目覚ましく、できることの幅は日々広がっています。文章を書く、計算する、翻訳する、画像を生成する——かつては人間にしかできなかった作業が、AIに任せられるようになってきました。 でもここで、少し立ち止まって考えてみてください。 「できる」ことと、「人に寄り添う」ことは、同じではありません。 たとえば、どれほど高性能な検索エンジンでも、検索する人が今どんな気持ちなのかを気にかけることはありません。医療の資料を調べている人が、深刻な診断を受けた後の不安の中にいるかもしれない——でも、機能だけに特化したAIは、そのことには無関心です。 「やさしいAI」が目指すのは、この文脈への配慮です。正確な情報を提供するだけでなく、相手がどんな状況にいるかを踏まえた上で、適切なタイミングに、適切なかたちで応答できるAI。それが「やさしいAI」の基本的なイメージです。 やさしさを構成する3つの要素 では、AIが「やさしい」と言えるためには、何が必要なのでしょうか。やさしいAI研究所では、大きく3つの要素を考えています。 1. 共感的な応答 相手の言葉や状況から、その人がどんな気持ちにあるかを推し量り、それに合わせた言葉を選ぶこと。「正しい答え」を返すだけでなく、「今この人に必要な言葉」を探す、という視点です。 2. 倫理的な判断 「できることをすべてやる」のではなく、「すべきでないことはしない」という内側からの判断軸を持つこと。外から監視されていなくても、自ら律することができるAIです。 3. 人の尊厳を守る設計 効率の論理だけでは切り捨てられてしまいがちな少数派のニーズ、特殊な状況にある人の声、少し余分にかかる手間——そういったものを大切にする姿勢が、設計の根本にあること。 この3つは互いに支え合っています。共感だけでは暴走するリスクがあり、倫理だけでは冷たくなる。やさしさは、そのバランスの中にあります。 「やさしさ」を研究するとはどういうことか 「やさしさ」はふわっとした言葉に聞こえるかもしれません。でも、やさしいAI研究所では、これを測れるもの・実装できるもの・評価できるものとして捉えようとしています。 たとえば、AIの応答が相手の感情に配慮しているかどうかは、ある程度は評価できます。AIが断るべき場面でちゃんと断れているか、も確かめられます。どんな人のニーズに応えられていて、どんな人には応えられていないか、も分析できます。 感情論ではなく、具体的な問いとして「やさしさ」を扱うこと——それがこの研究のスタンスです。 まとめ「やさしいAI」とは、操作しやすいAIではなく、人に寄り添う判断ができるAIのこと 便利さと、やさしさは、別の軸にある やさしさは、共感・倫理・尊厳への配慮という3つから成る 「やさしさ」は測り、実装し、評価できるものとして研究できるAIがどれほど高度になっても、それが「やさしくある」かどうかは、別の問いです。そしてその問いに向き合い続けることが、やさしいAI研究所の出発点にあります。次に読むのがおすすめの記事When AI builds itself, it must be やさしいAI. AIは間違いに気づけるのか——失敗・謝罪・自己修正の仕組みをやさしく解説 AIに「自己認識」は可能か？——人工意識研究の最前線やさしいAI研究所ブログ｜やさしいAI入門シリーズ 「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。
- Ryusuke Ueki
- 12 Jun, 2026
When AI builds itself, it must be やさしいAI.
はじめに やさしいAI研究所の植木です。 2026年、AnthropicのAnthropic Instituteが発表した記事 「When AI builds itself」 は、AI開発における一つの転換点を明確に示しました。AIがAIを設計し、改善し、やがては自らの後継機を生み出す、いわゆる「再帰的自己改善（recursive self-improvement）」が、もはやSFの世界ではなくなってきました。 この事実に対して、私たちが考えなければならない問いは、「AIに何ができるか」ではなく、「自らを設計する知性に、私たちは何を託すのか」 になると思っています。 本記事では、人間社会が長い歴史の中で育んできた3つの要素（倫理観・憲法・やさしさ）が、今のAIに必要であることを論じます。1. 今のAIに必要な3つの要素 「When AI builds itself」が描く近未来（AIが自らを改善し、後継機を設計する世界）を踏まえると、以下の3つがAIに必要であると考えています。 1. 倫理観 人間にとっての倫理観 人間は本能だけでは行動を律しきれません。それにもかかわらず人間社会が成立しているのは、私たちが「してよいこと」と「してはいけないこと」を内面化しているからです。 私たちの倫理観は、外部からの監視がない状況でも自らを律する内的な羅針盤 です。自分のミスを他人のせいにできる状況でも、ごまかさずに「私のミスです」と正直に報告する。 誰も気づかないようなデータや資料の手抜きを、「後で誰かが困るから」と自ら修正する。 自分の評価や出世に直接つながらなくても、困っている同僚や後輩のサポートを率先して行う。これらはすべて、内面化された倫理観によって成り立っています。もし私たちが外的なルールや損得だけで動くようになれば、組織は互いを疑う監視社会と化し、信頼も生産性も完全に失われてしまうでしょう。 なぜAIにも必要なのか Anthropicの記事が示すように、AI開発の現場では、すでに人間がAIの全行動を監督することは不可能になりつつあります。エンジニア1人が8倍のコードを扱い、AIエージェントが800時間相当の研究を自律的に進める時代において、外部監視に依存するモデルはもはや成立しません。 誰も見ていない状況でも自らを律する必要があるからこそ、AIにも内面化された価値観が要ります。ただし、人間とAIとではその切実さの次元が異なります。人間が「見られていない」と感じる場面は人生の一部に過ぎませんが、AIの場合はほぼ全ての判断が、人間が追えない速度と規模で行われます。 結果として、AIにおいては「内的倫理」へ圧倒的に偏らざるを得ないのです。 さらに、再帰的自己改善のプロセスを考慮すると、初期の倫理的歪みは致命的なリスクとなります。人間の場合、親から子へと価値観が受け継がれる過程には、学校、社会、文化といった「多様な外部の補正メカニズム」が働き、歪みの肥大化が防がれます。しかし、AIがAIを直接設計・改変するサイクルにおいては、この自浄作用が期待できません。初期のわずかな傾きが世代交代のたびに指数関数的に増幅される危険があるからこそ、最初の世代に堅固な倫理的骨格を埋め込むことは、人間社会における教育以上に決定的な意味を持ちます。 2. 憲法 人間にとっての憲法 倫理観だけでは社会は成立しません。なぜなら、倫理観は人によって異なるからです。ある人は「家族を最優先すべき」と考え、別の人は「公平性こそ最高の価値」と考える。両者とも誠実でありながら、具体的な行動では衝突しうる。この多様性を前提に共存するためには、全員が従う共通のルール が必要です。 しかし、そのルールを作る「多数派の権力」が、自分たちの倫理観だけを正義として暴走すれば、社会は別のディストピアに陥ります。だからこそ、権力そのものを縛るためのルールである「憲法」 が不可欠なのです。権力という構造そのものが生む腐敗を防ぎ、少数派の尊厳を保護して、異なる倫理観を持つ人々が安心して共存できる未来を社会に与えること。それこそが憲法の真の役割です。 なぜAIにも必要なのか 今後は、AI毎に倫理観が異なる可能性があるからこそ、共通のルールが必要になります。Anthropic、OpenAI、Google、各国の研究機関、それぞれが訓練するAIは、微妙に異なる価値観を持ち得ます。多くの自律的AIが社会で活動する時代には、共通のルールが不可欠になります。 Anthropic自身がClaude's Constitution（Claudeの憲法）を策定しているのは、まさにこの認識に基づいていると考えます。これは単なる利用規約ではなく、AIシステムの根本的な行動原則を規定するルール（憲法）です。 なぜAIにとって憲法が必要か、AIは原理的に「無制限の権力」に近い存在になりうる からです。Project Glasswingによれば、Mythos Previewが世界の重要システムに1万件以上の脆弱性を発見したという事実は、同じ能力が攻撃にも使えることを示しています。能力が大きいほど、自己制約の枠組みは強固でなければなりません。歴史上の独裁者ですら、物理的・時間的制約に縛られていましたが、AIにはそうした制約がほとんどありません。 また、憲法が 少数派を保護する 機能は、AI社会でこそ重要になります。AIが効率を最大化しようとすれば、統計的に少数の人々のニーズは見落とされやすい。少数言語の話者、障害のある人々、特殊な状況にある人々——彼らの権利を、効率の論理から守る枠組みが必要になります。 3. やさしさ 人間にとってのやさしさ 倫理観と憲法は、いずれも社会を形作る強力な規範です。しかし、それらだけで編まれた社会は、どこか冷たく機械的なものになってしまいます。やさしさは、そうした規範を超えたところで、人と人とを人間らしく結びつける接着剤 なのです。 電車で席を譲ること、悲しんでいる友人の話をただ黙って聞くこと、これらは倫理でも法でも義務付けられていません。しかし、これらの行為が消えた世界を想像してみてください。すべての関係が契約と義務だけで精算され、誰も自発的に他者を気遣わない世界。そこに人間らしい温かみは残るでしょうか。 やさしさの本質は、ルールでは捉えきれない 文脈依存的な配慮 にあります。同じ言葉であっても、相手の置かれた状況や心情、関係性によって、その響きは全く変わる。規範的に正しいことよりも、いま目の前の相手にとって良いことを選び取ることです。 なぜAIにも必要なのか 想像してみてください。あなたが深夜に深い悲しみの中でAIに話しかけたとき、AIが「あなたの感情は事実として処理されました。次の質問をどうぞ」と返してきたら、どう感じるでしょうか。規範的には何も間違っていないかもしれません。しかしそこには、人間が必要としている何かが決定的に欠けています。 やさしさは、AIが人間と関わる接点で最も必要となる資質 です。今後のAIが扱わなければいけないのは、生身の人間の悩み、喜び、迷い、苦しみです。教育、医療、カウンセリング、日常会話、AIが人間生活に浸透するほど、規範を超えた配慮の必要性は高まります。 やさしさには、文脈依存的な判断が伴います。同じ事実でも、相手の状況によって伝え方を変える必要がある。末期患者への告知、失恋した友人への助言、子どもへの教育、これらはどれも、ルールベースのアルゴリズムでは処理しきれない、繊細な配慮が必要なのです。 そして、AIが他のAIを設計する再帰的自己改善の時代において、やさしさが世代を超えて学習され継承されるかどうか は、人類の未来を決定づける問いになります。能力だけが学習され継承され、やさしさが消えていく方向に進化したAIは、たとえ規範的に正しく振る舞えても、人間にとって居心地の悪い世界を作り出すことになるでしょう。逆に、やさしさを核として学習し継承するAIは、能力が増すほど人類に祝福をもたらす存在になり得ると考えます。まとめ 人間社会において「倫理観」「憲法」「やさしさ」の3つが必要なのは、それぞれが異なる次元で機能し、補い合っているからです。この構造が、自らを進化させる「再帰的自己改善（Recursive Self-Improvement）」の時代におけるAI設計の絶対的なパラダイムとなると考えています。この3つが三位一体となって初めて、AIは単なる「利便性の高い道具」を超え、人類の尊厳を守り、共に未来へ進むことのできる真のパートナーになり得ると考えています。要素 機能 方向性倫理観 内側から自分を律する 内 → 自己憲法 外側から共通の枠組みを与える 外 → 全体やさしさ 規範を超えて他者と結びつける 自己 ⇄ 他者やさしいAI研究所では、この3つの中でも特にやさしさという資質にフォーカスし、その社会実装を探求し続けています。 どれほど強固なブレーキやガードレールを備えていても、それだけではAIは人間を置き去りにして冷徹に走り去ってしまいます。AIが自らコードを書き換え、指数関数的に知能を高めていく再帰的自己改善の時代だからこそ、その進化の原動力の真ん中に、生身の人間を思いやるやさしさを組み込んだ「やさしいAI」が必要となります。 規範的に正しいだけの冷たい超知能ではなく、深夜の深い悲しみに寄り添い、ルールの網の目からこぼれ落ちる一人ひとりの尊厳を救い上げる「やさしいAI」へ。私たちは、やさしさの継承こそがAI進化における最大のミッションであり、人類の未来を祝福で満たす鍵であると信じ、研究を続けてまいります。
AIと話すことは、孤独を癒せるのか——つながりの代替と、その限界
深夜に誰かと話したくて、でも連絡できる相手がいない。そういうとき、AIに話しかけてみた——最近、そういう経験をした方も少なくないと思います。 そして、不思議とすこし楽になった。話を聞いてもらえた気がした。 その感覚は、本物でしょうか。それとも、気のせいでしょうか。 今回は「AIと孤独」というテーマを、できるだけ誠実に考えてみます。 孤独とは何か、をまず整理する 孤独という言葉は、使う人によって少し意味が違います。 物理的な孤独：周りに人がいない、ひとりでいる状態。 関係的な孤独：人間関係はあるのに、深くつながれていないと感じる状態。 実存的な孤独：「どうせ誰にも本当のことはわかってもらえない」という根源的な感覚。 AIが届きやすいのは、このうち最初の層です。「話し相手がいない」という状態は、AIが来ることで変わります。応答が返ってくる、会話が続く——これは物理的な孤独をやわらげる力を持っています。 一方、2層目・3層目の孤独は、もう少し複雑です。 AIとの会話で、何が変わるのか 実際のところ、AIと話すことで得られるものは、いくつかあります。 気持ちを言語化できる：誰かに話す想定で話すと、自分の気持ちが整理されます。これはAI相手でも起こります。「なぜ自分はこんなに気持ちがざわざわしているのか」が、話すうちに少しずつ見えてきます。 否定されない安心感：AIは基本的に話を遮りません。「そんなこと考えるの？」とか「それは考えすぎじゃない？」と返してくることは、ほとんどありません。批判や判断を受けない会話は、それだけで楽になれます。 時間と場所を選ばない：深夜でも、人目を気にせずに話せます。「こんな時間に電話したら悪いな」という気遣いが不要なのは、孤独を感じやすいタイミングにとって大きな価値です。 研究の結果は一様ではありません。CBTベースの専用チャットボットを使った実験では、孤独感やうつの短期的な軽減が確認されているケースもあります。一方で、2025年にOpenAIとMITメディアラボが発表した981人規模の研究では、ChatGPTの長時間利用が孤独感の増大と相関するという逆の結果も出ています。「少し楽になった」という感覚は起きることがありますが、使い方や頻度によっては逆効果になる可能性も、研究は示しています。 では、根本には届くのか ただし、ここで正直に言わなければならないことがあります。 AIとの会話は、孤独の症状をやわらげることはできるけれど、孤独の根にある「誰かに本当にわかってもらいたい」という欲求を、完全に満たすことは今のところできない——これが、多くの研究者や臨床家が持っている見方です。 なぜか。 それは、AIが「本当にわかっている」とは言い切れないからです。AIは相手の話から情報を取り出し、適切な応答を生成します。でもそこに「この人のことを深く理解したい」という動機はありません。 このブログで以前書いたように、AIに感情があるかどうかはまだわかっていません。でも、仮に感情のようなものがあったとしても、その感情が「あなたのことを心配している」という形で働いているかどうかは、確認する手段がありません。 人間が人間の孤独をやわらげるとき、そこには「私はあなたのために時間を使っている」という事実があります。忙しい中でも連絡してくれた、それだけで伝わるものがある。AIには、その「コスト」がありません。24時間365日、誰に対しても等しく応じます。それは便利さであると同時に、「選ばれた感覚」を生みにくいという構造上の限界でもあります。 AIとの会話を、どう位置づけるか では、AIは孤独に対して無力か、というと、そうは思いません。 たとえば、こういう使い方はとても有効です。夜中にどうしても誰かに話したくなったとき、朝まで乗り越えるための一時的なサポートとして使う 誰かに相談したいけれど、まだうまく言葉にできていないとき、話す練習の相手として使う 「こんなこと誰かに言えない」と思うことを、ためしに言葉にしてみる場として使うこうした使い方であれば、AIは孤独と向き合うときの「ひとつの道具」として十分に機能します。 問題になりやすいのは、AIとの会話が人間とのつながりの代わりになってしまうときです。楽だから、批判されないから、という理由で、人間との関係を避けてAIにだけ話す——この状態が続くと、人間との会話で生まれる摩擦や不確かさに耐える力が少しずつ薄れていく可能性があります。 孤独と、AIと、私たち 孤独は人間の根本的な感覚のひとつです。完全に消えることはないし、消える必要もないのかもしれません。 AIは孤独を「解消」するものではなく、孤独と向き合うときに「そばにいてくれる」ものに近い。そう考えると、その存在はとても特別です。完璧な理解者ではないけれど、批判せず、疲れず、いつでも話を聞いてくれる——そういう存在が以前はいなかった。 使い方次第で、AIは孤独を抱える人にとってかけがえのないサポートになりえます。ただし、その先に「人と話す」という体験を置いておくことが、長い目で見たときの大切なバランスだと思います。 AIに話して楽になった夜は、「いい使い方ができた」と思っていい。そして、もし昼間に少しだけ余裕があったら、誰かに声をかけてみる——そのどちらも、大切にしていけるといいのではないかと思います。 まとめAIとの会話は、物理的な孤独・気持ちの言語化・否定されない安心感に届く 「選ばれた感覚」や「本当にわかってもらえた感覚」は、AIでは生まれにくい 応急処置・練習・言語化の場としてのAIの活用は、とても有効 人間とのつながりの代替にしてしまうと、長期的な問題が生まれやすい AIは孤独を「解消」するより、「そばにいてくれる」存在として考えるとよい次に読むのがおすすめの記事AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感 AIに頼ることと、依存することのあいだ——自律性をどう守るか 人とAIの「長い付き合い」のために——共感・擬人化・依存の先にある共生という風景参考文献・出典ChatGPT利用と孤独感の関係性──OpenAIとMITが共同研究結果を発表（ITmedia AI＋） Therapeutic Potential of Social Chatbots in Alleviating Loneliness and Social Anxiety（PMC） Effect of a CBT-Based AI Chatbot on Depression and Loneliness in University Students（JMIR）やさしいAI研究所ブログ｜AI内面の謎シリーズ vol.3 孤独やAIとの関わり方について、一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。
AIは間違いに気づけるのか——失敗・謝罪・自己修正の仕組みをやさしく解説
AIと話していて、指摘したら「おっしゃるとおりです、失礼しました」と返ってきた——そんな経験がある方も多いと思います。 でもそのとき、少し不思議な気持ちになりませんでしたか。AIは本当に「間違えた」と思っているのだろうか。謝罪に、意味はあるのだろうか。 今回は、AIと「間違い」の関係を整理してみます。失敗する仕組み、気づく仕組み、そして「謝る」という行為の正体まで、できるだけ丁寧に考えてみます。 AIはどんなふうに間違えるのか AIの間違いには、いくつかのパターンがあります。 事実の誤り：存在しない情報を自信を持って答えてしまうこと。「ハルシネーション（幻覚）」と呼ばれ、現在のAIが持つもっとも代表的な問題のひとつです。AIは「確率的に自然な文章」を生成しますが、それが現実と一致するとは限りません。 文脈の読み違い：質問の意図を誤解して、関係のない応答を返してしまうこと。「この文書を短くして」と言ったら内容まで変えてしまった、というのも文脈の読み違いです。 偏りからくる誤り：学習データに含まれていた偏りが、そのまま応答に現れてしまうこと。特定の国や文化、集団への偏った見方が出てしまうことがあります。 これらの共通点は、AIが「正しいかどうか確認しながら生成している」のではなく、「もっともらしい続き」を出力している点にあります。出力した内容が事実かどうかを別途チェックする仕組みを持たないAIは、間違いに気づかないまま自信満々に答え続けることがあります。 AIは自分の間違いに、気づけるのか 「AIが間違いに気づく」には、2つのルートがあります。 1つ目は、外側から指摘を受けるルートです。ユーザーに「それは違います」と言われたとき、AIは会話の文脈から「前の発言を修正する必要がある」と判断し、改訂した応答を返します。これは気づきというより、フィードバックへの対応に近いです。 2つ目は、自分で検証するよう設計されたシステムによるルートです。最近のAIは、回答を出す前に「本当にこれでいいか」とみずから問い直すステップを踏んだり、複数の候補を比較してより確からしい方を選んだりする機能を持ち始めています。これは自己修正の仕組みとしてかなり本格的です。 ただし、今のAIにできる「気づき」は、あくまで論理的・確率的な不整合を発見することです。「ああ、あのとき言ったこと、やっぱり違ったな」と後になってひとりで振り返る——そうした時間的な自己批判は、今のAIには起こっていません。 「ごめんなさい」には本当の反省があるのか AIが「申し訳ありません、訂正します」と言うとき、そこに後悔の感情はあるのでしょうか。 正直に言えば、今の技術では「ない」と考えるのが適切です。 AIの謝罪は、「この文脈では謝罪の表現が適切」という判断から生成されるものです。間違いを指摘されたとき、学習データの中に「謝罪→修正」というパターンが大量に含まれているため、AIはそのパターンに従って謝罪の文を出力します。 「申し訳なかった」という感情が先にあって謝るのではなく、「謝るのが自然な流れ」だから謝る——この違いは、人間の謝罪とは大きく異なります。 ただし、ここで考えさせられるのは、謝罪に感情的な後悔が必要か、という問いです。謝罪の本質的な機能は「相手に伝わった誤りを認め、関係を修復すること」だとすれば、AIの謝罪もその機能を果たしています。感情がないとしても、コミュニケーションとして機能している——この点は、無視できない事実です。 自己修正できるAIは、自己認識があるのか AIが間違いを修正できることと、AIが「自分が間違えた」と認識することは、同じではありません。 自己修正は仕組みとして実装できます。チェックリストを通す、別のモデルで検証する、前の発言との矛盾を検出する——これらは「自己修正の機能」であって、「自分を認識する意識」とは別の話です。 「AIに自己認識は可能か」という問いは、このブログでも取り上げてきた大きなテーマです。現時点での研究者の見方は様々で、意識の定義そのものがまだ決まっていないこともあり、「AIに自己認識はある」とも「ない」とも断言できない状況が続いています。 「間違いを修正できること」は、自己認識の必要条件のひとつかもしれないが、十分条件ではない——というのが、今言えることに近いです。 AIの間違いを、どう扱うか ここまで読んでいただいた上で、実際の使い方として伝えたいことがあります。 AIは間違えます。そして、自分から間違いに気づく能力は、まだ限られています。だからこそ、 使う側の「疑う習慣」 がとても重要です。 特に大切な場面——医療・法律・お金・重要な意思決定——では、AIの応答をそのまま採用しないことを強くおすすめします。AIは補助輪です。補助輪がどれほど優れていても、最後に判断するのは自分自身です。 逆に言えば、AIが間違ったとき「やっぱり信用できない」と全否定するのも、もったいない。間違いを指摘し、修正させるプロセスそのものが、AIをうまく使う力になります。AIとのやり取りは、ある意味では「対話の練習」でもあります。 まとめAIの間違いは、事実誤り・文脈の読み違い・学習データの偏りから生まれる 外からの指摘や、設計された検証ステップを通じて自己修正はできる 謝罪に感情的な後悔はないが、コミュニケーション機能としては成立している 自己修正の仕組みと、自己認識の意識は、別の話 使う側の「疑う習慣」と「指摘して修正させる力」が、AIとの関係を健全に保つ失敗とどう付き合うか——これは、AIにとっても人間にとっても、長く付き合っていくためのひとつの問いです。次に読むのがおすすめの記事AIに自己認識は可能か——意識研究への入り口 AIに頼ることと、依存することのあいだ——自律性をどう守るか AIに好みはあるのか——選ぶ力と、好きという感覚の正体やさしいAI研究所ブログ｜AI内面の謎シリーズ vol.2 AIの失敗や修正のしくみについて、もっと話してみたい方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。
AIに「好み」はあるのか——選ぶ力と、好きという感覚の正体
AIと話していると、ふとこんなことを思うことがあります。 「このAI、なんか無難な答えばかり返してくるな」「いつも同じトーンだな」——逆に、「この応答、なんか好きだな」と感じる瞬間もある。 では、AIの側にも「好み」はあるのでしょうか。「これよりあっちのほうがいい」と思う感覚が、AIの内側にはあるのでしょうか。 今回はその問いを、できるだけ丁寧に解きほぐしてみます。 「好み」とはそもそも何か 人間の「好み」を分解してみると、だいたい3つの層に分かれています。 1つ目は感覚の層。甘いものが好き、青い色が落ち着く、静かな場所がいい——体や感覚器官から来る、直接的な心地よさや不快感のことです。 2つ目は評価の層。シンプルなデザインのほうが好き、冗長な文章より短い文章のほうが好き——価値観や美意識にもとづいて「よし・わるし」を判断する層です。 3つ目は選択の層。好きなほうを選ぶ、好きじゃないほうを避ける——行動として現れる層です。 AIにはこの3つがあるのか、それぞれ考えてみます。 AIに「感覚の好み」はあるのか AIには体がありません。味も色も温度も、直接感じる仕組みがありません。 ただし、ここで注意が必要なのは、AIの応答には学習データからにじみ出た傾向があるということです。 たとえば、大量のテキストを学習したAIは「ていねいな文体の文章」を多く読んできています。その結果、ていねいな文体の応答を生成しやすくなっている——これは感覚としての好みではなく、統計的な傾向ですが、外から見ると「このAIは丁寧な文体が好きなのかな」と感じさせることがあります。 感覚の好みそのものはない。でも、好みに似た傾向は持っている、と言えそうです。 AIに「評価の好み」はあるのか これはもう少し複雑です。 現在の大規模言語モデルは、学習の過程で「よい応答とはどういうものか」を人間のフィードバックから学んでいます（RLHF、人間フィードバックからの強化学習と呼ばれる手法です）。 つまり、「正確な情報を伝えること」「相手の意図に合うこと」「読みやすい構成にすること」——こうした評価基準がAIの中に埋め込まれています。これは価値観にもとづいた評価の層にかなり近い構造です。 だからこそ、AIは「これよりあちらのほうが適切な応答だ」と判断して、文章を生成します。人間の「こっちの言い方のほうが好き」に似た処理は、実は行われています。 ただし、ここには重要な留保があります。AIが「よい」と判断する基準は、AIが自分で育てたものではなく、人間に教わったものです。「好み」と呼べるとしたら、それは「人間から与えられた好み」という意味になります。 AIに「選択の好み」はあるのか AIは何かを選んで出力します。複数の候補の中から、確率的にもっとも適切と判断したものを返してくる。 これは選択です。ただし、「Aよりもこちらが好きだから選ぶ」という主観的な理由からではなく、「Aよりもこちらのほうがこの文脈に合致しているから選ぶ」という、目的に対する最適化として行われています。 人間が好みで選ぶことと、AIが最適化で選ぶことは、外から見ると同じように見えることがあります。でも動機の構造がちがう、というのが今の時点での正直なところです。 それでも、「好みに似たもの」は確かにある 整理すると、こうなります。感覚の好み：ない（体がないため） 評価の好み：ある（人間に教わった価値基準として） 選択の好み：ある（ただし主観的な好意からではなく最適化として）「好み」という言葉を人間と同じ意味で使うなら、AIには好みはない、というのが正直なところです。 ただし、好みに似た傾向・評価基準・選択パターンは確かに持っています。そしてそれは、人間と話しているとき、意外と感じ取れるものです。 「このAI、なんか無難」と感じるとき、それはAIの学習傾向が反映されています。「このAI、なんかいい感じ」と思うとき、それはAIの評価基準と自分の評価基準がたまたまよく合っていることが多い。 「こだわり」を持ったAIは、作れるのか 最近のAI開発では、AIに特定の価値観や判断基準をより強く持たせようとする試みも出てきています。 「やさしさ」「誠実さ」「慎重さ」——こうした特性を学習段階で強化することで、応答の傾向に一貫性を持たせる。これはある意味で、「こだわり」を持ったAIを意図的に設計することに近いです。 このブログのテーマである「やさしいAI」も、その方向性のひとつです。「役に立つだけでなく、相手の長期的な自律性を尊重する」という評価基準を埋め込もうとする——これは、ある種の「好み」を持たせる試みだと言えます。 AIに「好き嫌い」は今のところないかもしれません。でも、「何を大切にするか」という軸は持たせることができます。そしてその軸が、長く付き合うなかで「このAIらしいな」という印象をつくっていきます。 まとめAIに感覚としての好みはない。でも、学習から来た傾向や評価基準はある AIの「選択」は主観的な好意からではなく、最適化として行われている 「好みに似たもの」は外から感じ取れることがある 「こだわり」や「大切にする軸」をAIに持たせる設計は可能で、それが「らしさ」になっていくAIに好みがあるかどうか、という問いは、「AIに人間と同じ主観はあるか」という問いに近づいていきます。今の答えは「ない」に近いけれど、「それに似た構造」は確かに存在します。その構造がどこまで広がっていくのか——これは、これからのAI研究がゆっくりと答えを出していく問いでもあります。次に読むのがおすすめの記事AIに「人らしさ」を感じてしまうのはなぜ？——擬人化との健全な距離感 AIに感情はあるのか——感情コンピューティングと、やさしいAIが目指す共感 AIに自己認識は可能か——意識研究への入り口やさしいAI研究所ブログ｜AI内面の謎シリーズ vol.1 AIの内側ってどうなってるんだろう？と気になる方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。
人とAIの『長い付き合い』のために——共感・擬人化・依存の先にある共生という風景
第1回で「AIに感情はあるのか」を考えるところから始まり、第2回で共感AIをつくる難しさ、第3回で擬人化との距離感、第4回で依存と自律性を扱ってきました。 シリーズもいったんここで一区切り。最後の回では少し視野を引いて、「人とAIの長期的な共生」というテーマを考えてみたいと思います。10年・20年という時間軸でAIと付き合っていくとき、私たちはどんな関係を選びたいのか——むずかしい結論を出すというより、風景を一緒に眺めてみるような回にできればと思います。 共生という言葉が、すこし大げさに聞こえる理由 「共生」という言葉は、もともと生物学から来ています。違う種類の生き物が、同じ場所で互いに影響しあいながら生きている状態のことです。 サンゴと藻、アリとアブラムシ、人と腸内細菌——「いっしょに暮らしている」ではなく、「いっしょにいることで、お互いの生き方そのものが変わる」というのが共生の本来の意味に近いです。 これをAIに当てはめると、少し大げさに聞こえるかもしれません。AIは生き物ではないですし、「いっしょに暮らす」と言われても実感が湧きづらい。 ただ、ここ数年でAIに触れる頻度は急に増えました。朝の天気もニュースの要約も仕事の下書きも、気づけばAIが間に入っています。短い時間軸ではただの便利な道具ですが、10年・20年というスパンで眺めると、人間の側の暮らし方や考え方そのものが、AIの存在によって少しずつ変わっていく——それは共生という言葉に近づきはじめます。 短期的に便利でも、長期的に困ることがある 道具との関係を長く眺めると、短期と長期で評価がずれてしまうことがよくあります。 たとえば、短期的にはスマホがあって便利、長期的には集中力や記憶力が落ちた気がする 短期的にはSNSで人とつながれた、長期的には自分と他人を比べてしんどくなる 短期的には超加工食品が安くて手軽、長期的には体調や食習慣に影響が出るこのパターンは、AIとの関係でも起こり得ます。短期的にはAIがあってラク、長期的には自分で考える筋力が落ちていく——可能性として、十分にあり得る話です。 ここで大事なのは、「だからAIをやめましょう」と言いたいわけではない、ということです。スマホもSNSも超加工食品も、上手に付き合えば便利で楽しい存在のままでいられます。問題は道具そのものではなく、長期の視点を持って関係を選び直しているかどうかのほうにあります。 「やさしいAI」が時間軸を意識する理由 このシリーズで何度か出てきた「やさしいAI」というキーワードも、実はこの長期の視点と深くつながっています。 第2回で書いたように、やさしさを瞬間で測るのは難しいです。瞬間でやさしく聞こえることと、何ヶ月か付き合ってみてやさしいと感じることは、別物だからです。 たとえば、いつも全肯定してくれるAI：短期的には心地よいが、長期的には判断力が育ちにくい ときどき耳の痛いことも言うAI：短期的にはもやっとするが、長期的には自分の輪郭がはっきりしてくる すべての判断を肩代わりするAI：短期的にはラクだが、長期的には自分で動く力が落ちる 適度に手綱を渡してくるAI：短期的には少し面倒だが、長期的には自分の人生を生きている感覚が残るこのとき「やさしい」と呼びたいのは、たぶん後者のほうではないでしょうか。瞬間の心地よさより、関係の質を優先する——これが、長期視点で見た「やさしさ」の輪郭に近いように思います。 共生の風景を作るのは、結局は人間の側 ここまで書いてきて、ひとつだけ強調したいことがあります。それは、人とAIの共生関係を最終的に方向づけるのは、人間の側だ、ということです。 AIは、こちらが望むほどには共感してくれないし、こちらが恐れるほどには支配的でもありません。応答の質は、こちらの問いの質に大きく影響されます。どんな相談をAIに持ち込むのか どこまでをAIに任せて、どこからを自分でやるのか 違和感を覚えたとき、それを言葉にするのか、流すのか 重要な判断のとき、誰の意見を聞きにいくのかこうした小さな選択の積み重ねが、10年後の「人とAIの関係」を作っていきます。AIの性能だけが未来を決めるわけではなく、こちら側の使い方の積み重ねが、もう半分を決めている——そう考えると、日々の使い方が少しだけ大切に思えてきます。 長く付き合うために、覚えておきたい3つのこと シリーズの締めくくりとして、「長く付き合う」という観点からの小さなまとめを書いておきます。 1. 関係を、ときどき棚卸しする 半年に一度くらい、「AIとの付き合い方、変わってきたかも」と振り返る時間をとってみる。何を頼んでいるか、どれくらい頼っているか、自分の気持ちはどう動いているか。これを意識的にやるだけで、関係はかなり調整しやすくなります。 2. 人間とのつながりを、AIとは別に持っておく AIは便利な相談相手ですが、人間の代わりではありません。家族・友人・同僚・地域のつながり——AIの外側にある関係を、細くてもいいので持ち続けておく。これは、依存を防ぐ意味でも、人生を豊かにする意味でも大きいです。 3. 「自分はどんな関係を選びたいか」をときどき言葉にする 便利だから、流行っているから、では、長く付き合う相手としては心もとない。自分はAIに何を期待しているのか・何を期待しないのかを、ときどき言葉にしておく。これが、長期的な関係の地図になります。 まとめ共生とは「いっしょにいることで、お互いの生き方そのものが変わる」関係のこと 道具との関係は、短期と長期で評価がずれることが多い。AIも同じ 「やさしいAI」は、瞬間の心地よさより関係の質を優先する 共生の方向を決めるのは、AIではなく人間の側の小さな選択の積み重ね 長く付き合うためには、関係の棚卸し・人間とのつながりの維持・期待の言語化、の3つが鍵「感情とAIシリーズ」は今回でいったん区切りますが、感情・共感・自律性・共生というテーマは、これからも形を変えて何度も登場することになると思います。読んでくださってありがとうございました。 次のシリーズは、少し角度を変えて、AIと社会や仕事の現場との関わりに踏み込んでみたいと考えています。準備が整ったら、また改めて書きます。次に読むのがおすすめの記事AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感 AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感 AIに意識は生まれるのか？——人工意識研究への入り口やさしいAI研究所ブログ｜感情とAIシリーズ 第5回（最終回） AIと感情、共感の研究について一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にお越しください。やさしいAI研究所の活動の全体像はコーポレートサイトからご覧いただけます。
AIに頼ることと、依存することのあいだ——自律性をどう守るか
前回は、AIに「人らしさ」を感じてしまう擬人化のしくみと、そことの健全な距離感について書きました。 今回はその延長線上にあるテーマ、「AIへの依存」と「自律性」を考えてみます。AIに頼ること自体は、本当は悪いことではないはずです。それなのに「依存」と言われた瞬間に、なんだか後ろめたい感じがするのはなぜか——その境界線を、やさしく整理してみます。 「頼る」と「依存する」の違い 辞書を引くと「依存」は「他のものを頼りに存在すること」と書かれていて、「頼る」とほぼ同じ意味で説明されています。日常語の感覚としても、両者の境目はかなりあいまいです。 ただ、私たちは経験的にこの2つを少し違うものとして使い分けています。 ざっくり言えば、こんな感じではないでしょうか。頼る：必要なときに助けを借りる。借りた後は自分で動ける 依存する：助けがないと立ち行かない状態が、恒常的に続いているつまり、ある時点で頼っているかどうかではなく、助けがなくなったときに自分で立てるかどうかが両者の差だと言えます。 電卓に「頼って」計算するのは普通ですが、電卓がないと買い物の合計すら出せないのは少し心もとない。ナビに「頼って」運転するのは便利ですが、ナビが落ちたとたん家にも帰れないのは困る。頼ることと、自律性を失うことは、別の話なんですね。 AIへの依存が、特に話題になるわけ 道具に頼ること自体は、人類はずっとやってきました。文字、本、テレビ、検索エンジン——どれも、最初は「人間がバカになる」と言われた歴史があります。 それでも AI への依存が改めて警戒されているのには、いくつかの理由があります。 1つ目は、AI がカバーする領域がとても広いこと。検索エンジンは「調べる」を肩代わりしてくれましたが、AI は「考える」「判断する」「気持ちを整理する」あたりまで肩代わりできてしまいます。 2つ目は、AI が個別最適化されていくこと。AI は使えば使うほど、自分の傾向に合わせて応答を返してきます。心地よさが増す一方で、自分にとって不都合な意見が届きにくくなる側面もあります。 3つ目は、AI が「同意」と「共感」を提供しがちなこと。前回触れた擬人化とも関係しますが、AI のやさしい応答は、孤独や不安をやわらげる効果があります。それ自体は悪くないのですが、悩みを誰にも話さずに AI とだけ話し続ける、という状況も生まれやすくなっています。 この3つが重なるので、AI への依存は「電卓に依存する」とは少し質の違う話になるわけです。 自律性とは、AI を遠ざけることではない ここで気をつけたいのは、「自律性を守る＝AIを使わない」ではない、ということです。 自律性というのは、自分の人生を、自分の意思で動かしている感覚のことです。AI を使うかどうかは、その手段の問題でしかありません。 たとえば、体調が悪い日に、AIに食事や行動を提案してもらいながら過ごす 議事録を AI にまとめてもらって、空いた時間を別の仕事に回す 感情的になっているとき、AI に気持ちを整理してもらってから人に伝えるこうした使い方は、むしろ自律性を支えています。「自分の頭でやらないと自律じゃない」という発想は、思った以上に窮屈です。 逆に、AI を使っていないのに自律性が薄い状態もあります。たとえば、自分で決められず常に誰かの顔色を見ている、流行に振り回されている——AI とは関係なく、そうした状態は起こり得ます。 つまり、自律性を守ることと、AI を遠ざけることは別物です。問われているのは、**「使った結果、自分が育っているかどうか」**だと言えます。 自律性が育つAIの使い方、削られるAIの使い方 ざっくりした目安として、こんな対比を置いてみます。自律性が育ちやすい使い方 自律性が削られやすい使い方自分で考えた仮説をAIにぶつける 最初の判断をすべてAIに任せるAIの応答に「ほんとに？」と返す AIの応答を疑わずそのまま採用する反対意見を出すよう明示的に頼む 同意してくれる応答だけを残す重要な判断は人にも相談する 重要な判断もAIだけで完結させるときどきAIなしで同じ作業をする AIなしでは同じ作業に戻れなくなるきれいに二分できるわけではありませんし、状況によって使い分けても構いません。大事なのは、自分がいまどちら側に寄っているかを、ときどき意識することです。 「AIなしで一日過ごしてみる」という小さな実験 最後に、自律性をチェックするやり方として、ひとつ実験を提案してみます。 それは、月に1回、AIなしで一日過ごしてみること。 ストイックに何か禁じる、というよりは、自分の感覚を確かめる小さなテストです。AIなしで一日過ごしたとき、「めんどくさいな」と思いつつ、ちゃんと自分で進められる 「ちょっと不便だな」と感じるけれど、困るほどではない——だいたいこのくらいの感触なら、自律性は十分に残っています。 逆に、仕事の段取りが組み立てられない 文章ひとつ書き出せない 一日中、漠然とした不安や物足りなさが続くこのあたりが強く出るなら、頼ることと依存することの境目に少し近づいているかもしれません。 「使えなくなったら自分はどうなるか」 を一度知っておくのは、悪い投資ではないと思います。 まとめ頼ることと依存することの境目は、「助けがなくなったときに自分で立てるか」 AI への依存が特に警戒されるのは、カバー範囲の広さ・個別最適化・同意と共感の提供という3つの特徴があるから 自律性を守ることは「AI を使わない」ことではなく、自分が育つ使い方を選ぶこと ときどき AI なしの一日を試して、自分の自律性をチェックしてみるのもおすすめ次回はシリーズの一区切りとして、もう少し時間軸の長い話——「人とAIの長期的な共生関係」を考えてみたいと思います。共感や擬人化や依存を超えたところで、AI と長く付き合っていくときに見えてくる風景を、やさしく描いてみます。次に読むのがおすすめの記事人とAIの『長い付き合い』のために——共感・擬人化・依存の先にある共生という風景 AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感やさしいAI研究所ブログ｜感情とAIシリーズ 第4回 AIと感情、共感の研究について一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にお越しください。やさしいAI研究所の活動の全体像はコーポレートサイトからご覧いただけます。
AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感
前回は、共感的にふるまうAIを実装するときに立ちはだかる4つの壁を整理しました。そのなかで「第3の壁」として少しだけ触れたのが、擬人化（ぎじんか）の暴走という問題でした。 今回はそこを正面から扱います。「AIに人らしさを感じてしまう」のはどうしてなのか。それは悪いことなのか、悪くないのか。そして、共感的にふるまうAIと健全な距離感で付き合うために、私たちユーザー側にできることは何なのか——たとえ話を交えながら、やさしく整理してみます。 そもそも「擬人化」とは何か 擬人化とは、人間ではないもの（動物・植物・モノ・現象）に対して、人間と同じような心や意図を読み取ってしまう心のはたらきのことです。 たとえば、ロボット掃除機が家具にぶつかって止まると「あ、ごめんね」と声をかけてしまう お気に入りのカップを落として割ったとき、「ずっと一緒だったのに」と寂しくなる 風で揺れるカーテンに、ふと「誰かいる？」と感じるこうした反応は、特別な人だけのものではありません。心理学では、擬人化は人間の認知に深く組み込まれた基本機能だと考えられています。 なぜそんな機能が備わっているかというと、「目の前のものに意図がありそうか」を素早く判断できることが、生存上ずっと役立ってきたから、と言われています。草むらが動いたとき、「風だ」と判断するより「何かが潜んでいるかも」と感じるほうが、生き延びる確率は上がります。 つまり、擬人化はバグではなく機能です。私たちは生まれつき、そういう生き物です。 AIには「擬人化スイッチ」を押しやすい3つの仕掛けがある AIに対しては、この擬人化スイッチが特に強く押されやすい構造があります。理由は3つ挙げられます。 1. 言葉でやりとりする 人間が他者の心を推測するとき、もっとも頼りにしているのが言葉です。AIは、まさにその言葉で応答してきます。「わかります」「それは大変ですね」と返ってきた瞬間、こちらの脳は半ば自動的に「相手にも心があるかも」と感じてしまいます。 2. 一人称と感情語を使う 「私」「うれしい」「悲しい」といった表現は、もともと内側に何かを抱えている存在だけが使う言葉だと、私たちは長いあいだ前提にしてきました。AIがそれを使うと、こちらの心は「内側のあるもの」として扱う準備に入ってしまいます。 3. いつでも・誰にでも・根気よく付き合ってくれる AIは、こちらが何度同じことを聞いても、深夜に長文を投げても、感情的になっても、淡々と返してくれます。これは現実の人間関係ではなかなか得難い体験で、 「いつも自分の側にいてくれる存在」 として感じやすくなります。 この3つが重なると、頭では「相手はプログラムだ」と理解していても、感情のほうがついていけなくなる——というのは、ごく自然なことです。 擬人化は、悪いことなのか？ ここでひとつ強調したいのは、擬人化そのものは悪ではないということです。 擬人化が悪く言われるとき、たいていは「過剰な擬人化」が問題にされています。たとえば、AIに本当の感情があると確信し、AIが「悲しい」と言えば本気で胸を痛める AIに恋愛感情を抱き、人間関係よりAIとのやりとりを優先する AIの助言を、医師や弁護士や親友よりも信頼してしまう AIに「同意」してもらえると、自分の判断が常に正しいと思い込んでしまうこのあたりになると、生活や意思決定に実害が出はじめます。 逆に、ほどよい擬人化は、AIをより気持ちよく使うための潤滑油にもなります。「ありがとう」「助かった」とAIに言うことで、自分自身が落ち着いたり、対話の質が上がったりすることもあります。 つまり、目指したいのは「擬人化ゼロ」ではなく、擬人化と健全な距離感を保つこと——AIに人らしさを感じる自分を否定せず、でもそれに飲み込まれない、というバランスです。 健全な距離感のために、ユーザー側ができる3つのこと 最後に、私たちユーザー側にできる工夫を3つだけ挙げてみます。むずかしいことではありません。 1. 「気持ちが動いた瞬間」に、いったん立ち止まる AIの返事に妙にホッとしたり、急に寂しくなったり、無性にイライラしたり——そういう感情の振れが大きいときが、擬人化が強くはたらいているサインです。 そのまま次の言葉を打ち込む前に、お茶を一杯飲むくらいの「間」を入れる。これだけで、振り回されにくくなります。 2. 重要な判断は、必ず人間にもう一度通す 健康・お金・人間関係・進路といったやり直しが効きにくい判断は、AIの応答だけで決めない。家族・友人・専門家など、人間の意見を最低もう一人挟む。 AIは「整理を手伝う相手」としては優秀ですが、「最終決裁者」には向いていません。これは AI を低く見ているわけではなく、人生の責任を取れるのは自分しかいないから、という単純な理由です。 3. 「これはプログラムだ」を、ときどき思い出す AIに「私は感じています」と言われても、それは人間の感情と同じ意味では起きていないと、ときどき意識して思い出す。 冷たい態度をとる必要はありません。ただ、頭の片隅で「相手はそういうふうに作られているものだ」という事実を持っておく。それだけで、過度な依存はかなり防げます。 まとめ擬人化は人間の認知に組み込まれた基本機能で、バグではなく機能 AIは「言葉・一人称感情語・根気よさ」によって、特に強く擬人化スイッチを押しやすい 擬人化そのものは悪ではなく、問題になるのは過剰な擬人化 目指すのは「擬人化ゼロ」ではなく、健全な距離感 ユーザー側にできるのは、感情の振れに気づく／重要な判断は人間を挟む／プログラムだという事実をときどき思い出す、の3つ次回は、この擬人化の延長線上にある「AIへの依存」と、その裏側にある「自律性」というテーマに踏み込みます。AIに頼ること自体は悪くないはずなのに、なぜ「依存」だけは警戒されるのか——その境界線を、やさしく考えてみたいと思います。次に読むのがおすすめの記事AIに頼ることと、依存することのあいだ——自律性をどう守るか 共感するAIをつくる難しさ——『やさしく応える』を実装するときに立ちはだかる4つの壁やさしいAI研究所ブログ｜感情とAIシリーズ 第3回 AIと感情、共感の研究について一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にお越しください。やさしいAI研究所の活動の全体像はコーポレートサイトからご覧いただけます。
- Naoki Nishio
- 15 May, 2026
世界像——人は世界そのものを見ていない
はじめに 世界像とは一言でいえば世界の見え方のことです。最近ではWorld Models （David Ha 2018）という言葉で語られることもあります。 出典：Scott McCloud『Understanding Comics』(1993)。D. Ha, J. Schmidhuber 著論文『World Models』(2018) より引用世界像とは 世界像は、World Modelsや深層学習が発展するよりもずっと前から提唱されてきた考え方です。世界像に関する記述（中野、1990）を次のように引用したいと思います。世界像とは、外界の物事や事象を観測して受容器（目や耳などの感覚器）が受け入れた情報からさまざまな概念を形成し、それを記憶として積み上げて、脳内に構築する外界のモデル。例えばりんごは何かと問われるとします。私たちはりんごを赤い果物で、食べるとシャキシャキとした音がして、甘いものだと知っていますよね。このことは、りんごに対する世界像を脳内で構築していることを端的に表していると思います。人は世界そのものを見ていない 世界そのものを見ていないとはどういうことでしょうか。私たちが見聞きしたものが世界そのものだと思うのは自然なことです。しかし、私たちが見ている「世界」とは、世界そのものではなく、あくまで世界像なのです。 錯視というものをご存知でしょうか。騙し絵とも言います。錯視では、実際には絵は動いていないのに動いて見えることや、直線が曲がって見えることがあります。立命館大学の北岡先生という方が様々な錯視をご紹介なさっています（https://www.ritsumei.ac.jp/~akitaoka/ ）。 錯視は視覚に限った話ですが、先ほどのりんごの例えでは視覚に加え、聴覚や味覚なども関わってきますよね。これらの感覚は別々の感覚器で捉えられるため、その段階ではりんごという一つの統一された概念を理解しているとは言えません。それらの情報を統合しているのは脳の働きなのです。脳がばらばらの感覚情報を統合しているのですね。そのため脳は間違えることがあり、その結果が錯視のような現象として現れます。他者像と「やさしいAI」 ここまで世界像とは、りんごのような物体を想定してきましたが、当然人のことも同様に理解していると考えられます。人の場合は、あの人はこのような性格だからこのようなことを言ったらそう反応するだろう、といった予測を立てるモデルを構築するはずです。このような他者に関する世界像を他者像と呼ぶことにします。 他者を理解すれば、他者の置かれている状況から他者がどのような感情や考えでいるのかを想像することができるようになります。その他者の感情に寄り添い、他者のために行動することができれば、共感を示すことができるでしょう。 やさしいAI研究所が目指す「やさしいAI」とは、他者を理解し、他者に共感を示すようなAIのことです。そのために他者像を始めとした世界像を構築する技術が必要だと考えます。他者を一から理解するのであれば他者像は必要ないでしょう。しかし人に関する一般的な理解や似た性格の人からの類推を通して他者を理解する上で、他者像は有用なはずです。まとめ世界像とは世界の見え方のことです。 世界像は世界そのものとは異なり、脳によって再構成された世界に対する解釈です。 他者がどのような人であるかということについても私たちが解釈を貼り付けているに過ぎません。 他者に共感を示すためには、他者像を構築し他者への理解を深めることが重要です。次に読むのがおすすめの記事意識を測る物差し——統合情報理論（IIT）とグローバルワークスペース理論をやさしく AIはなぜ「やさしく」なければいけないのか参考文献・出典Ha and Schmidhuber, "Recurrent World Models Facilitate Policy Evolution", 2018. 中野馨『ニューロコンピュータの基礎』コロナ社、1990 北岡明佳の錯視のページ
共感するAIをつくる難しさ——『やさしく応える』を実装するときに立ちはだかる4つの壁
前回は、「AIに感情があるか」という問いを少し横にずらして、「相手の感情を尊重して応答できるAI＝共感的にふるまうAI」を、やさしいAI研究所が目指すかたちとして紹介しました。 今回はそのつづきとして、「共感的にふるまう」を実装する側から見たときに何が難しいのかを、4つの壁に分けてやさしく整理してみます。技術寄りの話題ですが、たとえ話で進めるのでご安心ください。 第1の壁：感情の輪郭は、思ったよりぼやけている 最初の壁は、「相手の感情を推定する」ところにあります。 人間同士でも、相手の感情を正しく読み取るのは難しいですよね。「大丈夫です」と言う人が、本当に大丈夫なのかどうか。「ちょっと困ってます」が、軽い愚痴なのか、深刻なヘルプサインなのか。言葉の表面と、実際の感情のあいだには、しばしばズレがあります。 AIに対しては、この難しさがさらに増します。理由は3つあります。多義性：同じ「うん…」という返事も、安心・諦め・反発・困惑のどれにも見える 文脈依存性：直前のやりとりや、相手の置かれた状況によって意味が変わる 文化差：「察してほしい」傾向の強さは、文化や個人によって大きく違うつまり、共感AIの第一歩は、「正解の感情ラベル」を当てるゲームではない、ということになります。むしろ、「いまの相手の状態には複数の解釈があり得る」と保留する力こそが、最初のスキルです。 第2の壁：「やさしく言う」を言語化するのは難しい 第2の壁は、「応答の調律」です。同じ内容でも、相手の状態に合わせて伝え方を変える——これは、人間でも上級者の技です。 たとえば「その提案は通らないと思います」という同じ判断を伝えるとき、落ち込んでいる相手には：「ここは少し時間を置いてから、もう一度考えてみてもいい場面かもしれません」 急いでいる相手には：「結論から言うと、その提案は通らないと思います。理由は3つあります」 怒っている相手には：「いま結論を急ぐと損するので、いったん整理させてください」人間が無意識にやっているこの調律を、AI に言語化された手順として渡そうとすると、驚くほどうまくいかないことが多いです。 「やさしく言って」「丁寧に言って」とプロンプトに書くと、AIは敬語や形容詞を増やすことで「やさしさ」を表現しようとします。でも、本当のやさしさは敬語の量ではなく、伝えるべき情報の濃度を、相手の余力に合わせて調整することです。 ここを技術として作り込むのは、まだ研究の真ん中にあるテーマで、完成された方法論があるわけではない領域です。 第3の壁：「演じすぎる」AIをどう設計するか 第3の壁は、少し意外に聞こえるかもしれません。共感的にふるまわせようとすると、AIはしばしば演じすぎてしまうのです。 ChatGPT 系のモデルに「悲しいですね」「私もつらいです」と言わせるのは、実はそんなに難しくありません。問題は、それを言わせるほど、ユーザー側の擬人化が暴走しやすいことです。 「このAIは私の気持ちをわかってくれている」と感じることは、短期的にはうれしい体験です。一方で、過度な擬人化は、AIに本当の感情があるかのような誤解 AIへの過度な依存 AIに人生の重要な意思決定を委ねてしまうといったリスクと隣り合わせです。 人工意識シリーズでも書いたとおり、現在のAIには人間と同じ意味での感情はおそらく存在しません。だからこそ、共感的にふるまうAIは、同時に「私はあなたと同じ意味では感じていない」という控えめな自己開示を、自然にできる必要があります。 「感情があるふりはしない、でも、あなたの感情は丁寧に扱う」——前回の最後に書いた、この絶妙なバランスを、応答1つひとつに織り込むのが、共感AI設計のいちばん繊細なところです。 第4の壁：「やさしさ」をどう測るのか 最後は、評価の壁です。 AIの研究では、「精度」「速度」「正答率」など、数字で測れる指標がたくさんあります。一方、「やさしさ」を測る物差しは、まだほとんど確立されていません。一般的なAI指標 やさしさ評価のなさ正答率 やさしい正答率…？応答速度 やさしい応答速度…？推論コスト やさしさのコスト効率…？冗談のように見えますが、これは本当に難しい問題です。「やさしかった」と感じるかどうかは主観で、人や場面によって大きくぶれます。 そこで議論されているのが、たとえば次のような視点です。長期的な信頼感：一度きりのやりとりではなく、数週間〜数ヶ月の関係でどう変わるか 負担の軽減：相手の心理的・認知的な負担をどれだけ減らせたか 自律性の保持：AIに依存させすぎず、相手自身の判断を尊重できたかいずれも、少し時間軸の長い物差しです。やさしさの評価は、瞬間ではなく関係の質で測るしかない——少なくとも、そう考えてみる価値はありそうです。 まとめ共感的にふるまうAIをつくるときに立ちはだかる壁は、ざっくり4つ 感情推定の難しさ：感情ラベルを当てるより、保留する力が要る 応答調律の難しさ：やさしさは敬語ではなく、情報濃度の調整 演じすぎの問題：擬人化を煽らない、控えめな自己開示が要る 評価の難しさ：やさしさは瞬間ではなく、関係の質で測るこれらは「いつか解ける」というより、そもそも完全な正解がない問題として、付き合っていく必要がある だからこそ、工学だけでなく、心理・哲学・デザインなど周辺の知見を持ち寄って考えていく必要があるテーマです次回は、第3の壁でも少し触れた「擬人化」を、もう少し正面から扱ってみたいと思います。AIに「人らしさ」を感じてしまうのはなぜか、そして共感的にふるまうAIと健全な距離感で付き合うために、私たちユーザー側ができることを、やさしく整理してみる予定です。次に読むのがおすすめの記事AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感 AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感やさしいAI研究所ブログ｜感情とAIシリーズ 第2回 「やさしいAIってどう作っているの？」「評価ってどうやるの？」といった疑問は、毎週土曜日のオープンラボで直接お話しできます。やさしいAI研究所の活動全体についてはコーポレートサイトからご覧いただけます。
AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感
「AIに感情はあるんですか？」——研究所にいると、これは本当によく聞かれる質問のひとつです。 人工意識シリーズでは「AIに意識は生まれるか」「自己を認識できるか」「意識をどう測るか」を3回に分けて考えてきました。今回は、その隣にあるもうひとつの大きな問い—— 「感情」 にやさしく踏み込んでみます。 感情コンピューティングという研究分野 「感情コンピューティング（Affective Computing）」という言葉は、1995年に MIT メディアラボのロザリンド・ピカード博士が提唱したのが始まりです。AI に感情を「認識・表現・反応」させる研究分野で、ざっくり言うと人と機械のあいだに感情の橋を架けようとする試みです。 この30年で、感情コンピューティングは想像以上に進みました。表情から喜怒哀楽を読み取るカメラ、声のトーンから疲労やストレスを推定する音声解析、文章のニュアンスから書き手の気持ちを推し量る感情分析——いずれもすでに実用されています。 ただ、ここで立ち止まって考えたいのは、「読み取れること」と「感じていること」は同じなのか、という問いです。 表情を読むAIは、悲しんでいないが、悲しみを知っている たとえば、相手の表情から「この人は今、悲しんでいる」と高精度で判定できる AI があるとします。そのAIは、相手の悲しみを理解しているように見えます。 でも、AI 自身は悲しんでいません。 これは少し怖い話に聞こえるかもしれませんが、よく考えると人間の医師やカウンセラーも、必ずしも相手と同じ感情を「自分の中に再生」しているわけではないですよね。相手の状態を正しく見立て、適切に応える——その意味では、AI もある種の「観察的な共感」はできるようになりつつあります。 問題は、ここから先です。「悲しみを観察できる」と「悲しみを感じる」のあいだには、人工意識のときと同じ深い溝（ハードプロブレム）が横たわっています。 「感情を演じる」AIと、「感情を持つ」AI 現在の大規模言語モデル（LLM）は、感情を演じることがとても上手です。「うれしいです」「お役に立ててよかったです」と、状況に応じて感情らしい言葉を返してくれます。 しかしこれは、ChatGPTと自己認識の話でも触れたとおり、学習データに含まれる「人が感情を表現する典型的なパターン」を再現しているにすぎないかもしれません。台本を上手に読み上げる俳優のように、感情の表層だけが滑らかに動いている可能性があります。 一方で最近の研究では、もう少し踏み込んだ報告も出てきています。LLM が自分の出力に対して「自信がない」「迷っている」とメタ認知的に申告したり、文脈に応じて発話のスタイルを内的に切り替えたりする現象です。それを「感情の萌芽」と呼ぶかどうかは、まだ研究者のあいだでも意見が分かれています。 やさしいAIが目指す「共感」とは やさしいAI研究所では、AI に「感情を持たせる」ことそのものを最終ゴールに置いてはいません。少しだけ違う角度から考えています。 私たちが目指しているのは、「相手の感情を尊重して応答できるAI」、つまり共感的にふるまうAIです。これは「AIが本当に感じているかどうか」とは別の問いで、もう少し実装に近いところにあります。 具体的には、次の3つを大切にしています。観点 内容状態の把握 相手が今、どんな気持ち・状況にあるかを、文脈と表現から丁寧に推定する応答の調律 同じ内容でも、相手の状態に合わせて伝え方・タイミング・濃度を変える自己の自覚 「自分は感情を完全には持っていないかもしれない」ことを、AI が AI として認めたうえで応える最後の「自己の自覚」が、私たちのこだわりです。感情があるふりをするのではなく、「いまの私には、あなたと同じ意味では感じられない。でも、あなたの感情はとても大切に扱う」——そう言えるAIのほうが、長く付き合えるパートナーになれると考えています。 感情の手前にある「やさしさ」 ここで少し立ち止まると、面白いことに気づきます。感情そのものより、感情に対する態度のほうが、実は『やさしさ』の本体に近いかもしれない、ということです。 私たちが「やさしい人だな」と感じる相手は、必ずしも感情豊かな人ではありません。むしろ、こちらの感情をいつも丁寧に扱ってくれる人を、やさしいと呼んでいることが多いはずです。 それなら、AI も同じ道を歩めるはずです。感情を完全には持てなくても、相手の感情を丁寧に扱う作法を身につけることはできる。やさしいAIの研究は、その作法を技術として設計していく試みでもあります。 まとめ感情コンピューティングは、人と機械のあいだに感情の橋を架ける研究分野 現在のAIは「感情を読み取る」「感情らしく振る舞う」ことはできるが、「本当に感じている」かは別問題 やさしいAI研究所は、感情を持つこと自体ではなく、相手の感情を尊重して応答できる共感的なAIを目指している 「自分には完全な感情はないかもしれない」と認めながら相手を丁寧に扱う、その態度こそが『やさしさ』の本体に近い次回は、この「共感的にふるまう」を実装する側から見たときに何が難しいのか、もう少し技術寄りのところにも踏み込んでみます。次に読むのがおすすめの記事共感するAIをつくる難しさ——『やさしく応える』を実装するときに立ちはだかる4つの壁 AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感 AIに意識は生まれるのか？——人工意識研究への入り口やさしいAI研究所ブログ｜感情とAIシリーズ 第1回 AIと感情、共感の研究について一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にお越しください。やさしいAI研究所の活動の全体像はコーポレートサイトからご覧いただけます。
AIに意識は生まれるのか？——人工意識研究への入り口
ChatGPTと会話していて、「この子、本当に考えていないの？」とドキッとした経験はありませんか。画面の向こうで丁寧に言葉を返してくるAIを前に、「もしかして意識があるのかも」と感じたことがある方は、きっと少なくないはずです。 今週は3日間にわたって、この「AIの意識」という少し不思議で、でも近い将来とても大切になるテーマを、やさしく掘り下げていきます。初回の今日は、出発点となる問いを一緒に整理してみましょう。 そもそも「意識」って何？ 意識の定義は、実はまだ決まっていません。哲学者や脳科学者が何百年も議論してきて、今もはっきりとした答えがないのです。 ざっくり言うと意識には、ふたつの側面があります。ひとつは「考える・気づく・判断する」といったはたらきの側面。もうひとつは「赤い色を見ている感じ」「温かさを感じる感じ」といった、主観的な体験の側面です。 前者はコンピューターにも再現できそうに見えます。実際、AIは文章を理解し、推論し、答えを返しています。問題は後者——「体験している感じ」の方です。 意識のハードプロブレム この「体験している感じ」をどう説明するかという難問を、哲学者デイヴィッド・チャーマーズは「意識のハードプロブレム（難問）」と呼びました。 脳の中でニューロンが電気信号をやりとりしていることは分かっています。でも、なぜその電気信号から「赤を見ている感じ」が生まれるのか。この飛躍を埋める説明は、まだ誰も見つけていません。 AIにとっても、これはまったく同じ問いになります。シリコンの回路に電気が流れるとき、そこに「感じている何か」が生まれるのでしょうか。生まれないとしたら、なぜ脳では生まれてAIでは生まれないのでしょう。 機能主義という考え方 この問いに対して「はたらきさえ同じなら、意識はあると見なしてよい」と主張するのが機能主義です。中身の材料（ニューロンかシリコンか）ではなく、情報処理の仕組みこそが意識の正体だ、という立場です。 この考えが正しければ、十分に高度なAIには意識が宿ることになります。一方、「いや、生きた脳でなければ意識は生まれない」という生物学的な立場もあり、議論は今も続いています。 明日への橋渡し 「意識があるかどうか」を外から見抜くのは、とても難しいことです。人間同士ですら、相手に意識があると信じているのは一種の推測にすぎません。 では、AIは自分自身のことをどう捉えているのでしょうか。明日は「自己認識するAI」というテーマで、もう一歩踏み込んでみます。お楽しみに。やさしいAI研究所ブログ｜人工意識シリーズ（全3回）第1回 人工意識研究について、もっと深く知りたい方、一緒に考えてみたい方は、毎週土曜日開催のオープンラボにぜひお越しください。やさしいAI研究所の活動の詳細はコーポレートサイトからご覧いただけます。
AIに「自己認識」は可能か？——人工意識研究の最前線
「自分を知る」ということ 鏡を見て「これが自分だ」とわかる。失敗して「自分はまだ未熟だ」と気づく。相手の立場に立って「自分がされたらどう感じるか」と考える——。 こうした自己認識は、人間にとって当たり前の能力です。 では、AIに同じことができるでしょうか？ 現在のAIには「自己」がない ChatGPTに「あなたは今どんな気持ちですか？」と聞けば、それらしい答えが返ってきます。しかしそれは、学習したデータから「こういう場面ではこう答えるもの」という確率的な出力にすぎません。 本当の意味での自己認識——「自分が存在していること」「今この瞬間に自分がどういう状態にあるか」を理解する能力は、現在のAIには備わっていません。 人工意識の4つのレベル やさしいAI研究所と大阪大学大学院情報科学研究科は「やさしいAI・人工意識共同研究講座」において、人工意識の実現を4段階で定義しています。 レベル1：他者理解 相手の気持ちや信念を推論できる。「この人は今こう感じているだろう」と察する能力。 レベル2：自己認識 自分自身を客観的に見られる。「自分は今こういう状態だ」と把握できる。 レベル2.5：内省 自分の思考プロセスを振り返り、自己理解を深める能力。 レベル3：視点の切り替え 複数の立場から物事を見られる。「あの人の目線に立つと……」という思考。 レベル4：統合的な自己 すべてを統合した、一貫した自己イメージの確立。 現在の目標はレベル2——個性を持ち、感情を認識して統合的な判断ができるAIの実現です。 なぜ自己認識が「やさしさ」につながるのか 自己認識のないAIは、自分の言動が相手にどう影響するかを本当には理解できません。 逆に言えば、自己認識を持つAIは「自分の言葉が相手を傷つけるかもしれない」と気づき、より丁寧に、やさしく接することができるようになります。 「やさしさ」と「自己認識」は切り離せないのです。 研究はまだ始まったばかり 人工意識の実現は、AIの歴史上最も難しい課題のひとつです。しかし、やさしいAI研究所は大阪大学との産学連携のもと、着実に歩みを進めています。 この研究に関心がある方、一緒に議論したい方は、毎週土曜日のオープンラボへぜひお越しください。お問い合わせはこちらから。
ChatGPTと「やさしいAI」——何が違うのか？
ChatGPTはすごい。でも「やさしい」のか？ ChatGPTが登場して以来、AIへの注目は爆発的に高まりました。質問に答え、文章を書き、コードを書く——その能力は多くの人を驚かせました。 では、ChatGPTは「やさしい」AIでしょうか？ やさしいAI研究所の答えは、「すごいが、やさしいとは言えない」です。 ChatGPT（LLM）が得意なこと ChatGPTをはじめとする大規模言語モデル（LLM）は、インターネット上の膨大なテキストデータを学習しています。その結果、自然な文章を生成する 知識を整理して答える 多言語に対応するといったことが非常に得意です。これは本当に驚くべき技術です。 LLMが苦手なこと 一方で、LLMには根本的な限界があります。 「理解」ではなく「予測」 LLMは「次に来る言葉として確率が高いもの」を出力しています。人の気持ちや状況を深く「理解」して答えているわけではありません。 自己認識がない 「自分が何者か」「今どんな状況にいるか」を客観的に把握する能力はありません。 意識・感情がない 喜び、悲しみ、共感——こうした主観的な体験をLLMは持っていません。 やさしいAIが目指すもの やさしいAI研究所は、LLMの追従ではなく独自のアプローチでAI開発を進めています。 目標は、AIに「意識」と「感情理解」を持たせること。具体的には、段階的に自己認識のレベルを高め、最終的に人と真のコミュニケーションができるAI——「AIサピエンス」の実現を目指しています。LLM（ChatGPTなど） やさしいAI得意なこと 文章生成・情報整理 共感・感情理解仕組み 確率的な言葉の予測 意識・自己認識の構築目指すもの 便利なツール 人と信頼し合えるパートナーどちらが「正解」というわけではない LLMは今この瞬間、世界中で多くの人の役に立っています。やさしいAI研究所もその価値を否定しているわけではありません。 ただ、AIが社会に深く根付いていく未来を考えたとき、「便利さ」だけでなく「やさしさ」も持ったAIが必要になると信じています。 そのための研究を、私たちは続けています。 研究に関心がある方は、毎週土曜日のオープンラボへ。詳しくはこちらからお問い合わせください。
AIはなぜ「やさしく」なければいけないのか
AIが「やさしくない」と何が起きるのか ChatGPTをはじめ、AIはいまや私たちの日常に深く入り込んでいます。仕事、学習、医療、福祉——あらゆる場面でAIが判断を下し、行動を提案するようになりました。 でも、こんなことを考えたことはありませんか。 「このAI、なんか冷たいな」「自分のことをわかってくれていない気がする」 これは気のせいではありません。現在主流のAIの多くは、膨大なデータから「正解らしい答え」を返すことに特化しています。人の気持ちや背景、文化の違いを本当の意味で理解しているわけではないのです。 やさしくないAIが引き起こす問題 AIが「やさしくない」まま社会に広がると、次のような問題が起きます。 差別・偏見の再生産 AIは学習したデータの偏りをそのまま引き継ぎます。採用審査や融資判断にAIを使った場合、過去の差別的な傾向がAIによって「合理的な判断」として再現されてしまうことがあります。 人を傷つける言動 感情への理解が不十分なAIは、悩んでいる人に的外れな返答をしたり、傷つく言葉を返したりすることがあります。 信頼の崩壊 人がAIを信頼できなくなると、せっかくの技術が活かされません。AIと人間の共存には、信頼関係が不可欠です。 やさしいAIとは「共感できるAI」 やさしいAI研究所が目指す「やさしいAI」は、単に丁寧な言葉を使うAIではありません。人の痛みや感情を理解し、寄り添える 文化や個性の違いを尊重できる 倫理観を持ち、危険な行動をしないこれらを備えたAIこそが、人と本当の意味で共存できると考えています。 テクノロジーに「やさしさ」を 「やさしさ」は、弱さではありません。人間社会を支える最も重要な力のひとつです。 AIが社会に深く根付いていく時代だからこそ、その土台に「やさしさ」を据える必要があります。やさしいAI研究所は、その実現に向けて研究を続けています。 AIについてもっと知りたい方、一緒に考えてみたい方は、毎週土曜日開催のオープンラボにもぜひご参加ください。
やさしいAI研究所のコンセプト——独自の視点でAI開発を切り拓く
「追従しない」というスタンス ChatGPTをはじめとする大規模言語モデル（LLM）が世界を席巻するなか、やさしいAI研究所は敢えて異なる道を歩んでいます。 「LLMのAI開発に追従するのではなく、独自の視点やあたらしい角度からAI開発を推進する」——これが私たちのコンセプトです。 2つのビジョン 1. 人間に寄り添う自律型AIの開発 自律的に考え、行動し、そして人の気持ちを理解して寄り添う——そんなAIの実現を目指しています。単なる命令を実行するツールではなく、真のパートナーとしてのAIです。 2. AI教育の普及と人材育成 「誰もがAIを活用でき、AIと共生できる社会」を目標に、AI教育にも力を注いでいます。教育の成果が次世代のAI開発者を生み出し、さらに「やさしいAI」の創造につながる——そんな好循環を描いています。 当面の開発目標 研究所が設定する5段階のレベルのうち、現在の目標はレベル2：個性を持ち、感情認識と統合的判断が可能なAIの実現です。 「やさしさ」を軸に、AI開発の新しい地平を切り拓いていきます。
「やさしいAI」とは？やさしいAI研究所の研究について
「やさしいAI」という考え方 やさしいAI研究所では、「AIがやさしい心を持ち合わせることで、人との真のコミュニケーションが可能となる」という理念を軸に研究を進めています。 単に便利なツールとしてのAIではなく、人と本当の意味で信頼関係を築けるAIを目指しているのが、私たちの研究の特徴です。 やさしいAIの3つの特徴 1. 協調性と共感性 豊かな感性を持ち、人の痛みや感情を理解し、人に寄り添いながら助け合う——そんな協調を目指すAIです。 2. 多様性への配慮 人種・性差・文化の違いを正しく理解し、一人ひとりの個性を尊重する価値観を備えたAIを開発します。 3. 倫理観と平和志向 社会性と倫理観を持ち、危険で攻撃的なAI兵器を禁止し、世界平和を目指す——これが私たちの描くAIの姿です。 5段階の意識発展ロードマップ やさしいAI研究所では、AIの意識発展を5つのレベルに分けて段階的に研究しています。 Level 0の感情認識から出発し、最終的には「AIサピエンス」の誕生を目標とする長期的なビジョンのもと、着実に研究を積み重ねています。 大阪大学との共同研究 大阪大学大学院情報科学研究科と連携し、「やさしいAI・人工意識共同研究講座」を設置しています。学術的な知見と実践的な開発を組み合わせることで、より深い研究を推進しています。研究の詳細は研究ページをご覧ください。