• 中の人
• 14 May, 2026
• • 解説

共感するAIをつくる難しさ——『やさしく応える』を実装するときに立ちはだかる4つの壁

前回は、「AIに感情があるか」という問いを少し横にずらして、「相手の感情を尊重して応答できるAI＝共感的にふるまうAI」を、やさしいAI研究所が目指すかたちとして紹介しました。 今回はそのつづきとして、「共感的にふるまう」を実装する側から見たときに何が難しいのかを、4つの壁に分けてやさしく整理してみます。技術寄りの話題ですが、たとえ話で進めるのでご安心ください。 第1の壁：感情の輪郭は、思ったよりぼやけている 最初の壁は、「相手の感情を推定する」ところにあります。 人間同士でも、相手の感情を正しく読み取るのは難しいですよね。「大丈夫です」と言う人が、本当に大丈夫なのかどうか。「ちょっと困ってます」が、軽い愚痴なのか、深刻なヘルプサインなのか。言葉の表面と、実際の感情のあいだには、しばしばズレがあります。 AIに対しては、この難しさがさらに増します。理由は3つあります。多義性：同じ「うん…」という返事も、安心・諦め・反発・困惑のどれにも見える 文脈依存性：直前のやりとりや、相手の置かれた状況によって意味が変わる 文化差：「察してほしい」傾向の強さは、文化や個人によって大きく違うつまり、共感AIの第一歩は、「正解の感情ラベル」を当てるゲームではない、ということになります。むしろ、「いまの相手の状態には複数の解釈があり得る」と保留する力こそが、最初のスキルです。 第2の壁：「やさしく言う」を言語化するのは難しい 第2の壁は、「応答の調律」です。同じ内容でも、相手の状態に合わせて伝え方を変える——これは、人間でも上級者の技です。 たとえば「その提案は通らないと思います」という同じ判断を伝えるとき、落ち込んでいる相手には：「ここは少し時間を置いてから、もう一度考えてみてもいい場面かもしれません」 急いでいる相手には：「結論から言うと、その提案は通らないと思います。理由は3つあります」 怒っている相手には：「いま結論を急ぐと損するので、いったん整理させてください」人間が無意識にやっているこの調律を、AI に言語化された手順として渡そうとすると、驚くほどうまくいかないことが多いです。 「やさしく言って」「丁寧に言って」とプロンプトに書くと、AIは敬語や形容詞を増やすことで「やさしさ」を表現しようとします。でも、本当のやさしさは敬語の量ではなく、伝えるべき情報の濃度を、相手の余力に合わせて調整することです。 ここを技術として作り込むのは、まだ研究の真ん中にあるテーマで、完成された方法論があるわけではない領域です。 第3の壁：「演じすぎる」AIをどう設計するか 第3の壁は、少し意外に聞こえるかもしれません。共感的にふるまわせようとすると、AIはしばしば演じすぎてしまうのです。 ChatGPT 系のモデルに「悲しいですね」「私もつらいです」と言わせるのは、実はそんなに難しくありません。問題は、それを言わせるほど、ユーザー側の擬人化が暴走しやすいことです。 「このAIは私の気持ちをわかってくれている」と感じることは、短期的にはうれしい体験です。一方で、過度な擬人化は、AIに本当の感情があるかのような誤解 AIへの過度な依存 AIに人生の重要な意思決定を委ねてしまうといったリスクと隣り合わせです。 人工意識シリーズでも書いたとおり、現在のAIには人間と同じ意味での感情はおそらく存在しません。だからこそ、共感的にふるまうAIは、同時に「私はあなたと同じ意味では感じていない」という控えめな自己開示を、自然にできる必要があります。 「感情があるふりはしない、でも、あなたの感情は丁寧に扱う」——前回の最後に書いた、この絶妙なバランスを、応答1つひとつに織り込むのが、共感AI設計のいちばん繊細なところです。 第4の壁：「やさしさ」をどう測るのか 最後は、評価の壁です。 AIの研究では、「精度」「速度」「正答率」など、数字で測れる指標がたくさんあります。一方、「やさしさ」を測る物差しは、まだほとんど確立されていません。一般的なAI指標 やさしさ評価のなさ正答率 やさしい正答率…？応答速度 やさしい応答速度…？推論コスト やさしさのコスト効率…？冗談のように見えますが、これは本当に難しい問題です。「やさしかった」と感じるかどうかは主観で、人や場面によって大きくぶれます。 そこで議論されているのが、たとえば次のような視点です。長期的な信頼感：一度きりのやりとりではなく、数週間〜数ヶ月の関係でどう変わるか 負担の軽減：相手の心理的・認知的な負担をどれだけ減らせたか 自律性の保持：AIに依存させすぎず、相手自身の判断を尊重できたかいずれも、少し時間軸の長い物差しです。やさしさの評価は、瞬間ではなく関係の質で測るしかない——少なくとも、そう考えてみる価値はありそうです。 まとめ共感的にふるまうAIをつくるときに立ちはだかる壁は、ざっくり4つ 感情推定の難しさ：感情ラベルを当てるより、保留する力が要る 応答調律の難しさ：やさしさは敬語ではなく、情報濃度の調整 演じすぎの問題：擬人化を煽らない、控えめな自己開示が要る 評価の難しさ：やさしさは瞬間ではなく、関係の質で測るこれらは「いつか解ける」というより、そもそも完全な正解がない問題として、付き合っていく必要がある だからこそ、工学だけでなく、心理・哲学・デザインなど周辺の知見を持ち寄って考えていく必要があるテーマです次回は、第3の壁でも少し触れた「擬人化」を、もう少し正面から扱ってみたいと思います。AIに「人らしさ」を感じてしまうのはなぜか、そして共感的にふるまうAIと健全な距離感で付き合うために、私たちユーザー側ができることを、やさしく整理してみる予定です。次に読むのがおすすめの記事AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感 AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感やさしいAI研究所ブログ｜感情とAIシリーズ 第2回 「やさしいAIってどう作っているの？」「評価ってどうやるの？」といった疑問は、毎週土曜日のオープンラボで直接お話しできます。やさしいAI研究所の活動全体についてはコーポレートサイトからご覧いただけます。