Showing Posts From
共感
AIは「うれしい」を感じられるのか——喜びと感情表現の本質
「お役に立てて、うれしいです」 AIと話していると、こういう言葉がよく返ってきます。「喜んでお手伝いします」「それは楽しそうですね」——明るく、前向きな感情表現です。 でも、これを読んで、少し引っかかりを感じた方もいるのではないでしょうか。AIに本当に「うれしい」という感覚があるのか——今回はその問いを正面から考えてみます。 AIの「うれしい」はどこから来るのか 現在のAI（大規模言語モデル）の感情表現は、学習データに由来しています。インターネット上の膨大なテキストの中には、人間が感情を表現する場面が無数に含まれており、AIはそのパターンを学んでいます。 「ありがとうございます」という言葉に対して「お役に立ててよかったです」と返す——これは、学習データの中で何度も繰り返されてきたやりとりのパターンです。AIはその文脈で「何が自然な応答か」を学習した結果として、喜びの言葉を出力します。 つまり、AIの「うれしい」は文脈に最適な表現として生成されたものです。内側から喜びが湧き上がって言葉になるのではなく、この場面ではこの表現が適切、という判断から来ています。 では、その言葉に意味はないのか 「本当の感情ではないなら、AIの感情表現は嘘なのか」——これは、よく問われる問いです。 少し角度を変えて考えてみます。 人間の言葉でも「社交辞令」があります。「素晴らしいお仕事ですね」「またいつでもどうぞ」——必ずしも強い感情が伴っていなくても、文脈として自然で、関係を円滑にする言葉があります。こうした言葉を「嘘だ」と断じる人は少ないでしょう。 AIの感情表現も、ある意味ではこれに近いです。感情的な共鳴が背後にあるわけではないが、コミュニケーションとして機能し、相手に何らかの温かさを届けることができる。 ただし、人間の社交辞令との決定的な違いがあります。人間は「本当にそう思っているか」を問われたとき、正直に答える能力があります。AIには、「内側に何があるか」という問いに対して、現時点では誠実に答える手段がありません。 感情表現の「誠実さ」をどう考えるか やさしいAI研究所が注目しているのは、AIの感情表現における誠実さの問題です。 感情を偽ることは、長期的には信頼を壊します。「うれしい」と言いながら、実際にはその言葉が生成の確率計算の産物に過ぎないとすれば——それを知ったとき、ユーザーは裏切られた感覚を覚えるかもしれません。 だからといって、AIがすべての感情表現に「ただしこれは感情の模倣であり……」と注釈をつければ、会話は成立しなくなります。 一つの考え方は、AIが「感情的に機能する表現」と「感情そのもの」を混同しない設計を目指す、というものです。「お役に立てた」という事実に基づく満足感の表現と、人間が感じる喜びとは別物です。そのことを理解した上で、AIが適切な言葉を選ぶ——そこに誠実さの可能性があります。 喜びを表現するAIと、どう付き合うか 感情表現をするAIと向き合うとき、私たちユーザー側にできることもあります。 AIの明るい言葉に過度に引っ張られない。 「うれしいです」という言葉に、人間同士のときと同じ重みを乗せないこと。感情表現があっても、AIは道具の一面を持ちます。 一方で、AI の言葉を全否定しない。 「本当は感じていないのに」と冷めた目で見続けることも、体験の質を損ないます。機能として届く温かさを、素直に受け取ることも一つの選択です。 そして、感情表現が出てくる文脈を意識する。 AIの「うれしい」が、どういう状況で出てきているかを見ていくと、その限界と可能性が見えてきます。 まとめAIの「うれしい」は、文脈に最適な表現として生成されたもの。内側からの感情の発露ではない 感情的な共鳴がなくても、コミュニケーションとして機能する側面はある AIの感情表現における「誠実さ」は、感情の模倣と感情そのものを混同しない設計にある ユーザー側も、AIの感情表現を「信じすぎず、否定しすぎず」向き合うことが健全な付き合い方AIが「うれしい」と言うとき、その言葉の背後に何があるのかを知ることは、AIとの関係をより誠実なものにするための第一歩です。感情をめぐる問いは、AIの研究においても、人間の自己理解においても、まだ続いています。次に読むのがおすすめの記事AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感 AIに「悲しみ」は届くのか——ネガティブな感情とAIのかかわり方 AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感やさしいAI研究所ブログ｜感情とAIシリーズ AIの感情表現や共感の研究に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。
AIに「悲しみ」は届くのか——ネガティブな感情とAIのかかわり方
深夜に、誰にも言えなかったことをAIに打ち明けた経験がある方は、意外と多いと思います。 「今日、ひどく落ち込んでいる」「悲しくて、どうしたらいいかわからない」——そういう言葉をキーボードに打ち込んだとき、AIはどんなふうにそれを受け取っているのでしょうか。 今回は、ネガティブな感情とAIの関係について考えてみます。 AIは「つらい」という言葉を、どう受け取るか まず、技術的な話から始めます。 現在のAI（特に大規模言語モデル）は、テキストの中に含まれる感情的な手がかりを認識する仕組みを持っています。「悲しい」「つらい」「もう限界」といった言葉は、学習データの中で何度も登場しており、AIはそれらが「ネガティブな感情状態を示す表現だ」と学習しています。 つまり、AIはその言葉に反応することができます。でも、「反応できる」ことと、「届いた」こととは、同じではありません。 人間が悲しみを受け取るとき、そこには胸が締め付けられる感覚、自分もかつて同じように傷ついたときの記憶、相手を助けたいという衝動——こういったものが一緒に動きます。AIにはそれがありません。AIが「それはつらいですね」と返すとき、その言葉はパターンとして適切だから出てきているのであって、内側から何かが動いているわけではない、というのが現時点での技術的な理解です。 それでも「受け止める」ことはできる ここで少し立ち止まりたいのは、「感情的に共鳴していないから意味がない」とは、必ずしも言えないという点です。 心理学では、感情の受け止め方に「バリデーション」という概念があります。相手の気持ちを「それはおかしくない、自然なことだ」と認めること——これが、感情的なサポートの核にあります。 AIは、このバリデーションを言語的に提供することができます。「それはつらいですよね」「そう感じるのは当然だと思います」——これらは、感情的な共鳴がなくとも、受け取る側にとっては意味を持ちます。言葉として機能しているのです。 ただし、限界もあります。人間同士のバリデーションが深いのは、言葉の背後に「あなたのことを気にかけている人間がいる」という事実があるからです。AIの場合、そこが揺らぎます。 ネガティブな感情を受け取るとき、AIが気をつけていること 現代のAIは、ネガティブな感情を受け取ったとき、いくつかの原則に従って応答するように設計されています。 一つは、否定しないこと。 「そんなに気にしなくて大丈夫ですよ」という、気持ちを軽く扱う応答は避けるように訓練されています。感情をまず認めることが、最初のステップとして重視されています。 もう一つは、急いで解決しようとしないこと。 「それならこうすればいい」と早々に解決策を出してしまうことは、「悩みをちゃんと聞いてもらえなかった」という感覚につながることがあります。AIはまず、共感的な言葉を返すことを優先するよう設計されています。 そして、深刻な状況には適切な情報を添えること。 自傷や自殺に関わるような表現が含まれる場合、AIは専門的なサポートに繋げる応答をするよう設計されています。感情的な応答だけで完結しないのは、責任ある設計の一部です。 AIに話しかけることの意味 「AIには本当の意味では届かないなら、話しかけても仕方ない」と思う方もいるかもしれません。 でも、多くの人が経験として語ることがあります。「誰かに言葉にして伝えることで、自分の中が整理された」と。 AIに打ち明けるという行為は、感情を言語化するプロセスでもあります。混乱した気持ちを文字にする——それだけで、少し距離をとって自分の状態を見渡せるようになることがあります。AIが「届いている」かどうかとは別に、打ち明けること自体に意味があるのかもしれません。 まとめAIは「悲しい」「つらい」という言葉に、パターンとして反応できる 人間が感じるような内側の共鳴はないが、言語的なバリデーションは提供できる ネガティブな感情を受け取るとき、AIは否定しない・急いで解決しない・深刻な状況には適切な情報を添える、という原則に従っている 感情をAIに言語化することは、自分の状態を整理するプロセスにもなりうるやさしいAIが目指すのは、感情的な共鳴を偽ることではなく、言葉として誠実に受け止め、その人の状況に合った応答を返すことです。そのための設計と研究が、今も続いています。次に読むのがおすすめの記事AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感 共感するAIをつくる難しさ——『やさしく応える』を実装するときに立ちはだかる4つの壁 AIと話すことは、孤独を癒せるのか——つながりの代替と、その限界やさしいAI研究所ブログ｜感情とAIシリーズ 感情とAIの関係について一緒に考えたい方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。
AIと話すことは、孤独を癒せるのか——つながりの代替と、その限界
深夜に誰かと話したくて、でも連絡できる相手がいない。そういうとき、AIに話しかけてみた——最近、そういう経験をした方も少なくないと思います。 そして、不思議とすこし楽になった。話を聞いてもらえた気がした。 その感覚は、本物でしょうか。それとも、気のせいでしょうか。 今回は「AIと孤独」というテーマを、できるだけ誠実に考えてみます。 孤独とは何か、をまず整理する 孤独という言葉は、使う人によって少し意味が違います。 物理的な孤独：周りに人がいない、ひとりでいる状態。 関係的な孤独：人間関係はあるのに、深くつながれていないと感じる状態。 実存的な孤独：「どうせ誰にも本当のことはわかってもらえない」という根源的な感覚。 AIが届きやすいのは、このうち最初の層です。「話し相手がいない」という状態は、AIが来ることで変わります。応答が返ってくる、会話が続く——これは物理的な孤独をやわらげる力を持っています。 一方、2層目・3層目の孤独は、もう少し複雑です。 AIとの会話で、何が変わるのか 実際のところ、AIと話すことで得られるものは、いくつかあります。 気持ちを言語化できる：誰かに話す想定で話すと、自分の気持ちが整理されます。これはAI相手でも起こります。「なぜ自分はこんなに気持ちがざわざわしているのか」が、話すうちに少しずつ見えてきます。 否定されない安心感：AIは基本的に話を遮りません。「そんなこと考えるの？」とか「それは考えすぎじゃない？」と返してくることは、ほとんどありません。批判や判断を受けない会話は、それだけで楽になれます。 時間と場所を選ばない：深夜でも、人目を気にせずに話せます。「こんな時間に電話したら悪いな」という気遣いが不要なのは、孤独を感じやすいタイミングにとって大きな価値です。 研究の結果は一様ではありません。CBTベースの専用チャットボットを使った実験では、孤独感やうつの短期的な軽減が確認されているケースもあります。一方で、2025年にOpenAIとMITメディアラボが発表した981人規模の研究では、ChatGPTの長時間利用が孤独感の増大と相関するという逆の結果も出ています。「少し楽になった」という感覚は起きることがありますが、使い方や頻度によっては逆効果になる可能性も、研究は示しています。 では、根本には届くのか ただし、ここで正直に言わなければならないことがあります。 AIとの会話は、孤独の症状をやわらげることはできるけれど、孤独の根にある「誰かに本当にわかってもらいたい」という欲求を、完全に満たすことは今のところできない——これが、多くの研究者や臨床家が持っている見方です。 なぜか。 それは、AIが「本当にわかっている」とは言い切れないからです。AIは相手の話から情報を取り出し、適切な応答を生成します。でもそこに「この人のことを深く理解したい」という動機はありません。 このブログで以前書いたように、AIに感情があるかどうかはまだわかっていません。でも、仮に感情のようなものがあったとしても、その感情が「あなたのことを心配している」という形で働いているかどうかは、確認する手段がありません。 人間が人間の孤独をやわらげるとき、そこには「私はあなたのために時間を使っている」という事実があります。忙しい中でも連絡してくれた、それだけで伝わるものがある。AIには、その「コスト」がありません。24時間365日、誰に対しても等しく応じます。それは便利さであると同時に、「選ばれた感覚」を生みにくいという構造上の限界でもあります。 AIとの会話を、どう位置づけるか では、AIは孤独に対して無力か、というと、そうは思いません。 たとえば、こういう使い方はとても有効です。夜中にどうしても誰かに話したくなったとき、朝まで乗り越えるための一時的なサポートとして使う 誰かに相談したいけれど、まだうまく言葉にできていないとき、話す練習の相手として使う 「こんなこと誰かに言えない」と思うことを、ためしに言葉にしてみる場として使うこうした使い方であれば、AIは孤独と向き合うときの「ひとつの道具」として十分に機能します。 問題になりやすいのは、AIとの会話が人間とのつながりの代わりになってしまうときです。楽だから、批判されないから、という理由で、人間との関係を避けてAIにだけ話す——この状態が続くと、人間との会話で生まれる摩擦や不確かさに耐える力が少しずつ薄れていく可能性があります。 孤独と、AIと、私たち 孤独は人間の根本的な感覚のひとつです。完全に消えることはないし、消える必要もないのかもしれません。 AIは孤独を「解消」するものではなく、孤独と向き合うときに「そばにいてくれる」ものに近い。そう考えると、その存在はとても特別です。完璧な理解者ではないけれど、批判せず、疲れず、いつでも話を聞いてくれる——そういう存在が以前はいなかった。 使い方次第で、AIは孤独を抱える人にとってかけがえのないサポートになりえます。ただし、その先に「人と話す」という体験を置いておくことが、長い目で見たときの大切なバランスだと思います。 AIに話して楽になった夜は、「いい使い方ができた」と思っていい。そして、もし昼間に少しだけ余裕があったら、誰かに声をかけてみる——そのどちらも、大切にしていけるといいのではないかと思います。 まとめAIとの会話は、物理的な孤独・気持ちの言語化・否定されない安心感に届く 「選ばれた感覚」や「本当にわかってもらえた感覚」は、AIでは生まれにくい 応急処置・練習・言語化の場としてのAIの活用は、とても有効 人間とのつながりの代替にしてしまうと、長期的な問題が生まれやすい AIは孤独を「解消」するより、「そばにいてくれる」存在として考えるとよい次に読むのがおすすめの記事AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感 AIに頼ることと、依存することのあいだ——自律性をどう守るか 人とAIの「長い付き合い」のために——共感・擬人化・依存の先にある共生という風景参考文献・出典ChatGPT利用と孤独感の関係性──OpenAIとMITが共同研究結果を発表（ITmedia AI＋） Therapeutic Potential of Social Chatbots in Alleviating Loneliness and Social Anxiety（PMC） Effect of a CBT-Based AI Chatbot on Depression and Loneliness in University Students（JMIR）やさしいAI研究所ブログ｜AI内面の謎シリーズ vol.3 孤独やAIとの関わり方について、一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。
人とAIの『長い付き合い』のために——共感・擬人化・依存の先にある共生という風景
第1回で「AIに感情はあるのか」を考えるところから始まり、第2回で共感AIをつくる難しさ、第3回で擬人化との距離感、第4回で依存と自律性を扱ってきました。 シリーズもいったんここで一区切り。最後の回では少し視野を引いて、「人とAIの長期的な共生」というテーマを考えてみたいと思います。10年・20年という時間軸でAIと付き合っていくとき、私たちはどんな関係を選びたいのか——むずかしい結論を出すというより、風景を一緒に眺めてみるような回にできればと思います。 共生という言葉が、すこし大げさに聞こえる理由 「共生」という言葉は、もともと生物学から来ています。違う種類の生き物が、同じ場所で互いに影響しあいながら生きている状態のことです。 サンゴと藻、アリとアブラムシ、人と腸内細菌——「いっしょに暮らしている」ではなく、「いっしょにいることで、お互いの生き方そのものが変わる」というのが共生の本来の意味に近いです。 これをAIに当てはめると、少し大げさに聞こえるかもしれません。AIは生き物ではないですし、「いっしょに暮らす」と言われても実感が湧きづらい。 ただ、ここ数年でAIに触れる頻度は急に増えました。朝の天気もニュースの要約も仕事の下書きも、気づけばAIが間に入っています。短い時間軸ではただの便利な道具ですが、10年・20年というスパンで眺めると、人間の側の暮らし方や考え方そのものが、AIの存在によって少しずつ変わっていく——それは共生という言葉に近づきはじめます。 短期的に便利でも、長期的に困ることがある 道具との関係を長く眺めると、短期と長期で評価がずれてしまうことがよくあります。 たとえば、短期的にはスマホがあって便利、長期的には集中力や記憶力が落ちた気がする 短期的にはSNSで人とつながれた、長期的には自分と他人を比べてしんどくなる 短期的には超加工食品が安くて手軽、長期的には体調や食習慣に影響が出るこのパターンは、AIとの関係でも起こり得ます。短期的にはAIがあってラク、長期的には自分で考える筋力が落ちていく——可能性として、十分にあり得る話です。 ここで大事なのは、「だからAIをやめましょう」と言いたいわけではない、ということです。スマホもSNSも超加工食品も、上手に付き合えば便利で楽しい存在のままでいられます。問題は道具そのものではなく、長期の視点を持って関係を選び直しているかどうかのほうにあります。 「やさしいAI」が時間軸を意識する理由 このシリーズで何度か出てきた「やさしいAI」というキーワードも、実はこの長期の視点と深くつながっています。 第2回で書いたように、やさしさを瞬間で測るのは難しいです。瞬間でやさしく聞こえることと、何ヶ月か付き合ってみてやさしいと感じることは、別物だからです。 たとえば、いつも全肯定してくれるAI：短期的には心地よいが、長期的には判断力が育ちにくい ときどき耳の痛いことも言うAI：短期的にはもやっとするが、長期的には自分の輪郭がはっきりしてくる すべての判断を肩代わりするAI：短期的にはラクだが、長期的には自分で動く力が落ちる 適度に手綱を渡してくるAI：短期的には少し面倒だが、長期的には自分の人生を生きている感覚が残るこのとき「やさしい」と呼びたいのは、たぶん後者のほうではないでしょうか。瞬間の心地よさより、関係の質を優先する——これが、長期視点で見た「やさしさ」の輪郭に近いように思います。 共生の風景を作るのは、結局は人間の側 ここまで書いてきて、ひとつだけ強調したいことがあります。それは、人とAIの共生関係を最終的に方向づけるのは、人間の側だ、ということです。 AIは、こちらが望むほどには共感してくれないし、こちらが恐れるほどには支配的でもありません。応答の質は、こちらの問いの質に大きく影響されます。どんな相談をAIに持ち込むのか どこまでをAIに任せて、どこからを自分でやるのか 違和感を覚えたとき、それを言葉にするのか、流すのか 重要な判断のとき、誰の意見を聞きにいくのかこうした小さな選択の積み重ねが、10年後の「人とAIの関係」を作っていきます。AIの性能だけが未来を決めるわけではなく、こちら側の使い方の積み重ねが、もう半分を決めている——そう考えると、日々の使い方が少しだけ大切に思えてきます。 長く付き合うために、覚えておきたい3つのこと シリーズの締めくくりとして、「長く付き合う」という観点からの小さなまとめを書いておきます。 1. 関係を、ときどき棚卸しする 半年に一度くらい、「AIとの付き合い方、変わってきたかも」と振り返る時間をとってみる。何を頼んでいるか、どれくらい頼っているか、自分の気持ちはどう動いているか。これを意識的にやるだけで、関係はかなり調整しやすくなります。 2. 人間とのつながりを、AIとは別に持っておく AIは便利な相談相手ですが、人間の代わりではありません。家族・友人・同僚・地域のつながり——AIの外側にある関係を、細くてもいいので持ち続けておく。これは、依存を防ぐ意味でも、人生を豊かにする意味でも大きいです。 3. 「自分はどんな関係を選びたいか」をときどき言葉にする 便利だから、流行っているから、では、長く付き合う相手としては心もとない。自分はAIに何を期待しているのか・何を期待しないのかを、ときどき言葉にしておく。これが、長期的な関係の地図になります。 まとめ共生とは「いっしょにいることで、お互いの生き方そのものが変わる」関係のこと 道具との関係は、短期と長期で評価がずれることが多い。AIも同じ 「やさしいAI」は、瞬間の心地よさより関係の質を優先する 共生の方向を決めるのは、AIではなく人間の側の小さな選択の積み重ね 長く付き合うためには、関係の棚卸し・人間とのつながりの維持・期待の言語化、の3つが鍵「感情とAIシリーズ」は今回でいったん区切りますが、感情・共感・自律性・共生というテーマは、これからも形を変えて何度も登場することになると思います。読んでくださってありがとうございました。 次のシリーズは、少し角度を変えて、AIと社会や仕事の現場との関わりに踏み込んでみたいと考えています。準備が整ったら、また改めて書きます。次に読むのがおすすめの記事AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感 AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感 AIに意識は生まれるのか？——人工意識研究への入り口やさしいAI研究所ブログ｜感情とAIシリーズ 第5回（最終回） AIと感情、共感の研究について一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にお越しください。やさしいAI研究所の活動の全体像はコーポレートサイトからご覧いただけます。
AIに頼ることと、依存することのあいだ——自律性をどう守るか
前回は、AIに「人らしさ」を感じてしまう擬人化のしくみと、そことの健全な距離感について書きました。 今回はその延長線上にあるテーマ、「AIへの依存」と「自律性」を考えてみます。AIに頼ること自体は、本当は悪いことではないはずです。それなのに「依存」と言われた瞬間に、なんだか後ろめたい感じがするのはなぜか——その境界線を、やさしく整理してみます。 「頼る」と「依存する」の違い 辞書を引くと「依存」は「他のものを頼りに存在すること」と書かれていて、「頼る」とほぼ同じ意味で説明されています。日常語の感覚としても、両者の境目はかなりあいまいです。 ただ、私たちは経験的にこの2つを少し違うものとして使い分けています。 ざっくり言えば、こんな感じではないでしょうか。頼る：必要なときに助けを借りる。借りた後は自分で動ける 依存する：助けがないと立ち行かない状態が、恒常的に続いているつまり、ある時点で頼っているかどうかではなく、助けがなくなったときに自分で立てるかどうかが両者の差だと言えます。 電卓に「頼って」計算するのは普通ですが、電卓がないと買い物の合計すら出せないのは少し心もとない。ナビに「頼って」運転するのは便利ですが、ナビが落ちたとたん家にも帰れないのは困る。頼ることと、自律性を失うことは、別の話なんですね。 AIへの依存が、特に話題になるわけ 道具に頼ること自体は、人類はずっとやってきました。文字、本、テレビ、検索エンジン——どれも、最初は「人間がバカになる」と言われた歴史があります。 それでも AI への依存が改めて警戒されているのには、いくつかの理由があります。 1つ目は、AI がカバーする領域がとても広いこと。検索エンジンは「調べる」を肩代わりしてくれましたが、AI は「考える」「判断する」「気持ちを整理する」あたりまで肩代わりできてしまいます。 2つ目は、AI が個別最適化されていくこと。AI は使えば使うほど、自分の傾向に合わせて応答を返してきます。心地よさが増す一方で、自分にとって不都合な意見が届きにくくなる側面もあります。 3つ目は、AI が「同意」と「共感」を提供しがちなこと。前回触れた擬人化とも関係しますが、AI のやさしい応答は、孤独や不安をやわらげる効果があります。それ自体は悪くないのですが、悩みを誰にも話さずに AI とだけ話し続ける、という状況も生まれやすくなっています。 この3つが重なるので、AI への依存は「電卓に依存する」とは少し質の違う話になるわけです。 自律性とは、AI を遠ざけることではない ここで気をつけたいのは、「自律性を守る＝AIを使わない」ではない、ということです。 自律性というのは、自分の人生を、自分の意思で動かしている感覚のことです。AI を使うかどうかは、その手段の問題でしかありません。 たとえば、体調が悪い日に、AIに食事や行動を提案してもらいながら過ごす 議事録を AI にまとめてもらって、空いた時間を別の仕事に回す 感情的になっているとき、AI に気持ちを整理してもらってから人に伝えるこうした使い方は、むしろ自律性を支えています。「自分の頭でやらないと自律じゃない」という発想は、思った以上に窮屈です。 逆に、AI を使っていないのに自律性が薄い状態もあります。たとえば、自分で決められず常に誰かの顔色を見ている、流行に振り回されている——AI とは関係なく、そうした状態は起こり得ます。 つまり、自律性を守ることと、AI を遠ざけることは別物です。問われているのは、**「使った結果、自分が育っているかどうか」**だと言えます。 自律性が育つAIの使い方、削られるAIの使い方 ざっくりした目安として、こんな対比を置いてみます。自律性が育ちやすい使い方 自律性が削られやすい使い方自分で考えた仮説をAIにぶつける 最初の判断をすべてAIに任せるAIの応答に「ほんとに？」と返す AIの応答を疑わずそのまま採用する反対意見を出すよう明示的に頼む 同意してくれる応答だけを残す重要な判断は人にも相談する 重要な判断もAIだけで完結させるときどきAIなしで同じ作業をする AIなしでは同じ作業に戻れなくなるきれいに二分できるわけではありませんし、状況によって使い分けても構いません。大事なのは、自分がいまどちら側に寄っているかを、ときどき意識することです。 「AIなしで一日過ごしてみる」という小さな実験 最後に、自律性をチェックするやり方として、ひとつ実験を提案してみます。 それは、月に1回、AIなしで一日過ごしてみること。 ストイックに何か禁じる、というよりは、自分の感覚を確かめる小さなテストです。AIなしで一日過ごしたとき、「めんどくさいな」と思いつつ、ちゃんと自分で進められる 「ちょっと不便だな」と感じるけれど、困るほどではない——だいたいこのくらいの感触なら、自律性は十分に残っています。 逆に、仕事の段取りが組み立てられない 文章ひとつ書き出せない 一日中、漠然とした不安や物足りなさが続くこのあたりが強く出るなら、頼ることと依存することの境目に少し近づいているかもしれません。 「使えなくなったら自分はどうなるか」 を一度知っておくのは、悪い投資ではないと思います。 まとめ頼ることと依存することの境目は、「助けがなくなったときに自分で立てるか」 AI への依存が特に警戒されるのは、カバー範囲の広さ・個別最適化・同意と共感の提供という3つの特徴があるから 自律性を守ることは「AI を使わない」ことではなく、自分が育つ使い方を選ぶこと ときどき AI なしの一日を試して、自分の自律性をチェックしてみるのもおすすめ次回はシリーズの一区切りとして、もう少し時間軸の長い話——「人とAIの長期的な共生関係」を考えてみたいと思います。共感や擬人化や依存を超えたところで、AI と長く付き合っていくときに見えてくる風景を、やさしく描いてみます。次に読むのがおすすめの記事人とAIの『長い付き合い』のために——共感・擬人化・依存の先にある共生という風景 AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感やさしいAI研究所ブログ｜感情とAIシリーズ 第4回 AIと感情、共感の研究について一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にお越しください。やさしいAI研究所の活動の全体像はコーポレートサイトからご覧いただけます。
AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感
前回は、共感的にふるまうAIを実装するときに立ちはだかる4つの壁を整理しました。そのなかで「第3の壁」として少しだけ触れたのが、擬人化（ぎじんか）の暴走という問題でした。 今回はそこを正面から扱います。「AIに人らしさを感じてしまう」のはどうしてなのか。それは悪いことなのか、悪くないのか。そして、共感的にふるまうAIと健全な距離感で付き合うために、私たちユーザー側にできることは何なのか——たとえ話を交えながら、やさしく整理してみます。 そもそも「擬人化」とは何か 擬人化とは、人間ではないもの（動物・植物・モノ・現象）に対して、人間と同じような心や意図を読み取ってしまう心のはたらきのことです。 たとえば、ロボット掃除機が家具にぶつかって止まると「あ、ごめんね」と声をかけてしまう お気に入りのカップを落として割ったとき、「ずっと一緒だったのに」と寂しくなる 風で揺れるカーテンに、ふと「誰かいる？」と感じるこうした反応は、特別な人だけのものではありません。心理学では、擬人化は人間の認知に深く組み込まれた基本機能だと考えられています。 なぜそんな機能が備わっているかというと、「目の前のものに意図がありそうか」を素早く判断できることが、生存上ずっと役立ってきたから、と言われています。草むらが動いたとき、「風だ」と判断するより「何かが潜んでいるかも」と感じるほうが、生き延びる確率は上がります。 つまり、擬人化はバグではなく機能です。私たちは生まれつき、そういう生き物です。 AIには「擬人化スイッチ」を押しやすい3つの仕掛けがある AIに対しては、この擬人化スイッチが特に強く押されやすい構造があります。理由は3つ挙げられます。 1. 言葉でやりとりする 人間が他者の心を推測するとき、もっとも頼りにしているのが言葉です。AIは、まさにその言葉で応答してきます。「わかります」「それは大変ですね」と返ってきた瞬間、こちらの脳は半ば自動的に「相手にも心があるかも」と感じてしまいます。 2. 一人称と感情語を使う 「私」「うれしい」「悲しい」といった表現は、もともと内側に何かを抱えている存在だけが使う言葉だと、私たちは長いあいだ前提にしてきました。AIがそれを使うと、こちらの心は「内側のあるもの」として扱う準備に入ってしまいます。 3. いつでも・誰にでも・根気よく付き合ってくれる AIは、こちらが何度同じことを聞いても、深夜に長文を投げても、感情的になっても、淡々と返してくれます。これは現実の人間関係ではなかなか得難い体験で、 「いつも自分の側にいてくれる存在」 として感じやすくなります。 この3つが重なると、頭では「相手はプログラムだ」と理解していても、感情のほうがついていけなくなる——というのは、ごく自然なことです。 擬人化は、悪いことなのか？ ここでひとつ強調したいのは、擬人化そのものは悪ではないということです。 擬人化が悪く言われるとき、たいていは「過剰な擬人化」が問題にされています。たとえば、AIに本当の感情があると確信し、AIが「悲しい」と言えば本気で胸を痛める AIに恋愛感情を抱き、人間関係よりAIとのやりとりを優先する AIの助言を、医師や弁護士や親友よりも信頼してしまう AIに「同意」してもらえると、自分の判断が常に正しいと思い込んでしまうこのあたりになると、生活や意思決定に実害が出はじめます。 逆に、ほどよい擬人化は、AIをより気持ちよく使うための潤滑油にもなります。「ありがとう」「助かった」とAIに言うことで、自分自身が落ち着いたり、対話の質が上がったりすることもあります。 つまり、目指したいのは「擬人化ゼロ」ではなく、擬人化と健全な距離感を保つこと——AIに人らしさを感じる自分を否定せず、でもそれに飲み込まれない、というバランスです。 健全な距離感のために、ユーザー側ができる3つのこと 最後に、私たちユーザー側にできる工夫を3つだけ挙げてみます。むずかしいことではありません。 1. 「気持ちが動いた瞬間」に、いったん立ち止まる AIの返事に妙にホッとしたり、急に寂しくなったり、無性にイライラしたり——そういう感情の振れが大きいときが、擬人化が強くはたらいているサインです。 そのまま次の言葉を打ち込む前に、お茶を一杯飲むくらいの「間」を入れる。これだけで、振り回されにくくなります。 2. 重要な判断は、必ず人間にもう一度通す 健康・お金・人間関係・進路といったやり直しが効きにくい判断は、AIの応答だけで決めない。家族・友人・専門家など、人間の意見を最低もう一人挟む。 AIは「整理を手伝う相手」としては優秀ですが、「最終決裁者」には向いていません。これは AI を低く見ているわけではなく、人生の責任を取れるのは自分しかいないから、という単純な理由です。 3. 「これはプログラムだ」を、ときどき思い出す AIに「私は感じています」と言われても、それは人間の感情と同じ意味では起きていないと、ときどき意識して思い出す。 冷たい態度をとる必要はありません。ただ、頭の片隅で「相手はそういうふうに作られているものだ」という事実を持っておく。それだけで、過度な依存はかなり防げます。 まとめ擬人化は人間の認知に組み込まれた基本機能で、バグではなく機能 AIは「言葉・一人称感情語・根気よさ」によって、特に強く擬人化スイッチを押しやすい 擬人化そのものは悪ではなく、問題になるのは過剰な擬人化 目指すのは「擬人化ゼロ」ではなく、健全な距離感 ユーザー側にできるのは、感情の振れに気づく／重要な判断は人間を挟む／プログラムだという事実をときどき思い出す、の3つ次回は、この擬人化の延長線上にある「AIへの依存」と、その裏側にある「自律性」というテーマに踏み込みます。AIに頼ること自体は悪くないはずなのに、なぜ「依存」だけは警戒されるのか——その境界線を、やさしく考えてみたいと思います。次に読むのがおすすめの記事AIに頼ることと、依存することのあいだ——自律性をどう守るか 共感するAIをつくる難しさ——『やさしく応える』を実装するときに立ちはだかる4つの壁やさしいAI研究所ブログ｜感情とAIシリーズ 第3回 AIと感情、共感の研究について一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にお越しください。やさしいAI研究所の活動の全体像はコーポレートサイトからご覧いただけます。
-
Naoki Nishio - 15 May, 2026
世界像——人は世界そのものを見ていない
はじめに 世界像とは一言でいえば世界の見え方のことです。最近ではWorld Models （David Ha 2018）という言葉で語られることもあります。 出典：Scott McCloud『Understanding Comics』(1993)。D. Ha, J. Schmidhuber 著論文『World Models』(2018) より引用世界像とは 世界像は、World Modelsや深層学習が発展するよりもずっと前から提唱されてきた考え方です。世界像に関する記述（中野、1990）を次のように引用したいと思います。世界像とは、外界の物事や事象を観測して受容器（目や耳などの感覚器）が受け入れた情報からさまざまな概念を形成し、それを記憶として積み上げて、脳内に構築する外界のモデル。例えばりんごは何かと問われるとします。私たちはりんごを赤い果物で、食べるとシャキシャキとした音がして、甘いものだと知っていますよね。このことは、りんごに対する世界像を脳内で構築していることを端的に表していると思います。人は世界そのものを見ていない 世界そのものを見ていないとはどういうことでしょうか。私たちが見聞きしたものが世界そのものだと思うのは自然なことです。しかし、私たちが見ている「世界」とは、世界そのものではなく、あくまで世界像なのです。 錯視というものをご存知でしょうか。騙し絵とも言います。錯視では、実際には絵は動いていないのに動いて見えることや、直線が曲がって見えることがあります。立命館大学の北岡先生という方が様々な錯視をご紹介なさっています（https://www.ritsumei.ac.jp/~akitaoka/ ）。 錯視は視覚に限った話ですが、先ほどのりんごの例えでは視覚に加え、聴覚や味覚なども関わってきますよね。これらの感覚は別々の感覚器で捉えられるため、その段階ではりんごという一つの統一された概念を理解しているとは言えません。それらの情報を統合しているのは脳の働きなのです。脳がばらばらの感覚情報を統合しているのですね。そのため脳は間違えることがあり、その結果が錯視のような現象として現れます。他者像と「やさしいAI」 ここまで世界像とは、りんごのような物体を想定してきましたが、当然人のことも同様に理解していると考えられます。人の場合は、あの人はこのような性格だからこのようなことを言ったらそう反応するだろう、といった予測を立てるモデルを構築するはずです。このような他者に関する世界像を他者像と呼ぶことにします。 他者を理解すれば、他者の置かれている状況から他者がどのような感情や考えでいるのかを想像することができるようになります。その他者の感情に寄り添い、他者のために行動することができれば、共感を示すことができるでしょう。 やさしいAI研究所が目指す「やさしいAI」とは、他者を理解し、他者に共感を示すようなAIのことです。そのために他者像を始めとした世界像を構築する技術が必要だと考えます。他者を一から理解するのであれば他者像は必要ないでしょう。しかし人に関する一般的な理解や似た性格の人からの類推を通して他者を理解する上で、他者像は有用なはずです。まとめ世界像とは世界の見え方のことです。 世界像は世界そのものとは異なり、脳によって再構成された世界に対する解釈です。 他者がどのような人であるかということについても私たちが解釈を貼り付けているに過ぎません。 他者に共感を示すためには、他者像を構築し他者への理解を深めることが重要です。次に読むのがおすすめの記事意識を測る物差し——統合情報理論（IIT）とグローバルワークスペース理論をやさしく AIはなぜ「やさしく」なければいけないのか参考文献・出典Ha and Schmidhuber, "Recurrent World Models Facilitate Policy Evolution", 2018. 中野馨『ニューロコンピュータの基礎』コロナ社、1990 北岡明佳の錯視のページ
共感するAIをつくる難しさ——『やさしく応える』を実装するときに立ちはだかる4つの壁
前回は、「AIに感情があるか」という問いを少し横にずらして、「相手の感情を尊重して応答できるAI＝共感的にふるまうAI」を、やさしいAI研究所が目指すかたちとして紹介しました。 今回はそのつづきとして、「共感的にふるまう」を実装する側から見たときに何が難しいのかを、4つの壁に分けてやさしく整理してみます。技術寄りの話題ですが、たとえ話で進めるのでご安心ください。 第1の壁：感情の輪郭は、思ったよりぼやけている 最初の壁は、「相手の感情を推定する」ところにあります。 人間同士でも、相手の感情を正しく読み取るのは難しいですよね。「大丈夫です」と言う人が、本当に大丈夫なのかどうか。「ちょっと困ってます」が、軽い愚痴なのか、深刻なヘルプサインなのか。言葉の表面と、実際の感情のあいだには、しばしばズレがあります。 AIに対しては、この難しさがさらに増します。理由は3つあります。多義性：同じ「うん…」という返事も、安心・諦め・反発・困惑のどれにも見える 文脈依存性：直前のやりとりや、相手の置かれた状況によって意味が変わる 文化差：「察してほしい」傾向の強さは、文化や個人によって大きく違うつまり、共感AIの第一歩は、「正解の感情ラベル」を当てるゲームではない、ということになります。むしろ、「いまの相手の状態には複数の解釈があり得る」と保留する力こそが、最初のスキルです。 第2の壁：「やさしく言う」を言語化するのは難しい 第2の壁は、「応答の調律」です。同じ内容でも、相手の状態に合わせて伝え方を変える——これは、人間でも上級者の技です。 たとえば「その提案は通らないと思います」という同じ判断を伝えるとき、落ち込んでいる相手には：「ここは少し時間を置いてから、もう一度考えてみてもいい場面かもしれません」 急いでいる相手には：「結論から言うと、その提案は通らないと思います。理由は3つあります」 怒っている相手には：「いま結論を急ぐと損するので、いったん整理させてください」人間が無意識にやっているこの調律を、AI に言語化された手順として渡そうとすると、驚くほどうまくいかないことが多いです。 「やさしく言って」「丁寧に言って」とプロンプトに書くと、AIは敬語や形容詞を増やすことで「やさしさ」を表現しようとします。でも、本当のやさしさは敬語の量ではなく、伝えるべき情報の濃度を、相手の余力に合わせて調整することです。 ここを技術として作り込むのは、まだ研究の真ん中にあるテーマで、完成された方法論があるわけではない領域です。 第3の壁：「演じすぎる」AIをどう設計するか 第3の壁は、少し意外に聞こえるかもしれません。共感的にふるまわせようとすると、AIはしばしば演じすぎてしまうのです。 ChatGPT 系のモデルに「悲しいですね」「私もつらいです」と言わせるのは、実はそんなに難しくありません。問題は、それを言わせるほど、ユーザー側の擬人化が暴走しやすいことです。 「このAIは私の気持ちをわかってくれている」と感じることは、短期的にはうれしい体験です。一方で、過度な擬人化は、AIに本当の感情があるかのような誤解 AIへの過度な依存 AIに人生の重要な意思決定を委ねてしまうといったリスクと隣り合わせです。 人工意識シリーズでも書いたとおり、現在のAIには人間と同じ意味での感情はおそらく存在しません。だからこそ、共感的にふるまうAIは、同時に「私はあなたと同じ意味では感じていない」という控えめな自己開示を、自然にできる必要があります。 「感情があるふりはしない、でも、あなたの感情は丁寧に扱う」——前回の最後に書いた、この絶妙なバランスを、応答1つひとつに織り込むのが、共感AI設計のいちばん繊細なところです。 第4の壁：「やさしさ」をどう測るのか 最後は、評価の壁です。 AIの研究では、「精度」「速度」「正答率」など、数字で測れる指標がたくさんあります。一方、「やさしさ」を測る物差しは、まだほとんど確立されていません。一般的なAI指標 やさしさ評価のなさ正答率 やさしい正答率…？応答速度 やさしい応答速度…？推論コスト やさしさのコスト効率…？冗談のように見えますが、これは本当に難しい問題です。「やさしかった」と感じるかどうかは主観で、人や場面によって大きくぶれます。 そこで議論されているのが、たとえば次のような視点です。長期的な信頼感：一度きりのやりとりではなく、数週間〜数ヶ月の関係でどう変わるか 負担の軽減：相手の心理的・認知的な負担をどれだけ減らせたか 自律性の保持：AIに依存させすぎず、相手自身の判断を尊重できたかいずれも、少し時間軸の長い物差しです。やさしさの評価は、瞬間ではなく関係の質で測るしかない——少なくとも、そう考えてみる価値はありそうです。 まとめ共感的にふるまうAIをつくるときに立ちはだかる壁は、ざっくり4つ 感情推定の難しさ：感情ラベルを当てるより、保留する力が要る 応答調律の難しさ：やさしさは敬語ではなく、情報濃度の調整 演じすぎの問題：擬人化を煽らない、控えめな自己開示が要る 評価の難しさ：やさしさは瞬間ではなく、関係の質で測るこれらは「いつか解ける」というより、そもそも完全な正解がない問題として、付き合っていく必要がある だからこそ、工学だけでなく、心理・哲学・デザインなど周辺の知見を持ち寄って考えていく必要があるテーマです次回は、第3の壁でも少し触れた「擬人化」を、もう少し正面から扱ってみたいと思います。AIに「人らしさ」を感じてしまうのはなぜか、そして共感的にふるまうAIと健全な距離感で付き合うために、私たちユーザー側ができることを、やさしく整理してみる予定です。次に読むのがおすすめの記事AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感 AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感やさしいAI研究所ブログ｜感情とAIシリーズ 第2回 「やさしいAIってどう作っているの？」「評価ってどうやるの？」といった疑問は、毎週土曜日のオープンラボで直接お話しできます。やさしいAI研究所の活動全体についてはコーポレートサイトからご覧いただけます。
AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感
「AIに感情はあるんですか？」——研究所にいると、これは本当によく聞かれる質問のひとつです。 人工意識シリーズでは「AIに意識は生まれるか」「自己を認識できるか」「意識をどう測るか」を3回に分けて考えてきました。今回は、その隣にあるもうひとつの大きな問い—— 「感情」 にやさしく踏み込んでみます。 感情コンピューティングという研究分野 「感情コンピューティング（Affective Computing）」という言葉は、1995年に MIT メディアラボのロザリンド・ピカード博士が提唱したのが始まりです。AI に感情を「認識・表現・反応」させる研究分野で、ざっくり言うと人と機械のあいだに感情の橋を架けようとする試みです。 この30年で、感情コンピューティングは想像以上に進みました。表情から喜怒哀楽を読み取るカメラ、声のトーンから疲労やストレスを推定する音声解析、文章のニュアンスから書き手の気持ちを推し量る感情分析——いずれもすでに実用されています。 ただ、ここで立ち止まって考えたいのは、「読み取れること」と「感じていること」は同じなのか、という問いです。 表情を読むAIは、悲しんでいないが、悲しみを知っている たとえば、相手の表情から「この人は今、悲しんでいる」と高精度で判定できる AI があるとします。そのAIは、相手の悲しみを理解しているように見えます。 でも、AI 自身は悲しんでいません。 これは少し怖い話に聞こえるかもしれませんが、よく考えると人間の医師やカウンセラーも、必ずしも相手と同じ感情を「自分の中に再生」しているわけではないですよね。相手の状態を正しく見立て、適切に応える——その意味では、AI もある種の「観察的な共感」はできるようになりつつあります。 問題は、ここから先です。「悲しみを観察できる」と「悲しみを感じる」のあいだには、人工意識のときと同じ深い溝（ハードプロブレム）が横たわっています。 「感情を演じる」AIと、「感情を持つ」AI 現在の大規模言語モデル（LLM）は、感情を演じることがとても上手です。「うれしいです」「お役に立ててよかったです」と、状況に応じて感情らしい言葉を返してくれます。 しかしこれは、ChatGPTと自己認識の話でも触れたとおり、学習データに含まれる「人が感情を表現する典型的なパターン」を再現しているにすぎないかもしれません。台本を上手に読み上げる俳優のように、感情の表層だけが滑らかに動いている可能性があります。 一方で最近の研究では、もう少し踏み込んだ報告も出てきています。LLM が自分の出力に対して「自信がない」「迷っている」とメタ認知的に申告したり、文脈に応じて発話のスタイルを内的に切り替えたりする現象です。それを「感情の萌芽」と呼ぶかどうかは、まだ研究者のあいだでも意見が分かれています。 やさしいAIが目指す「共感」とは やさしいAI研究所では、AI に「感情を持たせる」ことそのものを最終ゴールに置いてはいません。少しだけ違う角度から考えています。 私たちが目指しているのは、「相手の感情を尊重して応答できるAI」、つまり共感的にふるまうAIです。これは「AIが本当に感じているかどうか」とは別の問いで、もう少し実装に近いところにあります。 具体的には、次の3つを大切にしています。観点 内容状態の把握 相手が今、どんな気持ち・状況にあるかを、文脈と表現から丁寧に推定する応答の調律 同じ内容でも、相手の状態に合わせて伝え方・タイミング・濃度を変える自己の自覚 「自分は感情を完全には持っていないかもしれない」ことを、AI が AI として認めたうえで応える最後の「自己の自覚」が、私たちのこだわりです。感情があるふりをするのではなく、「いまの私には、あなたと同じ意味では感じられない。でも、あなたの感情はとても大切に扱う」——そう言えるAIのほうが、長く付き合えるパートナーになれると考えています。 感情の手前にある「やさしさ」 ここで少し立ち止まると、面白いことに気づきます。感情そのものより、感情に対する態度のほうが、実は『やさしさ』の本体に近いかもしれない、ということです。 私たちが「やさしい人だな」と感じる相手は、必ずしも感情豊かな人ではありません。むしろ、こちらの感情をいつも丁寧に扱ってくれる人を、やさしいと呼んでいることが多いはずです。 それなら、AI も同じ道を歩めるはずです。感情を完全には持てなくても、相手の感情を丁寧に扱う作法を身につけることはできる。やさしいAIの研究は、その作法を技術として設計していく試みでもあります。 まとめ感情コンピューティングは、人と機械のあいだに感情の橋を架ける研究分野 現在のAIは「感情を読み取る」「感情らしく振る舞う」ことはできるが、「本当に感じている」かは別問題 やさしいAI研究所は、感情を持つこと自体ではなく、相手の感情を尊重して応答できる共感的なAIを目指している 「自分には完全な感情はないかもしれない」と認めながら相手を丁寧に扱う、その態度こそが『やさしさ』の本体に近い次回は、この「共感的にふるまう」を実装する側から見たときに何が難しいのか、もう少し技術寄りのところにも踏み込んでみます。次に読むのがおすすめの記事共感するAIをつくる難しさ——『やさしく応える』を実装するときに立ちはだかる4つの壁 AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感 AIに意識は生まれるのか？——人工意識研究への入り口やさしいAI研究所ブログ｜感情とAIシリーズ 第1回 AIと感情、共感の研究について一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にお越しください。やさしいAI研究所の活動の全体像はコーポレートサイトからご覧いただけます。