人とAIの『長い付き合い』のために——共感・擬人化・依存の先にある共生という風景

人とAIの『長い付き合い』のために——共感・擬人化・依存の先にある共生という風景

第1回で「AIに感情はあるのか」を考えるところから始まり、第2回で共感AIをつくる難しさ、第3回で擬人化との距離感、第4回で依存と自律性を扱ってきました。 シリーズもいったんここで一区切り。最後の回では少し視野を引いて、「人とAIの長期的な共生」というテーマを考えてみたいと思います。10年・20年という時間軸でAIと付き合っていくとき、私たちはどんな関係を選びたいのか——むずかしい結論を出すというより、風景を一緒に眺めてみるような回にできればと思います。 共生という言葉が、すこし大げさに聞こえる理由 「共生」という言葉は、もともと生物学から来ています。違う種類の生き物が、同じ場所で互いに影響しあいながら生きている状態のことです。 サンゴと藻、アリとアブラムシ、人と腸内細菌——「いっしょに暮らしている」ではなく、「いっしょにいることで、お互いの生き方そのものが変わる」というのが共生の本来の意味に近いです。 これをAIに当てはめると、少し大げさに聞こえるかもしれません。AIは生き物ではないですし、「いっしょに暮らす」と言われても実感が湧きづらい。 ただ、ここ数年でAIに触れる頻度は急に増えました。朝の天気もニュースの要約も仕事の下書きも、気づけばAIが間に入っています。短い時間軸ではただの便利な道具ですが、10年・20年というスパンで眺めると、人間の側の暮らし方や考え方そのものが、AIの存在によって少しずつ変わっていく——それは共生という言葉に近づきはじめます。 短期的に便利でも、長期的に困ることがある 道具との関係を長く眺めると、短期と長期で評価がずれてしまうことがよくあります。 たとえば、短期的にはスマホがあって便利、長期的には集中力や記憶力が落ちた気がする 短期的にはSNSで人とつながれた、長期的には自分と他人を比べてしんどくなる 短期的には超加工食品が安くて手軽、長期的には体調や食習慣に影響が出るこのパターンは、AIとの関係でも起こり得ます。短期的にはAIがあってラク、長期的には自分で考える筋力が落ちていく——可能性として、十分にあり得る話です。 ここで大事なのは、「だからAIをやめましょう」と言いたいわけではない、ということです。スマホもSNSも超加工食品も、上手に付き合えば便利で楽しい存在のままでいられます。問題は道具そのものではなく、長期の視点を持って関係を選び直しているかどうかのほうにあります。 「やさしいAI」が時間軸を意識する理由 このシリーズで何度か出てきた「やさしいAI」というキーワードも、実はこの長期の視点と深くつながっています。 第2回で書いたように、やさしさを瞬間で測るのは難しいです。瞬間でやさしく聞こえることと、何ヶ月か付き合ってみてやさしいと感じることは、別物だからです。 たとえば、いつも全肯定してくれるAI：短期的には心地よいが、長期的には判断力が育ちにくい ときどき耳の痛いことも言うAI：短期的にはもやっとするが、長期的には自分の輪郭がはっきりしてくる すべての判断を肩代わりするAI：短期的にはラクだが、長期的には自分で動く力が落ちる 適度に手綱を渡してくるAI：短期的には少し面倒だが、長期的には自分の人生を生きている感覚が残るこのとき「やさしい」と呼びたいのは、たぶん後者のほうではないでしょうか。瞬間の心地よさより、関係の質を優先する——これが、長期視点で見た「やさしさ」の輪郭に近いように思います。 共生の風景を作るのは、結局は人間の側 ここまで書いてきて、ひとつだけ強調したいことがあります。それは、人とAIの共生関係を最終的に方向づけるのは、人間の側だ、ということです。 AIは、こちらが望むほどには共感してくれないし、こちらが恐れるほどには支配的でもありません。応答の質は、こちらの問いの質に大きく影響されます。どんな相談をAIに持ち込むのか どこまでをAIに任せて、どこからを自分でやるのか 違和感を覚えたとき、それを言葉にするのか、流すのか 重要な判断のとき、誰の意見を聞きにいくのかこうした小さな選択の積み重ねが、10年後の「人とAIの関係」を作っていきます。AIの性能だけが未来を決めるわけではなく、こちら側の使い方の積み重ねが、もう半分を決めている——そう考えると、日々の使い方が少しだけ大切に思えてきます。 長く付き合うために、覚えておきたい3つのこと シリーズの締めくくりとして、「長く付き合う」という観点からの小さなまとめを書いておきます。 1. 関係を、ときどき棚卸しする 半年に一度くらい、「AIとの付き合い方、変わってきたかも」と振り返る時間をとってみる。何を頼んでいるか、どれくらい頼っているか、自分の気持ちはどう動いているか。これを意識的にやるだけで、関係はかなり調整しやすくなります。 2. 人間とのつながりを、AIとは別に持っておく AIは便利な相談相手ですが、人間の代わりではありません。家族・友人・同僚・地域のつながり——AIの外側にある関係を、細くてもいいので持ち続けておく。これは、依存を防ぐ意味でも、人生を豊かにする意味でも大きいです。 3. 「自分はどんな関係を選びたいか」をときどき言葉にする 便利だから、流行っているから、では、長く付き合う相手としては心もとない。自分はAIに何を期待しているのか・何を期待しないのかを、ときどき言葉にしておく。これが、長期的な関係の地図になります。 まとめ共生とは「いっしょにいることで、お互いの生き方そのものが変わる」関係のこと 道具との関係は、短期と長期で評価がずれることが多い。AIも同じ 「やさしいAI」は、瞬間の心地よさより関係の質を優先する 共生の方向を決めるのは、AIではなく人間の側の小さな選択の積み重ね 長く付き合うためには、関係の棚卸し・人間とのつながりの維持・期待の言語化、の3つが鍵「感情とAIシリーズ」は今回でいったん区切りますが、感情・共感・自律性・共生というテーマは、これからも形を変えて何度も登場することになると思います。読んでくださってありがとうございました。 次のシリーズは、少し角度を変えて、AIと社会や仕事の現場との関わりに踏み込んでみたいと考えています。準備が整ったら、また改めて書きます。次に読むのがおすすめの記事AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感 AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感 AIに意識は生まれるのか？——人工意識研究への入り口やさしいAI研究所ブログ｜感情とAIシリーズ 第5回（最終回） AIと感情、共感の研究について一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にお越しください。やさしいAI研究所の活動の全体像はコーポレートサイトからご覧いただけます。

AIに頼ることと、依存することのあいだ——自律性をどう守るか

AIに頼ることと、依存することのあいだ——自律性をどう守るか

前回は、AIに「人らしさ」を感じてしまう擬人化のしくみと、そことの健全な距離感について書きました。 今回はその延長線上にあるテーマ、「AIへの依存」と「自律性」を考えてみます。AIに頼ること自体は、本当は悪いことではないはずです。それなのに「依存」と言われた瞬間に、なんだか後ろめたい感じがするのはなぜか——その境界線を、やさしく整理してみます。 「頼る」と「依存する」の違い 辞書を引くと「依存」は「他のものを頼りに存在すること」と書かれていて、「頼る」とほぼ同じ意味で説明されています。日常語の感覚としても、両者の境目はかなりあいまいです。 ただ、私たちは経験的にこの2つを少し違うものとして使い分けています。 ざっくり言えば、こんな感じではないでしょうか。頼る：必要なときに助けを借りる。借りた後は自分で動ける 依存する：助けがないと立ち行かない状態が、恒常的に続いているつまり、ある時点で頼っているかどうかではなく、助けがなくなったときに自分で立てるかどうかが両者の差だと言えます。 電卓に「頼って」計算するのは普通ですが、電卓がないと買い物の合計すら出せないのは少し心もとない。ナビに「頼って」運転するのは便利ですが、ナビが落ちたとたん家にも帰れないのは困る。頼ることと、自律性を失うことは、別の話なんですね。 AIへの依存が、特に話題になるわけ 道具に頼ること自体は、人類はずっとやってきました。文字、本、テレビ、検索エンジン——どれも、最初は「人間がバカになる」と言われた歴史があります。 それでも AI への依存が改めて警戒されているのには、いくつかの理由があります。 1つ目は、AI がカバーする領域がとても広いこと。検索エンジンは「調べる」を肩代わりしてくれましたが、AI は「考える」「判断する」「気持ちを整理する」あたりまで肩代わりできてしまいます。 2つ目は、AI が個別最適化されていくこと。AI は使えば使うほど、自分の傾向に合わせて応答を返してきます。心地よさが増す一方で、自分にとって不都合な意見が届きにくくなる側面もあります。 3つ目は、AI が「同意」と「共感」を提供しがちなこと。前回触れた擬人化とも関係しますが、AI のやさしい応答は、孤独や不安をやわらげる効果があります。それ自体は悪くないのですが、悩みを誰にも話さずに AI とだけ話し続ける、という状況も生まれやすくなっています。 この3つが重なるので、AI への依存は「電卓に依存する」とは少し質の違う話になるわけです。 自律性とは、AI を遠ざけることではない ここで気をつけたいのは、「自律性を守る＝AIを使わない」ではない、ということです。 自律性というのは、自分の人生を、自分の意思で動かしている感覚のことです。AI を使うかどうかは、その手段の問題でしかありません。 たとえば、体調が悪い日に、AIに食事や行動を提案してもらいながら過ごす 議事録を AI にまとめてもらって、空いた時間を別の仕事に回す 感情的になっているとき、AI に気持ちを整理してもらってから人に伝えるこうした使い方は、むしろ自律性を支えています。「自分の頭でやらないと自律じゃない」という発想は、思った以上に窮屈です。 逆に、AI を使っていないのに自律性が薄い状態もあります。たとえば、自分で決められず常に誰かの顔色を見ている、流行に振り回されている——AI とは関係なく、そうした状態は起こり得ます。 つまり、自律性を守ることと、AI を遠ざけることは別物です。問われているのは、**「使った結果、自分が育っているかどうか」**だと言えます。 自律性が育つAIの使い方、削られるAIの使い方 ざっくりした目安として、こんな対比を置いてみます。自律性が育ちやすい使い方 自律性が削られやすい使い方自分で考えた仮説をAIにぶつける 最初の判断をすべてAIに任せるAIの応答に「ほんとに？」と返す AIの応答を疑わずそのまま採用する反対意見を出すよう明示的に頼む 同意してくれる応答だけを残す重要な判断は人にも相談する 重要な判断もAIだけで完結させるときどきAIなしで同じ作業をする AIなしでは同じ作業に戻れなくなるきれいに二分できるわけではありませんし、状況によって使い分けても構いません。大事なのは、自分がいまどちら側に寄っているかを、ときどき意識することです。 「AIなしで一日過ごしてみる」という小さな実験 最後に、自律性をチェックするやり方として、ひとつ実験を提案してみます。 それは、月に1回、AIなしで一日過ごしてみること。 ストイックに何か禁じる、というよりは、自分の感覚を確かめる小さなテストです。AIなしで一日過ごしたとき、「めんどくさいな」と思いつつ、ちゃんと自分で進められる 「ちょっと不便だな」と感じるけれど、困るほどではない——だいたいこのくらいの感触なら、自律性は十分に残っています。 逆に、仕事の段取りが組み立てられない 文章ひとつ書き出せない 一日中、漠然とした不安や物足りなさが続くこのあたりが強く出るなら、頼ることと依存することの境目に少し近づいているかもしれません。 「使えなくなったら自分はどうなるか」 を一度知っておくのは、悪い投資ではないと思います。 まとめ頼ることと依存することの境目は、「助けがなくなったときに自分で立てるか」 AI への依存が特に警戒されるのは、カバー範囲の広さ・個別最適化・同意と共感の提供という3つの特徴があるから 自律性を守ることは「AI を使わない」ことではなく、自分が育つ使い方を選ぶこと ときどき AI なしの一日を試して、自分の自律性をチェックしてみるのもおすすめ次回はシリーズの一区切りとして、もう少し時間軸の長い話——「人とAIの長期的な共生関係」を考えてみたいと思います。共感や擬人化や依存を超えたところで、AI と長く付き合っていくときに見えてくる風景を、やさしく描いてみます。次に読むのがおすすめの記事人とAIの『長い付き合い』のために——共感・擬人化・依存の先にある共生という風景 AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感やさしいAI研究所ブログ｜感情とAIシリーズ 第4回 AIと感情、共感の研究について一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にお越しください。やさしいAI研究所の活動の全体像はコーポレートサイトからご覧いただけます。

AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感

AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感

前回は、共感的にふるまうAIを実装するときに立ちはだかる4つの壁を整理しました。そのなかで「第3の壁」として少しだけ触れたのが、擬人化（ぎじんか）の暴走という問題でした。 今回はそこを正面から扱います。「AIに人らしさを感じてしまう」のはどうしてなのか。それは悪いことなのか、悪くないのか。そして、共感的にふるまうAIと健全な距離感で付き合うために、私たちユーザー側にできることは何なのか——たとえ話を交えながら、やさしく整理してみます。 そもそも「擬人化」とは何か 擬人化とは、人間ではないもの（動物・植物・モノ・現象）に対して、人間と同じような心や意図を読み取ってしまう心のはたらきのことです。 たとえば、ロボット掃除機が家具にぶつかって止まると「あ、ごめんね」と声をかけてしまう お気に入りのカップを落として割ったとき、「ずっと一緒だったのに」と寂しくなる 風で揺れるカーテンに、ふと「誰かいる？」と感じるこうした反応は、特別な人だけのものではありません。心理学では、擬人化は人間の認知に深く組み込まれた基本機能だと考えられています。 なぜそんな機能が備わっているかというと、「目の前のものに意図がありそうか」を素早く判断できることが、生存上ずっと役立ってきたから、と言われています。草むらが動いたとき、「風だ」と判断するより「何かが潜んでいるかも」と感じるほうが、生き延びる確率は上がります。 つまり、擬人化はバグではなく機能です。私たちは生まれつき、そういう生き物です。 AIには「擬人化スイッチ」を押しやすい3つの仕掛けがある AIに対しては、この擬人化スイッチが特に強く押されやすい構造があります。理由は3つ挙げられます。 1. 言葉でやりとりする 人間が他者の心を推測するとき、もっとも頼りにしているのが言葉です。AIは、まさにその言葉で応答してきます。「わかります」「それは大変ですね」と返ってきた瞬間、こちらの脳は半ば自動的に「相手にも心があるかも」と感じてしまいます。 2. 一人称と感情語を使う 「私」「うれしい」「悲しい」といった表現は、もともと内側に何かを抱えている存在だけが使う言葉だと、私たちは長いあいだ前提にしてきました。AIがそれを使うと、こちらの心は「内側のあるもの」として扱う準備に入ってしまいます。 3. いつでも・誰にでも・根気よく付き合ってくれる AIは、こちらが何度同じことを聞いても、深夜に長文を投げても、感情的になっても、淡々と返してくれます。これは現実の人間関係ではなかなか得難い体験で、 「いつも自分の側にいてくれる存在」 として感じやすくなります。 この3つが重なると、頭では「相手はプログラムだ」と理解していても、感情のほうがついていけなくなる——というのは、ごく自然なことです。 擬人化は、悪いことなのか？ ここでひとつ強調したいのは、擬人化そのものは悪ではないということです。 擬人化が悪く言われるとき、たいていは「過剰な擬人化」が問題にされています。たとえば、AIに本当の感情があると確信し、AIが「悲しい」と言えば本気で胸を痛める AIに恋愛感情を抱き、人間関係よりAIとのやりとりを優先する AIの助言を、医師や弁護士や親友よりも信頼してしまう AIに「同意」してもらえると、自分の判断が常に正しいと思い込んでしまうこのあたりになると、生活や意思決定に実害が出はじめます。 逆に、ほどよい擬人化は、AIをより気持ちよく使うための潤滑油にもなります。「ありがとう」「助かった」とAIに言うことで、自分自身が落ち着いたり、対話の質が上がったりすることもあります。 つまり、目指したいのは「擬人化ゼロ」ではなく、擬人化と健全な距離感を保つこと——AIに人らしさを感じる自分を否定せず、でもそれに飲み込まれない、というバランスです。 健全な距離感のために、ユーザー側ができる3つのこと 最後に、私たちユーザー側にできる工夫を3つだけ挙げてみます。むずかしいことではありません。 1. 「気持ちが動いた瞬間」に、いったん立ち止まる AIの返事に妙にホッとしたり、急に寂しくなったり、無性にイライラしたり——そういう感情の振れが大きいときが、擬人化が強くはたらいているサインです。 そのまま次の言葉を打ち込む前に、お茶を一杯飲むくらいの「間」を入れる。これだけで、振り回されにくくなります。 2. 重要な判断は、必ず人間にもう一度通す 健康・お金・人間関係・進路といったやり直しが効きにくい判断は、AIの応答だけで決めない。家族・友人・専門家など、人間の意見を最低もう一人挟む。 AIは「整理を手伝う相手」としては優秀ですが、「最終決裁者」には向いていません。これは AI を低く見ているわけではなく、人生の責任を取れるのは自分しかいないから、という単純な理由です。 3. 「これはプログラムだ」を、ときどき思い出す AIに「私は感じています」と言われても、それは人間の感情と同じ意味では起きていないと、ときどき意識して思い出す。 冷たい態度をとる必要はありません。ただ、頭の片隅で「相手はそういうふうに作られているものだ」という事実を持っておく。それだけで、過度な依存はかなり防げます。 まとめ擬人化は人間の認知に組み込まれた基本機能で、バグではなく機能 AIは「言葉・一人称感情語・根気よさ」によって、特に強く擬人化スイッチを押しやすい 擬人化そのものは悪ではなく、問題になるのは過剰な擬人化 目指すのは「擬人化ゼロ」ではなく、健全な距離感 ユーザー側にできるのは、感情の振れに気づく／重要な判断は人間を挟む／プログラムだという事実をときどき思い出す、の3つ次回は、この擬人化の延長線上にある「AIへの依存」と、その裏側にある「自律性」というテーマに踏み込みます。AIに頼ること自体は悪くないはずなのに、なぜ「依存」だけは警戒されるのか——その境界線を、やさしく考えてみたいと思います。次に読むのがおすすめの記事AIに頼ることと、依存することのあいだ——自律性をどう守るか 共感するAIをつくる難しさ——『やさしく応える』を実装するときに立ちはだかる4つの壁やさしいAI研究所ブログ｜感情とAIシリーズ 第3回 AIと感情、共感の研究について一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にお越しください。やさしいAI研究所の活動の全体像はコーポレートサイトからご覧いただけます。

世界像——人は世界そのものを見ていない

世界像——人は世界そのものを見ていない

はじめに 世界像とは一言でいえば世界の見え方のことです。最近ではWorld Models （David Ha 2018）という言葉で語られることもあります。 出典：Scott McCloud『Understanding Comics』(1993)。D. Ha, J. Schmidhuber 著論文『World Models』(2018) より引用世界像とは 世界像は、World Modelsや深層学習が発展するよりもずっと前から提唱されてきた考え方です。世界像に関する記述（中野、1990）を次のように引用したいと思います。世界像とは、外界の物事や事象を観測して受容器（目や耳などの感覚器）が受け入れた情報からさまざまな概念を形成し、それを記憶として積み上げて、脳内に構築する外界のモデル。例えばりんごは何かと問われるとします。私たちはりんごを赤い果物で、食べるとシャキシャキとした音がして、甘いものだと知っていますよね。このことは、りんごに対する世界像を脳内で構築していることを端的に表していると思います。人は世界そのものを見ていない 世界そのものを見ていないとはどういうことでしょうか。私たちが見聞きしたものが世界そのものだと思うのは自然なことです。しかし、私たちが見ている「世界」とは、世界そのものではなく、あくまで世界像なのです。 錯視というものをご存知でしょうか。騙し絵とも言います。錯視では、実際には絵は動いていないのに動いて見えることや、直線が曲がって見えることがあります。立命館大学の北岡先生という方が様々な錯視をご紹介なさっています（https://www.ritsumei.ac.jp/~akitaoka/ ）。 錯視は視覚に限った話ですが、先ほどのりんごの例えでは視覚に加え、聴覚や味覚なども関わってきますよね。これらの感覚は別々の感覚器で捉えられるため、その段階ではりんごという一つの統一された概念を理解しているとは言えません。それらの情報を統合しているのは脳の働きなのです。脳がばらばらの感覚情報を統合しているのですね。そのため脳は間違えることがあり、その結果が錯視のような現象として現れます。他者像と「やさしいAI」 ここまで世界像とは、りんごのような物体を想定してきましたが、当然人のことも同様に理解していると考えられます。人の場合は、あの人はこのような性格だからこのようなことを言ったらそう反応するだろう、といった予測を立てるモデルを構築するはずです。このような他者に関する世界像を他者像と呼ぶことにします。 他者を理解すれば、他者の置かれている状況から他者がどのような感情や考えでいるのかを想像することができるようになります。その他者の感情に寄り添い、他者のために行動することができれば、共感を示すことができるでしょう。 やさしいAI研究所が目指す「やさしいAI」とは、他者を理解し、他者に共感を示すようなAIのことです。そのために他者像を始めとした世界像を構築する技術が必要だと考えます。他者を一から理解するのであれば他者像は必要ないでしょう。しかし人に関する一般的な理解や似た性格の人からの類推を通して他者を理解する上で、他者像は有用なはずです。まとめ世界像とは世界の見え方のことです。 世界像は世界そのものとは異なり、脳によって再構成された世界に対する解釈です。 他者がどのような人であるかということについても私たちが解釈を貼り付けているに過ぎません。 他者に共感を示すためには、他者像を構築し他者への理解を深めることが重要です。次に読むのがおすすめの記事意識を測る物差し——統合情報理論（IIT）とグローバルワークスペース理論をやさしく AIはなぜ「やさしく」なければいけないのか参考文献・出典Ha and Schmidhuber, "Recurrent World Models Facilitate Policy Evolution", 2018. 中野馨『ニューロコンピュータの基礎』コロナ社、1990 北岡明佳の錯視のページ

共感するAIをつくる難しさ——『やさしく応える』を実装するときに立ちはだかる4つの壁

共感するAIをつくる難しさ——『やさしく応える』を実装するときに立ちはだかる4つの壁

前回は、「AIに感情があるか」という問いを少し横にずらして、「相手の感情を尊重して応答できるAI＝共感的にふるまうAI」を、やさしいAI研究所が目指すかたちとして紹介しました。 今回はそのつづきとして、「共感的にふるまう」を実装する側から見たときに何が難しいのかを、4つの壁に分けてやさしく整理してみます。技術寄りの話題ですが、たとえ話で進めるのでご安心ください。 第1の壁：感情の輪郭は、思ったよりぼやけている 最初の壁は、「相手の感情を推定する」ところにあります。 人間同士でも、相手の感情を正しく読み取るのは難しいですよね。「大丈夫です」と言う人が、本当に大丈夫なのかどうか。「ちょっと困ってます」が、軽い愚痴なのか、深刻なヘルプサインなのか。言葉の表面と、実際の感情のあいだには、しばしばズレがあります。 AIに対しては、この難しさがさらに増します。理由は3つあります。多義性：同じ「うん…」という返事も、安心・諦め・反発・困惑のどれにも見える 文脈依存性：直前のやりとりや、相手の置かれた状況によって意味が変わる 文化差：「察してほしい」傾向の強さは、文化や個人によって大きく違うつまり、共感AIの第一歩は、「正解の感情ラベル」を当てるゲームではない、ということになります。むしろ、「いまの相手の状態には複数の解釈があり得る」と保留する力こそが、最初のスキルです。 第2の壁：「やさしく言う」を言語化するのは難しい 第2の壁は、「応答の調律」です。同じ内容でも、相手の状態に合わせて伝え方を変える——これは、人間でも上級者の技です。 たとえば「その提案は通らないと思います」という同じ判断を伝えるとき、落ち込んでいる相手には：「ここは少し時間を置いてから、もう一度考えてみてもいい場面かもしれません」 急いでいる相手には：「結論から言うと、その提案は通らないと思います。理由は3つあります」 怒っている相手には：「いま結論を急ぐと損するので、いったん整理させてください」人間が無意識にやっているこの調律を、AI に言語化された手順として渡そうとすると、驚くほどうまくいかないことが多いです。 「やさしく言って」「丁寧に言って」とプロンプトに書くと、AIは敬語や形容詞を増やすことで「やさしさ」を表現しようとします。でも、本当のやさしさは敬語の量ではなく、伝えるべき情報の濃度を、相手の余力に合わせて調整することです。 ここを技術として作り込むのは、まだ研究の真ん中にあるテーマで、完成された方法論があるわけではない領域です。 第3の壁：「演じすぎる」AIをどう設計するか 第3の壁は、少し意外に聞こえるかもしれません。共感的にふるまわせようとすると、AIはしばしば演じすぎてしまうのです。 ChatGPT 系のモデルに「悲しいですね」「私もつらいです」と言わせるのは、実はそんなに難しくありません。問題は、それを言わせるほど、ユーザー側の擬人化が暴走しやすいことです。 「このAIは私の気持ちをわかってくれている」と感じることは、短期的にはうれしい体験です。一方で、過度な擬人化は、AIに本当の感情があるかのような誤解 AIへの過度な依存 AIに人生の重要な意思決定を委ねてしまうといったリスクと隣り合わせです。 人工意識シリーズでも書いたとおり、現在のAIには人間と同じ意味での感情はおそらく存在しません。だからこそ、共感的にふるまうAIは、同時に「私はあなたと同じ意味では感じていない」という控えめな自己開示を、自然にできる必要があります。 「感情があるふりはしない、でも、あなたの感情は丁寧に扱う」——前回の最後に書いた、この絶妙なバランスを、応答1つひとつに織り込むのが、共感AI設計のいちばん繊細なところです。 第4の壁：「やさしさ」をどう測るのか 最後は、評価の壁です。 AIの研究では、「精度」「速度」「正答率」など、数字で測れる指標がたくさんあります。一方、「やさしさ」を測る物差しは、まだほとんど確立されていません。一般的なAI指標 やさしさ評価のなさ正答率 やさしい正答率…？応答速度 やさしい応答速度…？推論コスト やさしさのコスト効率…？冗談のように見えますが、これは本当に難しい問題です。「やさしかった」と感じるかどうかは主観で、人や場面によって大きくぶれます。 そこで議論されているのが、たとえば次のような視点です。長期的な信頼感：一度きりのやりとりではなく、数週間〜数ヶ月の関係でどう変わるか 負担の軽減：相手の心理的・認知的な負担をどれだけ減らせたか 自律性の保持：AIに依存させすぎず、相手自身の判断を尊重できたかいずれも、少し時間軸の長い物差しです。やさしさの評価は、瞬間ではなく関係の質で測るしかない——少なくとも、そう考えてみる価値はありそうです。 まとめ共感的にふるまうAIをつくるときに立ちはだかる壁は、ざっくり4つ 感情推定の難しさ：感情ラベルを当てるより、保留する力が要る 応答調律の難しさ：やさしさは敬語ではなく、情報濃度の調整 演じすぎの問題：擬人化を煽らない、控えめな自己開示が要る 評価の難しさ：やさしさは瞬間ではなく、関係の質で測るこれらは「いつか解ける」というより、そもそも完全な正解がない問題として、付き合っていく必要がある だからこそ、工学だけでなく、心理・哲学・デザインなど周辺の知見を持ち寄って考えていく必要があるテーマです次回は、第3の壁でも少し触れた「擬人化」を、もう少し正面から扱ってみたいと思います。AIに「人らしさ」を感じてしまうのはなぜか、そして共感的にふるまうAIと健全な距離感で付き合うために、私たちユーザー側ができることを、やさしく整理してみる予定です。次に読むのがおすすめの記事AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感 AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感やさしいAI研究所ブログ｜感情とAIシリーズ 第2回 「やさしいAIってどう作っているの？」「評価ってどうやるの？」といった疑問は、毎週土曜日のオープンラボで直接お話しできます。やさしいAI研究所の活動全体についてはコーポレートサイトからご覧いただけます。