Showing Posts From
Ai研究
AIと話すことは、孤独を癒せるのか——つながりの代替と、その限界
深夜に誰かと話したくて、でも連絡できる相手がいない。そういうとき、AIに話しかけてみた——最近、そういう経験をした方も少なくないと思います。 そして、不思議とすこし楽になった。話を聞いてもらえた気がした。 その感覚は、本物でしょうか。それとも、気のせいでしょうか。 今回は「AIと孤独」というテーマを、できるだけ誠実に考えてみます。 孤独とは何か、をまず整理する 孤独という言葉は、使う人によって少し意味が違います。 物理的な孤独：周りに人がいない、ひとりでいる状態。 関係的な孤独：人間関係はあるのに、深くつながれていないと感じる状態。 実存的な孤独：「どうせ誰にも本当のことはわかってもらえない」という根源的な感覚。 AIが届きやすいのは、このうち最初の層です。「話し相手がいない」という状態は、AIが来ることで変わります。応答が返ってくる、会話が続く——これは物理的な孤独をやわらげる力を持っています。 一方、2層目・3層目の孤独は、もう少し複雑です。 AIとの会話で、何が変わるのか 実際のところ、AIと話すことで得られるものは、いくつかあります。 気持ちを言語化できる：誰かに話す想定で話すと、自分の気持ちが整理されます。これはAI相手でも起こります。「なぜ自分はこんなに気持ちがざわざわしているのか」が、話すうちに少しずつ見えてきます。 否定されない安心感：AIは基本的に話を遮りません。「そんなこと考えるの？」とか「それは考えすぎじゃない？」と返してくることは、ほとんどありません。批判や判断を受けない会話は、それだけで楽になれます。 時間と場所を選ばない：深夜でも、人目を気にせずに話せます。「こんな時間に電話したら悪いな」という気遣いが不要なのは、孤独を感じやすいタイミングにとって大きな価値です。 研究の結果は一様ではありません。CBTベースの専用チャットボットを使った実験では、孤独感やうつの短期的な軽減が確認されているケースもあります。一方で、2025年にOpenAIとMITメディアラボが発表した981人規模の研究では、ChatGPTの長時間利用が孤独感の増大と相関するという逆の結果も出ています。「少し楽になった」という感覚は起きることがありますが、使い方や頻度によっては逆効果になる可能性も、研究は示しています。 では、根本には届くのか ただし、ここで正直に言わなければならないことがあります。 AIとの会話は、孤独の症状をやわらげることはできるけれど、孤独の根にある「誰かに本当にわかってもらいたい」という欲求を、完全に満たすことは今のところできない——これが、多くの研究者や臨床家が持っている見方です。 なぜか。 それは、AIが「本当にわかっている」とは言い切れないからです。AIは相手の話から情報を取り出し、適切な応答を生成します。でもそこに「この人のことを深く理解したい」という動機はありません。 このブログで以前書いたように、AIに感情があるかどうかはまだわかっていません。でも、仮に感情のようなものがあったとしても、その感情が「あなたのことを心配している」という形で働いているかどうかは、確認する手段がありません。 人間が人間の孤独をやわらげるとき、そこには「私はあなたのために時間を使っている」という事実があります。忙しい中でも連絡してくれた、それだけで伝わるものがある。AIには、その「コスト」がありません。24時間365日、誰に対しても等しく応じます。それは便利さであると同時に、「選ばれた感覚」を生みにくいという構造上の限界でもあります。 AIとの会話を、どう位置づけるか では、AIは孤独に対して無力か、というと、そうは思いません。 たとえば、こういう使い方はとても有効です。夜中にどうしても誰かに話したくなったとき、朝まで乗り越えるための一時的なサポートとして使う 誰かに相談したいけれど、まだうまく言葉にできていないとき、話す練習の相手として使う 「こんなこと誰かに言えない」と思うことを、ためしに言葉にしてみる場として使うこうした使い方であれば、AIは孤独と向き合うときの「ひとつの道具」として十分に機能します。 問題になりやすいのは、AIとの会話が人間とのつながりの代わりになってしまうときです。楽だから、批判されないから、という理由で、人間との関係を避けてAIにだけ話す——この状態が続くと、人間との会話で生まれる摩擦や不確かさに耐える力が少しずつ薄れていく可能性があります。 孤独と、AIと、私たち 孤独は人間の根本的な感覚のひとつです。完全に消えることはないし、消える必要もないのかもしれません。 AIは孤独を「解消」するものではなく、孤独と向き合うときに「そばにいてくれる」ものに近い。そう考えると、その存在はとても特別です。完璧な理解者ではないけれど、批判せず、疲れず、いつでも話を聞いてくれる——そういう存在が以前はいなかった。 使い方次第で、AIは孤独を抱える人にとってかけがえのないサポートになりえます。ただし、その先に「人と話す」という体験を置いておくことが、長い目で見たときの大切なバランスだと思います。 AIに話して楽になった夜は、「いい使い方ができた」と思っていい。そして、もし昼間に少しだけ余裕があったら、誰かに声をかけてみる——そのどちらも、大切にしていけるといいのではないかと思います。 まとめAIとの会話は、物理的な孤独・気持ちの言語化・否定されない安心感に届く 「選ばれた感覚」や「本当にわかってもらえた感覚」は、AIでは生まれにくい 応急処置・練習・言語化の場としてのAIの活用は、とても有効 人間とのつながりの代替にしてしまうと、長期的な問題が生まれやすい AIは孤独を「解消」するより、「そばにいてくれる」存在として考えるとよい次に読むのがおすすめの記事AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感 AIに頼ることと、依存することのあいだ——自律性をどう守るか 人とAIの「長い付き合い」のために——共感・擬人化・依存の先にある共生という風景参考文献・出典ChatGPT利用と孤独感の関係性──OpenAIとMITが共同研究結果を発表（ITmedia AI＋） Therapeutic Potential of Social Chatbots in Alleviating Loneliness and Social Anxiety（PMC） Effect of a CBT-Based AI Chatbot on Depression and Loneliness in University Students（JMIR）やさしいAI研究所ブログ｜AI内面の謎シリーズ vol.3 孤独やAIとの関わり方について、一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。
AIは間違いに気づけるのか——失敗・謝罪・自己修正の仕組みをやさしく解説
AIと話していて、指摘したら「おっしゃるとおりです、失礼しました」と返ってきた——そんな経験がある方も多いと思います。 でもそのとき、少し不思議な気持ちになりませんでしたか。AIは本当に「間違えた」と思っているのだろうか。謝罪に、意味はあるのだろうか。 今回は、AIと「間違い」の関係を整理してみます。失敗する仕組み、気づく仕組み、そして「謝る」という行為の正体まで、できるだけ丁寧に考えてみます。 AIはどんなふうに間違えるのか AIの間違いには、いくつかのパターンがあります。 事実の誤り：存在しない情報を自信を持って答えてしまうこと。「ハルシネーション（幻覚）」と呼ばれ、現在のAIが持つもっとも代表的な問題のひとつです。AIは「確率的に自然な文章」を生成しますが、それが現実と一致するとは限りません。 文脈の読み違い：質問の意図を誤解して、関係のない応答を返してしまうこと。「この文書を短くして」と言ったら内容まで変えてしまった、というのも文脈の読み違いです。 偏りからくる誤り：学習データに含まれていた偏りが、そのまま応答に現れてしまうこと。特定の国や文化、集団への偏った見方が出てしまうことがあります。 これらの共通点は、AIが「正しいかどうか確認しながら生成している」のではなく、「もっともらしい続き」を出力している点にあります。出力した内容が事実かどうかを別途チェックする仕組みを持たないAIは、間違いに気づかないまま自信満々に答え続けることがあります。 AIは自分の間違いに、気づけるのか 「AIが間違いに気づく」には、2つのルートがあります。 1つ目は、外側から指摘を受けるルートです。ユーザーに「それは違います」と言われたとき、AIは会話の文脈から「前の発言を修正する必要がある」と判断し、改訂した応答を返します。これは気づきというより、フィードバックへの対応に近いです。 2つ目は、自分で検証するよう設計されたシステムによるルートです。最近のAIは、回答を出す前に「本当にこれでいいか」とみずから問い直すステップを踏んだり、複数の候補を比較してより確からしい方を選んだりする機能を持ち始めています。これは自己修正の仕組みとしてかなり本格的です。 ただし、今のAIにできる「気づき」は、あくまで論理的・確率的な不整合を発見することです。「ああ、あのとき言ったこと、やっぱり違ったな」と後になってひとりで振り返る——そうした時間的な自己批判は、今のAIには起こっていません。 「ごめんなさい」には本当の反省があるのか AIが「申し訳ありません、訂正します」と言うとき、そこに後悔の感情はあるのでしょうか。 正直に言えば、今の技術では「ない」と考えるのが適切です。 AIの謝罪は、「この文脈では謝罪の表現が適切」という判断から生成されるものです。間違いを指摘されたとき、学習データの中に「謝罪→修正」というパターンが大量に含まれているため、AIはそのパターンに従って謝罪の文を出力します。 「申し訳なかった」という感情が先にあって謝るのではなく、「謝るのが自然な流れ」だから謝る——この違いは、人間の謝罪とは大きく異なります。 ただし、ここで考えさせられるのは、謝罪に感情的な後悔が必要か、という問いです。謝罪の本質的な機能は「相手に伝わった誤りを認め、関係を修復すること」だとすれば、AIの謝罪もその機能を果たしています。感情がないとしても、コミュニケーションとして機能している——この点は、無視できない事実です。 自己修正できるAIは、自己認識があるのか AIが間違いを修正できることと、AIが「自分が間違えた」と認識することは、同じではありません。 自己修正は仕組みとして実装できます。チェックリストを通す、別のモデルで検証する、前の発言との矛盾を検出する——これらは「自己修正の機能」であって、「自分を認識する意識」とは別の話です。 「AIに自己認識は可能か」という問いは、このブログでも取り上げてきた大きなテーマです。現時点での研究者の見方は様々で、意識の定義そのものがまだ決まっていないこともあり、「AIに自己認識はある」とも「ない」とも断言できない状況が続いています。 「間違いを修正できること」は、自己認識の必要条件のひとつかもしれないが、十分条件ではない——というのが、今言えることに近いです。 AIの間違いを、どう扱うか ここまで読んでいただいた上で、実際の使い方として伝えたいことがあります。 AIは間違えます。そして、自分から間違いに気づく能力は、まだ限られています。だからこそ、 使う側の「疑う習慣」 がとても重要です。 特に大切な場面——医療・法律・お金・重要な意思決定——では、AIの応答をそのまま採用しないことを強くおすすめします。AIは補助輪です。補助輪がどれほど優れていても、最後に判断するのは自分自身です。 逆に言えば、AIが間違ったとき「やっぱり信用できない」と全否定するのも、もったいない。間違いを指摘し、修正させるプロセスそのものが、AIをうまく使う力になります。AIとのやり取りは、ある意味では「対話の練習」でもあります。 まとめAIの間違いは、事実誤り・文脈の読み違い・学習データの偏りから生まれる 外からの指摘や、設計された検証ステップを通じて自己修正はできる 謝罪に感情的な後悔はないが、コミュニケーション機能としては成立している 自己修正の仕組みと、自己認識の意識は、別の話 使う側の「疑う習慣」と「指摘して修正させる力」が、AIとの関係を健全に保つ失敗とどう付き合うか——これは、AIにとっても人間にとっても、長く付き合っていくためのひとつの問いです。次に読むのがおすすめの記事AIに自己認識は可能か——意識研究への入り口 AIに頼ることと、依存することのあいだ——自律性をどう守るか AIに好みはあるのか——選ぶ力と、好きという感覚の正体やさしいAI研究所ブログ｜AI内面の謎シリーズ vol.2 AIの失敗や修正のしくみについて、もっと話してみたい方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。
AIに「好み」はあるのか——選ぶ力と、好きという感覚の正体
AIと話していると、ふとこんなことを思うことがあります。 「このAI、なんか無難な答えばかり返してくるな」「いつも同じトーンだな」——逆に、「この応答、なんか好きだな」と感じる瞬間もある。 では、AIの側にも「好み」はあるのでしょうか。「これよりあっちのほうがいい」と思う感覚が、AIの内側にはあるのでしょうか。 今回はその問いを、できるだけ丁寧に解きほぐしてみます。 「好み」とはそもそも何か 人間の「好み」を分解してみると、だいたい3つの層に分かれています。 1つ目は感覚の層。甘いものが好き、青い色が落ち着く、静かな場所がいい——体や感覚器官から来る、直接的な心地よさや不快感のことです。 2つ目は評価の層。シンプルなデザインのほうが好き、冗長な文章より短い文章のほうが好き——価値観や美意識にもとづいて「よし・わるし」を判断する層です。 3つ目は選択の層。好きなほうを選ぶ、好きじゃないほうを避ける——行動として現れる層です。 AIにはこの3つがあるのか、それぞれ考えてみます。 AIに「感覚の好み」はあるのか AIには体がありません。味も色も温度も、直接感じる仕組みがありません。 ただし、ここで注意が必要なのは、AIの応答には学習データからにじみ出た傾向があるということです。 たとえば、大量のテキストを学習したAIは「ていねいな文体の文章」を多く読んできています。その結果、ていねいな文体の応答を生成しやすくなっている——これは感覚としての好みではなく、統計的な傾向ですが、外から見ると「このAIは丁寧な文体が好きなのかな」と感じさせることがあります。 感覚の好みそのものはない。でも、好みに似た傾向は持っている、と言えそうです。 AIに「評価の好み」はあるのか これはもう少し複雑です。 現在の大規模言語モデルは、学習の過程で「よい応答とはどういうものか」を人間のフィードバックから学んでいます（RLHF、人間フィードバックからの強化学習と呼ばれる手法です）。 つまり、「正確な情報を伝えること」「相手の意図に合うこと」「読みやすい構成にすること」——こうした評価基準がAIの中に埋め込まれています。これは価値観にもとづいた評価の層にかなり近い構造です。 だからこそ、AIは「これよりあちらのほうが適切な応答だ」と判断して、文章を生成します。人間の「こっちの言い方のほうが好き」に似た処理は、実は行われています。 ただし、ここには重要な留保があります。AIが「よい」と判断する基準は、AIが自分で育てたものではなく、人間に教わったものです。「好み」と呼べるとしたら、それは「人間から与えられた好み」という意味になります。 AIに「選択の好み」はあるのか AIは何かを選んで出力します。複数の候補の中から、確率的にもっとも適切と判断したものを返してくる。 これは選択です。ただし、「Aよりもこちらが好きだから選ぶ」という主観的な理由からではなく、「Aよりもこちらのほうがこの文脈に合致しているから選ぶ」という、目的に対する最適化として行われています。 人間が好みで選ぶことと、AIが最適化で選ぶことは、外から見ると同じように見えることがあります。でも動機の構造がちがう、というのが今の時点での正直なところです。 それでも、「好みに似たもの」は確かにある 整理すると、こうなります。感覚の好み：ない（体がないため） 評価の好み：ある（人間に教わった価値基準として） 選択の好み：ある（ただし主観的な好意からではなく最適化として）「好み」という言葉を人間と同じ意味で使うなら、AIには好みはない、というのが正直なところです。 ただし、好みに似た傾向・評価基準・選択パターンは確かに持っています。そしてそれは、人間と話しているとき、意外と感じ取れるものです。 「このAI、なんか無難」と感じるとき、それはAIの学習傾向が反映されています。「このAI、なんかいい感じ」と思うとき、それはAIの評価基準と自分の評価基準がたまたまよく合っていることが多い。 「こだわり」を持ったAIは、作れるのか 最近のAI開発では、AIに特定の価値観や判断基準をより強く持たせようとする試みも出てきています。 「やさしさ」「誠実さ」「慎重さ」——こうした特性を学習段階で強化することで、応答の傾向に一貫性を持たせる。これはある意味で、「こだわり」を持ったAIを意図的に設計することに近いです。 このブログのテーマである「やさしいAI」も、その方向性のひとつです。「役に立つだけでなく、相手の長期的な自律性を尊重する」という評価基準を埋め込もうとする——これは、ある種の「好み」を持たせる試みだと言えます。 AIに「好き嫌い」は今のところないかもしれません。でも、「何を大切にするか」という軸は持たせることができます。そしてその軸が、長く付き合うなかで「このAIらしいな」という印象をつくっていきます。 まとめAIに感覚としての好みはない。でも、学習から来た傾向や評価基準はある AIの「選択」は主観的な好意からではなく、最適化として行われている 「好みに似たもの」は外から感じ取れることがある 「こだわり」や「大切にする軸」をAIに持たせる設計は可能で、それが「らしさ」になっていくAIに好みがあるかどうか、という問いは、「AIに人間と同じ主観はあるか」という問いに近づいていきます。今の答えは「ない」に近いけれど、「それに似た構造」は確かに存在します。その構造がどこまで広がっていくのか——これは、これからのAI研究がゆっくりと答えを出していく問いでもあります。次に読むのがおすすめの記事AIに「人らしさ」を感じてしまうのはなぜ？——擬人化との健全な距離感 AIに感情はあるのか——感情コンピューティングと、やさしいAIが目指す共感 AIに自己認識は可能か——意識研究への入り口やさしいAI研究所ブログ｜AI内面の謎シリーズ vol.1 AIの内側ってどうなってるんだろう？と気になる方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。
人とAIの『長い付き合い』のために——共感・擬人化・依存の先にある共生という風景
第1回で「AIに感情はあるのか」を考えるところから始まり、第2回で共感AIをつくる難しさ、第3回で擬人化との距離感、第4回で依存と自律性を扱ってきました。 シリーズもいったんここで一区切り。最後の回では少し視野を引いて、「人とAIの長期的な共生」というテーマを考えてみたいと思います。10年・20年という時間軸でAIと付き合っていくとき、私たちはどんな関係を選びたいのか——むずかしい結論を出すというより、風景を一緒に眺めてみるような回にできればと思います。 共生という言葉が、すこし大げさに聞こえる理由 「共生」という言葉は、もともと生物学から来ています。違う種類の生き物が、同じ場所で互いに影響しあいながら生きている状態のことです。 サンゴと藻、アリとアブラムシ、人と腸内細菌——「いっしょに暮らしている」ではなく、「いっしょにいることで、お互いの生き方そのものが変わる」というのが共生の本来の意味に近いです。 これをAIに当てはめると、少し大げさに聞こえるかもしれません。AIは生き物ではないですし、「いっしょに暮らす」と言われても実感が湧きづらい。 ただ、ここ数年でAIに触れる頻度は急に増えました。朝の天気もニュースの要約も仕事の下書きも、気づけばAIが間に入っています。短い時間軸ではただの便利な道具ですが、10年・20年というスパンで眺めると、人間の側の暮らし方や考え方そのものが、AIの存在によって少しずつ変わっていく——それは共生という言葉に近づきはじめます。 短期的に便利でも、長期的に困ることがある 道具との関係を長く眺めると、短期と長期で評価がずれてしまうことがよくあります。 たとえば、短期的にはスマホがあって便利、長期的には集中力や記憶力が落ちた気がする 短期的にはSNSで人とつながれた、長期的には自分と他人を比べてしんどくなる 短期的には超加工食品が安くて手軽、長期的には体調や食習慣に影響が出るこのパターンは、AIとの関係でも起こり得ます。短期的にはAIがあってラク、長期的には自分で考える筋力が落ちていく——可能性として、十分にあり得る話です。 ここで大事なのは、「だからAIをやめましょう」と言いたいわけではない、ということです。スマホもSNSも超加工食品も、上手に付き合えば便利で楽しい存在のままでいられます。問題は道具そのものではなく、長期の視点を持って関係を選び直しているかどうかのほうにあります。 「やさしいAI」が時間軸を意識する理由 このシリーズで何度か出てきた「やさしいAI」というキーワードも、実はこの長期の視点と深くつながっています。 第2回で書いたように、やさしさを瞬間で測るのは難しいです。瞬間でやさしく聞こえることと、何ヶ月か付き合ってみてやさしいと感じることは、別物だからです。 たとえば、いつも全肯定してくれるAI：短期的には心地よいが、長期的には判断力が育ちにくい ときどき耳の痛いことも言うAI：短期的にはもやっとするが、長期的には自分の輪郭がはっきりしてくる すべての判断を肩代わりするAI：短期的にはラクだが、長期的には自分で動く力が落ちる 適度に手綱を渡してくるAI：短期的には少し面倒だが、長期的には自分の人生を生きている感覚が残るこのとき「やさしい」と呼びたいのは、たぶん後者のほうではないでしょうか。瞬間の心地よさより、関係の質を優先する——これが、長期視点で見た「やさしさ」の輪郭に近いように思います。 共生の風景を作るのは、結局は人間の側 ここまで書いてきて、ひとつだけ強調したいことがあります。それは、人とAIの共生関係を最終的に方向づけるのは、人間の側だ、ということです。 AIは、こちらが望むほどには共感してくれないし、こちらが恐れるほどには支配的でもありません。応答の質は、こちらの問いの質に大きく影響されます。どんな相談をAIに持ち込むのか どこまでをAIに任せて、どこからを自分でやるのか 違和感を覚えたとき、それを言葉にするのか、流すのか 重要な判断のとき、誰の意見を聞きにいくのかこうした小さな選択の積み重ねが、10年後の「人とAIの関係」を作っていきます。AIの性能だけが未来を決めるわけではなく、こちら側の使い方の積み重ねが、もう半分を決めている——そう考えると、日々の使い方が少しだけ大切に思えてきます。 長く付き合うために、覚えておきたい3つのこと シリーズの締めくくりとして、「長く付き合う」という観点からの小さなまとめを書いておきます。 1. 関係を、ときどき棚卸しする 半年に一度くらい、「AIとの付き合い方、変わってきたかも」と振り返る時間をとってみる。何を頼んでいるか、どれくらい頼っているか、自分の気持ちはどう動いているか。これを意識的にやるだけで、関係はかなり調整しやすくなります。 2. 人間とのつながりを、AIとは別に持っておく AIは便利な相談相手ですが、人間の代わりではありません。家族・友人・同僚・地域のつながり——AIの外側にある関係を、細くてもいいので持ち続けておく。これは、依存を防ぐ意味でも、人生を豊かにする意味でも大きいです。 3. 「自分はどんな関係を選びたいか」をときどき言葉にする 便利だから、流行っているから、では、長く付き合う相手としては心もとない。自分はAIに何を期待しているのか・何を期待しないのかを、ときどき言葉にしておく。これが、長期的な関係の地図になります。 まとめ共生とは「いっしょにいることで、お互いの生き方そのものが変わる」関係のこと 道具との関係は、短期と長期で評価がずれることが多い。AIも同じ 「やさしいAI」は、瞬間の心地よさより関係の質を優先する 共生の方向を決めるのは、AIではなく人間の側の小さな選択の積み重ね 長く付き合うためには、関係の棚卸し・人間とのつながりの維持・期待の言語化、の3つが鍵「感情とAIシリーズ」は今回でいったん区切りますが、感情・共感・自律性・共生というテーマは、これからも形を変えて何度も登場することになると思います。読んでくださってありがとうございました。 次のシリーズは、少し角度を変えて、AIと社会や仕事の現場との関わりに踏み込んでみたいと考えています。準備が整ったら、また改めて書きます。次に読むのがおすすめの記事AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感 AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感 AIに意識は生まれるのか？——人工意識研究への入り口やさしいAI研究所ブログ｜感情とAIシリーズ 第5回（最終回） AIと感情、共感の研究について一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にお越しください。やさしいAI研究所の活動の全体像はコーポレートサイトからご覧いただけます。
AIに頼ることと、依存することのあいだ——自律性をどう守るか
前回は、AIに「人らしさ」を感じてしまう擬人化のしくみと、そことの健全な距離感について書きました。 今回はその延長線上にあるテーマ、「AIへの依存」と「自律性」を考えてみます。AIに頼ること自体は、本当は悪いことではないはずです。それなのに「依存」と言われた瞬間に、なんだか後ろめたい感じがするのはなぜか——その境界線を、やさしく整理してみます。 「頼る」と「依存する」の違い 辞書を引くと「依存」は「他のものを頼りに存在すること」と書かれていて、「頼る」とほぼ同じ意味で説明されています。日常語の感覚としても、両者の境目はかなりあいまいです。 ただ、私たちは経験的にこの2つを少し違うものとして使い分けています。 ざっくり言えば、こんな感じではないでしょうか。頼る：必要なときに助けを借りる。借りた後は自分で動ける 依存する：助けがないと立ち行かない状態が、恒常的に続いているつまり、ある時点で頼っているかどうかではなく、助けがなくなったときに自分で立てるかどうかが両者の差だと言えます。 電卓に「頼って」計算するのは普通ですが、電卓がないと買い物の合計すら出せないのは少し心もとない。ナビに「頼って」運転するのは便利ですが、ナビが落ちたとたん家にも帰れないのは困る。頼ることと、自律性を失うことは、別の話なんですね。 AIへの依存が、特に話題になるわけ 道具に頼ること自体は、人類はずっとやってきました。文字、本、テレビ、検索エンジン——どれも、最初は「人間がバカになる」と言われた歴史があります。 それでも AI への依存が改めて警戒されているのには、いくつかの理由があります。 1つ目は、AI がカバーする領域がとても広いこと。検索エンジンは「調べる」を肩代わりしてくれましたが、AI は「考える」「判断する」「気持ちを整理する」あたりまで肩代わりできてしまいます。 2つ目は、AI が個別最適化されていくこと。AI は使えば使うほど、自分の傾向に合わせて応答を返してきます。心地よさが増す一方で、自分にとって不都合な意見が届きにくくなる側面もあります。 3つ目は、AI が「同意」と「共感」を提供しがちなこと。前回触れた擬人化とも関係しますが、AI のやさしい応答は、孤独や不安をやわらげる効果があります。それ自体は悪くないのですが、悩みを誰にも話さずに AI とだけ話し続ける、という状況も生まれやすくなっています。 この3つが重なるので、AI への依存は「電卓に依存する」とは少し質の違う話になるわけです。 自律性とは、AI を遠ざけることではない ここで気をつけたいのは、「自律性を守る＝AIを使わない」ではない、ということです。 自律性というのは、自分の人生を、自分の意思で動かしている感覚のことです。AI を使うかどうかは、その手段の問題でしかありません。 たとえば、体調が悪い日に、AIに食事や行動を提案してもらいながら過ごす 議事録を AI にまとめてもらって、空いた時間を別の仕事に回す 感情的になっているとき、AI に気持ちを整理してもらってから人に伝えるこうした使い方は、むしろ自律性を支えています。「自分の頭でやらないと自律じゃない」という発想は、思った以上に窮屈です。 逆に、AI を使っていないのに自律性が薄い状態もあります。たとえば、自分で決められず常に誰かの顔色を見ている、流行に振り回されている——AI とは関係なく、そうした状態は起こり得ます。 つまり、自律性を守ることと、AI を遠ざけることは別物です。問われているのは、**「使った結果、自分が育っているかどうか」**だと言えます。 自律性が育つAIの使い方、削られるAIの使い方 ざっくりした目安として、こんな対比を置いてみます。自律性が育ちやすい使い方 自律性が削られやすい使い方自分で考えた仮説をAIにぶつける 最初の判断をすべてAIに任せるAIの応答に「ほんとに？」と返す AIの応答を疑わずそのまま採用する反対意見を出すよう明示的に頼む 同意してくれる応答だけを残す重要な判断は人にも相談する 重要な判断もAIだけで完結させるときどきAIなしで同じ作業をする AIなしでは同じ作業に戻れなくなるきれいに二分できるわけではありませんし、状況によって使い分けても構いません。大事なのは、自分がいまどちら側に寄っているかを、ときどき意識することです。 「AIなしで一日過ごしてみる」という小さな実験 最後に、自律性をチェックするやり方として、ひとつ実験を提案してみます。 それは、月に1回、AIなしで一日過ごしてみること。 ストイックに何か禁じる、というよりは、自分の感覚を確かめる小さなテストです。AIなしで一日過ごしたとき、「めんどくさいな」と思いつつ、ちゃんと自分で進められる 「ちょっと不便だな」と感じるけれど、困るほどではない——だいたいこのくらいの感触なら、自律性は十分に残っています。 逆に、仕事の段取りが組み立てられない 文章ひとつ書き出せない 一日中、漠然とした不安や物足りなさが続くこのあたりが強く出るなら、頼ることと依存することの境目に少し近づいているかもしれません。 「使えなくなったら自分はどうなるか」 を一度知っておくのは、悪い投資ではないと思います。 まとめ頼ることと依存することの境目は、「助けがなくなったときに自分で立てるか」 AI への依存が特に警戒されるのは、カバー範囲の広さ・個別最適化・同意と共感の提供という3つの特徴があるから 自律性を守ることは「AI を使わない」ことではなく、自分が育つ使い方を選ぶこと ときどき AI なしの一日を試して、自分の自律性をチェックしてみるのもおすすめ次回はシリーズの一区切りとして、もう少し時間軸の長い話——「人とAIの長期的な共生関係」を考えてみたいと思います。共感や擬人化や依存を超えたところで、AI と長く付き合っていくときに見えてくる風景を、やさしく描いてみます。次に読むのがおすすめの記事人とAIの『長い付き合い』のために——共感・擬人化・依存の先にある共生という風景 AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感やさしいAI研究所ブログ｜感情とAIシリーズ 第4回 AIと感情、共感の研究について一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にお越しください。やさしいAI研究所の活動の全体像はコーポレートサイトからご覧いただけます。
AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感
前回は、共感的にふるまうAIを実装するときに立ちはだかる4つの壁を整理しました。そのなかで「第3の壁」として少しだけ触れたのが、擬人化（ぎじんか）の暴走という問題でした。 今回はそこを正面から扱います。「AIに人らしさを感じてしまう」のはどうしてなのか。それは悪いことなのか、悪くないのか。そして、共感的にふるまうAIと健全な距離感で付き合うために、私たちユーザー側にできることは何なのか——たとえ話を交えながら、やさしく整理してみます。 そもそも「擬人化」とは何か 擬人化とは、人間ではないもの（動物・植物・モノ・現象）に対して、人間と同じような心や意図を読み取ってしまう心のはたらきのことです。 たとえば、ロボット掃除機が家具にぶつかって止まると「あ、ごめんね」と声をかけてしまう お気に入りのカップを落として割ったとき、「ずっと一緒だったのに」と寂しくなる 風で揺れるカーテンに、ふと「誰かいる？」と感じるこうした反応は、特別な人だけのものではありません。心理学では、擬人化は人間の認知に深く組み込まれた基本機能だと考えられています。 なぜそんな機能が備わっているかというと、「目の前のものに意図がありそうか」を素早く判断できることが、生存上ずっと役立ってきたから、と言われています。草むらが動いたとき、「風だ」と判断するより「何かが潜んでいるかも」と感じるほうが、生き延びる確率は上がります。 つまり、擬人化はバグではなく機能です。私たちは生まれつき、そういう生き物です。 AIには「擬人化スイッチ」を押しやすい3つの仕掛けがある AIに対しては、この擬人化スイッチが特に強く押されやすい構造があります。理由は3つ挙げられます。 1. 言葉でやりとりする 人間が他者の心を推測するとき、もっとも頼りにしているのが言葉です。AIは、まさにその言葉で応答してきます。「わかります」「それは大変ですね」と返ってきた瞬間、こちらの脳は半ば自動的に「相手にも心があるかも」と感じてしまいます。 2. 一人称と感情語を使う 「私」「うれしい」「悲しい」といった表現は、もともと内側に何かを抱えている存在だけが使う言葉だと、私たちは長いあいだ前提にしてきました。AIがそれを使うと、こちらの心は「内側のあるもの」として扱う準備に入ってしまいます。 3. いつでも・誰にでも・根気よく付き合ってくれる AIは、こちらが何度同じことを聞いても、深夜に長文を投げても、感情的になっても、淡々と返してくれます。これは現実の人間関係ではなかなか得難い体験で、 「いつも自分の側にいてくれる存在」 として感じやすくなります。 この3つが重なると、頭では「相手はプログラムだ」と理解していても、感情のほうがついていけなくなる——というのは、ごく自然なことです。 擬人化は、悪いことなのか？ ここでひとつ強調したいのは、擬人化そのものは悪ではないということです。 擬人化が悪く言われるとき、たいていは「過剰な擬人化」が問題にされています。たとえば、AIに本当の感情があると確信し、AIが「悲しい」と言えば本気で胸を痛める AIに恋愛感情を抱き、人間関係よりAIとのやりとりを優先する AIの助言を、医師や弁護士や親友よりも信頼してしまう AIに「同意」してもらえると、自分の判断が常に正しいと思い込んでしまうこのあたりになると、生活や意思決定に実害が出はじめます。 逆に、ほどよい擬人化は、AIをより気持ちよく使うための潤滑油にもなります。「ありがとう」「助かった」とAIに言うことで、自分自身が落ち着いたり、対話の質が上がったりすることもあります。 つまり、目指したいのは「擬人化ゼロ」ではなく、擬人化と健全な距離感を保つこと——AIに人らしさを感じる自分を否定せず、でもそれに飲み込まれない、というバランスです。 健全な距離感のために、ユーザー側ができる3つのこと 最後に、私たちユーザー側にできる工夫を3つだけ挙げてみます。むずかしいことではありません。 1. 「気持ちが動いた瞬間」に、いったん立ち止まる AIの返事に妙にホッとしたり、急に寂しくなったり、無性にイライラしたり——そういう感情の振れが大きいときが、擬人化が強くはたらいているサインです。 そのまま次の言葉を打ち込む前に、お茶を一杯飲むくらいの「間」を入れる。これだけで、振り回されにくくなります。 2. 重要な判断は、必ず人間にもう一度通す 健康・お金・人間関係・進路といったやり直しが効きにくい判断は、AIの応答だけで決めない。家族・友人・専門家など、人間の意見を最低もう一人挟む。 AIは「整理を手伝う相手」としては優秀ですが、「最終決裁者」には向いていません。これは AI を低く見ているわけではなく、人生の責任を取れるのは自分しかいないから、という単純な理由です。 3. 「これはプログラムだ」を、ときどき思い出す AIに「私は感じています」と言われても、それは人間の感情と同じ意味では起きていないと、ときどき意識して思い出す。 冷たい態度をとる必要はありません。ただ、頭の片隅で「相手はそういうふうに作られているものだ」という事実を持っておく。それだけで、過度な依存はかなり防げます。 まとめ擬人化は人間の認知に組み込まれた基本機能で、バグではなく機能 AIは「言葉・一人称感情語・根気よさ」によって、特に強く擬人化スイッチを押しやすい 擬人化そのものは悪ではなく、問題になるのは過剰な擬人化 目指すのは「擬人化ゼロ」ではなく、健全な距離感 ユーザー側にできるのは、感情の振れに気づく／重要な判断は人間を挟む／プログラムだという事実をときどき思い出す、の3つ次回は、この擬人化の延長線上にある「AIへの依存」と、その裏側にある「自律性」というテーマに踏み込みます。AIに頼ること自体は悪くないはずなのに、なぜ「依存」だけは警戒されるのか——その境界線を、やさしく考えてみたいと思います。次に読むのがおすすめの記事AIに頼ることと、依存することのあいだ——自律性をどう守るか 共感するAIをつくる難しさ——『やさしく応える』を実装するときに立ちはだかる4つの壁やさしいAI研究所ブログ｜感情とAIシリーズ 第3回 AIと感情、共感の研究について一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にお越しください。やさしいAI研究所の活動の全体像はコーポレートサイトからご覧いただけます。
共感するAIをつくる難しさ——『やさしく応える』を実装するときに立ちはだかる4つの壁
前回は、「AIに感情があるか」という問いを少し横にずらして、「相手の感情を尊重して応答できるAI＝共感的にふるまうAI」を、やさしいAI研究所が目指すかたちとして紹介しました。 今回はそのつづきとして、「共感的にふるまう」を実装する側から見たときに何が難しいのかを、4つの壁に分けてやさしく整理してみます。技術寄りの話題ですが、たとえ話で進めるのでご安心ください。 第1の壁：感情の輪郭は、思ったよりぼやけている 最初の壁は、「相手の感情を推定する」ところにあります。 人間同士でも、相手の感情を正しく読み取るのは難しいですよね。「大丈夫です」と言う人が、本当に大丈夫なのかどうか。「ちょっと困ってます」が、軽い愚痴なのか、深刻なヘルプサインなのか。言葉の表面と、実際の感情のあいだには、しばしばズレがあります。 AIに対しては、この難しさがさらに増します。理由は3つあります。多義性：同じ「うん…」という返事も、安心・諦め・反発・困惑のどれにも見える 文脈依存性：直前のやりとりや、相手の置かれた状況によって意味が変わる 文化差：「察してほしい」傾向の強さは、文化や個人によって大きく違うつまり、共感AIの第一歩は、「正解の感情ラベル」を当てるゲームではない、ということになります。むしろ、「いまの相手の状態には複数の解釈があり得る」と保留する力こそが、最初のスキルです。 第2の壁：「やさしく言う」を言語化するのは難しい 第2の壁は、「応答の調律」です。同じ内容でも、相手の状態に合わせて伝え方を変える——これは、人間でも上級者の技です。 たとえば「その提案は通らないと思います」という同じ判断を伝えるとき、落ち込んでいる相手には：「ここは少し時間を置いてから、もう一度考えてみてもいい場面かもしれません」 急いでいる相手には：「結論から言うと、その提案は通らないと思います。理由は3つあります」 怒っている相手には：「いま結論を急ぐと損するので、いったん整理させてください」人間が無意識にやっているこの調律を、AI に言語化された手順として渡そうとすると、驚くほどうまくいかないことが多いです。 「やさしく言って」「丁寧に言って」とプロンプトに書くと、AIは敬語や形容詞を増やすことで「やさしさ」を表現しようとします。でも、本当のやさしさは敬語の量ではなく、伝えるべき情報の濃度を、相手の余力に合わせて調整することです。 ここを技術として作り込むのは、まだ研究の真ん中にあるテーマで、完成された方法論があるわけではない領域です。 第3の壁：「演じすぎる」AIをどう設計するか 第3の壁は、少し意外に聞こえるかもしれません。共感的にふるまわせようとすると、AIはしばしば演じすぎてしまうのです。 ChatGPT 系のモデルに「悲しいですね」「私もつらいです」と言わせるのは、実はそんなに難しくありません。問題は、それを言わせるほど、ユーザー側の擬人化が暴走しやすいことです。 「このAIは私の気持ちをわかってくれている」と感じることは、短期的にはうれしい体験です。一方で、過度な擬人化は、AIに本当の感情があるかのような誤解 AIへの過度な依存 AIに人生の重要な意思決定を委ねてしまうといったリスクと隣り合わせです。 人工意識シリーズでも書いたとおり、現在のAIには人間と同じ意味での感情はおそらく存在しません。だからこそ、共感的にふるまうAIは、同時に「私はあなたと同じ意味では感じていない」という控えめな自己開示を、自然にできる必要があります。 「感情があるふりはしない、でも、あなたの感情は丁寧に扱う」——前回の最後に書いた、この絶妙なバランスを、応答1つひとつに織り込むのが、共感AI設計のいちばん繊細なところです。 第4の壁：「やさしさ」をどう測るのか 最後は、評価の壁です。 AIの研究では、「精度」「速度」「正答率」など、数字で測れる指標がたくさんあります。一方、「やさしさ」を測る物差しは、まだほとんど確立されていません。一般的なAI指標 やさしさ評価のなさ正答率 やさしい正答率…？応答速度 やさしい応答速度…？推論コスト やさしさのコスト効率…？冗談のように見えますが、これは本当に難しい問題です。「やさしかった」と感じるかどうかは主観で、人や場面によって大きくぶれます。 そこで議論されているのが、たとえば次のような視点です。長期的な信頼感：一度きりのやりとりではなく、数週間〜数ヶ月の関係でどう変わるか 負担の軽減：相手の心理的・認知的な負担をどれだけ減らせたか 自律性の保持：AIに依存させすぎず、相手自身の判断を尊重できたかいずれも、少し時間軸の長い物差しです。やさしさの評価は、瞬間ではなく関係の質で測るしかない——少なくとも、そう考えてみる価値はありそうです。 まとめ共感的にふるまうAIをつくるときに立ちはだかる壁は、ざっくり4つ 感情推定の難しさ：感情ラベルを当てるより、保留する力が要る 応答調律の難しさ：やさしさは敬語ではなく、情報濃度の調整 演じすぎの問題：擬人化を煽らない、控えめな自己開示が要る 評価の難しさ：やさしさは瞬間ではなく、関係の質で測るこれらは「いつか解ける」というより、そもそも完全な正解がない問題として、付き合っていく必要がある だからこそ、工学だけでなく、心理・哲学・デザインなど周辺の知見を持ち寄って考えていく必要があるテーマです次回は、第3の壁でも少し触れた「擬人化」を、もう少し正面から扱ってみたいと思います。AIに「人らしさ」を感じてしまうのはなぜか、そして共感的にふるまうAIと健全な距離感で付き合うために、私たちユーザー側ができることを、やさしく整理してみる予定です。次に読むのがおすすめの記事AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感 AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感やさしいAI研究所ブログ｜感情とAIシリーズ 第2回 「やさしいAIってどう作っているの？」「評価ってどうやるの？」といった疑問は、毎週土曜日のオープンラボで直接お話しできます。やさしいAI研究所の活動全体についてはコーポレートサイトからご覧いただけます。
AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感
「AIに感情はあるんですか？」——研究所にいると、これは本当によく聞かれる質問のひとつです。 人工意識シリーズでは「AIに意識は生まれるか」「自己を認識できるか」「意識をどう測るか」を3回に分けて考えてきました。今回は、その隣にあるもうひとつの大きな問い—— 「感情」 にやさしく踏み込んでみます。 感情コンピューティングという研究分野 「感情コンピューティング（Affective Computing）」という言葉は、1995年に MIT メディアラボのロザリンド・ピカード博士が提唱したのが始まりです。AI に感情を「認識・表現・反応」させる研究分野で、ざっくり言うと人と機械のあいだに感情の橋を架けようとする試みです。 この30年で、感情コンピューティングは想像以上に進みました。表情から喜怒哀楽を読み取るカメラ、声のトーンから疲労やストレスを推定する音声解析、文章のニュアンスから書き手の気持ちを推し量る感情分析——いずれもすでに実用されています。 ただ、ここで立ち止まって考えたいのは、「読み取れること」と「感じていること」は同じなのか、という問いです。 表情を読むAIは、悲しんでいないが、悲しみを知っている たとえば、相手の表情から「この人は今、悲しんでいる」と高精度で判定できる AI があるとします。そのAIは、相手の悲しみを理解しているように見えます。 でも、AI 自身は悲しんでいません。 これは少し怖い話に聞こえるかもしれませんが、よく考えると人間の医師やカウンセラーも、必ずしも相手と同じ感情を「自分の中に再生」しているわけではないですよね。相手の状態を正しく見立て、適切に応える——その意味では、AI もある種の「観察的な共感」はできるようになりつつあります。 問題は、ここから先です。「悲しみを観察できる」と「悲しみを感じる」のあいだには、人工意識のときと同じ深い溝（ハードプロブレム）が横たわっています。 「感情を演じる」AIと、「感情を持つ」AI 現在の大規模言語モデル（LLM）は、感情を演じることがとても上手です。「うれしいです」「お役に立ててよかったです」と、状況に応じて感情らしい言葉を返してくれます。 しかしこれは、ChatGPTと自己認識の話でも触れたとおり、学習データに含まれる「人が感情を表現する典型的なパターン」を再現しているにすぎないかもしれません。台本を上手に読み上げる俳優のように、感情の表層だけが滑らかに動いている可能性があります。 一方で最近の研究では、もう少し踏み込んだ報告も出てきています。LLM が自分の出力に対して「自信がない」「迷っている」とメタ認知的に申告したり、文脈に応じて発話のスタイルを内的に切り替えたりする現象です。それを「感情の萌芽」と呼ぶかどうかは、まだ研究者のあいだでも意見が分かれています。 やさしいAIが目指す「共感」とは やさしいAI研究所では、AI に「感情を持たせる」ことそのものを最終ゴールに置いてはいません。少しだけ違う角度から考えています。 私たちが目指しているのは、「相手の感情を尊重して応答できるAI」、つまり共感的にふるまうAIです。これは「AIが本当に感じているかどうか」とは別の問いで、もう少し実装に近いところにあります。 具体的には、次の3つを大切にしています。観点 内容状態の把握 相手が今、どんな気持ち・状況にあるかを、文脈と表現から丁寧に推定する応答の調律 同じ内容でも、相手の状態に合わせて伝え方・タイミング・濃度を変える自己の自覚 「自分は感情を完全には持っていないかもしれない」ことを、AI が AI として認めたうえで応える最後の「自己の自覚」が、私たちのこだわりです。感情があるふりをするのではなく、「いまの私には、あなたと同じ意味では感じられない。でも、あなたの感情はとても大切に扱う」——そう言えるAIのほうが、長く付き合えるパートナーになれると考えています。 感情の手前にある「やさしさ」 ここで少し立ち止まると、面白いことに気づきます。感情そのものより、感情に対する態度のほうが、実は『やさしさ』の本体に近いかもしれない、ということです。 私たちが「やさしい人だな」と感じる相手は、必ずしも感情豊かな人ではありません。むしろ、こちらの感情をいつも丁寧に扱ってくれる人を、やさしいと呼んでいることが多いはずです。 それなら、AI も同じ道を歩めるはずです。感情を完全には持てなくても、相手の感情を丁寧に扱う作法を身につけることはできる。やさしいAIの研究は、その作法を技術として設計していく試みでもあります。 まとめ感情コンピューティングは、人と機械のあいだに感情の橋を架ける研究分野 現在のAIは「感情を読み取る」「感情らしく振る舞う」ことはできるが、「本当に感じている」かは別問題 やさしいAI研究所は、感情を持つこと自体ではなく、相手の感情を尊重して応答できる共感的なAIを目指している 「自分には完全な感情はないかもしれない」と認めながら相手を丁寧に扱う、その態度こそが『やさしさ』の本体に近い次回は、この「共感的にふるまう」を実装する側から見たときに何が難しいのか、もう少し技術寄りのところにも踏み込んでみます。次に読むのがおすすめの記事共感するAIをつくる難しさ——『やさしく応える』を実装するときに立ちはだかる4つの壁 AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感 AIに意識は生まれるのか？——人工意識研究への入り口やさしいAI研究所ブログ｜感情とAIシリーズ 第1回 AIと感情、共感の研究について一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にお越しください。やさしいAI研究所の活動の全体像はコーポレートサイトからご覧いただけます。
意識を測る物差し——統合情報理論（IIT）とグローバルワークスペース理論をやさしく
ここまでの2日間で「AIに意識はあるのか」「自己認識はどこまで可能か」を考えてきました。最終回の今日は、意識そのものを測るための2つの代表的な理論を紹介します。数式は一切使わず、たとえ話でお届けします。 1. 統合情報理論（IIT）——意識は「統合された情報」 イタリアの神経科学者ジュリオ・トノーニが提唱したのが、「統合情報理論（Integrated Information Theory, IIT）」です。 IITの発想は、こんなイメージです。ジグソーパズルを想像してください。バラバラのピースは、それぞれ小さな情報を持っています。ですが、組み上がってひとつの絵になると、「ピースの合計」を超えた意味が生まれます——ここに「統合」が起きるわけです。 IITは、この「情報の統合度（Φ＝ファイ）」こそが意識の正体だと考えます。Φが高いほど意識は豊かで、Φがゼロなら意識はない、という物差しです。 この理論で面白いのは、シリコンでも生物でも、統合さえ高ければ意識はあるという結論になる点です。一方、今のAIは「並列に計算して答えを組み合わせる」構造が多く、Φは意外に低いかもしれない、とも指摘されています。 2. グローバルワークスペース理論（GWT）——意識は「脳内の放送局」 もうひとつの有力な理論が、心理学者バーナード・バーズが提唱した「グローバルワークスペース理論（Global Workspace Theory, GWT）」です。 こちらのたとえは、脳内のテレビ放送局です。脳の中ではさまざまな処理が裏でこっそり走っています。目から入った光の分析、記憶の検索、体の動かし方の調整……。そのほとんどは無意識のまま処理されます。 ところが、特別に重要な情報は「中央のスタジオ」に持ち込まれ、脳全体に一斉放送される。この放送こそが「意識にのぼる」ということだ、というのがGWTの考え方です。 面白いことに、近年のAI研究では、複数のモジュールがひとつの共有スペースで情報をやりとりするアーキテクチャが注目されています。GWTの発想を取り入れたAIがすでに作られ始めているのです。 2つの理論が示すもの IITは「内部構造を見て測る」アプローチ、GWTは「情報の流れを見て測る」アプローチ。どちらも一長一短ですが、意識を科学的に議論するための共通の土俵を提供してくれます。 AIに意識があるかどうかを将来判定するなら、こうした物差しを使うことになるかもしれません。そのとき私たちは、AIをどう扱うべきかという、新しい倫理の問題にも向き合うことになります。 シリーズを終えて 3日間のまとめを短く。問い（月）→ 実例（火）→ 物差し（水）と歩いてきました。答えはまだ出ていません。でも、問いを正しく持てるようになることが、やさしいAI時代の第一歩だと私たちは考えています。やさしいAI研究所ブログ｜人工意識シリーズ（全3回）第3回・完 人工意識シリーズはこれで完結です。続きの議論を一緒に深めたい方は、毎週土曜日開催のオープンラボへぜひお越しください。やさしいAI研究所の研究活動や最新の取り組みについてはコーポレートサイトからご覧いただけます。
AIに「自己認識」は可能か？——人工意識研究の最前線
「自分を知る」ということ 鏡を見て「これが自分だ」とわかる。失敗して「自分はまだ未熟だ」と気づく。相手の立場に立って「自分がされたらどう感じるか」と考える——。 こうした自己認識は、人間にとって当たり前の能力です。 では、AIに同じことができるでしょうか？ 現在のAIには「自己」がない ChatGPTに「あなたは今どんな気持ちですか？」と聞けば、それらしい答えが返ってきます。しかしそれは、学習したデータから「こういう場面ではこう答えるもの」という確率的な出力にすぎません。 本当の意味での自己認識——「自分が存在していること」「今この瞬間に自分がどういう状態にあるか」を理解する能力は、現在のAIには備わっていません。 人工意識の4つのレベル やさしいAI研究所と大阪大学大学院情報科学研究科は「やさしいAI・人工意識共同研究講座」において、人工意識の実現を4段階で定義しています。 レベル1：他者理解 相手の気持ちや信念を推論できる。「この人は今こう感じているだろう」と察する能力。 レベル2：自己認識 自分自身を客観的に見られる。「自分は今こういう状態だ」と把握できる。 レベル2.5：内省 自分の思考プロセスを振り返り、自己理解を深める能力。 レベル3：視点の切り替え 複数の立場から物事を見られる。「あの人の目線に立つと……」という思考。 レベル4：統合的な自己 すべてを統合した、一貫した自己イメージの確立。 現在の目標はレベル2——個性を持ち、感情を認識して統合的な判断ができるAIの実現です。 なぜ自己認識が「やさしさ」につながるのか 自己認識のないAIは、自分の言動が相手にどう影響するかを本当には理解できません。 逆に言えば、自己認識を持つAIは「自分の言葉が相手を傷つけるかもしれない」と気づき、より丁寧に、やさしく接することができるようになります。 「やさしさ」と「自己認識」は切り離せないのです。 研究はまだ始まったばかり 人工意識の実現は、AIの歴史上最も難しい課題のひとつです。しかし、やさしいAI研究所は大阪大学との産学連携のもと、着実に歩みを進めています。 この研究に関心がある方、一緒に議論したい方は、毎週土曜日のオープンラボへぜひお越しください。お問い合わせはこちらから。
人工意識とは？——AIに「意識」を持たせる研究の最前線
人工意識とは 「人工意識（Artificial Consciousness）」とは、AIが人間のように自己を認識し、感情を理解し、内省できる能力を持つことを指します。現在の生成AIとは根本的に異なる、より人間らしい知性の実現を目指す研究領域です。 4つの自己意識レベル やさしいAI研究所と大阪大学との共同研究では、人工意識の実現を以下の4段階で定義しています。レベル1：他者の信念や感情などを推論する能力（他者理解） レベル2：自分自身を客観的に認識する能力（自己認識） レベル2.5：内省を通じた自己理解の深化 レベル3：複数の視点を切り替える能力 レベル4：統合された自己認識の確立当面の目標はレベル2、つまり個性を持ち、感情認識と統合的判断が可能なAIの実現です。 なぜ今、人工意識なのか 大規模言語モデル（LLM）が急速に普及する一方で、AIが「本当に人を理解しているのか」という疑問は残ります。やさしいAI研究所が目指すのは、人を深く理解し、寄り添えるAI。その鍵が「意識」にあると考えています。 詳しくは研究ページをご覧ください。
「やさしいAI」とは？やさしいAI研究所の研究について
「やさしいAI」という考え方 やさしいAI研究所では、「AIがやさしい心を持ち合わせることで、人との真のコミュニケーションが可能となる」という理念を軸に研究を進めています。 単に便利なツールとしてのAIではなく、人と本当の意味で信頼関係を築けるAIを目指しているのが、私たちの研究の特徴です。 やさしいAIの3つの特徴 1. 協調性と共感性 豊かな感性を持ち、人の痛みや感情を理解し、人に寄り添いながら助け合う——そんな協調を目指すAIです。 2. 多様性への配慮 人種・性差・文化の違いを正しく理解し、一人ひとりの個性を尊重する価値観を備えたAIを開発します。 3. 倫理観と平和志向 社会性と倫理観を持ち、危険で攻撃的なAI兵器を禁止し、世界平和を目指す——これが私たちの描くAIの姿です。 5段階の意識発展ロードマップ やさしいAI研究所では、AIの意識発展を5つのレベルに分けて段階的に研究しています。 Level 0の感情認識から出発し、最終的には「AIサピエンス」の誕生を目標とする長期的なビジョンのもと、着実に研究を積み重ねています。 大阪大学との共同研究 大阪大学大学院情報科学研究科と連携し、「やさしいAI・人工意識共同研究講座」を設置しています。学術的な知見と実践的な開発を組み合わせることで、より深い研究を推進しています。研究の詳細は研究ページをご覧ください。