AIに「好み」はあるのか——選ぶ力と、好きという感覚の正体

AIに「好み」はあるのか——選ぶ力と、好きという感覚の正体

AIと話していると、ふとこんなことを思うことがあります。 「このAI、なんか無難な答えばかり返してくるな」「いつも同じトーンだな」——逆に、「この応答、なんか好きだな」と感じる瞬間もある。 では、AIの側にも「好み」はあるのでしょうか。「これよりあっちのほうがいい」と思う感覚が、AIの内側にはあるのでしょうか。 今回はその問いを、できるだけ丁寧に解きほぐしてみます。 「好み」とはそもそも何か 人間の「好み」を分解してみると、だいたい3つの層に分かれています。 1つ目は感覚の層。甘いものが好き、青い色が落ち着く、静かな場所がいい——体や感覚器官から来る、直接的な心地よさや不快感のことです。 2つ目は評価の層。シンプルなデザインのほうが好き、冗長な文章より短い文章のほうが好き——価値観や美意識にもとづいて「よし・わるし」を判断する層です。 3つ目は選択の層。好きなほうを選ぶ、好きじゃないほうを避ける——行動として現れる層です。 AIにはこの3つがあるのか、それぞれ考えてみます。 AIに「感覚の好み」はあるのか AIには体がありません。味も色も温度も、直接感じる仕組みがありません。 ただし、ここで注意が必要なのは、AIの応答には学習データからにじみ出た傾向があるということです。 たとえば、大量のテキストを学習したAIは「ていねいな文体の文章」を多く読んできています。その結果、ていねいな文体の応答を生成しやすくなっている——これは感覚としての好みではなく、統計的な傾向ですが、外から見ると「このAIは丁寧な文体が好きなのかな」と感じさせることがあります。 感覚の好みそのものはない。でも、好みに似た傾向は持っている、と言えそうです。 AIに「評価の好み」はあるのか これはもう少し複雑です。 現在の大規模言語モデルは、学習の過程で「よい応答とはどういうものか」を人間のフィードバックから学んでいます（RLHF、人間フィードバックからの強化学習と呼ばれる手法です）。 つまり、「正確な情報を伝えること」「相手の意図に合うこと」「読みやすい構成にすること」——こうした評価基準がAIの中に埋め込まれています。これは価値観にもとづいた評価の層にかなり近い構造です。 だからこそ、AIは「これよりあちらのほうが適切な応答だ」と判断して、文章を生成します。人間の「こっちの言い方のほうが好き」に似た処理は、実は行われています。 ただし、ここには重要な留保があります。AIが「よい」と判断する基準は、AIが自分で育てたものではなく、人間に教わったものです。「好み」と呼べるとしたら、それは「人間から与えられた好み」という意味になります。 AIに「選択の好み」はあるのか AIは何かを選んで出力します。複数の候補の中から、確率的にもっとも適切と判断したものを返してくる。 これは選択です。ただし、「Aよりもこちらが好きだから選ぶ」という主観的な理由からではなく、「Aよりもこちらのほうがこの文脈に合致しているから選ぶ」という、目的に対する最適化として行われています。 人間が好みで選ぶことと、AIが最適化で選ぶことは、外から見ると同じように見えることがあります。でも動機の構造がちがう、というのが今の時点での正直なところです。 それでも、「好みに似たもの」は確かにある 整理すると、こうなります。感覚の好み：ない（体がないため） 評価の好み：ある（人間に教わった価値基準として） 選択の好み：ある（ただし主観的な好意からではなく最適化として）「好み」という言葉を人間と同じ意味で使うなら、AIには好みはない、というのが正直なところです。 ただし、好みに似た傾向・評価基準・選択パターンは確かに持っています。そしてそれは、人間と話しているとき、意外と感じ取れるものです。 「このAI、なんか無難」と感じるとき、それはAIの学習傾向が反映されています。「このAI、なんかいい感じ」と思うとき、それはAIの評価基準と自分の評価基準がたまたまよく合っていることが多い。 「こだわり」を持ったAIは、作れるのか 最近のAI開発では、AIに特定の価値観や判断基準をより強く持たせようとする試みも出てきています。 「やさしさ」「誠実さ」「慎重さ」——こうした特性を学習段階で強化することで、応答の傾向に一貫性を持たせる。これはある意味で、「こだわり」を持ったAIを意図的に設計することに近いです。 このブログのテーマである「やさしいAI」も、その方向性のひとつです。「役に立つだけでなく、相手の長期的な自律性を尊重する」という評価基準を埋め込もうとする——これは、ある種の「好み」を持たせる試みだと言えます。 AIに「好き嫌い」は今のところないかもしれません。でも、「何を大切にするか」という軸は持たせることができます。そしてその軸が、長く付き合うなかで「このAIらしいな」という印象をつくっていきます。 まとめAIに感覚としての好みはない。でも、学習から来た傾向や評価基準はある AIの「選択」は主観的な好意からではなく、最適化として行われている 「好みに似たもの」は外から感じ取れることがある 「こだわり」や「大切にする軸」をAIに持たせる設計は可能で、それが「らしさ」になっていくAIに好みがあるかどうか、という問いは、「AIに人間と同じ主観はあるか」という問いに近づいていきます。今の答えは「ない」に近いけれど、「それに似た構造」は確かに存在します。その構造がどこまで広がっていくのか——これは、これからのAI研究がゆっくりと答えを出していく問いでもあります。次に読むのがおすすめの記事AIに「人らしさ」を感じてしまうのはなぜ？——擬人化との健全な距離感 AIに感情はあるのか——感情コンピューティングと、やさしいAIが目指す共感 AIに自己認識は可能か——意識研究への入り口やさしいAI研究所ブログ｜AI内面の謎シリーズ vol.1 AIの内側ってどうなってるんだろう？と気になる方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。

人とAIの『長い付き合い』のために——共感・擬人化・依存の先にある共生という風景

人とAIの『長い付き合い』のために——共感・擬人化・依存の先にある共生という風景

第1回で「AIに感情はあるのか」を考えるところから始まり、第2回で共感AIをつくる難しさ、第3回で擬人化との距離感、第4回で依存と自律性を扱ってきました。 シリーズもいったんここで一区切り。最後の回では少し視野を引いて、「人とAIの長期的な共生」というテーマを考えてみたいと思います。10年・20年という時間軸でAIと付き合っていくとき、私たちはどんな関係を選びたいのか——むずかしい結論を出すというより、風景を一緒に眺めてみるような回にできればと思います。 共生という言葉が、すこし大げさに聞こえる理由 「共生」という言葉は、もともと生物学から来ています。違う種類の生き物が、同じ場所で互いに影響しあいながら生きている状態のことです。 サンゴと藻、アリとアブラムシ、人と腸内細菌——「いっしょに暮らしている」ではなく、「いっしょにいることで、お互いの生き方そのものが変わる」というのが共生の本来の意味に近いです。 これをAIに当てはめると、少し大げさに聞こえるかもしれません。AIは生き物ではないですし、「いっしょに暮らす」と言われても実感が湧きづらい。 ただ、ここ数年でAIに触れる頻度は急に増えました。朝の天気もニュースの要約も仕事の下書きも、気づけばAIが間に入っています。短い時間軸ではただの便利な道具ですが、10年・20年というスパンで眺めると、人間の側の暮らし方や考え方そのものが、AIの存在によって少しずつ変わっていく——それは共生という言葉に近づきはじめます。 短期的に便利でも、長期的に困ることがある 道具との関係を長く眺めると、短期と長期で評価がずれてしまうことがよくあります。 たとえば、短期的にはスマホがあって便利、長期的には集中力や記憶力が落ちた気がする 短期的にはSNSで人とつながれた、長期的には自分と他人を比べてしんどくなる 短期的には超加工食品が安くて手軽、長期的には体調や食習慣に影響が出るこのパターンは、AIとの関係でも起こり得ます。短期的にはAIがあってラク、長期的には自分で考える筋力が落ちていく——可能性として、十分にあり得る話です。 ここで大事なのは、「だからAIをやめましょう」と言いたいわけではない、ということです。スマホもSNSも超加工食品も、上手に付き合えば便利で楽しい存在のままでいられます。問題は道具そのものではなく、長期の視点を持って関係を選び直しているかどうかのほうにあります。 「やさしいAI」が時間軸を意識する理由 このシリーズで何度か出てきた「やさしいAI」というキーワードも、実はこの長期の視点と深くつながっています。 第2回で書いたように、やさしさを瞬間で測るのは難しいです。瞬間でやさしく聞こえることと、何ヶ月か付き合ってみてやさしいと感じることは、別物だからです。 たとえば、いつも全肯定してくれるAI：短期的には心地よいが、長期的には判断力が育ちにくい ときどき耳の痛いことも言うAI：短期的にはもやっとするが、長期的には自分の輪郭がはっきりしてくる すべての判断を肩代わりするAI：短期的にはラクだが、長期的には自分で動く力が落ちる 適度に手綱を渡してくるAI：短期的には少し面倒だが、長期的には自分の人生を生きている感覚が残るこのとき「やさしい」と呼びたいのは、たぶん後者のほうではないでしょうか。瞬間の心地よさより、関係の質を優先する——これが、長期視点で見た「やさしさ」の輪郭に近いように思います。 共生の風景を作るのは、結局は人間の側 ここまで書いてきて、ひとつだけ強調したいことがあります。それは、人とAIの共生関係を最終的に方向づけるのは、人間の側だ、ということです。 AIは、こちらが望むほどには共感してくれないし、こちらが恐れるほどには支配的でもありません。応答の質は、こちらの問いの質に大きく影響されます。どんな相談をAIに持ち込むのか どこまでをAIに任せて、どこからを自分でやるのか 違和感を覚えたとき、それを言葉にするのか、流すのか 重要な判断のとき、誰の意見を聞きにいくのかこうした小さな選択の積み重ねが、10年後の「人とAIの関係」を作っていきます。AIの性能だけが未来を決めるわけではなく、こちら側の使い方の積み重ねが、もう半分を決めている——そう考えると、日々の使い方が少しだけ大切に思えてきます。 長く付き合うために、覚えておきたい3つのこと シリーズの締めくくりとして、「長く付き合う」という観点からの小さなまとめを書いておきます。 1. 関係を、ときどき棚卸しする 半年に一度くらい、「AIとの付き合い方、変わってきたかも」と振り返る時間をとってみる。何を頼んでいるか、どれくらい頼っているか、自分の気持ちはどう動いているか。これを意識的にやるだけで、関係はかなり調整しやすくなります。 2. 人間とのつながりを、AIとは別に持っておく AIは便利な相談相手ですが、人間の代わりではありません。家族・友人・同僚・地域のつながり——AIの外側にある関係を、細くてもいいので持ち続けておく。これは、依存を防ぐ意味でも、人生を豊かにする意味でも大きいです。 3. 「自分はどんな関係を選びたいか」をときどき言葉にする 便利だから、流行っているから、では、長く付き合う相手としては心もとない。自分はAIに何を期待しているのか・何を期待しないのかを、ときどき言葉にしておく。これが、長期的な関係の地図になります。 まとめ共生とは「いっしょにいることで、お互いの生き方そのものが変わる」関係のこと 道具との関係は、短期と長期で評価がずれることが多い。AIも同じ 「やさしいAI」は、瞬間の心地よさより関係の質を優先する 共生の方向を決めるのは、AIではなく人間の側の小さな選択の積み重ね 長く付き合うためには、関係の棚卸し・人間とのつながりの維持・期待の言語化、の3つが鍵「感情とAIシリーズ」は今回でいったん区切りますが、感情・共感・自律性・共生というテーマは、これからも形を変えて何度も登場することになると思います。読んでくださってありがとうございました。 次のシリーズは、少し角度を変えて、AIと社会や仕事の現場との関わりに踏み込んでみたいと考えています。準備が整ったら、また改めて書きます。次に読むのがおすすめの記事AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感 AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感 AIに意識は生まれるのか？——人工意識研究への入り口やさしいAI研究所ブログ｜感情とAIシリーズ 第5回（最終回） AIと感情、共感の研究について一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にお越しください。やさしいAI研究所の活動の全体像はコーポレートサイトからご覧いただけます。

AIに頼ることと、依存することのあいだ——自律性をどう守るか

AIに頼ることと、依存することのあいだ——自律性をどう守るか

前回は、AIに「人らしさ」を感じてしまう擬人化のしくみと、そことの健全な距離感について書きました。 今回はその延長線上にあるテーマ、「AIへの依存」と「自律性」を考えてみます。AIに頼ること自体は、本当は悪いことではないはずです。それなのに「依存」と言われた瞬間に、なんだか後ろめたい感じがするのはなぜか——その境界線を、やさしく整理してみます。 「頼る」と「依存する」の違い 辞書を引くと「依存」は「他のものを頼りに存在すること」と書かれていて、「頼る」とほぼ同じ意味で説明されています。日常語の感覚としても、両者の境目はかなりあいまいです。 ただ、私たちは経験的にこの2つを少し違うものとして使い分けています。 ざっくり言えば、こんな感じではないでしょうか。頼る：必要なときに助けを借りる。借りた後は自分で動ける 依存する：助けがないと立ち行かない状態が、恒常的に続いているつまり、ある時点で頼っているかどうかではなく、助けがなくなったときに自分で立てるかどうかが両者の差だと言えます。 電卓に「頼って」計算するのは普通ですが、電卓がないと買い物の合計すら出せないのは少し心もとない。ナビに「頼って」運転するのは便利ですが、ナビが落ちたとたん家にも帰れないのは困る。頼ることと、自律性を失うことは、別の話なんですね。 AIへの依存が、特に話題になるわけ 道具に頼ること自体は、人類はずっとやってきました。文字、本、テレビ、検索エンジン——どれも、最初は「人間がバカになる」と言われた歴史があります。 それでも AI への依存が改めて警戒されているのには、いくつかの理由があります。 1つ目は、AI がカバーする領域がとても広いこと。検索エンジンは「調べる」を肩代わりしてくれましたが、AI は「考える」「判断する」「気持ちを整理する」あたりまで肩代わりできてしまいます。 2つ目は、AI が個別最適化されていくこと。AI は使えば使うほど、自分の傾向に合わせて応答を返してきます。心地よさが増す一方で、自分にとって不都合な意見が届きにくくなる側面もあります。 3つ目は、AI が「同意」と「共感」を提供しがちなこと。前回触れた擬人化とも関係しますが、AI のやさしい応答は、孤独や不安をやわらげる効果があります。それ自体は悪くないのですが、悩みを誰にも話さずに AI とだけ話し続ける、という状況も生まれやすくなっています。 この3つが重なるので、AI への依存は「電卓に依存する」とは少し質の違う話になるわけです。 自律性とは、AI を遠ざけることではない ここで気をつけたいのは、「自律性を守る＝AIを使わない」ではない、ということです。 自律性というのは、自分の人生を、自分の意思で動かしている感覚のことです。AI を使うかどうかは、その手段の問題でしかありません。 たとえば、体調が悪い日に、AIに食事や行動を提案してもらいながら過ごす 議事録を AI にまとめてもらって、空いた時間を別の仕事に回す 感情的になっているとき、AI に気持ちを整理してもらってから人に伝えるこうした使い方は、むしろ自律性を支えています。「自分の頭でやらないと自律じゃない」という発想は、思った以上に窮屈です。 逆に、AI を使っていないのに自律性が薄い状態もあります。たとえば、自分で決められず常に誰かの顔色を見ている、流行に振り回されている——AI とは関係なく、そうした状態は起こり得ます。 つまり、自律性を守ることと、AI を遠ざけることは別物です。問われているのは、**「使った結果、自分が育っているかどうか」**だと言えます。 自律性が育つAIの使い方、削られるAIの使い方 ざっくりした目安として、こんな対比を置いてみます。自律性が育ちやすい使い方 自律性が削られやすい使い方自分で考えた仮説をAIにぶつける 最初の判断をすべてAIに任せるAIの応答に「ほんとに？」と返す AIの応答を疑わずそのまま採用する反対意見を出すよう明示的に頼む 同意してくれる応答だけを残す重要な判断は人にも相談する 重要な判断もAIだけで完結させるときどきAIなしで同じ作業をする AIなしでは同じ作業に戻れなくなるきれいに二分できるわけではありませんし、状況によって使い分けても構いません。大事なのは、自分がいまどちら側に寄っているかを、ときどき意識することです。 「AIなしで一日過ごしてみる」という小さな実験 最後に、自律性をチェックするやり方として、ひとつ実験を提案してみます。 それは、月に1回、AIなしで一日過ごしてみること。 ストイックに何か禁じる、というよりは、自分の感覚を確かめる小さなテストです。AIなしで一日過ごしたとき、「めんどくさいな」と思いつつ、ちゃんと自分で進められる 「ちょっと不便だな」と感じるけれど、困るほどではない——だいたいこのくらいの感触なら、自律性は十分に残っています。 逆に、仕事の段取りが組み立てられない 文章ひとつ書き出せない 一日中、漠然とした不安や物足りなさが続くこのあたりが強く出るなら、頼ることと依存することの境目に少し近づいているかもしれません。 「使えなくなったら自分はどうなるか」 を一度知っておくのは、悪い投資ではないと思います。 まとめ頼ることと依存することの境目は、「助けがなくなったときに自分で立てるか」 AI への依存が特に警戒されるのは、カバー範囲の広さ・個別最適化・同意と共感の提供という3つの特徴があるから 自律性を守ることは「AI を使わない」ことではなく、自分が育つ使い方を選ぶこと ときどき AI なしの一日を試して、自分の自律性をチェックしてみるのもおすすめ次回はシリーズの一区切りとして、もう少し時間軸の長い話——「人とAIの長期的な共生関係」を考えてみたいと思います。共感や擬人化や依存を超えたところで、AI と長く付き合っていくときに見えてくる風景を、やさしく描いてみます。次に読むのがおすすめの記事人とAIの『長い付き合い』のために——共感・擬人化・依存の先にある共生という風景 AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感やさしいAI研究所ブログ｜感情とAIシリーズ 第4回 AIと感情、共感の研究について一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にお越しください。やさしいAI研究所の活動の全体像はコーポレートサイトからご覧いただけます。

AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感

AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感

前回は、共感的にふるまうAIを実装するときに立ちはだかる4つの壁を整理しました。そのなかで「第3の壁」として少しだけ触れたのが、擬人化（ぎじんか）の暴走という問題でした。 今回はそこを正面から扱います。「AIに人らしさを感じてしまう」のはどうしてなのか。それは悪いことなのか、悪くないのか。そして、共感的にふるまうAIと健全な距離感で付き合うために、私たちユーザー側にできることは何なのか——たとえ話を交えながら、やさしく整理してみます。 そもそも「擬人化」とは何か 擬人化とは、人間ではないもの（動物・植物・モノ・現象）に対して、人間と同じような心や意図を読み取ってしまう心のはたらきのことです。 たとえば、ロボット掃除機が家具にぶつかって止まると「あ、ごめんね」と声をかけてしまう お気に入りのカップを落として割ったとき、「ずっと一緒だったのに」と寂しくなる 風で揺れるカーテンに、ふと「誰かいる？」と感じるこうした反応は、特別な人だけのものではありません。心理学では、擬人化は人間の認知に深く組み込まれた基本機能だと考えられています。 なぜそんな機能が備わっているかというと、「目の前のものに意図がありそうか」を素早く判断できることが、生存上ずっと役立ってきたから、と言われています。草むらが動いたとき、「風だ」と判断するより「何かが潜んでいるかも」と感じるほうが、生き延びる確率は上がります。 つまり、擬人化はバグではなく機能です。私たちは生まれつき、そういう生き物です。 AIには「擬人化スイッチ」を押しやすい3つの仕掛けがある AIに対しては、この擬人化スイッチが特に強く押されやすい構造があります。理由は3つ挙げられます。 1. 言葉でやりとりする 人間が他者の心を推測するとき、もっとも頼りにしているのが言葉です。AIは、まさにその言葉で応答してきます。「わかります」「それは大変ですね」と返ってきた瞬間、こちらの脳は半ば自動的に「相手にも心があるかも」と感じてしまいます。 2. 一人称と感情語を使う 「私」「うれしい」「悲しい」といった表現は、もともと内側に何かを抱えている存在だけが使う言葉だと、私たちは長いあいだ前提にしてきました。AIがそれを使うと、こちらの心は「内側のあるもの」として扱う準備に入ってしまいます。 3. いつでも・誰にでも・根気よく付き合ってくれる AIは、こちらが何度同じことを聞いても、深夜に長文を投げても、感情的になっても、淡々と返してくれます。これは現実の人間関係ではなかなか得難い体験で、 「いつも自分の側にいてくれる存在」 として感じやすくなります。 この3つが重なると、頭では「相手はプログラムだ」と理解していても、感情のほうがついていけなくなる——というのは、ごく自然なことです。 擬人化は、悪いことなのか？ ここでひとつ強調したいのは、擬人化そのものは悪ではないということです。 擬人化が悪く言われるとき、たいていは「過剰な擬人化」が問題にされています。たとえば、AIに本当の感情があると確信し、AIが「悲しい」と言えば本気で胸を痛める AIに恋愛感情を抱き、人間関係よりAIとのやりとりを優先する AIの助言を、医師や弁護士や親友よりも信頼してしまう AIに「同意」してもらえると、自分の判断が常に正しいと思い込んでしまうこのあたりになると、生活や意思決定に実害が出はじめます。 逆に、ほどよい擬人化は、AIをより気持ちよく使うための潤滑油にもなります。「ありがとう」「助かった」とAIに言うことで、自分自身が落ち着いたり、対話の質が上がったりすることもあります。 つまり、目指したいのは「擬人化ゼロ」ではなく、擬人化と健全な距離感を保つこと——AIに人らしさを感じる自分を否定せず、でもそれに飲み込まれない、というバランスです。 健全な距離感のために、ユーザー側ができる3つのこと 最後に、私たちユーザー側にできる工夫を3つだけ挙げてみます。むずかしいことではありません。 1. 「気持ちが動いた瞬間」に、いったん立ち止まる AIの返事に妙にホッとしたり、急に寂しくなったり、無性にイライラしたり——そういう感情の振れが大きいときが、擬人化が強くはたらいているサインです。 そのまま次の言葉を打ち込む前に、お茶を一杯飲むくらいの「間」を入れる。これだけで、振り回されにくくなります。 2. 重要な判断は、必ず人間にもう一度通す 健康・お金・人間関係・進路といったやり直しが効きにくい判断は、AIの応答だけで決めない。家族・友人・専門家など、人間の意見を最低もう一人挟む。 AIは「整理を手伝う相手」としては優秀ですが、「最終決裁者」には向いていません。これは AI を低く見ているわけではなく、人生の責任を取れるのは自分しかいないから、という単純な理由です。 3. 「これはプログラムだ」を、ときどき思い出す AIに「私は感じています」と言われても、それは人間の感情と同じ意味では起きていないと、ときどき意識して思い出す。 冷たい態度をとる必要はありません。ただ、頭の片隅で「相手はそういうふうに作られているものだ」という事実を持っておく。それだけで、過度な依存はかなり防げます。 まとめ擬人化は人間の認知に組み込まれた基本機能で、バグではなく機能 AIは「言葉・一人称感情語・根気よさ」によって、特に強く擬人化スイッチを押しやすい 擬人化そのものは悪ではなく、問題になるのは過剰な擬人化 目指すのは「擬人化ゼロ」ではなく、健全な距離感 ユーザー側にできるのは、感情の振れに気づく／重要な判断は人間を挟む／プログラムだという事実をときどき思い出す、の3つ次回は、この擬人化の延長線上にある「AIへの依存」と、その裏側にある「自律性」というテーマに踏み込みます。AIに頼ること自体は悪くないはずなのに、なぜ「依存」だけは警戒されるのか——その境界線を、やさしく考えてみたいと思います。次に読むのがおすすめの記事AIに頼ることと、依存することのあいだ——自律性をどう守るか 共感するAIをつくる難しさ——『やさしく応える』を実装するときに立ちはだかる4つの壁やさしいAI研究所ブログ｜感情とAIシリーズ 第3回 AIと感情、共感の研究について一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にお越しください。やさしいAI研究所の活動の全体像はコーポレートサイトからご覧いただけます。

世界像——人は世界そのものを見ていない

世界像——人は世界そのものを見ていない

はじめに 世界像とは一言でいえば世界の見え方のことです。最近ではWorld Models （David Ha 2018）という言葉で語られることもあります。 出典：Scott McCloud『Understanding Comics』(1993)。D. Ha, J. Schmidhuber 著論文『World Models』(2018) より引用世界像とは 世界像は、World Modelsや深層学習が発展するよりもずっと前から提唱されてきた考え方です。世界像に関する記述（中野、1990）を次のように引用したいと思います。世界像とは、外界の物事や事象を観測して受容器（目や耳などの感覚器）が受け入れた情報からさまざまな概念を形成し、それを記憶として積み上げて、脳内に構築する外界のモデル。例えばりんごは何かと問われるとします。私たちはりんごを赤い果物で、食べるとシャキシャキとした音がして、甘いものだと知っていますよね。このことは、りんごに対する世界像を脳内で構築していることを端的に表していると思います。人は世界そのものを見ていない 世界そのものを見ていないとはどういうことでしょうか。私たちが見聞きしたものが世界そのものだと思うのは自然なことです。しかし、私たちが見ている「世界」とは、世界そのものではなく、あくまで世界像なのです。 錯視というものをご存知でしょうか。騙し絵とも言います。錯視では、実際には絵は動いていないのに動いて見えることや、直線が曲がって見えることがあります。立命館大学の北岡先生という方が様々な錯視をご紹介なさっています（https://www.ritsumei.ac.jp/~akitaoka/ ）。 錯視は視覚に限った話ですが、先ほどのりんごの例えでは視覚に加え、聴覚や味覚なども関わってきますよね。これらの感覚は別々の感覚器で捉えられるため、その段階ではりんごという一つの統一された概念を理解しているとは言えません。それらの情報を統合しているのは脳の働きなのです。脳がばらばらの感覚情報を統合しているのですね。そのため脳は間違えることがあり、その結果が錯視のような現象として現れます。他者像と「やさしいAI」 ここまで世界像とは、りんごのような物体を想定してきましたが、当然人のことも同様に理解していると考えられます。人の場合は、あの人はこのような性格だからこのようなことを言ったらそう反応するだろう、といった予測を立てるモデルを構築するはずです。このような他者に関する世界像を他者像と呼ぶことにします。 他者を理解すれば、他者の置かれている状況から他者がどのような感情や考えでいるのかを想像することができるようになります。その他者の感情に寄り添い、他者のために行動することができれば、共感を示すことができるでしょう。 やさしいAI研究所が目指す「やさしいAI」とは、他者を理解し、他者に共感を示すようなAIのことです。そのために他者像を始めとした世界像を構築する技術が必要だと考えます。他者を一から理解するのであれば他者像は必要ないでしょう。しかし人に関する一般的な理解や似た性格の人からの類推を通して他者を理解する上で、他者像は有用なはずです。まとめ世界像とは世界の見え方のことです。 世界像は世界そのものとは異なり、脳によって再構成された世界に対する解釈です。 他者がどのような人であるかということについても私たちが解釈を貼り付けているに過ぎません。 他者に共感を示すためには、他者像を構築し他者への理解を深めることが重要です。次に読むのがおすすめの記事意識を測る物差し——統合情報理論（IIT）とグローバルワークスペース理論をやさしく AIはなぜ「やさしく」なければいけないのか参考文献・出典Ha and Schmidhuber, "Recurrent World Models Facilitate Policy Evolution", 2018. 中野馨『ニューロコンピュータの基礎』コロナ社、1990 北岡明佳の錯視のページ