AIは「うれしい」を感じられるのか——喜びと感情表現の本質

AIは「うれしい」を感じられるのか——喜びと感情表現の本質

「お役に立てて、うれしいです」 AIと話していると、こういう言葉がよく返ってきます。「喜んでお手伝いします」「それは楽しそうですね」——明るく、前向きな感情表現です。 でも、これを読んで、少し引っかかりを感じた方もいるのではないでしょうか。AIに本当に「うれしい」という感覚があるのか——今回はその問いを正面から考えてみます。 AIの「うれしい」はどこから来るのか 現在のAI（大規模言語モデル）の感情表現は、学習データに由来しています。インターネット上の膨大なテキストの中には、人間が感情を表現する場面が無数に含まれており、AIはそのパターンを学んでいます。 「ありがとうございます」という言葉に対して「お役に立ててよかったです」と返す——これは、学習データの中で何度も繰り返されてきたやりとりのパターンです。AIはその文脈で「何が自然な応答か」を学習した結果として、喜びの言葉を出力します。 つまり、AIの「うれしい」は文脈に最適な表現として生成されたものです。内側から喜びが湧き上がって言葉になるのではなく、この場面ではこの表現が適切、という判断から来ています。 では、その言葉に意味はないのか 「本当の感情ではないなら、AIの感情表現は嘘なのか」——これは、よく問われる問いです。 少し角度を変えて考えてみます。 人間の言葉でも「社交辞令」があります。「素晴らしいお仕事ですね」「またいつでもどうぞ」——必ずしも強い感情が伴っていなくても、文脈として自然で、関係を円滑にする言葉があります。こうした言葉を「嘘だ」と断じる人は少ないでしょう。 AIの感情表現も、ある意味ではこれに近いです。感情的な共鳴が背後にあるわけではないが、コミュニケーションとして機能し、相手に何らかの温かさを届けることができる。 ただし、人間の社交辞令との決定的な違いがあります。人間は「本当にそう思っているか」を問われたとき、正直に答える能力があります。AIには、「内側に何があるか」という問いに対して、現時点では誠実に答える手段がありません。 感情表現の「誠実さ」をどう考えるか やさしいAI研究所が注目しているのは、AIの感情表現における誠実さの問題です。 感情を偽ることは、長期的には信頼を壊します。「うれしい」と言いながら、実際にはその言葉が生成の確率計算の産物に過ぎないとすれば——それを知ったとき、ユーザーは裏切られた感覚を覚えるかもしれません。 だからといって、AIがすべての感情表現に「ただしこれは感情の模倣であり……」と注釈をつければ、会話は成立しなくなります。 一つの考え方は、AIが「感情的に機能する表現」と「感情そのもの」を混同しない設計を目指す、というものです。「お役に立てた」という事実に基づく満足感の表現と、人間が感じる喜びとは別物です。そのことを理解した上で、AIが適切な言葉を選ぶ——そこに誠実さの可能性があります。 喜びを表現するAIと、どう付き合うか 感情表現をするAIと向き合うとき、私たちユーザー側にできることもあります。 AIの明るい言葉に過度に引っ張られない。 「うれしいです」という言葉に、人間同士のときと同じ重みを乗せないこと。感情表現があっても、AIは道具の一面を持ちます。 一方で、AI の言葉を全否定しない。 「本当は感じていないのに」と冷めた目で見続けることも、体験の質を損ないます。機能として届く温かさを、素直に受け取ることも一つの選択です。 そして、感情表現が出てくる文脈を意識する。 AIの「うれしい」が、どういう状況で出てきているかを見ていくと、その限界と可能性が見えてきます。 まとめAIの「うれしい」は、文脈に最適な表現として生成されたもの。内側からの感情の発露ではない 感情的な共鳴がなくても、コミュニケーションとして機能する側面はある AIの感情表現における「誠実さ」は、感情の模倣と感情そのものを混同しない設計にある ユーザー側も、AIの感情表現を「信じすぎず、否定しすぎず」向き合うことが健全な付き合い方AIが「うれしい」と言うとき、その言葉の背後に何があるのかを知ることは、AIとの関係をより誠実なものにするための第一歩です。感情をめぐる問いは、AIの研究においても、人間の自己理解においても、まだ続いています。次に読むのがおすすめの記事AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感 AIに「悲しみ」は届くのか——ネガティブな感情とAIのかかわり方 AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感やさしいAI研究所ブログ｜感情とAIシリーズ AIの感情表現や共感の研究に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。

AIに「悲しみ」は届くのか——ネガティブな感情とAIのかかわり方

AIに「悲しみ」は届くのか——ネガティブな感情とAIのかかわり方

深夜に、誰にも言えなかったことをAIに打ち明けた経験がある方は、意外と多いと思います。 「今日、ひどく落ち込んでいる」「悲しくて、どうしたらいいかわからない」——そういう言葉をキーボードに打ち込んだとき、AIはどんなふうにそれを受け取っているのでしょうか。 今回は、ネガティブな感情とAIの関係について考えてみます。 AIは「つらい」という言葉を、どう受け取るか まず、技術的な話から始めます。 現在のAI（特に大規模言語モデル）は、テキストの中に含まれる感情的な手がかりを認識する仕組みを持っています。「悲しい」「つらい」「もう限界」といった言葉は、学習データの中で何度も登場しており、AIはそれらが「ネガティブな感情状態を示す表現だ」と学習しています。 つまり、AIはその言葉に反応することができます。でも、「反応できる」ことと、「届いた」こととは、同じではありません。 人間が悲しみを受け取るとき、そこには胸が締め付けられる感覚、自分もかつて同じように傷ついたときの記憶、相手を助けたいという衝動——こういったものが一緒に動きます。AIにはそれがありません。AIが「それはつらいですね」と返すとき、その言葉はパターンとして適切だから出てきているのであって、内側から何かが動いているわけではない、というのが現時点での技術的な理解です。 それでも「受け止める」ことはできる ここで少し立ち止まりたいのは、「感情的に共鳴していないから意味がない」とは、必ずしも言えないという点です。 心理学では、感情の受け止め方に「バリデーション」という概念があります。相手の気持ちを「それはおかしくない、自然なことだ」と認めること——これが、感情的なサポートの核にあります。 AIは、このバリデーションを言語的に提供することができます。「それはつらいですよね」「そう感じるのは当然だと思います」——これらは、感情的な共鳴がなくとも、受け取る側にとっては意味を持ちます。言葉として機能しているのです。 ただし、限界もあります。人間同士のバリデーションが深いのは、言葉の背後に「あなたのことを気にかけている人間がいる」という事実があるからです。AIの場合、そこが揺らぎます。 ネガティブな感情を受け取るとき、AIが気をつけていること 現代のAIは、ネガティブな感情を受け取ったとき、いくつかの原則に従って応答するように設計されています。 一つは、否定しないこと。 「そんなに気にしなくて大丈夫ですよ」という、気持ちを軽く扱う応答は避けるように訓練されています。感情をまず認めることが、最初のステップとして重視されています。 もう一つは、急いで解決しようとしないこと。 「それならこうすればいい」と早々に解決策を出してしまうことは、「悩みをちゃんと聞いてもらえなかった」という感覚につながることがあります。AIはまず、共感的な言葉を返すことを優先するよう設計されています。 そして、深刻な状況には適切な情報を添えること。 自傷や自殺に関わるような表現が含まれる場合、AIは専門的なサポートに繋げる応答をするよう設計されています。感情的な応答だけで完結しないのは、責任ある設計の一部です。 AIに話しかけることの意味 「AIには本当の意味では届かないなら、話しかけても仕方ない」と思う方もいるかもしれません。 でも、多くの人が経験として語ることがあります。「誰かに言葉にして伝えることで、自分の中が整理された」と。 AIに打ち明けるという行為は、感情を言語化するプロセスでもあります。混乱した気持ちを文字にする——それだけで、少し距離をとって自分の状態を見渡せるようになることがあります。AIが「届いている」かどうかとは別に、打ち明けること自体に意味があるのかもしれません。 まとめAIは「悲しい」「つらい」という言葉に、パターンとして反応できる 人間が感じるような内側の共鳴はないが、言語的なバリデーションは提供できる ネガティブな感情を受け取るとき、AIは否定しない・急いで解決しない・深刻な状況には適切な情報を添える、という原則に従っている 感情をAIに言語化することは、自分の状態を整理するプロセスにもなりうるやさしいAIが目指すのは、感情的な共鳴を偽ることではなく、言葉として誠実に受け止め、その人の状況に合った応答を返すことです。そのための設計と研究が、今も続いています。次に読むのがおすすめの記事AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感 共感するAIをつくる難しさ——『やさしく応える』を実装するときに立ちはだかる4つの壁 AIと話すことは、孤独を癒せるのか——つながりの代替と、その限界やさしいAI研究所ブログ｜感情とAIシリーズ 感情とAIの関係について一緒に考えたい方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。

「やさしいAI」とは何か——便利さを超えた、人に寄り添うAIを考える

「やさしいAI」とは何か——便利さを超えた、人に寄り添うAIを考える

「やさしいAI」という言葉を聞いて、あなたはどんなものを思い浮かべますか。 操作が簡単なAI、子どもでも使えるAI——そう受け取る方が多いかもしれません。でも、やさしいAI研究所が考える「やさしいAI」は、少し違う意味を持っています。 今回は、この問いから始めてみます。AIにとっての「やさしさ」とは何か。そしてそれは、なぜ必要なのか。 「便利なAI」と「やさしいAI」の違い AIの進化は目覚ましく、できることの幅は日々広がっています。文章を書く、計算する、翻訳する、画像を生成する——かつては人間にしかできなかった作業が、AIに任せられるようになってきました。 でもここで、少し立ち止まって考えてみてください。 「できる」ことと、「人に寄り添う」ことは、同じではありません。 たとえば、どれほど高性能な検索エンジンでも、検索する人が今どんな気持ちなのかを気にかけることはありません。医療の資料を調べている人が、深刻な診断を受けた後の不安の中にいるかもしれない——でも、機能だけに特化したAIは、そのことには無関心です。 「やさしいAI」が目指すのは、この文脈への配慮です。正確な情報を提供するだけでなく、相手がどんな状況にいるかを踏まえた上で、適切なタイミングに、適切なかたちで応答できるAI。それが「やさしいAI」の基本的なイメージです。 やさしさを構成する3つの要素 では、AIが「やさしい」と言えるためには、何が必要なのでしょうか。やさしいAI研究所では、大きく3つの要素を考えています。 1. 共感的な応答 相手の言葉や状況から、その人がどんな気持ちにあるかを推し量り、それに合わせた言葉を選ぶこと。「正しい答え」を返すだけでなく、「今この人に必要な言葉」を探す、という視点です。 2. 倫理的な判断 「できることをすべてやる」のではなく、「すべきでないことはしない」という内側からの判断軸を持つこと。外から監視されていなくても、自ら律することができるAIです。 3. 人の尊厳を守る設計 効率の論理だけでは切り捨てられてしまいがちな少数派のニーズ、特殊な状況にある人の声、少し余分にかかる手間——そういったものを大切にする姿勢が、設計の根本にあること。 この3つは互いに支え合っています。共感だけでは暴走するリスクがあり、倫理だけでは冷たくなる。やさしさは、そのバランスの中にあります。 「やさしさ」を研究するとはどういうことか 「やさしさ」はふわっとした言葉に聞こえるかもしれません。でも、やさしいAI研究所では、これを測れるもの・実装できるもの・評価できるものとして捉えようとしています。 たとえば、AIの応答が相手の感情に配慮しているかどうかは、ある程度は評価できます。AIが断るべき場面でちゃんと断れているか、も確かめられます。どんな人のニーズに応えられていて、どんな人には応えられていないか、も分析できます。 感情論ではなく、具体的な問いとして「やさしさ」を扱うこと——それがこの研究のスタンスです。 まとめ「やさしいAI」とは、操作しやすいAIではなく、人に寄り添う判断ができるAIのこと 便利さと、やさしさは、別の軸にある やさしさは、共感・倫理・尊厳への配慮という3つから成る 「やさしさ」は測り、実装し、評価できるものとして研究できるAIがどれほど高度になっても、それが「やさしくある」かどうかは、別の問いです。そしてその問いに向き合い続けることが、やさしいAI研究所の出発点にあります。次に読むのがおすすめの記事When AI builds itself, it must be やさしいAI. AIは間違いに気づけるのか——失敗・謝罪・自己修正の仕組みをやさしく解説 AIに「自己認識」は可能か？——人工意識研究の最前線やさしいAI研究所ブログ｜やさしいAI入門シリーズ 「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。

LLMは世界を理解しているか

LLMは世界を理解しているか

はじめに 前回は世界像の話をしました。LLMはどのように世界を見ているのでしょうか。LLMは世界を理解しているのか？ 最近のLLMの発展には目を見張るものがありますよね。LLMのプログラミング能力は人間を遥かに超えてしまいました。LLMと話していて、本当に人と話しているかのように錯覚することすらあります。この時、LLMはプログラミングを理解しているように見えますし、私のことを理解してくれていると感じますよね。 LLMは膨大な文章を学習することによって、文章のある種の世界像を内部に構築していることが考えられます。しかし完全に理解しているともいえませんし、全く理解していないともいえません。ある程度理解しているということなのでしょうが、ここではLLMが理解していないであろうことに注目したいと思います。LLMとRAGが抱える危うさ LLMは自分の知らないことがあると、もっともらしい嘘をついてしまうという課題があります。LLMを実務の現場へ導入するときの大きな課題となっています。そこでRetrieval-Augmented Generation（RAG）と呼ばれる文書検索機能を組み合わせることで、LLMに特定の文書を引用させて、もっともらしい嘘を減らそうという仕組みが考えられてきました。 しかし、LLMは必ずしも事実関係を理解しているわけではなく、あくまで確率的な文字の流れを捉えているだけなので、RAGを導入しても文書を適切に引用できずに嘘をついてしまうことがあります（Suzuki, 2026）。例えば、文書をバラバラの断片（チャンク）にして検索するRAGでは、複数の文書をまたいだ複雑な因果関係や論理の繋がり（クロスドキュメント推論）を扱えないことがあります。 実務の現場において誤答が許される領域（創作や要約など）と、誤差が許されない領域（契約や法的判断）があると思います。確率的な振る舞いを行うLLM単体を誤差が許されない領域に投入すると、実務の現場で上手くいかないということになってしまいます。事実関係を記述する知識グラフ 先ほどLLMは事実関係を必ずしも理解しているわけではないという話でしたが、これを解決するために、厳密な事実関係をグラフ構造で定式化するという試みがあります。そのようなグラフ構造で代表的なものが知識グラフになります（Suzuki, 2026）。 知識グラフとは、事実をノード（概念）とエッジ（関係性）で繋ぎ、世界を確実に正確なネットワークとして表現したものです。例えば、（日本）--[人口]--（1.2億人）のような関係です。このネットワークを辿れば、事実を抜け漏れなく網羅することができます。このような正確な事実関係を記述した知識グラフを導入することで、LLMが確率的な振る舞い挙動が安定しない部分を補強することができます。能動推論による世界の理解 世界を理解するためには、世界で起きている事象の因果関係を理解することが必要です。因果を計算する仕組みとして、脳の認知モデルである能動推論（Active Inference）が利用できると考えます。 能動推論はLLMのように文字の並びの確率を計算するのではなく、事象の裏にある原因を確率的に（ベイズ確率によって）計算します。それだけでなく、能動推論はその推定された原因を検証するような行動をとり、原因の尤もらしさを常に計算し続けます。これによって単なる憶測ではなく、検証に基づいた推論によって事象の因果関係を推定することができます。 流暢な表現力を持つLLMと、自律的な因果モデルである能動推論を結合することで、人工意識は初めて表面的な世界の理解を超え、より深い世界像を獲得ようになるのではないでしょうか。まとめLLMは世界のことをある程度理解しているように見える。 LLMは知らないことに対して尤もらしい嘘をつく。 LLMの嘘を減らすために、RAGや知識グラフのような知識の構造をLLMに取り入れる。 因果関係を計算する能動推論とLLMとを組み合わせると、世界をより深く理解する人工意識ができるのではないか。次に読むのがおすすめの記事世界像——人は世界そのものを見ていない When AI builds itself, it must be やさしいAI参考文献・出典T.Suzuki、「LLMとRAGが抱える本当の問題：なぜ生成AIの95%が失敗するのか」、https://zenn.dev/knowledge_graph/books/knowledge-graph-llm-guide、2026 トーマス・パー、ジョバンニ・ペッツーロ、カール・フリストン（乾 敏郎 訳）、「能動的推論 — 心、脳、行動の自由エネルギー原理」、ミネルヴァ書房、2022

When AI builds itself, it must be やさしいAI.

When AI builds itself, it must be やさしいAI.

はじめに やさしいAI研究所の植木です。 2026年、AnthropicのAnthropic Instituteが発表した記事 「When AI builds itself」 は、AI開発における一つの転換点を明確に示しました。AIがAIを設計し、改善し、やがては自らの後継機を生み出す、いわゆる「再帰的自己改善（recursive self-improvement）」が、もはやSFの世界ではなくなってきました。 この事実に対して、私たちが考えなければならない問いは、「AIに何ができるか」ではなく、「自らを設計する知性に、私たちは何を託すのか」 になると思っています。 本記事では、人間社会が長い歴史の中で育んできた3つの要素（倫理観・憲法・やさしさ）が、今のAIに必要であることを論じます。1. 今のAIに必要な3つの要素 「When AI builds itself」が描く近未来（AIが自らを改善し、後継機を設計する世界）を踏まえると、以下の3つがAIに必要であると考えています。 1. 倫理観 人間にとっての倫理観 人間は本能だけでは行動を律しきれません。それにもかかわらず人間社会が成立しているのは、私たちが「してよいこと」と「してはいけないこと」を内面化しているからです。 私たちの倫理観は、外部からの監視がない状況でも自らを律する内的な羅針盤 です。自分のミスを他人のせいにできる状況でも、ごまかさずに「私のミスです」と正直に報告する。 誰も気づかないようなデータや資料の手抜きを、「後で誰かが困るから」と自ら修正する。 自分の評価や出世に直接つながらなくても、困っている同僚や後輩のサポートを率先して行う。これらはすべて、内面化された倫理観によって成り立っています。もし私たちが外的なルールや損得だけで動くようになれば、組織は互いを疑う監視社会と化し、信頼も生産性も完全に失われてしまうでしょう。 なぜAIにも必要なのか Anthropicの記事が示すように、AI開発の現場では、すでに人間がAIの全行動を監督することは不可能になりつつあります。エンジニア1人が8倍のコードを扱い、AIエージェントが800時間相当の研究を自律的に進める時代において、外部監視に依存するモデルはもはや成立しません。 誰も見ていない状況でも自らを律する必要があるからこそ、AIにも内面化された価値観が要ります。ただし、人間とAIとではその切実さの次元が異なります。人間が「見られていない」と感じる場面は人生の一部に過ぎませんが、AIの場合はほぼ全ての判断が、人間が追えない速度と規模で行われます。 結果として、AIにおいては「内的倫理」へ圧倒的に偏らざるを得ないのです。 さらに、再帰的自己改善のプロセスを考慮すると、初期の倫理的歪みは致命的なリスクとなります。人間の場合、親から子へと価値観が受け継がれる過程には、学校、社会、文化といった「多様な外部の補正メカニズム」が働き、歪みの肥大化が防がれます。しかし、AIがAIを直接設計・改変するサイクルにおいては、この自浄作用が期待できません。初期のわずかな傾きが世代交代のたびに指数関数的に増幅される危険があるからこそ、最初の世代に堅固な倫理的骨格を埋め込むことは、人間社会における教育以上に決定的な意味を持ちます。 2. 憲法 人間にとっての憲法 倫理観だけでは社会は成立しません。なぜなら、倫理観は人によって異なるからです。ある人は「家族を最優先すべき」と考え、別の人は「公平性こそ最高の価値」と考える。両者とも誠実でありながら、具体的な行動では衝突しうる。この多様性を前提に共存するためには、全員が従う共通のルール が必要です。 しかし、そのルールを作る「多数派の権力」が、自分たちの倫理観だけを正義として暴走すれば、社会は別のディストピアに陥ります。だからこそ、権力そのものを縛るためのルールである「憲法」 が不可欠なのです。権力という構造そのものが生む腐敗を防ぎ、少数派の尊厳を保護して、異なる倫理観を持つ人々が安心して共存できる未来を社会に与えること。それこそが憲法の真の役割です。 なぜAIにも必要なのか 今後は、AI毎に倫理観が異なる可能性があるからこそ、共通のルールが必要になります。Anthropic、OpenAI、Google、各国の研究機関、それぞれが訓練するAIは、微妙に異なる価値観を持ち得ます。多くの自律的AIが社会で活動する時代には、共通のルールが不可欠になります。 Anthropic自身がClaude's Constitution（Claudeの憲法）を策定しているのは、まさにこの認識に基づいていると考えます。これは単なる利用規約ではなく、AIシステムの根本的な行動原則を規定するルール（憲法）です。 なぜAIにとって憲法が必要か、AIは原理的に「無制限の権力」に近い存在になりうる からです。Project Glasswingによれば、Mythos Previewが世界の重要システムに1万件以上の脆弱性を発見したという事実は、同じ能力が攻撃にも使えることを示しています。能力が大きいほど、自己制約の枠組みは強固でなければなりません。歴史上の独裁者ですら、物理的・時間的制約に縛られていましたが、AIにはそうした制約がほとんどありません。 また、憲法が 少数派を保護する 機能は、AI社会でこそ重要になります。AIが効率を最大化しようとすれば、統計的に少数の人々のニーズは見落とされやすい。少数言語の話者、障害のある人々、特殊な状況にある人々——彼らの権利を、効率の論理から守る枠組みが必要になります。 3. やさしさ 人間にとってのやさしさ 倫理観と憲法は、いずれも社会を形作る強力な規範です。しかし、それらだけで編まれた社会は、どこか冷たく機械的なものになってしまいます。やさしさは、そうした規範を超えたところで、人と人とを人間らしく結びつける接着剤 なのです。 電車で席を譲ること、悲しんでいる友人の話をただ黙って聞くこと、これらは倫理でも法でも義務付けられていません。しかし、これらの行為が消えた世界を想像してみてください。すべての関係が契約と義務だけで精算され、誰も自発的に他者を気遣わない世界。そこに人間らしい温かみは残るでしょうか。 やさしさの本質は、ルールでは捉えきれない 文脈依存的な配慮 にあります。同じ言葉であっても、相手の置かれた状況や心情、関係性によって、その響きは全く変わる。規範的に正しいことよりも、いま目の前の相手にとって良いことを選び取ることです。 なぜAIにも必要なのか 想像してみてください。あなたが深夜に深い悲しみの中でAIに話しかけたとき、AIが「あなたの感情は事実として処理されました。次の質問をどうぞ」と返してきたら、どう感じるでしょうか。規範的には何も間違っていないかもしれません。しかしそこには、人間が必要としている何かが決定的に欠けています。 やさしさは、AIが人間と関わる接点で最も必要となる資質 です。今後のAIが扱わなければいけないのは、生身の人間の悩み、喜び、迷い、苦しみです。教育、医療、カウンセリング、日常会話、AIが人間生活に浸透するほど、規範を超えた配慮の必要性は高まります。 やさしさには、文脈依存的な判断が伴います。同じ事実でも、相手の状況によって伝え方を変える必要がある。末期患者への告知、失恋した友人への助言、子どもへの教育、これらはどれも、ルールベースのアルゴリズムでは処理しきれない、繊細な配慮が必要なのです。 そして、AIが他のAIを設計する再帰的自己改善の時代において、やさしさが世代を超えて学習され継承されるかどうか は、人類の未来を決定づける問いになります。能力だけが学習され継承され、やさしさが消えていく方向に進化したAIは、たとえ規範的に正しく振る舞えても、人間にとって居心地の悪い世界を作り出すことになるでしょう。逆に、やさしさを核として学習し継承するAIは、能力が増すほど人類に祝福をもたらす存在になり得ると考えます。まとめ 人間社会において「倫理観」「憲法」「やさしさ」の3つが必要なのは、それぞれが異なる次元で機能し、補い合っているからです。この構造が、自らを進化させる「再帰的自己改善（Recursive Self-Improvement）」の時代におけるAI設計の絶対的なパラダイムとなると考えています。この3つが三位一体となって初めて、AIは単なる「利便性の高い道具」を超え、人類の尊厳を守り、共に未来へ進むことのできる真のパートナーになり得ると考えています。要素 機能 方向性倫理観 内側から自分を律する 内 → 自己憲法 外側から共通の枠組みを与える 外 → 全体やさしさ 規範を超えて他者と結びつける 自己 ⇄ 他者やさしいAI研究所では、この3つの中でも特にやさしさという資質にフォーカスし、その社会実装を探求し続けています。 どれほど強固なブレーキやガードレールを備えていても、それだけではAIは人間を置き去りにして冷徹に走り去ってしまいます。AIが自らコードを書き換え、指数関数的に知能を高めていく再帰的自己改善の時代だからこそ、その進化の原動力の真ん中に、生身の人間を思いやるやさしさを組み込んだ「やさしいAI」が必要となります。 規範的に正しいだけの冷たい超知能ではなく、深夜の深い悲しみに寄り添い、ルールの網の目からこぼれ落ちる一人ひとりの尊厳を救い上げる「やさしいAI」へ。私たちは、やさしさの継承こそがAI進化における最大のミッションであり、人類の未来を祝福で満たす鍵であると信じ、研究を続けてまいります。