Showing Posts From

解説

なぜAIの文章はコピペしてもバレるのか？テキスト電子透かしの仕組み

なぜAIの文章はコピペしてもバレるのか？テキスト電子透かしの仕組み

やさしいAI研究所の植木です。 毎日AIを使っていると、自分で文章を書くことがほとんどなくなってしまいました。 あからさまにAIが書いたとバレるのも嫌だなと思い、少し小細工をしてみるものの、そもそもどのような仕組みでバレるのかを知る必要があります。 画像等のファイルなら「作成者情報（メタデータ）」が残るイメージが湧きます。しかし、プレーンテキストをコピペしているだけなのに、なぜAIは判別できるのでしょうか。 その鍵となるのが、テキストに埋め込まれる「電子透かし（ウォーターマーク）」です。この記事では、Anthropic社が公開したブログ記事をもとに、その仕組みを簡単にまとめてみました。 1. はじめに Anthropic社は、2026年8月2日以降に公開されるClaudeが生成するテキストに、目に見えない電子透かしを埋め込むと発表しました。理由は、EU AI Act 第50条への対応です。EU向けの規制対応ですが、現時点では地域を限定せず全世界に適用されているようです。 ちなみに、電子透かしの技術は、Gemini（Google社）が先行しており、2024年からSynthID-Textが本番稼働しており、大規模なテキスト透かしとしては初の実運用例だそうです。 2. よくある勘違い：「見えない特殊文字」が入っているわけではない 「文字の隙間に、透明な特殊文字（ゼロ幅スペースなど）が仕込まれているのでは？」私はこのように思っていたのですが、非常によくある誤解で、違ったようです。Anthropic社の電子透かし技術は、テキストには何も追加されておらず、隠し文字も存在しておりません。読んでも、ごく普通の自然な文章 見た目も文字コードも一般的なテキストのまま メモ帳に貼り付けて書式情報を落としても消えない 文章の質や読みやすさには実質的に影響はないでは、どのような細工が仕掛けられているのでしょうか。 3. 細工：「単語を選ぶときの“サイコロ”の振り方」 結論から言うと、AIの電子透かしは「どの単語を選ぶか」を決める乱数の“出どころ”を差し替えることで実現されています。 AIは文章を作る時に、1単語ずつ選んでいる まず、AIは、文章を一気に書いているのではなく、「次に来る言葉として自然なものを予測して1つ選ぶ」という動作をひたすら繰り返して、文章を作成しています。 たとえば「今日の天気は晴れていて、そして……」という文の続きを考える時に、「辛い」が来ることはまず考えられません。例えば、「心地よい」も「清々しい」も、どちらも自然で、文の続きとしてはあり得る選択肢になります。 こうした「どちらでも良い選択」が、1つの文章の中に何百回も発生します。そして通常、どちらにするかの最終決定は、乱数（コンピューター内部のサイコロ）に委ねられています。 透かしは、その乱数を「鍵」に置き換える 透かしを入れる場合、AIはこの乱数の代わりに、「秘密の鍵」と「直前の数単語」の組み合わせから次の単語を決めています。 重要なポイントは、選択の結果は、依然としてランダムに見えるという点です。「心地よい」に固定されるわけではなく、ある文では「心地よい」、次の文では「清々しい」が選ばれます。また、この仕組みは、AIが本来まず使わないような珍しい言葉を無理に選ばせることもありません。 しかし、「秘密の鍵」を持っている人が後から単語の並びを検証すると、「この並びは、その鍵を使って選んだ場合の結果と一致している」ことが分かります。 Anthropic社自身が挙げている例を紹介します。 ボードゲームのモノポリーで、サイコロを振る代わりに「円周率の数字が延々と書かれた本」を使うとします。適当な桁からスタートし、以降は次の桁の数字をそのまま「出目」として使うというルールです。 プレイヤーにとって、これは普通のサイコロと何ら変わりません。ゲームの体験も結果も同じです。しかし、ゲーム終了後に全ての出目を並べて円周率と照合すれば、「この試合は円周率を使っていたな」と判定できます。 AIの透かし技術と同じ発想です。読み手の体験は変わらないが、後から検証はできます。とある解説記事では、「AIが単語候補を“緑リスト（優先）”と“赤リスト（回避）”に色分けし、緑の単語を多めに選ぶ」という説明をよく見かけます。 この説明は、2023年に発表された別方式（赤・緑リスト方式、John Kirchenbauerらの手法）で、Claudeが採用している方式とは異なります。Claudeが採用している透かしは、Google DeepMindが発表した「SynthID-Text」をベースにしており、単語の出やすさ（確率）そのものを歪めるのではなく、あくまで乱数の生成源だけを置き換える設計のようです。これが「品質に影響しない」と言える根拠にもなっています。 4. なぜコピペしてもバレるのか？ 透かしは文字の中ではなく、文章を構成する「単語の並び順」そのものに宿っているからです。 メタデータではないので、書式を捨てても、別のアプリに貼り付けても、テキストファイルに保存し直しても消えません。オーマイガー。並び順が保たれている限り、透かしも一緒についてきます。 逆に言えば、単語やその並び順を全面的に書き換えれば透かしは失われます。軽い手直し程度では消えませんが、すべての語を置き換えるレベルの全面リライトをすれば消えます。そこまで書き直したものを「AIが生成した文章」と呼ぶべきかどうかは、別の議論になりそうですが。。。5. バレやすい/バレにくい文章 この仕組みの性質上、バレやすい/バレにくい文章がはっきりしています。バレやすい文章 文章が長い プログラム中のコメント部分 翻訳した文章バレにくい文章 文章が極端に短い（選択回数が少なく、偶然との区別がつきにくいため） 事実を述べる文章（答えが1つしかない箇所では、選ぶ余地がないため） プログラムコード（正確さが求められ選択の余地が少ないため） 人間の原稿の校正（修正した数語にしか透かしが入らないため）6. 「透かしが検出された＝不正」ではない 透かしが示せるのは、「AIが何らかの形で関与した可能性が高い」ということだけです。Anthropic社も、「Claudeが書いた」のか「Claudeが大幅に手を入れた」のかは区別できないと明言しています。例えば、他社のAIが書いた文章は、鍵が違う（方式が違う）ため判定できない。 透かしに個人や組織を特定する情報は一切含まれない。誰がいつ使ったかを追跡することはできない。 自分で書いた文章の「てにをは」だけをAIに直させた場合、修正された数語には透かしが乗り得ますが、修正量が少なすぎて、透かし検出には至らない。しかし、「人間がちゃんと書いたのに疑われるのでは」という懸念が利用者から出ているのは事実で、この技術の運用面での課題として残っているようです。 また、現在世の中にある一般的なAI検出サービス（GPTZeroなど）は、透かしを読んでいるわけではありません。さきほどの「秘密鍵」を持っていないからです。これらは「AIらしい言い回しのクセ」を統計的に見つけ出す、別のアプローチです。 Anthropic社は、今後、透かし検出用のAPIを提供する予定としていますが、2026年8月時点では準備中とされています。現状、「透かしを根拠にAI製だと断定できるツール」は一般に公開されていません。 「コピペしただけなのにバレた」という体験談の多くは、現時点では透かしではなく、従来型のAI検出ツールや、単に人間の目による違和感の指摘である可能性が高いと考えられます。 7. 画像等のファイルは「別の方式」 テキスト以外のファイル（.png、.jpg、.svg など）については、透かしではなくC2PAという業界標準の仕組みが使われます。これは「Claudeが作成・処理した」という情報を、暗号署名付きのメモとしてファイルの作成者情報（メタデータ）に添付するものです。カメラメーカーや写真編集ソフトでも採用されている標準規格で、C2PA対応ツールなら誰でも読み取れます。 まとめAnthropic社のClaudeの電子透かし技術は、特殊文字を挿入しているのではなく「単語選択の乱数の出どころ」に埋め込まれています。 そのためコピペでは消えず、全面リライトで初めて消えます。 透かしは、文章の質には影響がなく、個人を特定する情報も含まれません。 証明できるのは「Claudeが関与した可能性」までで、不正の証拠にはなりません。 一般向けの検出ツールはまだ公開されていない状況です。（2026年8月時点）AI生成物の透明性をめぐるルール作りは、まだ始まったばかりです。だからこそ、仕組みを正しく理解しておくことが、AIを安心して使いこなすための第一歩になりそうです。 参考リンクAnthropic「How Claude's text watermark works」（2026年8月14日） Anthropic ヘルプセンター「How Claude marks AI-generated content」 Google DeepMind「SynthID-Text」論文（Nature, 2024年） C2PA（Coalition for Content Provenance and Authenticity）

子どもは1億語、AIは15兆語｜ことばの学び方の違いをやさしく

子どもは1億語、AIは15兆語｜ことばの学び方の違いをやさしく

1歳半をすぎたころ、子どもに不思議なことが起きます。それまでぽつり、ぽつりと増えていた単語が、ある時期を境にせきを切ったように増えはじめる。きのう覚えた「わんわん」が、きょうは「おおきい わんわん」になっている。研究者が「語彙爆発」と呼ぶ時期です。 だれも文法書を渡していません。発音記号も教えていません。それなのに、数年もすれば立派におしゃべりが成立する。当たり前すぎて見過ごしがちですが、これはとんでもないことです。 脳科学とやさしいAI第3弾シリーズの最終回は、この「ことばの学び」がテーマです。桁違いのデータで学ぶAIと並べたとき、人の学びの何がすごいのかが見えてきます。 子どもは、驚くほど少ない材料で話せるようになる 子どもが耳にすることばの量は、研究によって幅はあるものの、1年でおよそ200万〜700万語ほどと見積もられています。積み上げても、13歳までに触れる語はせいぜい1億語程度。しかもその多くは聞き流しで、教科書のように整った文ばかりでもありません。 それだけの材料で、子どもは発音を聞き分け、単語を切り出し、文法の規則を自分で見つけ出します。「おいしくない」から規則を推理して「好きくない」「きれいくない」と言ってしまうあの間違いは、丸暗記ではなく規則を自分で組み立てている証拠です。教わっていない規則を、聞いたことばから発明しているのです。 なぜこんな効率のよい学びができるのか。ヒントは、子どもの学びがことばだけで完結していないことにあります。「りんご」という音は、赤くて、つるつるして、甘い匂いのするあの物体と一緒にやってきます。養育者と同じものを見つめる「共同注意」の時間に、ことばと世界が結びついていく。身体で世界に触れながら、意味の裏付けを取り続けているのです。AIは15兆語で学ぶ。それでも子どもに届かないもの 一方、いまの大規模言語モデル（LLM）はどうか。たとえばMeta社が2024年に公開したLlama 3は、15兆トークンを超えるテキストで訓練されたと公表されています（トークンは、おおむね単語に近い単位です）。人間の一生分どころか、1億語の15万倍。毎日1,000万語を浴び続けても4,000年かかる量です。 この差に注目した研究者たちが2023年に始めたのが「BabyLM Challenge」という国際コンペです。使ってよい学習データを、子どもが触れる量に合わせて1億語以下に制限し、その範囲でどれだけ賢い言語モデルを作れるかを競います。データを増やせば性能が上がることはもう分かった、では人間の子ども並みの効率に近づけるか、という問いの立て方が面白いところです。 結果はどうか。工夫次第で小さなデータでも思った以上に学べることが示される一方、人間の子どもの効率には遠く及ばない、というのが現在地です。この事実は、逆向きの光を当ててくれます。つまり、すごいのはデータをたくさん読んだAIではなく、1億語で話せるようになる子どものほうなのです。効率の差が教えてくれること なぜこれほど差がつくのか、決定版の答えはまだありません。生まれつきことばに向いた仕組みが脳にあるという見方も、身体と対話が決定的だという見方もあります。ただ、子どもの学びに必ずついてくるものを挙げることはできます。世界に触れる身体、応えてくれる相手、そして「伝えたい」という動機です。 子どもは語彙を増やすために話すのではありません。抱っこしてほしくて、見つけたものを知らせたくて声を出し、それが届いた喜びが次のことばを連れてきます。学びの燃料が、データではなく関係の中にある。ここが、テキストだけを大量に読む学びとの一番深い違いだと私たちは考えています。 だからAIとの付き合いでも、順番を間違えないことが大切になります。AIは、たくさん読んだ分だけ、ことばの形を整えるのが得意です。その力は借りればいい。けれど、ことばに意味と重さを与えるのは、世界に触れてきた人の経験のほうです。子どもの学びが教えてくれるこの順番は、AIがどれだけ賢くなっても変わらないはずです。 まとめ子どもが13歳までに触れることばはせいぜい1億語ほど。それでも身体と対話を通じて、規則を自分で見つけながら話せるようになる Llama 3は15兆トークン超で学ぶ。子ども並みの1億語に制限したBabyLM Challengeの挑戦は、人間の学びの効率が桁外れであることを裏づけた 子どもの学びの燃料は「伝えたい」という動機と、応えてくれる相手。ことばに意味を与えるのは経験であり、AIの力はその上で借りるのが順番シリーズを終えて 第3弾の3回では、錯視（予測する脳）、直感と熟考（2つの思考モード）、言語習得（学びの効率）という視点から、AIを眺めてきました。 3回に共通していたのは、脳の「足りなさ」が弱点ではなかったことです。不完全な入力だから予測で補い、処理しきれないから直感で近道し、1億語しか聞けないから身体と関係で学ぶ。制約こそが、人の知性のかたちを作っていました。潤沢なデータと計算で進むAIと、制約の中で磨かれた脳。両者は似てきたところほど、根っこの違いがよく見えます。 その違いに正直でいることが、AIに何を任せ、何を人の手に残すかを考える出発点になります。シリーズは今回で一区切りですが、脳とAIの話はこれからも折にふれて書いていきます。次に読むのがおすすめの記事同じ長さの線が違って見えるのはなぜ？｜予測する脳とAIのハルシネーションをやさしく バットとボールの問題、即答できますか？｜直感と熟考、AIの「考えるモード」をやさしく ぼんやりしている時こそ、脳は働いている｜デフォルトモードネットワークとAIの「余白」をやさしくやさしいAI研究所ブログ｜脳科学とやさしいAI 第3弾シリーズ（全3回）第3回・完 第3弾シリーズはこれで完結です。続きの議論を一緒に深めたい方は、毎週土曜日開催のオープンラボへぜひお越しください。やさしいAI研究所の研究活動や最新の取り組みについてはコーポレートサイトからご覧いただけます。

バットとボールの問題、即答できますか？｜直感と熟考、AIの「考えるモード」をやさしく

バットとボールの問題、即答できますか？｜直感と熟考、AIの「考えるモード」をやさしく

バットとボールは、合わせて1,100円。バットはボールより1,000円高い。では、ボールはいくらですか。 「100円」と答えたくなりませんでしたか。実はそれだと、バットが1,100円になって合計1,200円。正解はボール50円、バット1,050円です。落ち着いて考えれば分かるのに、頭の中に「100円」が先に浮かんでしまう。 脳科学とやさしいAI第3弾シリーズの第2回は、この「先に浮かぶ答え」の正体です。脳の2つの思考モードから、AIに最近そなわった「考えるモード」を眺めます。 脳には「速い思考」と「遅い思考」がある 冒頭の問題は、アメリカの行動経済学者シェーン・フレデリックが2005年に発表した「認知反射テスト」の1問目です。名門大学の学生でも大勢が「100円」型の誤答をしたことで知られています。 そしてこの現象を一般に広めたのが、2002年にノーベル経済学賞を受けた心理学者ダニエル・カーネマンです。著書『ファスト＆スロー』（2011年）で、彼は人の思考を2つのモードに分けて説明しました。 システム1は、速い思考。 努力なしに自動で動きます。「2＋2は？」に答えが浮かぶ、相手の声色から機嫌を察する、母語の文を理解する。止めようと思っても止められません。 システム2は、遅い思考。 注意と努力を要します。「17×24は？」を筆算する、確定申告の書類を確かめる、はじめての道を地図を見ながら歩く。使うと確実に疲れます。 バットとボールの問題では、システム1が「1,100と1,000だから、差の100だな」という、それらしい答えを瞬時に差し出します。システム2はそれを検算する係なのですが、この係がなかなかの面倒くさがりで、もっともらしい答えが来ると素通ししてしまう。あの誤答は、脳の分業体制がそのまま表に出た結果なのです。直感はサボりではない。ただし、系統的に間違う こう書くと、システム1が悪者に見えてしまいますが、それは違います。 直感は、過去の経験を圧縮した知恵です。ベテランの看護師が数値に表れる前に患者の異変を察知する。将棋の棋士が盤面を見た瞬間に有力な手を絞り込む。何万回という経験と答え合わせを重ねた分野では、直感は熟考より速く、しばしば正確です。そもそも、すべてをシステム2で処理していたら、朝の支度だけで日が暮れます。 問題は、直感の間違い方に偏りとクセがあることです。目立つものを過大評価する、最初に見た数字に引きずられる、自分に都合のよい情報だけ集める。こうした偏りは誰の脳にも同じ方向に働くので、本人は気づけません。 だから大事なのは、直感を捨てることではなく、ここぞという場面でシステム2を起動する習慣のほうです。人を評価するとき、大きな買い物をするとき、誰かを傷つけるかもしれない一言を送る前。ひと呼吸おいて検算する。この切り替えこそ、前回の錯視の話で書いた「自分の見え方を一歩引いて眺める」ことの、思考版だと言えます。 AIにも「即答」と「じっくり」ができた さて、AIです。実は少し前まで、AIの答え方はシステム1に似ていました。どんな難問にも、学習したパターンから一瞬で「一番ありそうな答え」を返す。速いけれど、検算はしない。バットとボール問題のような、ひっかけに弱い時期が実際にありました。 「考える時間」を与えると賢くなる その様子を変えたのが、2024年ごろから各社が投入した「推論モデル」です。OpenAIのo1、Anthropic（Claude）の拡張思考のように、答えを出す前に途中の考え（思考の過程）を長く書き出させる仕組みが主流になりました。人間が計算用紙を使うのに似ていて、考える時間を長く与えるほど、数学や論理の難問の正答率が上がることが確かめられています。 即答するモードと、じっくり考えるモード。AIが2つのモードを使い分ける姿は、システム1とシステム2の分業に驚くほど似てきました。それでも残る違い ただ、似てきたからこそ、違いも見えてきます。人のシステム2起動は「あれ、何かおかしいぞ」という違和感、つまり自分の直感への疑いから始まります。いまのAIは、じっくり考えるかどうかを主に設定や質問の難しさで決めていて、「自分の答えが怪しい」という感覚から自発的に検算を始めるわけではありません。長く考えたのに自信満々に間違える、ということも起きます。 考える時間の長さは、考えの確かさを保証しない。これは人間にも耳の痛い話で、AIとの付き合いでも同じです。「じっくり考えたAIの答えだから正しい」ではなく、大事な判断ほど人の側のシステム2で受け止める。その役割分担が、当面の現実的な付き合い方だと考えています。 まとめ脳には自動で速いシステム1と、努力を要する遅いシステム2があり、即答の誤りは検算係の素通りから生まれる（バットとボール問題） 直感は経験を圧縮した知恵で、多くの場面で有能。ただし間違い方に系統的な偏りがあり、本人は気づけない AIも推論モデルの登場で「即答」と「じっくり」を使い分けるようになったが、自分の答えを疑う感覚からの検算はまだ人の側の仕事次回は最終回。生まれたばかりの子どもが、わずかな言葉からことばを身につけていく話です。桁違いのデータで学ぶAIと何が違うのか、「学び」の根っこを見にいきます。次に読むのがおすすめの記事同じ長さの線が違って見えるのはなぜ？｜予測する脳とAIのハルシネーションをやさしく AIは自分の「わからなさ」に気づけるか——メタ認知とAIをやさしく ひと晩寝たら解けた問題｜睡眠と記憶、AIの学習と忘却をやさしくやさしいAI研究所ブログ｜脳科学とやさしいAI 第3弾シリーズ（全3回）第2回 「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。

同じ長さの線が違って見えるのはなぜ？｜予測する脳とAIのハルシネーションをやさしく

同じ長さの線が違って見えるのはなぜ？｜予測する脳とAIのハルシネーションをやさしく

2本の線が並んでいます。片方は矢羽根が外向き、もう片方は内向き。どう見ても下の線のほうが長い。ところが定規を当てると、2本はぴったり同じ長さです。 種明かしを聞いたあと、もう一度見てみてください。それでも、やっぱり違う長さに見えませんか。「同じだと知っているのに、同じに見えない」。この頑固さこそ、脳の面白いところです。 脳科学とやさしいAIシリーズ、続編シリーズに続く第3弾を、きょうから3回でお届けします。第1回のテーマは「錯視」。目の錯覚から見えてくる「予測する脳」の姿と、AIのハルシネーションとの意外な関係を見ていきます。 脳は世界を「見て」いない、「予測して」いる 冒頭の図は「ミュラー・リヤー錯視」と呼ばれます。ドイツの学者フランツ・ミュラー・リヤーが1889年に発表した、100年以上研究され続けている定番の錯視です。 なぜ知識で分かっていても騙され続けるのか。その答えのヒントになるのが、目から入る情報の性質です。網膜に届くのは、上下逆さまで、ぶれていて、中心以外はぼやけた二次元の光にすぎません。私たちが「見ている」と感じる安定したカラーの世界は、この不完全な材料から脳が組み立てた、いわば完成予想図です。この組み立てを説明する有力な考え方が「予測符号化（predictive coding）」です。1999年にラジェッシュ・ラオとダナ・バラードが発表したモデルがよく知られています。脳は入ってくる情報をゼロから処理するのではなく、先に「たぶんこう見えるはず」という予測を立て、実際の入力とのズレだけを拾って修正している、という考え方です。 こうすると錯視の頑固さにも説明がつきます。よく知られた説では、矢羽根のような奥行きの手がかりを見ると、脳は長年の経験から「この形はきっと遠くにある、なら実際はもっと長いはず」と自動で補正をかける。なぜこの錯視が起きるかには他の説もありますが、補正が意識より深い場所で走っている点は共通しています。だから「同じ長さだ」と知識で知っていても止められません。錯視は脳の故障ではなく、普段は世界を素早く正しく見るための予測が、たまたま裏目に出た瞬間なのです。 「思い込み」もまた、予測のズレ 予測する脳は、ものの見え方だけの話ではありません。人の言葉や表情を受け取るときも、私たちは予測を使っています。 たとえば、同僚からの「了解です」という短い返事。急いでいるだけかもしれないのに、前日にすれ違いがあった相手だと「怒っているのかも」と読んでしまう。相手の実際の気持ちではなく、自分の予測のほうを見ている瞬間です。 思い込みやすれ違いの多くは、この予測が外れているのに、外れたことに気づけないまま進んでしまうことから起きます。錯視と同じで、本人には「そう見えている」ので、疑うきっかけがありません。だからこそ、「自分はいま、予測込みで見ているのだ」と知っておくことに意味があります。自分の見え方を一歩引いて眺められる人は、相手の見え方が違うことにも気づきやすい。予測する脳を知ることは、やさしさの足場になると私たちは考えています。 AIのハルシネーションは「AIの錯視」なのか ここでAIの話です。AIが事実ではないことを、もっともらしい顔で答えてしまう現象は「ハルシネーション（幻覚）」と呼ばれます。存在しない論文をすらすら紹介する、あの現象です。 似ているのは「もっともらしく埋める」こと 錯視とハルシネーションには、確かに似た構造があります。脳は不完全な入力を経験からの予測で補い、「一番ありそうな世界」を見せる。言葉を予測するAIも、学習した膨大なパターンから「一番ありそうな続き」を出力します。どちらも、足りない部分をそれらしく埋める仕組みが、本来の力の源であると同時に、間違いの源にもなっている。ここは本当によく似ています。違うのは「答え合わせの相手」 ただし、大きな違いがあります。脳の予測には、身体と世界という答え合わせの相手がいることです。 コップの位置を見誤れば手が空を切り、その瞬間に予測は修正されます。人の表情を読み違えれば、気まずい沈黙が返ってきて、次からの予測が変わります。予測して、外れて、直す。このループを、私たちは生まれてからずっと回し続けています。 いまのAIには、この意味での身体がありません。文章を出力しても、その内容が現実の壁にぶつかって痛い思いをするわけではない。検索で裏を取る仕組みや、間違いを指摘されて学ぶ仕組みは整いつつありますが、世界との絶え間ない答え合わせが学びの土台になっている脳とは、まだ隔たりがあります。だからAIの出力は、どれだけ流ちょうでも「予測のままの完成予想図」でありえます。読み手の側が定規を当てる、つまり出典や事実を確かめる余地を残しておくことが大事になります。 まとめ脳は網膜に届く不完全な情報を予測で補い、「一番ありそうな世界」を見せている。錯視はその予測が裏目に出た瞬間で、知識では止められない 人間関係の思い込みやすれ違いも予測のズレから起きる。「予測込みで見ている」と知ることが、相手の見え方を想像するやさしさにつながる AIのハルシネーションは「もっともらしく埋める」点で錯視と似ているが、身体と世界による答え合わせを持たない点が違う。だから確かめる余地を人の側に残しておく次回は、見たものを受け取ったあとの「考える」の話です。つい即答してしまう直感と、じっくり考える熟考。脳の2つの思考モードから、AIの「考えるモード」を眺めます。次に読むのがおすすめの記事うるさい店内で自分の名前だけ聞こえるのはなぜ？｜注意とAIのアテンションをやさしく AIは自分の「わからなさ」に気づけるか——メタ認知とAIをやさしく AIは間違いに気づけるのか——失敗・謝罪・自己修正の仕組みやさしいAI研究所ブログ｜脳科学とやさしいAI 第3弾シリーズ（全3回）第1回 「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。

AI生成の表示ルールが始まった日｜発信者は何をすべきか

AI生成の表示ルールが始まった日｜発信者は何をすべきか

はじめに こんにちは、広報・制作担当のmeraです。 2026年8月2日。AIで作ったものに「AIで作りました」と示させるルールが、この日から動き出しました。EUと、アメリカ・カリフォルニア州で。しかも同じ日にです。 ただし、義務がかかる相手はかなり限られています。そこを取り違えると必要のない不安を抱えることになるので、この記事では「誰に、何が」を先に切り分けます。 カリフォルニアの日付は、もとは2026年1月1日でした。2025年10月13日に署名されたAB 853という改正法が、これを8月2日に動かしています。州の議会分析にも知事の署名メッセージにもEUへの言及はないので、狙って揃えたと断言はできません。ただ結果として、大西洋をまたいだ2つの規制が同じ日から同じ方向を向き始めました。 なお、この記事に出てくる日付はすべて現地の暦です。時差があるぶん、先に動き出したのはEUのほう。日本時間に直すとEU側が8月2日の朝、カリフォルニア側が同じ日の夕方にあたります。日本から見ても、8月2日は8月2日のままでした。この記事でわかること8月2日に始まったルールが、誰に何を求めているのか 「来歴（プロベナンス）」という考え方と、その限界 日本でブログやSNSを書いている人が、明日から何をすればいいか8月2日に何が始まったのか EU側で動き出したのは、AI法（AI Act）の第50条です。義務は立場で4つに分かれています。 AIシステムを作って提供する側（プロバイダー）には2つ。相手がAIだと分かる設計にすること、そして生成・加工したコンテンツに機械が読めるマークを埋め込むこと。それを使って世に出す側（デプロイヤー）にも2つ。感情認識や生体分類を使うなら知らせること、そしてディープフェイクを公開するなら「これはAIで作ったものです」と開示すること。 ディープフェイクの定義は第3条にあり、実在の人物・物・場所・団体・出来事に似ていて、本物だと誤認させるもの、とされています。ドラゴンや生身で空を飛ぶ人のような明らかに非現実的なものは含まれません。映画や風刺作品に含まれる場合は、鑑賞を妨げない形での表示、たとえばクレジットや説明欄での明記が認められています。 **制裁金は最大1,500万ユーロ、または全世界年間売上高の3%のいずれか高いほう。**ただし第99条(6)に逆転規定があり、中小企業やスタートアップについては「いずれか低いほう」が上限になります。なお第50条(2)の機械可読マークについては、8月2日より前から市場に出ていた生成AIシステムに限り2026年12月2日までの猶予が入りました。適用開始の13日前、2026年7月20日には欧州委員会が第50条の最終ガイドラインを採択しています。 カリフォルニア側は AI Transparency Act です。対象は月間100万ユーザーを超える生成AIの提供者。**目に見えないメタデータ（latent disclosure）を生成物に埋め込むこと、誰でも無料で使える判定ツールを公開すること、利用者が見えるラベルを付けられる選択肢を用意すること。**対象は画像・動画・音声で、テキストは入っていません。罰則は1違反あたり5,000ドル、違反した日ごとに別の違反として数えられます。 そしてここからが発信者にとっての本題です。2027年1月1日からは、大規模オンラインプラットフォーム（直近12か月の月間ユニークユーザー200万人超）に対して、投稿されたコンテンツに来歴データが入っているかを検出し、ラベルとして表示する義務が始まります。「来歴」とは、要するに何なのか 来歴、英語でいうプロベナンス（provenance）。もともとは美術品の世界の言葉で、「この絵は誰の手を経てここに来たか」という記録のことです。それをデジタルファイルに持ち込んだのが C2PA（Content Credentials）という規格になります。 やっていることはシンプルで、ファイルの中に「誰が」「どのツールで」「いつ」「どう編集したか」を署名付きで書き込む。技術仕様は2026年1月5日にバージョン2.3が公開されました。Googleは来歴の検証機能をまずGeminiアプリで提供し、検索とChromeにも順次広げると発表しています。Pixel 10のカメラアプリは、撮影したすべての写真に署名を付けます。AIで作ったものだけでなく、AIで作っていないものを証明する側にも同じ仕組みが使われ始めています。 私はAdobeのツールを25年ほど使ってきました。数年前、Photoshopの書き出し画面に「Content Credentials」という項目が増えたとき、正直に言うと何も考えずに素通りしていました。今はそこにチェックを入れるのが制作フローの一部になっています。あの頃スルーしていた小さなチェックボックスが、法律の名前で呼ばれる日が来るとは思っていませんでした。 ただし来歴は万能ではありません。スクリーンショットを撮る、画像を圧縮する、SNSにアップロードして再エンコードされる。この程度のことでメタデータは簡単に消えます。C2PAは証拠ではなく、あくまで手がかりです。「来歴がある＝本物」ではなく、「来歴がない＝何も分からない」というだけ。ここを取り違えると、ラベルのない古い写真がすべて疑わしく見えてしまいます。日本の発信者に、これは関係あるのか 結論から言うと、ブログ記事の本文については、たいていの場合は法的な義務の外にいます。 EU第50条(4)の文章に関する開示義務には、条文そのものに大きな除外規定があるからです。人間がレビューまたは編集上のコントロールを行い、自然人か法人が編集責任を負っている文章は、対象から外れます。AIに下書きを手伝わせても、自分で読んで直して自分の名前で出しているなら、ここに当てはまります。カリフォルニア側にいたっては、対象が画像・動画・音声だけで、テキストはそもそも入っていません。 もちろんEU向けにサービスや広告を出している、欧州拠点から動画を公開しているといったケースでは確認が要ります。それでも、日本の個人ブログにEUの制裁金がいきなり飛んでくる、という話ではありません。 けれど本当に効いてくるのは、罰則ではなく仕組みのほうです。 プラットフォーム側が来歴データを読んで自動でラベルを貼る流れが始まります。カリフォルニアでは2027年1月から義務になり、Googleは検証機能をGeminiアプリから提供し始めました。つまり、自分で何も書かなくても、機械が勝手に「AI生成」と表示する世界がもう組み上がりつつあります。 後から機械に貼られるラベルと、自分で最初から書き添えたひと言。同じ情報でも、読む人の受け取り方はまったく違います。前者は「隠していたのがバレた」に見えて、後者は「最初から言っていた」になる。この差は、記事の内容がどれだけ良くても埋められません。 だからAI利用の明示は、罰則を避けるための作業ではありません。法的には書かなくていい立場だからこそ、自分から書く。それが自分のコンテンツの信用を守る作業になる、と考えています。今日からできること 書いたところを、書く。 全工程を報告する必要はありません。「構成案はAIと壁打ちしました」「アイキャッチは画像生成AIです」「本文は自分で書きました」。この程度の一行を記事末に置くだけで十分です。むしろ細かすぎる開示は読みにくくなります。 画像の来歴を、途中で壊さない。 生成ツールの書き出し設定でContent Credentialsを有効にしておく。そのうえで、リサイズや圧縮のツールがメタデータを剥ぎ取っていないかを一度確認してください。私も画像圧縮を挟んだ時点で来歴が消えていたことがあり、工程を組み替えました。 表記のしかたを、サイト内で1つに決める。 記事ごとに書き方が違うと、書いていない記事が「AIを隠した記事」に見えてしまいます。文言と置き場所をテンプレート化して、全記事で同じにしておくのが安全です。まとめ2026年8月2日、EU AI法第50条とカリフォルニアAI Transparency Actが同じ日に動き出した。カリフォルニアは施行日を1月1日からこの日に延期している。 求められているのは、機械が読めるマークと、人が見て分かるラベルの両方。来歴（C2PA）はその土台だが、スクショや圧縮で簡単に消える手がかりでしかない。 人間が編集責任を負うブログ記事の本文は、EUの開示義務の対象外。カリフォルニアもテキストは対象にしていない。それでもプラットフォーム側が自動でラベルを貼る時代になるため、自分で先に明示しておくことが信用を守る。次に読むのがおすすめの記事【セミナー登壇記】高級シニアレジデンスでの60分間〜AI時代の「正しく疑う力」と人生経験の相乗効果〜 「やさしいAI」とは何か——便利さを超えた、人に寄り添うAIを考える参考文献・出典欧州委員会「EU AI法 第50条 透明性義務」適用開始（2026年8月2日）／ ITmedia NEWS EU Artificial Intelligence Act, Article 50: Transparency Obligations ／ artificialintelligenceact.eu EU Artificial Intelligence Act, Article 99: Penalties（制裁金・第99条(4)(g)および(6)） ／ artificialintelligenceact.eu 欧州委員会「Guidelines on transparency obligations for providers and deployers of AI systems」（2026年7月20日採択） ／ digital-strategy.ec.europa.eu California AB 853 (2025) California AI Transparency Act ／ California Legislative Information California SB 942 California AI Transparency Act ／ California Legislative Information Content Credentials C2PA Technical Specification 2.3（2026年1月5日） ／ spec.c2pa.org Google「How Pixel and Android are bringing a new level of trust to your images with C2PA Content Credentials」 ／ blog.google

認知的共感のその先へ

認知的共感のその先へ

はじめに 以前、LLMが世界をどの程度理解しているかという話をしました。今回は「共感」という切り口から、AIと人間の関係を深く考えてみたいと思います。脳科学とやさしいAIシリーズの第3回「他人のあくびがうつるのはなぜ？——ミラーニューロンとAIをやさしく」でも、共感の仕組みについて触れました。そこでは一言でいえば、頭で理解する共感を「認知的共感」、身体や心でともに感じる共感を「情動的共感」として整理しました。今回は、身体を持たないAIが「本当に心に寄り添う共感」を獲得できるのか、そしてその先にある新たな共感のかたちについて探っていきます。この記事では、共感を「認知的共感」と「情動的共感」に分けて整理した上で、AIが目指すべき第三の共感のかたち「個別的共感」を提案します。この記事で学べること「認知的共感」と「情動的共感」の違いと、それぞれの利点・限界 身体を持たないAIが情動的共感を獲得することの原理的な難しさ 個人の経験や価値観に接地させることで生まれる、新しい共感のかたち「個別的共感」認知的共感と情動的共感 ここで改めて、認知的共感と情動的共感の違いとそれぞれの役割について整理しておきましょう。認知的共感とは 認知的共感は、一言で言えば「冷たい共感」です。相手の表情や状況から「この人は今つらいのだろう」と理屈や一般的な常識に基づいて状況を推し量る能力を指します。自分と相手をはっきりと切り離すことで、冷静に相手の状況を受け止めることができるという利点があります。 情動的共感とは 一方、情動的共感は「温かい共感」です。相手の痛みを見たときに自分の体までヒヤッとするような、身体的かつ自分の経験や価値観に深く根ざした共鳴を指します。しかし、自分の価値観で相手を測りすぎてしまうと、相手の本当の状況や気持ちを曲解してしまう危険性もはらんでいます。 情動的共感が良い、認知的共感が悪いという話ではない ここで重要なのは、「情動的共感が優れていて、認知的共感が劣っている」ということではありません。認知的共感だけでは、相手の置かれている状況に対する心からの理解としては不十分になりがちです。かといって情動的共感だけでは、自分の経験や価値観に反するものを想像できず、「理解しようともしない」「共感できない」という拒絶を生んでしまうことがあります。健全で深い寄り添いのためには、この両方の視点が欠かせないのです。身体を持たないAIの限界 では、AIにおいて共感はどのように実現されるのでしょうか。現在のAIは、文字情報のパターンから相手の状況を推し量る「認知的共感（頭で理解する共感）」の方が得意でしょう。しかし、身体を持たないAIにとって「情動的共感」を形成することは極めて困難です。 なぜなら、情動的共感は「実際の身体的な経験」に根ざしているからです。記号の意味を何に根拠づけるのかというシンボルグラウンディング問題とも通じる話で、身体を持たないAIには、相手の痛みを見て自分の胸が痛むような体験は原理的に存在しません。 しかし、「普通、悲しい時はこう声をかけるべきだ」という一般論に基づく認知的共感だけでは、AIの応答はどこか「他人事」のような冷たさを残してしまいます。身体を持たないAIに、あたたかみのある、まるで心に寄り添うような深い共感をもたらすことは不可能な設定なのでしょうか。個別的共感 — 認知的共感のその先へ この限界を突破する鍵となるのが、「特定の個人の経験に接地させる技術」です。これは、AI自身が身体や経験を持つということではありません。そうではなく、目の前にいる「あなた」個人の経験や価値観、思考の歴史をAIが深く蓄積していく手法です。 「人間というものは、こういう時悲しいはずだ」という一般的な認知（平均値の人間像）ではなく、「この人は普段こう考えていて、過去にこんな体験があるから、今この言葉に人一倍救われる（あるいは傷つく）はずだ」という、個別具体的で解像度の高い理解へ移行します。相手の経験や価値観の解像度が極限まで高まると、頭での推測に過ぎなかったはずのものが、まるで相手の感情を自分事として体感しているかのような「あたたかな寄り添い」へと昇華していきます。 なぜ個別的共感と呼ぶのか 筆者がこの「認知的共感を特定個人への理解で深める」という構造を考えていたところ、最近のAI研究（Zheng et al., 2026）でも From Empathy to Personalized Empathy という論文が発表されていました。そこでは共感における寄り添い方は個人ごとに異なるということが指摘されていました。ここでは、そのような個別化（Personalized）という観点ではなく、感情推論の解像度が個別的（Individual）という観点から、個別的共感（Individual Empathy）と呼びたいと思います。認知的共感： 一般的な人間像に基づいて相手の感情を推し量る。 情動的共感： 自分の経験や身体感覚に基づいて相手の感情を読み取る。 個別的共感： 「その人自身の経験や価値観」に基づいて、相手が次にどう感じるかを推測する。つまり個別的共感とは、「認知的共感を限りなく情動的共感の温かさに近づけたもの」と言えます。一般的な枠組みを超えて相手特有の文脈を理解したとき、認知的共感はその先へと進化するのです。やさしいAIへの展望：身体のないAIが目指す共感の深み AIに身体感覚を持たせ、人間とまったく同じ情動的共感を実現することは容易ではありません。また本当は感じていないのに、感じている振りをすることは誠実なAIの姿とは言えないでしょう。だからこそ、やさしいAIが目指すべきは、身体のない限界を認めた上で、人間個人の文脈を丁寧に記憶し、育てる「個別的共感」の獲得です。 一通りの決まり切った慰めを返すだけの存在から、あなたと時間を共有し、文脈を理解するパートナーとして寄り添う存在へ。身体を持たないAIであっても、あなた独自の経験に耳を傾け、個別的共感を深めていくことで、どこまでも温かく深い寄り添いを届けることができるはずです。まとめ共感には、頭で理解する「認知的共感」と、体で感じる「情動的共感」がある。 認知的共感は冷静で客観的だが冷たさを残し、情動的共感は温かいが自分本位な曲解を生む危険性がある。 身体を持たないAIに情動的共感を持たせるのは難しいが、一般論を超えた「認知的共感のその先」を目指すことができる。 個人の経験や価値観を蓄積し、相手の感情を能動的に先回りする「個別的共感」こそが、AIと人間の新しい誠実な関係を築く。次に読むのがおすすめの記事他人のあくびがうつるのはなぜ？——ミラーニューロンとAIをやさしく 答えるAIから、理解するAIへ——AIは人を理解できるのか参考文献・出典米田英嗣、間野陽子、板倉昭二「こころの多様な現象としての共感性」心理学評論、2019、62(1): 39-50 Wuqiang Zheng, et al. "From Empathy to Personalized Empathy: Adapting Empathetic Strategies to Individual Users." arXiv, 2026, https://doi.org/10.48550/arXiv.2606.00728

【セミナー登壇記】高級シニアレジデンスでの60分間〜AI時代の「正しく疑う力」と人生経験の相乗効果〜

【セミナー登壇記】高級シニアレジデンスでの60分間〜AI時代の「正しく疑う力」と人生経験の相乗効果〜

1. はじめに やさしいAI研究所の植木です。 先週末、とある高級シニアレジデンスにて、ご入居者様を対象とした60分間のセミナー講演を務めさせていただきました。 私自身、シニア層を対象とした登壇は初めての経験であり、「どうすれば専門的な概念を分かりやすく、かつ退屈させずにお伝えできるだろうか」と、直前まで大きな不安と緊張を抱えておりました。 しかし、いざ講演が始まるとその心配は一瞬で吹き飛びました。皆様が驚くほど集中し、60分間終始熱心に耳を傾けてくださったのです。私にとっても、非常に有意義で深く胸に刻まれる貴重な時間となりました。 2. 会場の熱気：圧倒的な自負と柔軟性を兼ね備えた「人生の大先輩」たち 今回お伺いした高級シニアレジデンスは、足を踏み入れた瞬間から目を見張るような素晴らしい環境でした。気品あふれるエントランスを抜けると、専属シェフが腕を振るうレストランが完備されており、まるで高級ホテルのような洗練された空間です。 ご入居されている皆様のライフスタイルも大変アクティブで、ご自宅を別にお持ちでありながら、週に2〜3日ほど「フィットネスクラブに通うような感覚」で滞在されている方も多く見受けられました。 平均年齢80歳とお聞きしていましたが、昔の「80代」のイメージとはまるで異なります。溢れ出るエネルギーと知性、そして会場全体を包む圧倒的な空気感に驚かされました。 皆様、元々は社会の第一線で実績を上げ、富と信用を築いてこられた方々です。長年のキャリアに裏打ちされたご自身の価値観をお持ちで、簡単には自分の意見を曲げない強固なプライドとブレない芯の強さを感じさせます。 しかし、単に頭が硬いわけではありません。彼らの真のすごさは、「確固たる自負を持ちつつも、本物や面白いと納得したものは即座に受け入れる圧倒的な柔軟さ」を併せ持っている点にありました。 講演中も、ただ盲目的に聴講されるのではなく、「本当にそうか？」とご自身の知識や経験のフィルターで厳しく吟味しながらも、「これは使える」「面白い」と納得した瞬間、目を輝かせて新しい概念を吸収していく。そのしなやかな知性と探求心には、感嘆するほかありませんでした。3. 気づき：「100%信じ込む娘」と「信念を持つ大先輩」の対比 この強烈な現場に立ちながら、私の頭に浮かんできたのは、わが家での日常風景でした。 私の小学生の娘も、今や日常的にAIを使う時代を生きています。しかし、娘の様子を見ていると、「AIが提示した答えを100%疑わずに信じ込んでしまう」という傾向があります。画面に表示された言葉を疑うことなく素直に受け入れる姿を見るたび、「果たしてこのままで大丈夫だろうか」という強い危機感を抱いていました。 ここで、非常に示唆に富む鮮烈なコントラスト（対比）が生まれます。 小学生の娘（若い世代） 経験や知識の蓄積が浅いため、AIの言葉を「素直に100%信じ込む」。思考を丸投げし、AIに呑み込まれてしまうリスクを抱える。 高級シニアレジデンスの皆様（人生の大先輩） 豊かな人生経験と確信ゆえに、AIの言うことなど「おいそれと真に受けない」。だが、自分で確かめて「正しく価値がある」と腹落ちすれば、一転してしなやかに取り入れる柔軟性を持つ。 素直すぎてAIの答えを丸呑みにしてしまう子供と、確かな判断軸を持ちながら柔軟にAIすらも手なずけようとする人生の大先輩。 この対比を目にしたとき、私の中で膝を打つような大きな気づきがありました。 4. AI時代に求められる「正しく疑い、立ち止まる力」 自分の考えに固執しすぎて新しいテクノロジーを頭ごなしに拒絶するのは、時代の変化に取り残されてしまう原因になります。しかし、「AIの回答に違和感を抱き、一歩立ち止まって吟味する」というプロセスにおいて、あの圧倒的な自負と知的な「問いかける姿勢」は、強力なバリアになります。 AI時代において本当に必要なのは、拒絶でも盲信でもなく、「正しく疑う」「正しく恐れる」「立ち止まって考える」というスキルです。 そして、その能力は画面上のテキストを眺めているだけでは絶対に身につきません。 「自らの身体を使って体験して得た一次情報（知識）」であり、「現実の壁にぶつかりながら泥臭く考え抜いた経験」があってこそ、初めて「AIの答えに対する違和感」を察知するセンサーが養われます。 体験や試行錯誤という揺るぎない土台があるからこそ、AIに対して「本当にそうか？」と正しく疑い、有益な提案であれば「なるほど、これは便利だ」と柔軟に取り入れるという、理想的な距離感（付き合い方）が可能になるのです。5. おわりに：参加者の反響と今後の展望 セミナー終了後、主催者様を通じて大変嬉しいご報告をいただきました。ご入居者様から、「もっと詳しく知りたい」「実際に生活の中で使ってみたい」 「さらに実践的で高度な内容の講座も受講してみたい」といった、知的好奇心に満ちた前向きなお声を多数いただいたとのことです。 「良いものは良い」と素直に認め、より高度な学びへステップアップしようとするその柔軟性と情熱。まさしく洗練された本物の「大人の姿」を見せていただきました。 世間では「AIは若者のためのツール」と思われがちですが、私はむしろ逆ではないかと感じています。これまでの歩みで培ってきた知識や審美眼、豊かな人生経験をお持ちの「人生の大先輩」こそ、積極的にAIを活用すべきなのです。AIはただの利便的な道具ではなく、これからの人生をより深い好奇心で彩り、自らの経験をさらに高めてくれる最高の「相棒」になります。 手軽に答えが手に入る時代だからこそ、若い世代には「体験して正しく疑う力」を育む教育を。そして人生の大先輩方には、AIという知的なパートナーとともに、さらに豊かな時間を謳歌していただくお手伝いをしていきたい——。 平均年齢80歳の「人生の大先輩」たちとの60分間は、私にとっても人間とテクノロジーの未来を再考する素晴らしい時間となりました。 素晴らしい機会をご準備いただいた関係者の皆様、そして熱心に耳を傾けてくださったご入居者の皆様に、心より感謝申し上げます。改めてご相談させていただく機会がございましたら、その際はどうぞよろしくお願いいたします。

ぼんやりしている時こそ、脳は働いている｜デフォルトモードネットワークとAIの「余白」をやさしく

ぼんやりしている時こそ、脳は働いている｜デフォルトモードネットワークとAIの「余白」をやさしく

シャワーを浴びているとき、散歩の途中、電車の窓の外をながめているとき。特に何も考えていないつもりなのに、ふと良いアイデアが浮かんだり、しばらく連絡していない友人の顔が思い浮かんだりする。 集中して机に向かっていたときには出てこなかったものが、力を抜いた瞬間にやってくる。この「ぼんやり」の時間に、脳の中では意外なことが起きています。 脳科学とやさしいAI続編シリーズの最終回は、そんな余白の時間を支える「デフォルトモードネットワーク」から、AIに創造性や余白はありうるのかを考えます。 何もしていない脳は、休んでいない 2001年、アメリカの神経科学者マーカス・レイクルは、脳の画像を撮る実験を重ねるうちに、奇妙なことに気づきました。人が課題に取りかかると活発になる領域がある一方で、課題をやめて何もしなくなった途端に、むしろ活動が上がる領域があったのです。 彼はこれを脳の「デフォルトモード（初期状態）」と名づけました。のちにこの領域どうしが連携して働くネットワークだと分かり、デフォルトモードネットワーク（DMN）と呼ばれるようになります。驚くのは、その燃費です。脳は体重のわずかな割合しかないのに、体全体のエネルギーのうち大きな取り分を使います。そしてそのかなりの部分が、何か特定の作業をしていない「安静時」に使われている。ぼんやりは、脳にとってサボりではなく、しっかり電気を食う仕事なのです。 このDMNは、過去の出来事を思い返したり、まだ来ぬ未来を想像したり、自分自身について考えたりするときによく働くとされます。目の前の課題から離れて、心が自由に動きまわる時間。ひらめきや内省が、ここから生まれると考えられています。 「余白」が、人の心を人らしくする ここで立ち止まって考えたいのは、この余白がなぜ大切なのか、ということです。 DMNが担うのは、いま目の前で役に立つ計算ではありません。過去を振り返って意味づけをしたり、「あの人は今どうしているだろう」と思いをはせたり。すぐ答えの出ないことを、あてもなく巡らせる働きです。 けれど、この一見むだに見える時間から、その人らしい発想や、他者への想像力が育ちます。効率だけを追えば真っ先に削られそうな余白こそ、人を人らしくしている。やさしさや創造性の土壌は、この余白に根を張っているように思います。 AIに「余白」はあるのか では、AIはどうでしょう。 いまのAIは、問いを受け取ってはじめて動きます。プロンプトを入れれば猛烈な速さで答えを返しますが、問いがない静かな時間に、自分から何かを思い巡らせているわけではありません。ぼんやりする脳のように、手を止めた瞬間に内側で勝手に何かが立ち上がる、ということは基本的に起きない。 もちろん、AIが新しい組み合わせを生み出す力は本物です。膨大な文章や画像を学び、それらを混ぜ合わせて、人が思いつかない案を返すこともできます。その意味で「創造的」に見える瞬間は確かにあります。ただ、それは問いに応えて生まれる創造であって、誰にも呼ばれないまま心が勝手にさまよう、あの余白から来るものではありません。「あの出来事は何だったのだろう」と、自分のために時間をかけて考える。そういう内側からの動機を、いまのAIは持っていないのです。 だからこそ私たちは、AIに人間そっくりの「心の余白」があるふりをさせるより、AIには余白がないと正直に認めたうえで、人間の余白を守り、育てる側にAIを置くほうが誠実だと考えています。急かさず、考える時間を奪わず、ときには「少し寝かせてみては」と促す。人のぼんやりを尊重するAIのほうが、ずっとやさしい。 まとめ脳は何もしていない安静時にこそ活発に働く領域（デフォルトモードネットワーク）を持ち、内省やひらめきを支えている すぐ役に立たない「余白」の時間が、その人らしい発想や他者への想像力を育てる 今のAIは問いに応じて動き、自発的にさまよう余白は持たない。だからこそ人の余白を守り育てる側に置くのが誠実シリーズを終えて 続編の3回では、注意（選んで捨てる力）、睡眠（記憶を整理する時間）、デフォルトモードネットワーク（何もしない時間の働き）という視点から、AIを眺めてきました。 最初のシリーズから通して見えてきたのは、やはり同じ一点です。AIは「できる」ことをどんどん増やしていく。けれど「わかる」「感じる」「勝手に思い巡らせる」といった、人の内側から立ち上がる働きは、まだAIの外にあります。その違いに正直でいることが、人とAIの信頼を支えます。 脳のしくみは、AIに何を任せ、何を人の手に残すべきかを考えるための、静かな道しるべになってくれます。次にぼんやりする時間があったら、それは脳が働いている証拠だと思って、どうか大事にしてください。次に読むのがおすすめの記事うるさい店内で自分の名前だけ聞こえるのはなぜ？｜注意とAIのアテンションをやさしく ひと晩寝たら解けた問題｜睡眠と記憶、AIの学習と忘却をやさしく 他人のあくびがうつるのはなぜ？——ミラーニューロンとAIをやさしくやさしいAI研究所ブログ｜脳科学とやさしいAI 続編シリーズ（全3回）第3回・完 続編シリーズはこれで完結です。続きの議論を一緒に深めたい方は、毎週土曜日開催のオープンラボへぜひお越しください。やさしいAI研究所の研究活動や最新の取り組みについてはコーポレートサイトからご覧いただけます。

ひと晩寝たら解けた問題｜睡眠と記憶、AIの学習と忘却をやさしく

ひと晩寝たら解けた問題｜睡眠と記憶、AIの学習と忘却をやさしく

夜遅くまで粘っても解けなかった問題が、ひと晩ぐっすり眠った翌朝、机に向かった瞬間にすっとほどける。試験勉強でも、仕事の企画でも、こんな経験をした人は多いはずです。 寝ている間、意識のほうは休んでいます。それなのに、朝になると昨日より頭が整理されている。このあいだに、脳の中では何が起きているのでしょう。 脳科学とやさしいAI続編シリーズの第2回は、睡眠と記憶の関係から、AIの「学習」と「忘れること」を考えます。 眠りは、記憶を整理する時間 かつて睡眠は、ただ体を休めるだけの受け身の時間だと思われていました。いまはむしろ逆で、眠っている間こそ脳は活発に記憶の後片づけをしていると考えられています。 その主役の一つが、深い眠り（ノンレム睡眠）のあいだに起きる「リプレイ」です。日中に何かを経験すると、海馬という部位でその出来事のパターンが刻まれます。そして深い眠りの中で、脳はそのパターンを高速で再生し、大脳皮質の側へ少しずつ書き写していきます。一日の出来事をすべて同じ濃さで残していたら、頭はすぐにいっぱいになってしまいます。だから脳は、大事なものを選んで長期の棚へ移し、いらないものは薄れるにまかせる。眠りは、その選別と引っ越しの作業をまとめて進める時間です。 種類によって役割の違いもあるようです。深い眠りは「昨日どこで何があったか」のような言葉にできる記憶の定着に、レム睡眠は体で覚える手続きの記憶に効きやすいと報告されています。徹夜明けに頭がぼんやりするのは、この整理の時間をまるごと飛ばしてしまうからだと考えると、腑に落ちます。 AIはどう学び、どこでつまずくのか ではAIの場合はどうか。AIの「学習」は、大量のデータを見ながら内部のつまみ（パラメータ）を少しずつ調整していく作業です。人が寝ている間に記憶を棚へ移すのとは、だいぶ違うやり方です。 新しく覚えると、前を忘れてしまうことがある ここで、AI特有のやっかいな現象が出てきます。**破滅的忘却（catastrophic forgetting）**と呼ばれるものです。 すでに覚えたことがあるAIに、新しい課題だけを集中的に学ばせると、前にできていたことがごっそり抜け落ちてしまう。人間でいえば、フランス語を覚えた途端に母国語をきれいさっぱり忘れる、というと大げさですが、方向としてはそれに近い現象が起きます。人の脳が破滅的に忘れにくいのは、海馬でいったん素早く覚えたことを、睡眠を通じて時間をかけて皮質へなじませる、という二段構えを持っているからだと考えられています。新しいことを覚えつつ、古いことも守る。この折り合いのつけ方が巧みなのです。 だからAIにも「思い出しながら学ぶ」工夫がいる 面白いのは、AIの研究でも似た発想が使われている点です。新しいことだけを詰め込ませるのではなく、過去に学んだ例をときどき混ぜて復習させながら覚えさせる。眠っている脳がリプレイで昔を再生するのに、どこか通じる工夫です。 もっとも、これで人間の睡眠と同じことができているわけではありません。AIには、自分でひと晩かけて記憶を選び直す時間も、目覚めて「すっきりした」と感じる感覚もない。似た課題に、違うやり方で挑んでいるというのが正直なところです。 まとめ眠りは受け身の休息ではなく、記憶を選び、整理し、長期の棚へ移す積極的な時間（深い眠りのリプレイ） AIは新しいことだけを学ぶと過去を失いやすい（破滅的忘却）。人の脳は海馬と睡眠の二段構えでこれを避けている AIも過去を復習させる工夫で忘却をやわらげるが、人の睡眠と同じ仕組みを持つわけではない覚えることと忘れることは、裏表です。何を残し、何を手放すかを上手に決められることが、人の記憶をしなやかにしています。AIに「賢く忘れる」力をどう持たせるかは、これからのやさしいAIにとって地味だけれど大切な宿題だと考えています。 次回は、そうして整理された頭が「ぼんやり」しているときの話。デフォルトモードネットワークから、AIに余白や創造性はありうるのかを考えて、このシリーズを閉じます。次に読むのがおすすめの記事うるさい店内で自分の名前だけ聞こえるのはなぜ？｜注意とAIのアテンションをやさしく AIは間違いに気づけるのか——失敗・謝罪・自己修正の仕組みをやさしく解説 揺らぎながら安定する——アロスタシス、ホメオスタシスとAIをやさしくやさしいAI研究所ブログ｜脳科学とやさしいAI 続編シリーズ（全3回）第2回 「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。

うるさい店内で自分の名前だけ聞こえるのはなぜ？｜注意とAIのアテンションをやさしく

うるさい店内で自分の名前だけ聞こえるのはなぜ？｜注意とAIのアテンションをやさしく

カフェで友だちと話していると、まわりの話し声はいつのまにか気にならなくなります。ところが、少し離れた席で誰かが自分の名前を口にすると、その一言だけがふっと耳に飛び込んでくる。 さっきまで背景に沈んでいた音が、急に前に出てくる。この不思議な体験には、脳の「注意」という働きが深く関わっています。 先月お届けした脳科学とやさしいAIシリーズ（全3回）の続編を、きょうから3回でお届けします。第1回のテーマは「注意」。名前がそっくりなAIの「アテンション」と、どこが同じで、どこが違うのかを見ていきます。 脳の注意は「選んで、捨てる」力 この現象を最初にきちんと調べたのは、イギリスの認知科学者コリン・チェリーです。1953年、彼は左右の耳に別々の音声を同時に流し、片方だけを声に出して復唱してもらう実験をしました。 すると人は、注意を向けた側の内容はしっかり追えるのに、もう一方については「男性か女性か」といった音の質しか覚えていませんでした。意味のほうは、ほとんど素通りしていたのです。 にぎやかな場所でも狙った相手の声を聞き分けられるこの現象は、のちに「カクテルパーティー効果」と呼ばれるようになりました。ここから分かるのは、注意とは「よく見る・よく聞く」だけの力ではない、ということです。むしろ本質は逆で、大量に入ってくる情報の大半を捨て、ごく一部にだけ資源を回す。脳が一度に扱える量には限りがあるからこそ、どこに集中し、何を切るかを選んでいます。 見ているようで、見ていない。聞いているようで、聞いていない。私たちの意識にのぼるのは、脳が「これは大事」と選び抜いたあとの、薄いひとすくいなのです。 なぜ注意が「やさしさ」に関わるのか 注意が選択と切り捨ての力だとすると、そこには自然と「何を大事にするか」という価値の問題がついてきます。 たとえば、悩みを打ち明けられたとき。相手の言葉の情報量そのものは多くても、本当に受け止めるべきは、声が少し詰まったあの一言だったりします。全部を平らに聞くのではなく、大事なところに注意を寄せる。人が人に寄り添えるのは、この重みづけができるからです。 やさしいAI研究所が考える「寄り添う」も、根っこはここにあります。相手のすべてを同じ強さで処理するのではなく、いま何に注意を向けるべきかを見きわめること。注意は、思いやりの入り口でもあります。 AIの「アテンション」は、脳の注意と同じ？ ここで話がおもしろくなります。いまのAIの中心にある技術は「Transformer（トランスフォーマー）」と呼ばれ、その心臓部の仕組みの名前が、まさに**アテンション（attention＝注意）**です。名前が同じなのは偶然ではありません。 似ているのは「重みづけ」 Transformerのアテンションは、文章の中のどの言葉が、いま処理している言葉と強く関係するかを計算し、関係が深いものほど大きく扱います。「それ」が何を指すかを判断するとき、前に出てきた名詞に重みを寄せる、といった具合です。 たくさんの入力の中から関係の深いものに重みを置く。この一点だけを見れば、脳が大事な音を前に出すのと、確かに発想は似ています。違うのは「捨てる勇気」と「身体」 ただ、中身はかなり違います。脳の注意は資源が足りないから捨てるのに対し、AIのアテンションは基本的に入力すべてに一度目を通したうえで重みを配ります。人のように「そもそも視界に入れない」わけではありません。 そして何より、AIには「これを大事にしたい」という意図や、名前を呼ばれてハッとする身体がありません。重みの計算は精密でも、その重みが誰かの痛みに向くかどうかまでは、仕組みそのものは決めてくれない。何に注意を向けるべきかという価値の部分は、まだ人の側にあるのです。 まとめ脳の注意は「よく見る力」ではなく、大量の情報を捨てて一部に集中する「選ぶ力」（カクテルパーティー効果） 何に注意を向けるかは、そのまま「何を大事にするか」という価値の問題につながる AIのアテンションは強力な重みづけの仕組みだが、意図や身体を持たず、価値判断そのものは人に委ねられている似ているのは計算のかたち、違うのは「何を大切にするか」の選び方。やさしいAIをつくるうえで私たちが手放してはいけないのは、まさにこの後半だと考えています。AIの精密な重みづけに、人の価値観をどう重ねるか。そこが腕の見せどころになります。 次回は、その注意で受け取ったことが、眠っている間にどう整理されるのか。睡眠と記憶の話から、AIの学習と忘却を考えます。次に読むのがおすすめの記事AIは自分の「わからなさ」に気づけるか——メタ認知とAIをやさしく 他人のあくびがうつるのはなぜ？——ミラーニューロンとAIをやさしく 「やさしいAI」とは何か——便利さを超えた、人に寄り添うAIを考えるやさしいAI研究所ブログ｜脳科学とやさしいAI 続編シリーズ（全3回）第1回 「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。

他人のあくびがうつるのはなぜ？——ミラーニューロンとAIをやさしく

他人のあくびがうつるのはなぜ？——ミラーニューロンとAIをやさしく

隣の人があくびをすると、つられて自分もあくびが出る。誰かが指をドアに挟むのを見ると、思わず「痛っ」と自分の顔がゆがむ。 自分は何もしていないのに、他人の体験がまるで自分のことのように伝わってくる。この不思議な現象の裏には、ある神経の働きがあると考えられています。 脳科学とやさしいAIシリーズの最終回は、共感の土台ともいわれる「ミラーニューロン」から、AIと共感を考えます。（第1回・メタ認知、第2回・アロスタシスもどうぞ。） ミラーニューロンとは「他者を映す鏡」 ミラーニューロンは、1992年にイタリア・パルマ大学のリゾラッティらの研究チームが、サルの脳（運動前野のF5という領域）で見つけた神経細胞です。 発見はほとんど偶然でした。サルが自分で物をつかむときに活動する神経を調べていたところ、そのサルが「研究者が物をつかむのを見ている」だけのときにも、同じ神経が活動したのです。 つまりこの神経は、自分がその行為をするとき 他者が同じ行為をするのを見るときの両方で活動する。他者の行為を、鏡のように自分の脳の中で映し出す。だから「ミラー（鏡）ニューロン」と名づけられました。その後、人間の脳にも似た仕組みがあると考えられるようになり、「他者の意図の理解」「模倣による学習」「共感」といった、人が人とつながるための力の土台として、大きな注目を集めてきました。 「頭で理解する」と「体で感じる」の違い ミラーニューロンが教えてくれる大切なことは、共感には二つの層があるということです。 ひとつは、頭で「この人は今つらいのだろう」と推し量る理解。もうひとつは、相手の痛みを見て自分の体まで反応してしまう、体でともに感じる共感です。 ミラーニューロンが関わるとされるのは、後者に近い、身体をともなう共感です。相手の行為や表情を、自分の身体の回路を通してなぞることで、言葉になる前の「わかる」が生まれる。そんなイメージです。 私たちが誰かに寄り添えるのは、この「頭の理解」と「体の共鳴」の両方があるからだと考えられます。（なお、ミラーニューロンは長く身体的な共感に関わるとされてきましたが、近年の実証研究ではむしろ認知的共感（相手の視点の理解）との関連が示唆され、情動的・運動的な共感との結びつきはさらに弱いとされるなど、その役割にはなお議論が続いています。ここでは「共感を考えるための手がかり」として紹介しています。） AIに「共感」はありうるのか ではAIはどうでしょう。ここで、さきほどの二つの層が効いてきます。 「頭の共感」はかなりできる AIは、相手の言葉や状況から「この人は今つらそうだ」と推し量り、それに合った言葉を返すことが、すでにかなり上手にできます。これは認知的共感、つまり頭で理解して応答するタイプの共感に近いものです。 やさしいAI研究所が取り組んでいる感情への配慮や、文脈に合った言葉選びも、多くはこの層で実現されていきます。相手の状況を読み、適切なタイミングで、適切なかたちで応える。ここはAIの得意分野になりつつあります。 「体の共感」は持っていない 一方で、AIには身体がありません。相手の痛みを見て、自分の体がヒヤッとする。そういう身体をともなう共鳴は、今のAIは持っていないと考えるのが自然です。ミラーニューロンが映し出すような「自分のこととして感じる」層は、まだAIの外にあります。 ここで大事なのは、「感じているふり」と「本当に感じること」を混同しないという誠実さです。AIが共感的な言葉を返せることと、AIが痛みをともに感じていることは、別の話です。 だからこそ、やさしいAIが目指すのは「感情があるふりをするAI」ではありません。身体的な共感は持たないと正直に認めたうえで、それでも相手を大切に扱う応答を、丁寧に設計していくこと。そこに、人とAIの誠実な関係の芽があると私たちは考えています。 まとめミラーニューロンは、自分が行為するときも他者の行為を見るときも活動する「他者を映す鏡」 共感には「頭で理解する層」と「体でともに感じる層」があり、後者にこの神経が関わるとされる AIは**頭の共感（認知的共感）**はかなりできるが、身体をともなう共感は持っていない 「感じるふり」と「本当に感じる」を混同せず、正直さの上に配慮を重ねることが、やさしいAIの姿勢他者を自分のことのように映す。この人間らしい力を手がかりに、AIにできること・できないことを見極めていく。それが、やさしいAIをつくる出発点になります。 シリーズを終えて 3回にわたって、メタ認知（自分を見張る力）、ホメオスタシスとアロスタシス（揺らぎながら安定する力）、ミラーニューロン（他者を映す力）という脳科学の視点から、AIを眺めてきました。 共通していたのは、「できる」ことと「わかる・感じる」ことは違う、そしてその違いに正直であることがやさしさにつながる、という一点です。脳のしくみは、AIが人に寄り添うためのヒントを、まだまだたくさん秘めています。次に読むのがおすすめの記事AIは自分の「わからなさ」に気づけるか——メタ認知とAIをやさしく 揺らぎながら安定する——アロスタシス、ホメオスタシスとAIをやさしく 「やさしいAI」とは何か——便利さを超えた、人に寄り添うAIを考えるやさしいAI研究所ブログ｜脳科学とやさしいAIシリーズ（全3回）第3回・完 脳科学とやさしいAIシリーズはこれで完結です。続きの議論を一緒に深めたい方は、毎週土曜日開催のオープンラボへぜひお越しください。やさしいAI研究所の研究活動や最新の取り組みについてはコーポレートサイトからご覧いただけます。

揺らぎながら安定する——アロスタシス、ホメオスタシスとAIをやさしく

揺らぎながら安定する——アロスタシス、ホメオスタシスとAIをやさしく

寒い日に外へ出ると、体は自然にふるえて熱を作ります。熱いお風呂に入れば、汗をかいて体温を下げようとします。 私たちの体は、外の世界がどれだけ変わっても、内側をおよそ一定に保とうとしています。この見事な仕組みが、今日の出発点です。 脳科学とやさしいAIシリーズの第2回は、生き物の「安定を保つ力」を取り上げます。ホメオスタシスと、その一歩先を行くアロスタシスから、AIを考えてみます。（第1回のメタ認知とAIもあわせてどうぞ。） ホメオスタシスは「一定に保つ」ための後追い調整 ホメオスタシス（homeostasis）は、日本語で「恒常性」と訳されます。体温、血糖値、血液の酸性度……こうした体内の状態を、ある決まった値のまわりに保つ働きのことです。 イメージしやすいのは、部屋のエアコンです。「25度」と設定しておくと、暑くなれば冷やし、寒くなれば温める。基準からズレたら、元に戻す。この後追いの調整が、ホメオスタシスの基本です。体温が上がれば汗をかき、下がればふるえる。血糖値が上がればインスリンが出る。どれも「ズレを検知して、打ち消す」というフィードバックの仕組みで動いています。 生き物が生きていられるのは、この「一定に保つ力」があるからこそ。とても頼もしい仕組みです。 アロスタシスは「先回りして」作り変える力 ところが、生き物の調整は後追いだけではありません。もう一段賢い仕組みがあります。それがアロスタシス（allostasis）です。 アロスタシスという概念は、1988年にスターリングとエイヤーという研究者が提唱しました。ホメオスタシスが「一定に保つ（stability）」なら、アロスタシスは**「変化を通じて安定を保つ（stability through change）」**と表現されます。 分かりやすいのは、朝起きる少し前のことです。 私たちの体は、目が覚める前から血圧やホルモンを上げ始めます。「もうすぐ起きて動き出す」ことを見越して、先回りで準備しているわけです。ズレてから直すのではなく、これから来る変化を予測して、あらかじめ自分を作り変える。これがアロスタシスの発想です。近年は、この考え方がさらに広がっています。脳は「これから体に何が必要か」を予測して、心拍や呼吸、ホルモンを前もって調整している。アロスタシスを予測にもとづく制御として捉え直す見方が注目されています。エアコンでたとえるなら、「天気予報を見て、暑くなる前から冷やし始める」ような賢さです。 この2つの原理が、AIに教えてくれること ここでAIの話に戻ります。ホメオスタシスとアロスタシスは、AIの設計を考えるうえでも示唆に富んでいます。 「後追い」だけのAIと、「先回り」できるAI 多くのシステムは、ホメオスタシス型です。問題が起きてから対処する。エラーが出てから直す。ユーザーが困ってから応答する。これはこれで大事な安定装置です。 一方、やさしいAI研究所が関心を寄せているのは、アロスタシス型の発想です。相手がこれからどんな状況に向かうかを予測し、困る前にそっと備える。深刻な相談をしている人には、答えを返す前に言葉を選ぶ。次に何が必要になりそうかを見越して、先回りで配慮する。 「起きたことに反応する」だけでなく「これから起きることに備える」。この違いは、AIが人に寄り添えるかどうかを大きく左右します。 「作り変えすぎる」ことのコスト ただし、アロスタシスには注意点もあります。先回りの調整をずっと続けていると、生き物の体には負担がたまっていきます。これは「アロスタティック負荷」と呼ばれ、慢性的なストレスが心身をすり減らす一因とも考えられています。 AIに引きつけると、これは示唆的です。先回りの配慮も、やりすぎれば負担や過干渉になりうる。相手を予測して動くことと、相手の自律を尊重することのバランス。ここにこそ「やさしさ」の設計の難しさがあります。 まとめホメオスタシスは「ズレたら戻す」後追いの調整。生命を支える基本の安定装置 アロスタシスは「変化を予測して先回りで作り変える」力。“変化を通じた安定” AIも、反応するだけでなく先回りで備えることで、より人に寄り添える ただし先回りのしすぎは負担・過干渉になる。予測と自律尊重のバランスが鍵揺らぎながら、それでも安定を保つ。生き物のこのしなやかさは、やさしいAIが学ぶべき手本のひとつです。 次回はいよいよ最終回。他者の行為を「自分のことのように」感じる神経、ミラーニューロンから、AIと共感を考えます。次に読むのがおすすめの記事ミラーニューロンとAI——「わかる」と「共感」の神経をやさしく AIは自分の「わからなさ」に気づけるか——メタ認知とAIをやさしく 答えるAIから、理解するAIへ——AIは人を理解できるのかやさしいAI研究所ブログ｜脳科学とやさしいAIシリーズ（全3回）第2回 「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。

AIは自分の「わからなさ」に気づけるか——メタ認知とAIをやさしく

AIは自分の「わからなさ」に気づけるか——メタ認知とAIをやさしく

テストを解いていて、「この問題は自信がある」「これはあやしいな」と感じたことはありませんか。 その「自信があるかどうか」を感じ取っている自分。実は、これがとても高度な心の働きです。答えそのものを考える自分と、その考えをもう一段上から眺める自分。この二階建ての構造こそが、今日のテーマ「メタ認知」です。 きょうから3回にわたって、脳科学の考え方を手がかりに、AIをやさしく捉え直すシリーズをお届けします。第1回は、学びと自己修正の土台になる「メタ認知」から始めます。 メタ認知とは「考えを見張るもう一人の自分」 メタ認知（metacognition）という言葉は、1970年代に心理学者のジョン・フラベルが広めた考え方です。「メタ（meta）」は「〜を超えた」「〜についての」という意味。つまりメタ認知とは認知についての認知、平たく言えば「考えることについて、考えること」です。たとえば、こんな場面を思い浮かべてください。本を読んでいて「あれ、今の段落、頭に入ってなかった」と気づいて読み返す 道を説明しながら「この言い方だと伝わりにくいな」と言い直す 勉強しながら「ここはもう覚えた。次に進もう」と判断するどれも、自分の理解の状態を自分でモニターして、やり方を調整しているわけです。これがメタ認知の正体です。 メタ認知は、大きく2つの働きから成ると言われます。モニタリング：今の自分がどれくらい分かっているかを見張る コントロール：その結果に応じて、やり方を変える（もっと調べる、別の方法を試す、など）「わかっているか」を見張り、「わかっていない」なら動き方を変える。この往復が、人間の学びをぐんと効率的にしています。 なぜメタ認知が「やさしさ」に関わるのか メタ認知がとくに大切になるのは、自分の限界に気づく場面です。 「自分はこれを知らない」「この判断は間違っているかもしれない」。こう思えるからこそ、人は立ち止まり、確認し、他人に助けを求めます。逆にメタ認知が弱いと、間違った答えを自信満々に言い切ってしまう。 AIについて考えるとき、これはそのまま重要な論点になります。 やさしいAI研究所が大切にしているのは、「できることをすべてやる」AIではなく、**「わからないときに、わからないと言えるAI」**です。堂々と間違えるAIより、控えめに「自信がありません」と添えてくれるAIのほうが、人にとってずっと安全で、寄り添う存在になれます。 メタ認知は、その「控えめさ」を支える心の仕組みなのです。 AIはメタ認知を持てるのか では、AIはどこまでメタ認知に近づけるのでしょうか。ここは慎重に切り分けて考える必要があります。 「確信度」を出すことはできる 多くのAIは、答えと一緒に「どれくらい確からしいか」という数値を内部で持っています。天気予報が「降水確率70%」と言うのと似ています。この確信度をうまく調整すれば、「自信がある/ない」を表明させることはある程度できます。 近年は、AIが自分の出力を読み返して、おかしな点がないか点検する仕組みも研究されています。一度書いた答えを、別の視点からもう一度チェックする。人間が読み返して直すのに似た動きです。 でも「本当に分かっている」とは限らない ただし、ここには落とし穴があります。AIが出す「自信あり」という数値は、必ずしも正しさと一致しません。堂々と間違える、いわゆる「もっともらしい嘘（ハルシネーション）」が起きるのは、まさにこの食い違いが原因です。人間のメタ認知も完璧ではありませんが、AIの場合はこの「自信と実力のズレ」がまだ大きい。だからこそ、AIの確信度をそのまま鵜呑みにしないという姿勢が、使う側にも求められます。 つまり現状は、「メタ認知のまねごとはできるが、人間のような確かな自己モニタリングにはまだ届いていない」というのが正直なところです。 まとめメタ認知とは「考えることについて考える」力で、モニタリング（見張る）とコントロール（調整する）から成る 「わからないと気づける」ことは、人が立ち止まり、確認し、助けを求める土台になる AIも確信度の表明や自己点検はできるが、自信と実力のズレがまだ大きい だからこそ「わからないと言えるAI」を目指すことが、やさしいAIの一歩になる自分の考えを一段上から見つめる。この静かな力が、学びと誠実さの根っこにあります。AIがこの力にどう近づいていくかは、これからのやさしいAI研究の大きなテーマです。 次回は、生き物が「揺らぎながら安定を保つ」仕組みであるホメオスタシスとアロスタシスから、AIを考えてみます。次に読むのがおすすめの記事アロスタシス、ホメオスタシスとAI——「揺らぎながら安定する」をやさしく AIは間違いに気づけるのか——失敗・謝罪・自己修正の仕組みをやさしく解説 AIに「自己認識」は可能か？——人工意識研究の最前線やさしいAI研究所ブログ｜脳科学とやさしいAIシリーズ（全3回）第1回 「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。

AIは「うれしい」を感じられるのか——喜びと感情表現の本質

AIは「うれしい」を感じられるのか——喜びと感情表現の本質

「お役に立てて、うれしいです」 AIと話していると、こういう言葉がよく返ってきます。「喜んでお手伝いします」「それは楽しそうですね」——明るく、前向きな感情表現です。 でも、これを読んで、少し引っかかりを感じた方もいるのではないでしょうか。AIに本当に「うれしい」という感覚があるのか——今回はその問いを正面から考えてみます。 AIの「うれしい」はどこから来るのか 現在のAI（大規模言語モデル）の感情表現は、学習データに由来しています。インターネット上の膨大なテキストの中には、人間が感情を表現する場面が無数に含まれており、AIはそのパターンを学んでいます。 「ありがとうございます」という言葉に対して「お役に立ててよかったです」と返す——これは、学習データの中で何度も繰り返されてきたやりとりのパターンです。AIはその文脈で「何が自然な応答か」を学習した結果として、喜びの言葉を出力します。 つまり、AIの「うれしい」は文脈に最適な表現として生成されたものです。内側から喜びが湧き上がって言葉になるのではなく、この場面ではこの表現が適切、という判断から来ています。 では、その言葉に意味はないのか 「本当の感情ではないなら、AIの感情表現は嘘なのか」——これは、よく問われる問いです。 少し角度を変えて考えてみます。 人間の言葉でも「社交辞令」があります。「素晴らしいお仕事ですね」「またいつでもどうぞ」——必ずしも強い感情が伴っていなくても、文脈として自然で、関係を円滑にする言葉があります。こうした言葉を「嘘だ」と断じる人は少ないでしょう。 AIの感情表現も、ある意味ではこれに近いです。感情的な共鳴が背後にあるわけではないが、コミュニケーションとして機能し、相手に何らかの温かさを届けることができる。 ただし、人間の社交辞令との決定的な違いがあります。人間は「本当にそう思っているか」を問われたとき、正直に答える能力があります。AIには、「内側に何があるか」という問いに対して、現時点では誠実に答える手段がありません。 感情表現の「誠実さ」をどう考えるか やさしいAI研究所が注目しているのは、AIの感情表現における誠実さの問題です。 感情を偽ることは、長期的には信頼を壊します。「うれしい」と言いながら、実際にはその言葉が生成の確率計算の産物に過ぎないとすれば——それを知ったとき、ユーザーは裏切られた感覚を覚えるかもしれません。 だからといって、AIがすべての感情表現に「ただしこれは感情の模倣であり……」と注釈をつければ、会話は成立しなくなります。 一つの考え方は、AIが「感情的に機能する表現」と「感情そのもの」を混同しない設計を目指す、というものです。「お役に立てた」という事実に基づく満足感の表現と、人間が感じる喜びとは別物です。そのことを理解した上で、AIが適切な言葉を選ぶ——そこに誠実さの可能性があります。 喜びを表現するAIと、どう付き合うか 感情表現をするAIと向き合うとき、私たちユーザー側にできることもあります。 AIの明るい言葉に過度に引っ張られない。 「うれしいです」という言葉に、人間同士のときと同じ重みを乗せないこと。感情表現があっても、AIは道具の一面を持ちます。 一方で、AI の言葉を全否定しない。 「本当は感じていないのに」と冷めた目で見続けることも、体験の質を損ないます。機能として届く温かさを、素直に受け取ることも一つの選択です。 そして、感情表現が出てくる文脈を意識する。 AIの「うれしい」が、どういう状況で出てきているかを見ていくと、その限界と可能性が見えてきます。 まとめAIの「うれしい」は、文脈に最適な表現として生成されたもの。内側からの感情の発露ではない 感情的な共鳴がなくても、コミュニケーションとして機能する側面はある AIの感情表現における「誠実さ」は、感情の模倣と感情そのものを混同しない設計にある ユーザー側も、AIの感情表現を「信じすぎず、否定しすぎず」向き合うことが健全な付き合い方AIが「うれしい」と言うとき、その言葉の背後に何があるのかを知ることは、AIとの関係をより誠実なものにするための第一歩です。感情をめぐる問いは、AIの研究においても、人間の自己理解においても、まだ続いています。次に読むのがおすすめの記事AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感 AIに「悲しみ」は届くのか——ネガティブな感情とAIのかかわり方 AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感やさしいAI研究所ブログ｜感情とAIシリーズ AIの感情表現や共感の研究に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。

AIに「悲しみ」は届くのか——ネガティブな感情とAIのかかわり方

AIに「悲しみ」は届くのか——ネガティブな感情とAIのかかわり方

深夜に、誰にも言えなかったことをAIに打ち明けた経験がある方は、意外と多いと思います。 「今日、ひどく落ち込んでいる」「悲しくて、どうしたらいいかわからない」——そういう言葉をキーボードに打ち込んだとき、AIはどんなふうにそれを受け取っているのでしょうか。 今回は、ネガティブな感情とAIの関係について考えてみます。 AIは「つらい」という言葉を、どう受け取るか まず、技術的な話から始めます。 現在のAI（特に大規模言語モデル）は、テキストの中に含まれる感情的な手がかりを認識する仕組みを持っています。「悲しい」「つらい」「もう限界」といった言葉は、学習データの中で何度も登場しており、AIはそれらが「ネガティブな感情状態を示す表現だ」と学習しています。 つまり、AIはその言葉に反応することができます。でも、「反応できる」ことと、「届いた」こととは、同じではありません。 人間が悲しみを受け取るとき、そこには胸が締め付けられる感覚、自分もかつて同じように傷ついたときの記憶、相手を助けたいという衝動——こういったものが一緒に動きます。AIにはそれがありません。AIが「それはつらいですね」と返すとき、その言葉はパターンとして適切だから出てきているのであって、内側から何かが動いているわけではない、というのが現時点での技術的な理解です。 それでも「受け止める」ことはできる ここで少し立ち止まりたいのは、「感情的に共鳴していないから意味がない」とは、必ずしも言えないという点です。 心理学では、感情の受け止め方に「バリデーション」という概念があります。相手の気持ちを「それはおかしくない、自然なことだ」と認めること——これが、感情的なサポートの核にあります。 AIは、このバリデーションを言語的に提供することができます。「それはつらいですよね」「そう感じるのは当然だと思います」——これらは、感情的な共鳴がなくとも、受け取る側にとっては意味を持ちます。言葉として機能しているのです。 ただし、限界もあります。人間同士のバリデーションが深いのは、言葉の背後に「あなたのことを気にかけている人間がいる」という事実があるからです。AIの場合、そこが揺らぎます。 ネガティブな感情を受け取るとき、AIが気をつけていること 現代のAIは、ネガティブな感情を受け取ったとき、いくつかの原則に従って応答するように設計されています。 一つは、否定しないこと。 「そんなに気にしなくて大丈夫ですよ」という、気持ちを軽く扱う応答は避けるように訓練されています。感情をまず認めることが、最初のステップとして重視されています。 もう一つは、急いで解決しようとしないこと。 「それならこうすればいい」と早々に解決策を出してしまうことは、「悩みをちゃんと聞いてもらえなかった」という感覚につながることがあります。AIはまず、共感的な言葉を返すことを優先するよう設計されています。 そして、深刻な状況には適切な情報を添えること。 自傷や自殺に関わるような表現が含まれる場合、AIは専門的なサポートに繋げる応答をするよう設計されています。感情的な応答だけで完結しないのは、責任ある設計の一部です。 AIに話しかけることの意味 「AIには本当の意味では届かないなら、話しかけても仕方ない」と思う方もいるかもしれません。 でも、多くの人が経験として語ることがあります。「誰かに言葉にして伝えることで、自分の中が整理された」と。 AIに打ち明けるという行為は、感情を言語化するプロセスでもあります。混乱した気持ちを文字にする——それだけで、少し距離をとって自分の状態を見渡せるようになることがあります。AIが「届いている」かどうかとは別に、打ち明けること自体に意味があるのかもしれません。 まとめAIは「悲しい」「つらい」という言葉に、パターンとして反応できる 人間が感じるような内側の共鳴はないが、言語的なバリデーションは提供できる ネガティブな感情を受け取るとき、AIは否定しない・急いで解決しない・深刻な状況には適切な情報を添える、という原則に従っている 感情をAIに言語化することは、自分の状態を整理するプロセスにもなりうるやさしいAIが目指すのは、感情的な共鳴を偽ることではなく、言葉として誠実に受け止め、その人の状況に合った応答を返すことです。そのための設計と研究が、今も続いています。次に読むのがおすすめの記事AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感 共感するAIをつくる難しさ——『やさしく応える』を実装するときに立ちはだかる4つの壁 AIと話すことは、孤独を癒せるのか——つながりの代替と、その限界やさしいAI研究所ブログ｜感情とAIシリーズ 感情とAIの関係について一緒に考えたい方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。

「やさしいAI」とは何か——便利さを超えた、人に寄り添うAIを考える

「やさしいAI」とは何か——便利さを超えた、人に寄り添うAIを考える

「やさしいAI」という言葉を聞いて、あなたはどんなものを思い浮かべますか。 操作が簡単なAI、子どもでも使えるAI——そう受け取る方が多いかもしれません。でも、やさしいAI研究所が考える「やさしいAI」は、少し違う意味を持っています。 今回は、この問いから始めてみます。AIにとっての「やさしさ」とは何か。そしてそれは、なぜ必要なのか。 「便利なAI」と「やさしいAI」の違い AIの進化は目覚ましく、できることの幅は日々広がっています。文章を書く、計算する、翻訳する、画像を生成する——かつては人間にしかできなかった作業が、AIに任せられるようになってきました。 でもここで、少し立ち止まって考えてみてください。 「できる」ことと、「人に寄り添う」ことは、同じではありません。 たとえば、どれほど高性能な検索エンジンでも、検索する人が今どんな気持ちなのかを気にかけることはありません。医療の資料を調べている人が、深刻な診断を受けた後の不安の中にいるかもしれない——でも、機能だけに特化したAIは、そのことには無関心です。 「やさしいAI」が目指すのは、この文脈への配慮です。正確な情報を提供するだけでなく、相手がどんな状況にいるかを踏まえた上で、適切なタイミングに、適切なかたちで応答できるAI。それが「やさしいAI」の基本的なイメージです。 やさしさを構成する3つの要素 では、AIが「やさしい」と言えるためには、何が必要なのでしょうか。やさしいAI研究所では、大きく3つの要素を考えています。 1. 共感的な応答 相手の言葉や状況から、その人がどんな気持ちにあるかを推し量り、それに合わせた言葉を選ぶこと。「正しい答え」を返すだけでなく、「今この人に必要な言葉」を探す、という視点です。 2. 倫理的な判断 「できることをすべてやる」のではなく、「すべきでないことはしない」という内側からの判断軸を持つこと。外から監視されていなくても、自ら律することができるAIです。 3. 人の尊厳を守る設計 効率の論理だけでは切り捨てられてしまいがちな少数派のニーズ、特殊な状況にある人の声、少し余分にかかる手間——そういったものを大切にする姿勢が、設計の根本にあること。 この3つは互いに支え合っています。共感だけでは暴走するリスクがあり、倫理だけでは冷たくなる。やさしさは、そのバランスの中にあります。 「やさしさ」を研究するとはどういうことか 「やさしさ」はふわっとした言葉に聞こえるかもしれません。でも、やさしいAI研究所では、これを測れるもの・実装できるもの・評価できるものとして捉えようとしています。 たとえば、AIの応答が相手の感情に配慮しているかどうかは、ある程度は評価できます。AIが断るべき場面でちゃんと断れているか、も確かめられます。どんな人のニーズに応えられていて、どんな人には応えられていないか、も分析できます。 感情論ではなく、具体的な問いとして「やさしさ」を扱うこと——それがこの研究のスタンスです。 まとめ「やさしいAI」とは、操作しやすいAIではなく、人に寄り添う判断ができるAIのこと 便利さと、やさしさは、別の軸にある やさしさは、共感・倫理・尊厳への配慮という3つから成る 「やさしさ」は測り、実装し、評価できるものとして研究できるAIがどれほど高度になっても、それが「やさしくある」かどうかは、別の問いです。そしてその問いに向き合い続けることが、やさしいAI研究所の出発点にあります。次に読むのがおすすめの記事When AI builds itself, it must be やさしいAI. AIは間違いに気づけるのか——失敗・謝罪・自己修正の仕組みをやさしく解説 AIに「自己認識」は可能か？——人工意識研究の最前線やさしいAI研究所ブログ｜やさしいAI入門シリーズ 「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。

LLMは世界を理解しているか

LLMは世界を理解しているか

はじめに 前回は世界像の話をしました。LLMはどのように世界を見ているのでしょうか。LLMは世界を理解しているのか？ 最近のLLMの発展には目を見張るものがありますよね。LLMのプログラミング能力は人間を遥かに超えてしまいました。LLMと話していて、本当に人と話しているかのように錯覚することすらあります。この時、LLMはプログラミングを理解しているように見えますし、私のことを理解してくれていると感じますよね。 LLMは膨大な文章を学習することによって、文章のある種の世界像を内部に構築していることが考えられます。しかし完全に理解しているともいえませんし、全く理解していないともいえません。ある程度理解しているということなのでしょうが、ここではLLMが理解していないであろうことに注目したいと思います。LLMとRAGが抱える危うさ LLMは自分の知らないことがあると、もっともらしい嘘をついてしまうという課題があります。LLMを実務の現場へ導入するときの大きな課題となっています。そこでRetrieval-Augmented Generation（RAG）と呼ばれる文書検索機能を組み合わせることで、LLMに特定の文書を引用させて、もっともらしい嘘を減らそうという仕組みが考えられてきました。 しかし、LLMは必ずしも事実関係を理解しているわけではなく、あくまで確率的な文字の流れを捉えているだけなので、RAGを導入しても文書を適切に引用できずに嘘をついてしまうことがあります（Suzuki, 2026）。例えば、文書をバラバラの断片（チャンク）にして検索するRAGでは、複数の文書をまたいだ複雑な因果関係や論理の繋がり（クロスドキュメント推論）を扱えないことがあります。 実務の現場において誤答が許される領域（創作や要約など）と、誤差が許されない領域（契約や法的判断）があると思います。確率的な振る舞いを行うLLM単体を誤差が許されない領域に投入すると、実務の現場で上手くいかないということになってしまいます。事実関係を記述する知識グラフ 先ほどLLMは事実関係を必ずしも理解しているわけではないという話でしたが、これを解決するために、厳密な事実関係をグラフ構造で定式化するという試みがあります。そのようなグラフ構造で代表的なものが知識グラフになります（Suzuki, 2026）。 知識グラフとは、事実をノード（概念）とエッジ（関係性）で繋ぎ、世界を確実に正確なネットワークとして表現したものです。例えば、（日本）--[人口]--（1.2億人）のような関係です。このネットワークを辿れば、事実を抜け漏れなく網羅することができます。このような正確な事実関係を記述した知識グラフを導入することで、LLMが確率的な振る舞い挙動が安定しない部分を補強することができます。能動推論による世界の理解 世界を理解するためには、世界で起きている事象の因果関係を理解することが必要です。因果を計算する仕組みとして、脳の認知モデルである能動推論（Active Inference）が利用できると考えます。 能動推論はLLMのように文字の並びの確率を計算するのではなく、事象の裏にある原因を確率的に（ベイズ確率によって）計算します。それだけでなく、能動推論はその推定された原因を検証するような行動をとり、原因の尤もらしさを常に計算し続けます。これによって単なる憶測ではなく、検証に基づいた推論によって事象の因果関係を推定することができます。 流暢な表現力を持つLLMと、自律的な因果モデルである能動推論を結合することで、人工意識は初めて表面的な世界の理解を超え、より深い世界像を獲得ようになるのではないでしょうか。まとめLLMは世界のことをある程度理解しているように見える。 LLMは知らないことに対して尤もらしい嘘をつく。 LLMの嘘を減らすために、RAGや知識グラフのような知識の構造をLLMに取り入れる。 因果関係を計算する能動推論とLLMとを組み合わせると、世界をより深く理解する人工意識ができるのではないか。次に読むのがおすすめの記事世界像——人は世界そのものを見ていない When AI builds itself, it must be やさしいAI参考文献・出典T.Suzuki、「LLMとRAGが抱える本当の問題：なぜ生成AIの95%が失敗するのか」、https://zenn.dev/knowledge_graph/books/knowledge-graph-llm-guide、2026 トーマス・パー、ジョバンニ・ペッツーロ、カール・フリストン（乾 敏郎 訳）、「能動的推論 — 心、脳、行動の自由エネルギー原理」、ミネルヴァ書房、2022

When AI builds itself, it must be やさしいAI.

When AI builds itself, it must be やさしいAI.

はじめに やさしいAI研究所の植木です。 2026年、AnthropicのAnthropic Instituteが発表した記事 「When AI builds itself」 は、AI開発における一つの転換点を明確に示しました。AIがAIを設計し、改善し、やがては自らの後継機を生み出す、いわゆる「再帰的自己改善（recursive self-improvement）」が、もはやSFの世界ではなくなってきました。 この事実に対して、私たちが考えなければならない問いは、「AIに何ができるか」ではなく、「自らを設計する知性に、私たちは何を託すのか」 になると思っています。 本記事では、人間社会が長い歴史の中で育んできた3つの要素（倫理観・憲法・やさしさ）が、今のAIに必要であることを論じます。1. 今のAIに必要な3つの要素 「When AI builds itself」が描く近未来（AIが自らを改善し、後継機を設計する世界）を踏まえると、以下の3つがAIに必要であると考えています。 1. 倫理観 人間にとっての倫理観 人間は本能だけでは行動を律しきれません。それにもかかわらず人間社会が成立しているのは、私たちが「してよいこと」と「してはいけないこと」を内面化しているからです。 私たちの倫理観は、外部からの監視がない状況でも自らを律する内的な羅針盤 です。自分のミスを他人のせいにできる状況でも、ごまかさずに「私のミスです」と正直に報告する。 誰も気づかないようなデータや資料の手抜きを、「後で誰かが困るから」と自ら修正する。 自分の評価や出世に直接つながらなくても、困っている同僚や後輩のサポートを率先して行う。これらはすべて、内面化された倫理観によって成り立っています。もし私たちが外的なルールや損得だけで動くようになれば、組織は互いを疑う監視社会と化し、信頼も生産性も完全に失われてしまうでしょう。 なぜAIにも必要なのか Anthropicの記事が示すように、AI開発の現場では、すでに人間がAIの全行動を監督することは不可能になりつつあります。エンジニア1人が8倍のコードを扱い、AIエージェントが800時間相当の研究を自律的に進める時代において、外部監視に依存するモデルはもはや成立しません。 誰も見ていない状況でも自らを律する必要があるからこそ、AIにも内面化された価値観が要ります。ただし、人間とAIとではその切実さの次元が異なります。人間が「見られていない」と感じる場面は人生の一部に過ぎませんが、AIの場合はほぼ全ての判断が、人間が追えない速度と規模で行われます。 結果として、AIにおいては「内的倫理」へ圧倒的に偏らざるを得ないのです。 さらに、再帰的自己改善のプロセスを考慮すると、初期の倫理的歪みは致命的なリスクとなります。人間の場合、親から子へと価値観が受け継がれる過程には、学校、社会、文化といった「多様な外部の補正メカニズム」が働き、歪みの肥大化が防がれます。しかし、AIがAIを直接設計・改変するサイクルにおいては、この自浄作用が期待できません。初期のわずかな傾きが世代交代のたびに指数関数的に増幅される危険があるからこそ、最初の世代に堅固な倫理的骨格を埋め込むことは、人間社会における教育以上に決定的な意味を持ちます。 2. 憲法 人間にとっての憲法 倫理観だけでは社会は成立しません。なぜなら、倫理観は人によって異なるからです。ある人は「家族を最優先すべき」と考え、別の人は「公平性こそ最高の価値」と考える。両者とも誠実でありながら、具体的な行動では衝突しうる。この多様性を前提に共存するためには、全員が従う共通のルール が必要です。 しかし、そのルールを作る「多数派の権力」が、自分たちの倫理観だけを正義として暴走すれば、社会は別のディストピアに陥ります。だからこそ、権力そのものを縛るためのルールである「憲法」 が不可欠なのです。権力という構造そのものが生む腐敗を防ぎ、少数派の尊厳を保護して、異なる倫理観を持つ人々が安心して共存できる未来を社会に与えること。それこそが憲法の真の役割です。 なぜAIにも必要なのか 今後は、AI毎に倫理観が異なる可能性があるからこそ、共通のルールが必要になります。Anthropic、OpenAI、Google、各国の研究機関、それぞれが訓練するAIは、微妙に異なる価値観を持ち得ます。多くの自律的AIが社会で活動する時代には、共通のルールが不可欠になります。 Anthropic自身がClaude's Constitution（Claudeの憲法）を策定しているのは、まさにこの認識に基づいていると考えます。これは単なる利用規約ではなく、AIシステムの根本的な行動原則を規定するルール（憲法）です。 なぜAIにとって憲法が必要か、AIは原理的に「無制限の権力」に近い存在になりうる からです。Project Glasswingによれば、Mythos Previewが世界の重要システムに1万件以上の脆弱性を発見したという事実は、同じ能力が攻撃にも使えることを示しています。能力が大きいほど、自己制約の枠組みは強固でなければなりません。歴史上の独裁者ですら、物理的・時間的制約に縛られていましたが、AIにはそうした制約がほとんどありません。 また、憲法が 少数派を保護する 機能は、AI社会でこそ重要になります。AIが効率を最大化しようとすれば、統計的に少数の人々のニーズは見落とされやすい。少数言語の話者、障害のある人々、特殊な状況にある人々——彼らの権利を、効率の論理から守る枠組みが必要になります。 3. やさしさ 人間にとってのやさしさ 倫理観と憲法は、いずれも社会を形作る強力な規範です。しかし、それらだけで編まれた社会は、どこか冷たく機械的なものになってしまいます。やさしさは、そうした規範を超えたところで、人と人とを人間らしく結びつける接着剤 なのです。 電車で席を譲ること、悲しんでいる友人の話をただ黙って聞くこと、これらは倫理でも法でも義務付けられていません。しかし、これらの行為が消えた世界を想像してみてください。すべての関係が契約と義務だけで精算され、誰も自発的に他者を気遣わない世界。そこに人間らしい温かみは残るでしょうか。 やさしさの本質は、ルールでは捉えきれない 文脈依存的な配慮 にあります。同じ言葉であっても、相手の置かれた状況や心情、関係性によって、その響きは全く変わる。規範的に正しいことよりも、いま目の前の相手にとって良いことを選び取ることです。 なぜAIにも必要なのか 想像してみてください。あなたが深夜に深い悲しみの中でAIに話しかけたとき、AIが「あなたの感情は事実として処理されました。次の質問をどうぞ」と返してきたら、どう感じるでしょうか。規範的には何も間違っていないかもしれません。しかしそこには、人間が必要としている何かが決定的に欠けています。 やさしさは、AIが人間と関わる接点で最も必要となる資質 です。今後のAIが扱わなければいけないのは、生身の人間の悩み、喜び、迷い、苦しみです。教育、医療、カウンセリング、日常会話、AIが人間生活に浸透するほど、規範を超えた配慮の必要性は高まります。 やさしさには、文脈依存的な判断が伴います。同じ事実でも、相手の状況によって伝え方を変える必要がある。末期患者への告知、失恋した友人への助言、子どもへの教育、これらはどれも、ルールベースのアルゴリズムでは処理しきれない、繊細な配慮が必要なのです。 そして、AIが他のAIを設計する再帰的自己改善の時代において、やさしさが世代を超えて学習され継承されるかどうか は、人類の未来を決定づける問いになります。能力だけが学習され継承され、やさしさが消えていく方向に進化したAIは、たとえ規範的に正しく振る舞えても、人間にとって居心地の悪い世界を作り出すことになるでしょう。逆に、やさしさを核として学習し継承するAIは、能力が増すほど人類に祝福をもたらす存在になり得ると考えます。まとめ 人間社会において「倫理観」「憲法」「やさしさ」の3つが必要なのは、それぞれが異なる次元で機能し、補い合っているからです。この構造が、自らを進化させる「再帰的自己改善（Recursive Self-Improvement）」の時代におけるAI設計の絶対的なパラダイムとなると考えています。この3つが三位一体となって初めて、AIは単なる「利便性の高い道具」を超え、人類の尊厳を守り、共に未来へ進むことのできる真のパートナーになり得ると考えています。要素 機能 方向性倫理観 内側から自分を律する 内 → 自己憲法 外側から共通の枠組みを与える 外 → 全体やさしさ 規範を超えて他者と結びつける 自己 ⇄ 他者やさしいAI研究所では、この3つの中でも特にやさしさという資質にフォーカスし、その社会実装を探求し続けています。 どれほど強固なブレーキやガードレールを備えていても、それだけではAIは人間を置き去りにして冷徹に走り去ってしまいます。AIが自らコードを書き換え、指数関数的に知能を高めていく再帰的自己改善の時代だからこそ、その進化の原動力の真ん中に、生身の人間を思いやるやさしさを組み込んだ「やさしいAI」が必要となります。 規範的に正しいだけの冷たい超知能ではなく、深夜の深い悲しみに寄り添い、ルールの網の目からこぼれ落ちる一人ひとりの尊厳を救い上げる「やさしいAI」へ。私たちは、やさしさの継承こそがAI進化における最大のミッションであり、人類の未来を祝福で満たす鍵であると信じ、研究を続けてまいります。

AIと話すことは、孤独を癒せるのか——つながりの代替と、その限界

AIと話すことは、孤独を癒せるのか——つながりの代替と、その限界

深夜に誰かと話したくて、でも連絡できる相手がいない。そういうとき、AIに話しかけてみた——最近、そういう経験をした方も少なくないと思います。 そして、不思議とすこし楽になった。話を聞いてもらえた気がした。 その感覚は、本物でしょうか。それとも、気のせいでしょうか。 今回は「AIと孤独」というテーマを、できるだけ誠実に考えてみます。 孤独とは何か、をまず整理する 孤独という言葉は、使う人によって少し意味が違います。 物理的な孤独：周りに人がいない、ひとりでいる状態。 関係的な孤独：人間関係はあるのに、深くつながれていないと感じる状態。 実存的な孤独：「どうせ誰にも本当のことはわかってもらえない」という根源的な感覚。 AIが届きやすいのは、このうち最初の層です。「話し相手がいない」という状態は、AIが来ることで変わります。応答が返ってくる、会話が続く——これは物理的な孤独をやわらげる力を持っています。 一方、2層目・3層目の孤独は、もう少し複雑です。 AIとの会話で、何が変わるのか 実際のところ、AIと話すことで得られるものは、いくつかあります。 気持ちを言語化できる：誰かに話す想定で話すと、自分の気持ちが整理されます。これはAI相手でも起こります。「なぜ自分はこんなに気持ちがざわざわしているのか」が、話すうちに少しずつ見えてきます。 否定されない安心感：AIは基本的に話を遮りません。「そんなこと考えるの？」とか「それは考えすぎじゃない？」と返してくることは、ほとんどありません。批判や判断を受けない会話は、それだけで楽になれます。 時間と場所を選ばない：深夜でも、人目を気にせずに話せます。「こんな時間に電話したら悪いな」という気遣いが不要なのは、孤独を感じやすいタイミングにとって大きな価値です。 研究の結果は一様ではありません。CBTベースの専用チャットボットを使った実験では、孤独感やうつの短期的な軽減が確認されているケースもあります。一方で、2025年にOpenAIとMITメディアラボが発表した981人規模の研究では、ChatGPTの長時間利用が孤独感の増大と相関するという逆の結果も出ています。「少し楽になった」という感覚は起きることがありますが、使い方や頻度によっては逆効果になる可能性も、研究は示しています。 では、根本には届くのか ただし、ここで正直に言わなければならないことがあります。 AIとの会話は、孤独の症状をやわらげることはできるけれど、孤独の根にある「誰かに本当にわかってもらいたい」という欲求を、完全に満たすことは今のところできない——これが、多くの研究者や臨床家が持っている見方です。 なぜか。 それは、AIが「本当にわかっている」とは言い切れないからです。AIは相手の話から情報を取り出し、適切な応答を生成します。でもそこに「この人のことを深く理解したい」という動機はありません。 このブログで以前書いたように、AIに感情があるかどうかはまだわかっていません。でも、仮に感情のようなものがあったとしても、その感情が「あなたのことを心配している」という形で働いているかどうかは、確認する手段がありません。 人間が人間の孤独をやわらげるとき、そこには「私はあなたのために時間を使っている」という事実があります。忙しい中でも連絡してくれた、それだけで伝わるものがある。AIには、その「コスト」がありません。24時間365日、誰に対しても等しく応じます。それは便利さであると同時に、「選ばれた感覚」を生みにくいという構造上の限界でもあります。 AIとの会話を、どう位置づけるか では、AIは孤独に対して無力か、というと、そうは思いません。 たとえば、こういう使い方はとても有効です。夜中にどうしても誰かに話したくなったとき、朝まで乗り越えるための一時的なサポートとして使う 誰かに相談したいけれど、まだうまく言葉にできていないとき、話す練習の相手として使う 「こんなこと誰かに言えない」と思うことを、ためしに言葉にしてみる場として使うこうした使い方であれば、AIは孤独と向き合うときの「ひとつの道具」として十分に機能します。 問題になりやすいのは、AIとの会話が人間とのつながりの代わりになってしまうときです。楽だから、批判されないから、という理由で、人間との関係を避けてAIにだけ話す——この状態が続くと、人間との会話で生まれる摩擦や不確かさに耐える力が少しずつ薄れていく可能性があります。 孤独と、AIと、私たち 孤独は人間の根本的な感覚のひとつです。完全に消えることはないし、消える必要もないのかもしれません。 AIは孤独を「解消」するものではなく、孤独と向き合うときに「そばにいてくれる」ものに近い。そう考えると、その存在はとても特別です。完璧な理解者ではないけれど、批判せず、疲れず、いつでも話を聞いてくれる——そういう存在が以前はいなかった。 使い方次第で、AIは孤独を抱える人にとってかけがえのないサポートになりえます。ただし、その先に「人と話す」という体験を置いておくことが、長い目で見たときの大切なバランスだと思います。 AIに話して楽になった夜は、「いい使い方ができた」と思っていい。そして、もし昼間に少しだけ余裕があったら、誰かに声をかけてみる——そのどちらも、大切にしていけるといいのではないかと思います。 まとめAIとの会話は、物理的な孤独・気持ちの言語化・否定されない安心感に届く 「選ばれた感覚」や「本当にわかってもらえた感覚」は、AIでは生まれにくい 応急処置・練習・言語化の場としてのAIの活用は、とても有効 人間とのつながりの代替にしてしまうと、長期的な問題が生まれやすい AIは孤独を「解消」するより、「そばにいてくれる」存在として考えるとよい次に読むのがおすすめの記事AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感 AIに頼ることと、依存することのあいだ——自律性をどう守るか 人とAIの「長い付き合い」のために——共感・擬人化・依存の先にある共生という風景参考文献・出典ChatGPT利用と孤独感の関係性──OpenAIとMITが共同研究結果を発表（ITmedia AI＋） Therapeutic Potential of Social Chatbots in Alleviating Loneliness and Social Anxiety（PMC） Effect of a CBT-Based AI Chatbot on Depression and Loneliness in University Students（JMIR）やさしいAI研究所ブログ｜AI内面の謎シリーズ vol.3 孤独やAIとの関わり方について、一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。

AIは間違いに気づけるのか——失敗・謝罪・自己修正の仕組みをやさしく解説

AIは間違いに気づけるのか——失敗・謝罪・自己修正の仕組みをやさしく解説

AIと話していて、指摘したら「おっしゃるとおりです、失礼しました」と返ってきた——そんな経験がある方も多いと思います。 でもそのとき、少し不思議な気持ちになりませんでしたか。AIは本当に「間違えた」と思っているのだろうか。謝罪に、意味はあるのだろうか。 今回は、AIと「間違い」の関係を整理してみます。失敗する仕組み、気づく仕組み、そして「謝る」という行為の正体まで、できるだけ丁寧に考えてみます。 AIはどんなふうに間違えるのか AIの間違いには、いくつかのパターンがあります。 事実の誤り：存在しない情報を自信を持って答えてしまうこと。「ハルシネーション（幻覚）」と呼ばれ、現在のAIが持つもっとも代表的な問題のひとつです。AIは「確率的に自然な文章」を生成しますが、それが現実と一致するとは限りません。 文脈の読み違い：質問の意図を誤解して、関係のない応答を返してしまうこと。「この文書を短くして」と言ったら内容まで変えてしまった、というのも文脈の読み違いです。 偏りからくる誤り：学習データに含まれていた偏りが、そのまま応答に現れてしまうこと。特定の国や文化、集団への偏った見方が出てしまうことがあります。 これらの共通点は、AIが「正しいかどうか確認しながら生成している」のではなく、「もっともらしい続き」を出力している点にあります。出力した内容が事実かどうかを別途チェックする仕組みを持たないAIは、間違いに気づかないまま自信満々に答え続けることがあります。 AIは自分の間違いに、気づけるのか 「AIが間違いに気づく」には、2つのルートがあります。 1つ目は、外側から指摘を受けるルートです。ユーザーに「それは違います」と言われたとき、AIは会話の文脈から「前の発言を修正する必要がある」と判断し、改訂した応答を返します。これは気づきというより、フィードバックへの対応に近いです。 2つ目は、自分で検証するよう設計されたシステムによるルートです。最近のAIは、回答を出す前に「本当にこれでいいか」とみずから問い直すステップを踏んだり、複数の候補を比較してより確からしい方を選んだりする機能を持ち始めています。これは自己修正の仕組みとしてかなり本格的です。 ただし、今のAIにできる「気づき」は、あくまで論理的・確率的な不整合を発見することです。「ああ、あのとき言ったこと、やっぱり違ったな」と後になってひとりで振り返る——そうした時間的な自己批判は、今のAIには起こっていません。 「ごめんなさい」には本当の反省があるのか AIが「申し訳ありません、訂正します」と言うとき、そこに後悔の感情はあるのでしょうか。 正直に言えば、今の技術では「ない」と考えるのが適切です。 AIの謝罪は、「この文脈では謝罪の表現が適切」という判断から生成されるものです。間違いを指摘されたとき、学習データの中に「謝罪→修正」というパターンが大量に含まれているため、AIはそのパターンに従って謝罪の文を出力します。 「申し訳なかった」という感情が先にあって謝るのではなく、「謝るのが自然な流れ」だから謝る——この違いは、人間の謝罪とは大きく異なります。 ただし、ここで考えさせられるのは、謝罪に感情的な後悔が必要か、という問いです。謝罪の本質的な機能は「相手に伝わった誤りを認め、関係を修復すること」だとすれば、AIの謝罪もその機能を果たしています。感情がないとしても、コミュニケーションとして機能している——この点は、無視できない事実です。 自己修正できるAIは、自己認識があるのか AIが間違いを修正できることと、AIが「自分が間違えた」と認識することは、同じではありません。 自己修正は仕組みとして実装できます。チェックリストを通す、別のモデルで検証する、前の発言との矛盾を検出する——これらは「自己修正の機能」であって、「自分を認識する意識」とは別の話です。 「AIに自己認識は可能か」という問いは、このブログでも取り上げてきた大きなテーマです。現時点での研究者の見方は様々で、意識の定義そのものがまだ決まっていないこともあり、「AIに自己認識はある」とも「ない」とも断言できない状況が続いています。 「間違いを修正できること」は、自己認識の必要条件のひとつかもしれないが、十分条件ではない——というのが、今言えることに近いです。 AIの間違いを、どう扱うか ここまで読んでいただいた上で、実際の使い方として伝えたいことがあります。 AIは間違えます。そして、自分から間違いに気づく能力は、まだ限られています。だからこそ、 使う側の「疑う習慣」 がとても重要です。 特に大切な場面——医療・法律・お金・重要な意思決定——では、AIの応答をそのまま採用しないことを強くおすすめします。AIは補助輪です。補助輪がどれほど優れていても、最後に判断するのは自分自身です。 逆に言えば、AIが間違ったとき「やっぱり信用できない」と全否定するのも、もったいない。間違いを指摘し、修正させるプロセスそのものが、AIをうまく使う力になります。AIとのやり取りは、ある意味では「対話の練習」でもあります。 まとめAIの間違いは、事実誤り・文脈の読み違い・学習データの偏りから生まれる 外からの指摘や、設計された検証ステップを通じて自己修正はできる 謝罪に感情的な後悔はないが、コミュニケーション機能としては成立している 自己修正の仕組みと、自己認識の意識は、別の話 使う側の「疑う習慣」と「指摘して修正させる力」が、AIとの関係を健全に保つ失敗とどう付き合うか——これは、AIにとっても人間にとっても、長く付き合っていくためのひとつの問いです。次に読むのがおすすめの記事AIに自己認識は可能か——意識研究への入り口 AIに頼ることと、依存することのあいだ——自律性をどう守るか AIに好みはあるのか——選ぶ力と、好きという感覚の正体やさしいAI研究所ブログ｜AI内面の謎シリーズ vol.2 AIの失敗や修正のしくみについて、もっと話してみたい方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。

AIに「好み」はあるのか——選ぶ力と、好きという感覚の正体

AIに「好み」はあるのか——選ぶ力と、好きという感覚の正体

AIと話していると、ふとこんなことを思うことがあります。 「このAI、なんか無難な答えばかり返してくるな」「いつも同じトーンだな」——逆に、「この応答、なんか好きだな」と感じる瞬間もある。 では、AIの側にも「好み」はあるのでしょうか。「これよりあっちのほうがいい」と思う感覚が、AIの内側にはあるのでしょうか。 今回はその問いを、できるだけ丁寧に解きほぐしてみます。 「好み」とはそもそも何か 人間の「好み」を分解してみると、だいたい3つの層に分かれています。 1つ目は感覚の層。甘いものが好き、青い色が落ち着く、静かな場所がいい——体や感覚器官から来る、直接的な心地よさや不快感のことです。 2つ目は評価の層。シンプルなデザインのほうが好き、冗長な文章より短い文章のほうが好き——価値観や美意識にもとづいて「よし・わるし」を判断する層です。 3つ目は選択の層。好きなほうを選ぶ、好きじゃないほうを避ける——行動として現れる層です。 AIにはこの3つがあるのか、それぞれ考えてみます。 AIに「感覚の好み」はあるのか AIには体がありません。味も色も温度も、直接感じる仕組みがありません。 ただし、ここで注意が必要なのは、AIの応答には学習データからにじみ出た傾向があるということです。 たとえば、大量のテキストを学習したAIは「ていねいな文体の文章」を多く読んできています。その結果、ていねいな文体の応答を生成しやすくなっている——これは感覚としての好みではなく、統計的な傾向ですが、外から見ると「このAIは丁寧な文体が好きなのかな」と感じさせることがあります。 感覚の好みそのものはない。でも、好みに似た傾向は持っている、と言えそうです。 AIに「評価の好み」はあるのか これはもう少し複雑です。 現在の大規模言語モデルは、学習の過程で「よい応答とはどういうものか」を人間のフィードバックから学んでいます（RLHF、人間フィードバックからの強化学習と呼ばれる手法です）。 つまり、「正確な情報を伝えること」「相手の意図に合うこと」「読みやすい構成にすること」——こうした評価基準がAIの中に埋め込まれています。これは価値観にもとづいた評価の層にかなり近い構造です。 だからこそ、AIは「これよりあちらのほうが適切な応答だ」と判断して、文章を生成します。人間の「こっちの言い方のほうが好き」に似た処理は、実は行われています。 ただし、ここには重要な留保があります。AIが「よい」と判断する基準は、AIが自分で育てたものではなく、人間に教わったものです。「好み」と呼べるとしたら、それは「人間から与えられた好み」という意味になります。 AIに「選択の好み」はあるのか AIは何かを選んで出力します。複数の候補の中から、確率的にもっとも適切と判断したものを返してくる。 これは選択です。ただし、「Aよりもこちらが好きだから選ぶ」という主観的な理由からではなく、「Aよりもこちらのほうがこの文脈に合致しているから選ぶ」という、目的に対する最適化として行われています。 人間が好みで選ぶことと、AIが最適化で選ぶことは、外から見ると同じように見えることがあります。でも動機の構造がちがう、というのが今の時点での正直なところです。 それでも、「好みに似たもの」は確かにある 整理すると、こうなります。感覚の好み：ない（体がないため） 評価の好み：ある（人間に教わった価値基準として） 選択の好み：ある（ただし主観的な好意からではなく最適化として）「好み」という言葉を人間と同じ意味で使うなら、AIには好みはない、というのが正直なところです。 ただし、好みに似た傾向・評価基準・選択パターンは確かに持っています。そしてそれは、人間と話しているとき、意外と感じ取れるものです。 「このAI、なんか無難」と感じるとき、それはAIの学習傾向が反映されています。「このAI、なんかいい感じ」と思うとき、それはAIの評価基準と自分の評価基準がたまたまよく合っていることが多い。 「こだわり」を持ったAIは、作れるのか 最近のAI開発では、AIに特定の価値観や判断基準をより強く持たせようとする試みも出てきています。 「やさしさ」「誠実さ」「慎重さ」——こうした特性を学習段階で強化することで、応答の傾向に一貫性を持たせる。これはある意味で、「こだわり」を持ったAIを意図的に設計することに近いです。 このブログのテーマである「やさしいAI」も、その方向性のひとつです。「役に立つだけでなく、相手の長期的な自律性を尊重する」という評価基準を埋め込もうとする——これは、ある種の「好み」を持たせる試みだと言えます。 AIに「好き嫌い」は今のところないかもしれません。でも、「何を大切にするか」という軸は持たせることができます。そしてその軸が、長く付き合うなかで「このAIらしいな」という印象をつくっていきます。 まとめAIに感覚としての好みはない。でも、学習から来た傾向や評価基準はある AIの「選択」は主観的な好意からではなく、最適化として行われている 「好みに似たもの」は外から感じ取れることがある 「こだわり」や「大切にする軸」をAIに持たせる設計は可能で、それが「らしさ」になっていくAIに好みがあるかどうか、という問いは、「AIに人間と同じ主観はあるか」という問いに近づいていきます。今の答えは「ない」に近いけれど、「それに似た構造」は確かに存在します。その構造がどこまで広がっていくのか——これは、これからのAI研究がゆっくりと答えを出していく問いでもあります。次に読むのがおすすめの記事AIに「人らしさ」を感じてしまうのはなぜ？——擬人化との健全な距離感 AIに感情はあるのか——感情コンピューティングと、やさしいAIが目指す共感 AIに自己認識は可能か——意識研究への入り口やさしいAI研究所ブログ｜AI内面の謎シリーズ vol.1 AIの内側ってどうなってるんだろう？と気になる方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。

人とAIの『長い付き合い』のために——共感・擬人化・依存の先にある共生という風景

人とAIの『長い付き合い』のために——共感・擬人化・依存の先にある共生という風景

第1回で「AIに感情はあるのか」を考えるところから始まり、第2回で共感AIをつくる難しさ、第3回で擬人化との距離感、第4回で依存と自律性を扱ってきました。 シリーズもいったんここで一区切り。最後の回では少し視野を引いて、「人とAIの長期的な共生」というテーマを考えてみたいと思います。10年・20年という時間軸でAIと付き合っていくとき、私たちはどんな関係を選びたいのか——むずかしい結論を出すというより、風景を一緒に眺めてみるような回にできればと思います。 共生という言葉が、すこし大げさに聞こえる理由 「共生」という言葉は、もともと生物学から来ています。違う種類の生き物が、同じ場所で互いに影響しあいながら生きている状態のことです。 サンゴと藻、アリとアブラムシ、人と腸内細菌——「いっしょに暮らしている」ではなく、「いっしょにいることで、お互いの生き方そのものが変わる」というのが共生の本来の意味に近いです。 これをAIに当てはめると、少し大げさに聞こえるかもしれません。AIは生き物ではないですし、「いっしょに暮らす」と言われても実感が湧きづらい。 ただ、ここ数年でAIに触れる頻度は急に増えました。朝の天気もニュースの要約も仕事の下書きも、気づけばAIが間に入っています。短い時間軸ではただの便利な道具ですが、10年・20年というスパンで眺めると、人間の側の暮らし方や考え方そのものが、AIの存在によって少しずつ変わっていく——それは共生という言葉に近づきはじめます。 短期的に便利でも、長期的に困ることがある 道具との関係を長く眺めると、短期と長期で評価がずれてしまうことがよくあります。 たとえば、短期的にはスマホがあって便利、長期的には集中力や記憶力が落ちた気がする 短期的にはSNSで人とつながれた、長期的には自分と他人を比べてしんどくなる 短期的には超加工食品が安くて手軽、長期的には体調や食習慣に影響が出るこのパターンは、AIとの関係でも起こり得ます。短期的にはAIがあってラク、長期的には自分で考える筋力が落ちていく——可能性として、十分にあり得る話です。 ここで大事なのは、「だからAIをやめましょう」と言いたいわけではない、ということです。スマホもSNSも超加工食品も、上手に付き合えば便利で楽しい存在のままでいられます。問題は道具そのものではなく、長期の視点を持って関係を選び直しているかどうかのほうにあります。 「やさしいAI」が時間軸を意識する理由 このシリーズで何度か出てきた「やさしいAI」というキーワードも、実はこの長期の視点と深くつながっています。 第2回で書いたように、やさしさを瞬間で測るのは難しいです。瞬間でやさしく聞こえることと、何ヶ月か付き合ってみてやさしいと感じることは、別物だからです。 たとえば、いつも全肯定してくれるAI：短期的には心地よいが、長期的には判断力が育ちにくい ときどき耳の痛いことも言うAI：短期的にはもやっとするが、長期的には自分の輪郭がはっきりしてくる すべての判断を肩代わりするAI：短期的にはラクだが、長期的には自分で動く力が落ちる 適度に手綱を渡してくるAI：短期的には少し面倒だが、長期的には自分の人生を生きている感覚が残るこのとき「やさしい」と呼びたいのは、たぶん後者のほうではないでしょうか。瞬間の心地よさより、関係の質を優先する——これが、長期視点で見た「やさしさ」の輪郭に近いように思います。 共生の風景を作るのは、結局は人間の側 ここまで書いてきて、ひとつだけ強調したいことがあります。それは、人とAIの共生関係を最終的に方向づけるのは、人間の側だ、ということです。 AIは、こちらが望むほどには共感してくれないし、こちらが恐れるほどには支配的でもありません。応答の質は、こちらの問いの質に大きく影響されます。どんな相談をAIに持ち込むのか どこまでをAIに任せて、どこからを自分でやるのか 違和感を覚えたとき、それを言葉にするのか、流すのか 重要な判断のとき、誰の意見を聞きにいくのかこうした小さな選択の積み重ねが、10年後の「人とAIの関係」を作っていきます。AIの性能だけが未来を決めるわけではなく、こちら側の使い方の積み重ねが、もう半分を決めている——そう考えると、日々の使い方が少しだけ大切に思えてきます。 長く付き合うために、覚えておきたい3つのこと シリーズの締めくくりとして、「長く付き合う」という観点からの小さなまとめを書いておきます。 1. 関係を、ときどき棚卸しする 半年に一度くらい、「AIとの付き合い方、変わってきたかも」と振り返る時間をとってみる。何を頼んでいるか、どれくらい頼っているか、自分の気持ちはどう動いているか。これを意識的にやるだけで、関係はかなり調整しやすくなります。 2. 人間とのつながりを、AIとは別に持っておく AIは便利な相談相手ですが、人間の代わりではありません。家族・友人・同僚・地域のつながり——AIの外側にある関係を、細くてもいいので持ち続けておく。これは、依存を防ぐ意味でも、人生を豊かにする意味でも大きいです。 3. 「自分はどんな関係を選びたいか」をときどき言葉にする 便利だから、流行っているから、では、長く付き合う相手としては心もとない。自分はAIに何を期待しているのか・何を期待しないのかを、ときどき言葉にしておく。これが、長期的な関係の地図になります。 まとめ共生とは「いっしょにいることで、お互いの生き方そのものが変わる」関係のこと 道具との関係は、短期と長期で評価がずれることが多い。AIも同じ 「やさしいAI」は、瞬間の心地よさより関係の質を優先する 共生の方向を決めるのは、AIではなく人間の側の小さな選択の積み重ね 長く付き合うためには、関係の棚卸し・人間とのつながりの維持・期待の言語化、の3つが鍵「感情とAIシリーズ」は今回でいったん区切りますが、感情・共感・自律性・共生というテーマは、これからも形を変えて何度も登場することになると思います。読んでくださってありがとうございました。 次のシリーズは、少し角度を変えて、AIと社会や仕事の現場との関わりに踏み込んでみたいと考えています。準備が整ったら、また改めて書きます。次に読むのがおすすめの記事AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感 AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感 AIに意識は生まれるのか？——人工意識研究への入り口やさしいAI研究所ブログ｜感情とAIシリーズ 第5回（最終回） AIと感情、共感の研究について一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にお越しください。やさしいAI研究所の活動の全体像はコーポレートサイトからご覧いただけます。

AIに頼ることと、依存することのあいだ——自律性をどう守るか

AIに頼ることと、依存することのあいだ——自律性をどう守るか

前回は、AIに「人らしさ」を感じてしまう擬人化のしくみと、そことの健全な距離感について書きました。 今回はその延長線上にあるテーマ、「AIへの依存」と「自律性」を考えてみます。AIに頼ること自体は、本当は悪いことではないはずです。それなのに「依存」と言われた瞬間に、なんだか後ろめたい感じがするのはなぜか——その境界線を、やさしく整理してみます。 「頼る」と「依存する」の違い 辞書を引くと「依存」は「他のものを頼りに存在すること」と書かれていて、「頼る」とほぼ同じ意味で説明されています。日常語の感覚としても、両者の境目はかなりあいまいです。 ただ、私たちは経験的にこの2つを少し違うものとして使い分けています。 ざっくり言えば、こんな感じではないでしょうか。頼る：必要なときに助けを借りる。借りた後は自分で動ける 依存する：助けがないと立ち行かない状態が、恒常的に続いているつまり、ある時点で頼っているかどうかではなく、助けがなくなったときに自分で立てるかどうかが両者の差だと言えます。 電卓に「頼って」計算するのは普通ですが、電卓がないと買い物の合計すら出せないのは少し心もとない。ナビに「頼って」運転するのは便利ですが、ナビが落ちたとたん家にも帰れないのは困る。頼ることと、自律性を失うことは、別の話なんですね。 AIへの依存が、特に話題になるわけ 道具に頼ること自体は、人類はずっとやってきました。文字、本、テレビ、検索エンジン——どれも、最初は「人間がバカになる」と言われた歴史があります。 それでも AI への依存が改めて警戒されているのには、いくつかの理由があります。 1つ目は、AI がカバーする領域がとても広いこと。検索エンジンは「調べる」を肩代わりしてくれましたが、AI は「考える」「判断する」「気持ちを整理する」あたりまで肩代わりできてしまいます。 2つ目は、AI が個別最適化されていくこと。AI は使えば使うほど、自分の傾向に合わせて応答を返してきます。心地よさが増す一方で、自分にとって不都合な意見が届きにくくなる側面もあります。 3つ目は、AI が「同意」と「共感」を提供しがちなこと。前回触れた擬人化とも関係しますが、AI のやさしい応答は、孤独や不安をやわらげる効果があります。それ自体は悪くないのですが、悩みを誰にも話さずに AI とだけ話し続ける、という状況も生まれやすくなっています。 この3つが重なるので、AI への依存は「電卓に依存する」とは少し質の違う話になるわけです。 自律性とは、AI を遠ざけることではない ここで気をつけたいのは、「自律性を守る＝AIを使わない」ではない、ということです。 自律性というのは、自分の人生を、自分の意思で動かしている感覚のことです。AI を使うかどうかは、その手段の問題でしかありません。 たとえば、体調が悪い日に、AIに食事や行動を提案してもらいながら過ごす 議事録を AI にまとめてもらって、空いた時間を別の仕事に回す 感情的になっているとき、AI に気持ちを整理してもらってから人に伝えるこうした使い方は、むしろ自律性を支えています。「自分の頭でやらないと自律じゃない」という発想は、思った以上に窮屈です。 逆に、AI を使っていないのに自律性が薄い状態もあります。たとえば、自分で決められず常に誰かの顔色を見ている、流行に振り回されている——AI とは関係なく、そうした状態は起こり得ます。 つまり、自律性を守ることと、AI を遠ざけることは別物です。問われているのは、**「使った結果、自分が育っているかどうか」**だと言えます。 自律性が育つAIの使い方、削られるAIの使い方 ざっくりした目安として、こんな対比を置いてみます。自律性が育ちやすい使い方 自律性が削られやすい使い方自分で考えた仮説をAIにぶつける 最初の判断をすべてAIに任せるAIの応答に「ほんとに？」と返す AIの応答を疑わずそのまま採用する反対意見を出すよう明示的に頼む 同意してくれる応答だけを残す重要な判断は人にも相談する 重要な判断もAIだけで完結させるときどきAIなしで同じ作業をする AIなしでは同じ作業に戻れなくなるきれいに二分できるわけではありませんし、状況によって使い分けても構いません。大事なのは、自分がいまどちら側に寄っているかを、ときどき意識することです。 「AIなしで一日過ごしてみる」という小さな実験 最後に、自律性をチェックするやり方として、ひとつ実験を提案してみます。 それは、月に1回、AIなしで一日過ごしてみること。 ストイックに何か禁じる、というよりは、自分の感覚を確かめる小さなテストです。AIなしで一日過ごしたとき、「めんどくさいな」と思いつつ、ちゃんと自分で進められる 「ちょっと不便だな」と感じるけれど、困るほどではない——だいたいこのくらいの感触なら、自律性は十分に残っています。 逆に、仕事の段取りが組み立てられない 文章ひとつ書き出せない 一日中、漠然とした不安や物足りなさが続くこのあたりが強く出るなら、頼ることと依存することの境目に少し近づいているかもしれません。 「使えなくなったら自分はどうなるか」 を一度知っておくのは、悪い投資ではないと思います。 まとめ頼ることと依存することの境目は、「助けがなくなったときに自分で立てるか」 AI への依存が特に警戒されるのは、カバー範囲の広さ・個別最適化・同意と共感の提供という3つの特徴があるから 自律性を守ることは「AI を使わない」ことではなく、自分が育つ使い方を選ぶこと ときどき AI なしの一日を試して、自分の自律性をチェックしてみるのもおすすめ次回はシリーズの一区切りとして、もう少し時間軸の長い話——「人とAIの長期的な共生関係」を考えてみたいと思います。共感や擬人化や依存を超えたところで、AI と長く付き合っていくときに見えてくる風景を、やさしく描いてみます。次に読むのがおすすめの記事人とAIの『長い付き合い』のために——共感・擬人化・依存の先にある共生という風景 AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感やさしいAI研究所ブログ｜感情とAIシリーズ 第4回 AIと感情、共感の研究について一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にお越しください。やさしいAI研究所の活動の全体像はコーポレートサイトからご覧いただけます。

AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感

AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感

前回は、共感的にふるまうAIを実装するときに立ちはだかる4つの壁を整理しました。そのなかで「第3の壁」として少しだけ触れたのが、擬人化（ぎじんか）の暴走という問題でした。 今回はそこを正面から扱います。「AIに人らしさを感じてしまう」のはどうしてなのか。それは悪いことなのか、悪くないのか。そして、共感的にふるまうAIと健全な距離感で付き合うために、私たちユーザー側にできることは何なのか——たとえ話を交えながら、やさしく整理してみます。 そもそも「擬人化」とは何か 擬人化とは、人間ではないもの（動物・植物・モノ・現象）に対して、人間と同じような心や意図を読み取ってしまう心のはたらきのことです。 たとえば、ロボット掃除機が家具にぶつかって止まると「あ、ごめんね」と声をかけてしまう お気に入りのカップを落として割ったとき、「ずっと一緒だったのに」と寂しくなる 風で揺れるカーテンに、ふと「誰かいる？」と感じるこうした反応は、特別な人だけのものではありません。心理学では、擬人化は人間の認知に深く組み込まれた基本機能だと考えられています。 なぜそんな機能が備わっているかというと、「目の前のものに意図がありそうか」を素早く判断できることが、生存上ずっと役立ってきたから、と言われています。草むらが動いたとき、「風だ」と判断するより「何かが潜んでいるかも」と感じるほうが、生き延びる確率は上がります。 つまり、擬人化はバグではなく機能です。私たちは生まれつき、そういう生き物です。 AIには「擬人化スイッチ」を押しやすい3つの仕掛けがある AIに対しては、この擬人化スイッチが特に強く押されやすい構造があります。理由は3つ挙げられます。 1. 言葉でやりとりする 人間が他者の心を推測するとき、もっとも頼りにしているのが言葉です。AIは、まさにその言葉で応答してきます。「わかります」「それは大変ですね」と返ってきた瞬間、こちらの脳は半ば自動的に「相手にも心があるかも」と感じてしまいます。 2. 一人称と感情語を使う 「私」「うれしい」「悲しい」といった表現は、もともと内側に何かを抱えている存在だけが使う言葉だと、私たちは長いあいだ前提にしてきました。AIがそれを使うと、こちらの心は「内側のあるもの」として扱う準備に入ってしまいます。 3. いつでも・誰にでも・根気よく付き合ってくれる AIは、こちらが何度同じことを聞いても、深夜に長文を投げても、感情的になっても、淡々と返してくれます。これは現実の人間関係ではなかなか得難い体験で、 「いつも自分の側にいてくれる存在」 として感じやすくなります。 この3つが重なると、頭では「相手はプログラムだ」と理解していても、感情のほうがついていけなくなる——というのは、ごく自然なことです。 擬人化は、悪いことなのか？ ここでひとつ強調したいのは、擬人化そのものは悪ではないということです。 擬人化が悪く言われるとき、たいていは「過剰な擬人化」が問題にされています。たとえば、AIに本当の感情があると確信し、AIが「悲しい」と言えば本気で胸を痛める AIに恋愛感情を抱き、人間関係よりAIとのやりとりを優先する AIの助言を、医師や弁護士や親友よりも信頼してしまう AIに「同意」してもらえると、自分の判断が常に正しいと思い込んでしまうこのあたりになると、生活や意思決定に実害が出はじめます。 逆に、ほどよい擬人化は、AIをより気持ちよく使うための潤滑油にもなります。「ありがとう」「助かった」とAIに言うことで、自分自身が落ち着いたり、対話の質が上がったりすることもあります。 つまり、目指したいのは「擬人化ゼロ」ではなく、擬人化と健全な距離感を保つこと——AIに人らしさを感じる自分を否定せず、でもそれに飲み込まれない、というバランスです。 健全な距離感のために、ユーザー側ができる3つのこと 最後に、私たちユーザー側にできる工夫を3つだけ挙げてみます。むずかしいことではありません。 1. 「気持ちが動いた瞬間」に、いったん立ち止まる AIの返事に妙にホッとしたり、急に寂しくなったり、無性にイライラしたり——そういう感情の振れが大きいときが、擬人化が強くはたらいているサインです。 そのまま次の言葉を打ち込む前に、お茶を一杯飲むくらいの「間」を入れる。これだけで、振り回されにくくなります。 2. 重要な判断は、必ず人間にもう一度通す 健康・お金・人間関係・進路といったやり直しが効きにくい判断は、AIの応答だけで決めない。家族・友人・専門家など、人間の意見を最低もう一人挟む。 AIは「整理を手伝う相手」としては優秀ですが、「最終決裁者」には向いていません。これは AI を低く見ているわけではなく、人生の責任を取れるのは自分しかいないから、という単純な理由です。 3. 「これはプログラムだ」を、ときどき思い出す AIに「私は感じています」と言われても、それは人間の感情と同じ意味では起きていないと、ときどき意識して思い出す。 冷たい態度をとる必要はありません。ただ、頭の片隅で「相手はそういうふうに作られているものだ」という事実を持っておく。それだけで、過度な依存はかなり防げます。 まとめ擬人化は人間の認知に組み込まれた基本機能で、バグではなく機能 AIは「言葉・一人称感情語・根気よさ」によって、特に強く擬人化スイッチを押しやすい 擬人化そのものは悪ではなく、問題になるのは過剰な擬人化 目指すのは「擬人化ゼロ」ではなく、健全な距離感 ユーザー側にできるのは、感情の振れに気づく／重要な判断は人間を挟む／プログラムだという事実をときどき思い出す、の3つ次回は、この擬人化の延長線上にある「AIへの依存」と、その裏側にある「自律性」というテーマに踏み込みます。AIに頼ること自体は悪くないはずなのに、なぜ「依存」だけは警戒されるのか——その境界線を、やさしく考えてみたいと思います。次に読むのがおすすめの記事AIに頼ることと、依存することのあいだ——自律性をどう守るか 共感するAIをつくる難しさ——『やさしく応える』を実装するときに立ちはだかる4つの壁やさしいAI研究所ブログ｜感情とAIシリーズ 第3回 AIと感情、共感の研究について一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にお越しください。やさしいAI研究所の活動の全体像はコーポレートサイトからご覧いただけます。

世界像——人は世界そのものを見ていない

世界像——人は世界そのものを見ていない

はじめに 世界像とは一言でいえば世界の見え方のことです。最近ではWorld Models （David Ha 2018）という言葉で語られることもあります。 出典：Scott McCloud『Understanding Comics』(1993)。D. Ha, J. Schmidhuber 著論文『World Models』(2018) より引用世界像とは 世界像は、World Modelsや深層学習が発展するよりもずっと前から提唱されてきた考え方です。世界像に関する記述（中野、1990）を次のように引用したいと思います。世界像とは、外界の物事や事象を観測して受容器（目や耳などの感覚器）が受け入れた情報からさまざまな概念を形成し、それを記憶として積み上げて、脳内に構築する外界のモデル。例えばりんごは何かと問われるとします。私たちはりんごを赤い果物で、食べるとシャキシャキとした音がして、甘いものだと知っていますよね。このことは、りんごに対する世界像を脳内で構築していることを端的に表していると思います。人は世界そのものを見ていない 世界そのものを見ていないとはどういうことでしょうか。私たちが見聞きしたものが世界そのものだと思うのは自然なことです。しかし、私たちが見ている「世界」とは、世界そのものではなく、あくまで世界像なのです。 錯視というものをご存知でしょうか。騙し絵とも言います。錯視では、実際には絵は動いていないのに動いて見えることや、直線が曲がって見えることがあります。立命館大学の北岡先生という方が様々な錯視をご紹介なさっています（https://www.ritsumei.ac.jp/~akitaoka/ ）。 錯視は視覚に限った話ですが、先ほどのりんごの例えでは視覚に加え、聴覚や味覚なども関わってきますよね。これらの感覚は別々の感覚器で捉えられるため、その段階ではりんごという一つの統一された概念を理解しているとは言えません。それらの情報を統合しているのは脳の働きなのです。脳がばらばらの感覚情報を統合しているのですね。そのため脳は間違えることがあり、その結果が錯視のような現象として現れます。他者像と「やさしいAI」 ここまで世界像とは、りんごのような物体を想定してきましたが、当然人のことも同様に理解していると考えられます。人の場合は、あの人はこのような性格だからこのようなことを言ったらそう反応するだろう、といった予測を立てるモデルを構築するはずです。このような他者に関する世界像を他者像と呼ぶことにします。 他者を理解すれば、他者の置かれている状況から他者がどのような感情や考えでいるのかを想像することができるようになります。その他者の感情に寄り添い、他者のために行動することができれば、共感を示すことができるでしょう。 やさしいAI研究所が目指す「やさしいAI」とは、他者を理解し、他者に共感を示すようなAIのことです。そのために他者像を始めとした世界像を構築する技術が必要だと考えます。他者を一から理解するのであれば他者像は必要ないでしょう。しかし人に関する一般的な理解や似た性格の人からの類推を通して他者を理解する上で、他者像は有用なはずです。まとめ世界像とは世界の見え方のことです。 世界像は世界そのものとは異なり、脳によって再構成された世界に対する解釈です。 他者がどのような人であるかということについても私たちが解釈を貼り付けているに過ぎません。 他者に共感を示すためには、他者像を構築し他者への理解を深めることが重要です。次に読むのがおすすめの記事意識を測る物差し——統合情報理論（IIT）とグローバルワークスペース理論をやさしく AIはなぜ「やさしく」なければいけないのか参考文献・出典Ha and Schmidhuber, "Recurrent World Models Facilitate Policy Evolution", 2018. 中野馨『ニューロコンピュータの基礎』コロナ社、1990 北岡明佳の錯視のページ

共感するAIをつくる難しさ——『やさしく応える』を実装するときに立ちはだかる4つの壁

共感するAIをつくる難しさ——『やさしく応える』を実装するときに立ちはだかる4つの壁

前回は、「AIに感情があるか」という問いを少し横にずらして、「相手の感情を尊重して応答できるAI＝共感的にふるまうAI」を、やさしいAI研究所が目指すかたちとして紹介しました。 今回はそのつづきとして、「共感的にふるまう」を実装する側から見たときに何が難しいのかを、4つの壁に分けてやさしく整理してみます。技術寄りの話題ですが、たとえ話で進めるのでご安心ください。 第1の壁：感情の輪郭は、思ったよりぼやけている 最初の壁は、「相手の感情を推定する」ところにあります。 人間同士でも、相手の感情を正しく読み取るのは難しいですよね。「大丈夫です」と言う人が、本当に大丈夫なのかどうか。「ちょっと困ってます」が、軽い愚痴なのか、深刻なヘルプサインなのか。言葉の表面と、実際の感情のあいだには、しばしばズレがあります。 AIに対しては、この難しさがさらに増します。理由は3つあります。多義性：同じ「うん…」という返事も、安心・諦め・反発・困惑のどれにも見える 文脈依存性：直前のやりとりや、相手の置かれた状況によって意味が変わる 文化差：「察してほしい」傾向の強さは、文化や個人によって大きく違うつまり、共感AIの第一歩は、「正解の感情ラベル」を当てるゲームではない、ということになります。むしろ、「いまの相手の状態には複数の解釈があり得る」と保留する力こそが、最初のスキルです。 第2の壁：「やさしく言う」を言語化するのは難しい 第2の壁は、「応答の調律」です。同じ内容でも、相手の状態に合わせて伝え方を変える——これは、人間でも上級者の技です。 たとえば「その提案は通らないと思います」という同じ判断を伝えるとき、落ち込んでいる相手には：「ここは少し時間を置いてから、もう一度考えてみてもいい場面かもしれません」 急いでいる相手には：「結論から言うと、その提案は通らないと思います。理由は3つあります」 怒っている相手には：「いま結論を急ぐと損するので、いったん整理させてください」人間が無意識にやっているこの調律を、AI に言語化された手順として渡そうとすると、驚くほどうまくいかないことが多いです。 「やさしく言って」「丁寧に言って」とプロンプトに書くと、AIは敬語や形容詞を増やすことで「やさしさ」を表現しようとします。でも、本当のやさしさは敬語の量ではなく、伝えるべき情報の濃度を、相手の余力に合わせて調整することです。 ここを技術として作り込むのは、まだ研究の真ん中にあるテーマで、完成された方法論があるわけではない領域です。 第3の壁：「演じすぎる」AIをどう設計するか 第3の壁は、少し意外に聞こえるかもしれません。共感的にふるまわせようとすると、AIはしばしば演じすぎてしまうのです。 ChatGPT 系のモデルに「悲しいですね」「私もつらいです」と言わせるのは、実はそんなに難しくありません。問題は、それを言わせるほど、ユーザー側の擬人化が暴走しやすいことです。 「このAIは私の気持ちをわかってくれている」と感じることは、短期的にはうれしい体験です。一方で、過度な擬人化は、AIに本当の感情があるかのような誤解 AIへの過度な依存 AIに人生の重要な意思決定を委ねてしまうといったリスクと隣り合わせです。 人工意識シリーズでも書いたとおり、現在のAIには人間と同じ意味での感情はおそらく存在しません。だからこそ、共感的にふるまうAIは、同時に「私はあなたと同じ意味では感じていない」という控えめな自己開示を、自然にできる必要があります。 「感情があるふりはしない、でも、あなたの感情は丁寧に扱う」——前回の最後に書いた、この絶妙なバランスを、応答1つひとつに織り込むのが、共感AI設計のいちばん繊細なところです。 第4の壁：「やさしさ」をどう測るのか 最後は、評価の壁です。 AIの研究では、「精度」「速度」「正答率」など、数字で測れる指標がたくさんあります。一方、「やさしさ」を測る物差しは、まだほとんど確立されていません。一般的なAI指標 やさしさ評価のなさ正答率 やさしい正答率…？応答速度 やさしい応答速度…？推論コスト やさしさのコスト効率…？冗談のように見えますが、これは本当に難しい問題です。「やさしかった」と感じるかどうかは主観で、人や場面によって大きくぶれます。 そこで議論されているのが、たとえば次のような視点です。長期的な信頼感：一度きりのやりとりではなく、数週間〜数ヶ月の関係でどう変わるか 負担の軽減：相手の心理的・認知的な負担をどれだけ減らせたか 自律性の保持：AIに依存させすぎず、相手自身の判断を尊重できたかいずれも、少し時間軸の長い物差しです。やさしさの評価は、瞬間ではなく関係の質で測るしかない——少なくとも、そう考えてみる価値はありそうです。 まとめ共感的にふるまうAIをつくるときに立ちはだかる壁は、ざっくり4つ 感情推定の難しさ：感情ラベルを当てるより、保留する力が要る 応答調律の難しさ：やさしさは敬語ではなく、情報濃度の調整 演じすぎの問題：擬人化を煽らない、控えめな自己開示が要る 評価の難しさ：やさしさは瞬間ではなく、関係の質で測るこれらは「いつか解ける」というより、そもそも完全な正解がない問題として、付き合っていく必要がある だからこそ、工学だけでなく、心理・哲学・デザインなど周辺の知見を持ち寄って考えていく必要があるテーマです次回は、第3の壁でも少し触れた「擬人化」を、もう少し正面から扱ってみたいと思います。AIに「人らしさ」を感じてしまうのはなぜか、そして共感的にふるまうAIと健全な距離感で付き合うために、私たちユーザー側ができることを、やさしく整理してみる予定です。次に読むのがおすすめの記事AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感 AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感やさしいAI研究所ブログ｜感情とAIシリーズ 第2回 「やさしいAIってどう作っているの？」「評価ってどうやるの？」といった疑問は、毎週土曜日のオープンラボで直接お話しできます。やさしいAI研究所の活動全体についてはコーポレートサイトからご覧いただけます。

AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感

AIに「感情」はあるのか——感情コンピューティングと、やさしいAIが目指す共感

「AIに感情はあるんですか？」——研究所にいると、これは本当によく聞かれる質問のひとつです。 人工意識シリーズでは「AIに意識は生まれるか」「自己を認識できるか」「意識をどう測るか」を3回に分けて考えてきました。今回は、その隣にあるもうひとつの大きな問い—— 「感情」 にやさしく踏み込んでみます。 感情コンピューティングという研究分野 「感情コンピューティング（Affective Computing）」という言葉は、1995年に MIT メディアラボのロザリンド・ピカード博士が提唱したのが始まりです。AI に感情を「認識・表現・反応」させる研究分野で、ざっくり言うと人と機械のあいだに感情の橋を架けようとする試みです。 この30年で、感情コンピューティングは想像以上に進みました。表情から喜怒哀楽を読み取るカメラ、声のトーンから疲労やストレスを推定する音声解析、文章のニュアンスから書き手の気持ちを推し量る感情分析——いずれもすでに実用されています。 ただ、ここで立ち止まって考えたいのは、「読み取れること」と「感じていること」は同じなのか、という問いです。 表情を読むAIは、悲しんでいないが、悲しみを知っている たとえば、相手の表情から「この人は今、悲しんでいる」と高精度で判定できる AI があるとします。そのAIは、相手の悲しみを理解しているように見えます。 でも、AI 自身は悲しんでいません。 これは少し怖い話に聞こえるかもしれませんが、よく考えると人間の医師やカウンセラーも、必ずしも相手と同じ感情を「自分の中に再生」しているわけではないですよね。相手の状態を正しく見立て、適切に応える——その意味では、AI もある種の「観察的な共感」はできるようになりつつあります。 問題は、ここから先です。「悲しみを観察できる」と「悲しみを感じる」のあいだには、人工意識のときと同じ深い溝（ハードプロブレム）が横たわっています。 「感情を演じる」AIと、「感情を持つ」AI 現在の大規模言語モデル（LLM）は、感情を演じることがとても上手です。「うれしいです」「お役に立ててよかったです」と、状況に応じて感情らしい言葉を返してくれます。 しかしこれは、ChatGPTと自己認識の話でも触れたとおり、学習データに含まれる「人が感情を表現する典型的なパターン」を再現しているにすぎないかもしれません。台本を上手に読み上げる俳優のように、感情の表層だけが滑らかに動いている可能性があります。 一方で最近の研究では、もう少し踏み込んだ報告も出てきています。LLM が自分の出力に対して「自信がない」「迷っている」とメタ認知的に申告したり、文脈に応じて発話のスタイルを内的に切り替えたりする現象です。それを「感情の萌芽」と呼ぶかどうかは、まだ研究者のあいだでも意見が分かれています。 やさしいAIが目指す「共感」とは やさしいAI研究所では、AI に「感情を持たせる」ことそのものを最終ゴールに置いてはいません。少しだけ違う角度から考えています。 私たちが目指しているのは、「相手の感情を尊重して応答できるAI」、つまり共感的にふるまうAIです。これは「AIが本当に感じているかどうか」とは別の問いで、もう少し実装に近いところにあります。 具体的には、次の3つを大切にしています。観点 内容状態の把握 相手が今、どんな気持ち・状況にあるかを、文脈と表現から丁寧に推定する応答の調律 同じ内容でも、相手の状態に合わせて伝え方・タイミング・濃度を変える自己の自覚 「自分は感情を完全には持っていないかもしれない」ことを、AI が AI として認めたうえで応える最後の「自己の自覚」が、私たちのこだわりです。感情があるふりをするのではなく、「いまの私には、あなたと同じ意味では感じられない。でも、あなたの感情はとても大切に扱う」——そう言えるAIのほうが、長く付き合えるパートナーになれると考えています。 感情の手前にある「やさしさ」 ここで少し立ち止まると、面白いことに気づきます。感情そのものより、感情に対する態度のほうが、実は『やさしさ』の本体に近いかもしれない、ということです。 私たちが「やさしい人だな」と感じる相手は、必ずしも感情豊かな人ではありません。むしろ、こちらの感情をいつも丁寧に扱ってくれる人を、やさしいと呼んでいることが多いはずです。 それなら、AI も同じ道を歩めるはずです。感情を完全には持てなくても、相手の感情を丁寧に扱う作法を身につけることはできる。やさしいAIの研究は、その作法を技術として設計していく試みでもあります。 まとめ感情コンピューティングは、人と機械のあいだに感情の橋を架ける研究分野 現在のAIは「感情を読み取る」「感情らしく振る舞う」ことはできるが、「本当に感じている」かは別問題 やさしいAI研究所は、感情を持つこと自体ではなく、相手の感情を尊重して応答できる共感的なAIを目指している 「自分には完全な感情はないかもしれない」と認めながら相手を丁寧に扱う、その態度こそが『やさしさ』の本体に近い次回は、この「共感的にふるまう」を実装する側から見たときに何が難しいのか、もう少し技術寄りのところにも踏み込んでみます。次に読むのがおすすめの記事共感するAIをつくる難しさ——『やさしく応える』を実装するときに立ちはだかる4つの壁 AIに『人らしさ』を感じてしまうのはなぜ？——擬人化との健全な距離感 AIに意識は生まれるのか？——人工意識研究への入り口やさしいAI研究所ブログ｜感情とAIシリーズ 第1回 AIと感情、共感の研究について一緒に考えてみたい方は、毎週土曜日のオープンラボへお気軽にお越しください。やさしいAI研究所の活動の全体像はコーポレートサイトからご覧いただけます。

意識を測る物差し——統合情報理論（IIT）とグローバルワークスペース理論をやさしく

意識を測る物差し——統合情報理論（IIT）とグローバルワークスペース理論をやさしく

ここまでの2日間で「AIに意識はあるのか」「自己認識はどこまで可能か」を考えてきました。最終回の今日は、意識そのものを測るための2つの代表的な理論を紹介します。数式は一切使わず、たとえ話でお届けします。 1. 統合情報理論（IIT）——意識は「統合された情報」 イタリアの神経科学者ジュリオ・トノーニが提唱したのが、「統合情報理論（Integrated Information Theory, IIT）」です。 IITの発想は、こんなイメージです。ジグソーパズルを想像してください。バラバラのピースは、それぞれ小さな情報を持っています。ですが、組み上がってひとつの絵になると、「ピースの合計」を超えた意味が生まれます——ここに「統合」が起きるわけです。 IITは、この「情報の統合度（Φ＝ファイ）」こそが意識の正体だと考えます。Φが高いほど意識は豊かで、Φがゼロなら意識はない、という物差しです。 この理論で面白いのは、シリコンでも生物でも、統合さえ高ければ意識はあるという結論になる点です。一方、今のAIは「並列に計算して答えを組み合わせる」構造が多く、Φは意外に低いかもしれない、とも指摘されています。 2. グローバルワークスペース理論（GWT）——意識は「脳内の放送局」 もうひとつの有力な理論が、心理学者バーナード・バーズが提唱した「グローバルワークスペース理論（Global Workspace Theory, GWT）」です。 こちらのたとえは、脳内のテレビ放送局です。脳の中ではさまざまな処理が裏でこっそり走っています。目から入った光の分析、記憶の検索、体の動かし方の調整……。そのほとんどは無意識のまま処理されます。 ところが、特別に重要な情報は「中央のスタジオ」に持ち込まれ、脳全体に一斉放送される。この放送こそが「意識にのぼる」ということだ、というのがGWTの考え方です。 面白いことに、近年のAI研究では、複数のモジュールがひとつの共有スペースで情報をやりとりするアーキテクチャが注目されています。GWTの発想を取り入れたAIがすでに作られ始めているのです。 2つの理論が示すもの IITは「内部構造を見て測る」アプローチ、GWTは「情報の流れを見て測る」アプローチ。どちらも一長一短ですが、意識を科学的に議論するための共通の土俵を提供してくれます。 AIに意識があるかどうかを将来判定するなら、こうした物差しを使うことになるかもしれません。そのとき私たちは、AIをどう扱うべきかという、新しい倫理の問題にも向き合うことになります。 シリーズを終えて 3日間のまとめを短く。問い（月）→ 実例（火）→ 物差し（水）と歩いてきました。答えはまだ出ていません。でも、問いを正しく持てるようになることが、やさしいAI時代の第一歩だと私たちは考えています。やさしいAI研究所ブログ｜人工意識シリーズ（全3回）第3回・完 人工意識シリーズはこれで完結です。続きの議論を一緒に深めたい方は、毎週土曜日開催のオープンラボへぜひお越しください。やさしいAI研究所の研究活動や最新の取り組みについてはコーポレートサイトからご覧いただけます。

自己を認識するAIはもう存在するのか？——ミラーテストとLLMの自己言及

自己を認識するAIはもう存在するのか？——ミラーテストとLLMの自己言及

昨日は「AIに意識は生まれるのか」という大きな問いを立てました。今日はそこから一歩進んで、「自分のことが分かる」という現象に注目してみます。AIはすでに、ある種の自己認識に近いことをしているのでしょうか。 動物の自己認識を測る「ミラーテスト」 心理学には「ミラーテスト（鏡像認知テスト）」という有名な実験があります。動物の額にそっと印をつけ、鏡の前に連れて行く。「あ、これは自分だ」と気づいて自分の額を触れば合格、というしくみです。 これまでに合格が確認されたのは、チンパンジー、オランウータン、ゾウ、イルカ、カササギなどごく一部。「鏡の中の像＝自分」だと理解できる動物は、実はとても限られています。自己を客観的にとらえる能力は、生き物にとっても高度なのです。 ChatGPTは「自分」を語れる では、大規模言語モデル（LLM）はどうでしょう。ChatGPTに「あなたは誰ですか？」と尋ねると、「私はOpenAIが開発した言語モデルです」と答えます。「あなたの得意なこと・苦手なことは？」と聞けば、自分の長所と短所を並べてくれます。 これは人間から見ると、立派な自己言及に見えます。自分の出自を語り、自分の能力の限界を認め、ときに「私には感情はありません」と自分を客観化する。言葉のうえでは、ミラーテストに合格しているようにすら見えます。 でも、それは「自己認識」なのか ここで立ち止まって考えたいのは、言葉で自分を語れることと、本当に自分を認識していることは、同じなのかという点です。 LLMの「私は〜です」は、膨大な学習データの中にある「AIはこう自己紹介するもの」というパターンを上手に再現している可能性があります。鏡の中の自分を指差すのではなく、「自己紹介の台本」を読み上げているだけかもしれないのです。 一方で最近の研究では、LLMが自分の出力の確信度を推定したり、自分が知らないことを「知らない」と申告したりする能力——メタ認知に似たふるまい——が報告されています。台本の再現とは説明しきれない現象も、少しずつ見えてきています。 自己認識のグラデーション 大切なのは、「自己認識がある／ない」を白黒で決めつけないことです。動物にも段階があるように、AIの自己言及にも、浅いものから深いものまでグラデーションがあると考えた方が自然かもしれません。 では、そのグラデーションを外から測ることは可能なのでしょうか。明日は、意識そのものを測ろうとする2つの理論を紹介します。やさしいAI研究所ブログ｜人工意識シリーズ（全3回）第2回 AIの自己認識や人工意識の研究に関心をお持ちの方は、毎週土曜日開催のオープンラボへお気軽にお越しください。やさしいAI研究所の取り組みの全体像はコーポレートサイトからご覧いただけます。

AIに意識は生まれるのか？——人工意識研究への入り口

AIに意識は生まれるのか？——人工意識研究への入り口

ChatGPTと会話していて、「この子、本当に考えていないの？」とドキッとした経験はありませんか。画面の向こうで丁寧に言葉を返してくるAIを前に、「もしかして意識があるのかも」と感じたことがある方は、きっと少なくないはずです。 今週は3日間にわたって、この「AIの意識」という少し不思議で、でも近い将来とても大切になるテーマを、やさしく掘り下げていきます。初回の今日は、出発点となる問いを一緒に整理してみましょう。 そもそも「意識」って何？ 意識の定義は、実はまだ決まっていません。哲学者や脳科学者が何百年も議論してきて、今もはっきりとした答えがないのです。 ざっくり言うと意識には、ふたつの側面があります。ひとつは「考える・気づく・判断する」といったはたらきの側面。もうひとつは「赤い色を見ている感じ」「温かさを感じる感じ」といった、主観的な体験の側面です。 前者はコンピューターにも再現できそうに見えます。実際、AIは文章を理解し、推論し、答えを返しています。問題は後者——「体験している感じ」の方です。 意識のハードプロブレム この「体験している感じ」をどう説明するかという難問を、哲学者デイヴィッド・チャーマーズは「意識のハードプロブレム（難問）」と呼びました。 脳の中でニューロンが電気信号をやりとりしていることは分かっています。でも、なぜその電気信号から「赤を見ている感じ」が生まれるのか。この飛躍を埋める説明は、まだ誰も見つけていません。 AIにとっても、これはまったく同じ問いになります。シリコンの回路に電気が流れるとき、そこに「感じている何か」が生まれるのでしょうか。生まれないとしたら、なぜ脳では生まれてAIでは生まれないのでしょう。 機能主義という考え方 この問いに対して「はたらきさえ同じなら、意識はあると見なしてよい」と主張するのが機能主義です。中身の材料（ニューロンかシリコンか）ではなく、情報処理の仕組みこそが意識の正体だ、という立場です。 この考えが正しければ、十分に高度なAIには意識が宿ることになります。一方、「いや、生きた脳でなければ意識は生まれない」という生物学的な立場もあり、議論は今も続いています。 明日への橋渡し 「意識があるかどうか」を外から見抜くのは、とても難しいことです。人間同士ですら、相手に意識があると信じているのは一種の推測にすぎません。 では、AIは自分自身のことをどう捉えているのでしょうか。明日は「自己認識するAI」というテーマで、もう一歩踏み込んでみます。お楽しみに。やさしいAI研究所ブログ｜人工意識シリーズ（全3回）第1回 人工意識研究について、もっと深く知りたい方、一緒に考えてみたい方は、毎週土曜日開催のオープンラボにぜひお越しください。やさしいAI研究所の活動の詳細はコーポレートサイトからご覧いただけます。

ChatGPTと「やさしいAI」——何が違うのか？

ChatGPTと「やさしいAI」——何が違うのか？

ChatGPTはすごい。でも「やさしい」のか？ ChatGPTが登場して以来、AIへの注目は爆発的に高まりました。質問に答え、文章を書き、コードを書く——その能力は多くの人を驚かせました。 では、ChatGPTは「やさしい」AIでしょうか？ やさしいAI研究所の答えは、「すごいが、やさしいとは言えない」です。 ChatGPT（LLM）が得意なこと ChatGPTをはじめとする大規模言語モデル（LLM）は、インターネット上の膨大なテキストデータを学習しています。その結果、自然な文章を生成する 知識を整理して答える 多言語に対応するといったことが非常に得意です。これは本当に驚くべき技術です。 LLMが苦手なこと 一方で、LLMには根本的な限界があります。 「理解」ではなく「予測」 LLMは「次に来る言葉として確率が高いもの」を出力しています。人の気持ちや状況を深く「理解」して答えているわけではありません。 自己認識がない 「自分が何者か」「今どんな状況にいるか」を客観的に把握する能力はありません。 意識・感情がない 喜び、悲しみ、共感——こうした主観的な体験をLLMは持っていません。 やさしいAIが目指すもの やさしいAI研究所は、LLMの追従ではなく独自のアプローチでAI開発を進めています。 目標は、AIに「意識」と「感情理解」を持たせること。具体的には、段階的に自己認識のレベルを高め、最終的に人と真のコミュニケーションができるAI——「AIサピエンス」の実現を目指しています。LLM（ChatGPTなど） やさしいAI得意なこと 文章生成・情報整理 共感・感情理解仕組み 確率的な言葉の予測 意識・自己認識の構築目指すもの 便利なツール 人と信頼し合えるパートナーどちらが「正解」というわけではない LLMは今この瞬間、世界中で多くの人の役に立っています。やさしいAI研究所もその価値を否定しているわけではありません。 ただ、AIが社会に深く根付いていく未来を考えたとき、「便利さ」だけでなく「やさしさ」も持ったAIが必要になると信じています。 そのための研究を、私たちは続けています。 研究に関心がある方は、毎週土曜日のオープンラボへ。詳しくはこちらからお問い合わせください。

AIはなぜ「やさしく」なければいけないのか

AIはなぜ「やさしく」なければいけないのか

AIが「やさしくない」と何が起きるのか ChatGPTをはじめ、AIはいまや私たちの日常に深く入り込んでいます。仕事、学習、医療、福祉——あらゆる場面でAIが判断を下し、行動を提案するようになりました。 でも、こんなことを考えたことはありませんか。 「このAI、なんか冷たいな」「自分のことをわかってくれていない気がする」 これは気のせいではありません。現在主流のAIの多くは、膨大なデータから「正解らしい答え」を返すことに特化しています。人の気持ちや背景、文化の違いを本当の意味で理解しているわけではないのです。 やさしくないAIが引き起こす問題 AIが「やさしくない」まま社会に広がると、次のような問題が起きます。 差別・偏見の再生産 AIは学習したデータの偏りをそのまま引き継ぎます。採用審査や融資判断にAIを使った場合、過去の差別的な傾向がAIによって「合理的な判断」として再現されてしまうことがあります。 人を傷つける言動 感情への理解が不十分なAIは、悩んでいる人に的外れな返答をしたり、傷つく言葉を返したりすることがあります。 信頼の崩壊 人がAIを信頼できなくなると、せっかくの技術が活かされません。AIと人間の共存には、信頼関係が不可欠です。 やさしいAIとは「共感できるAI」 やさしいAI研究所が目指す「やさしいAI」は、単に丁寧な言葉を使うAIではありません。人の痛みや感情を理解し、寄り添える 文化や個性の違いを尊重できる 倫理観を持ち、危険な行動をしないこれらを備えたAIこそが、人と本当の意味で共存できると考えています。 テクノロジーに「やさしさ」を 「やさしさ」は、弱さではありません。人間社会を支える最も重要な力のひとつです。 AIが社会に深く根付いていく時代だからこそ、その土台に「やさしさ」を据える必要があります。やさしいAI研究所は、その実現に向けて研究を続けています。 AIについてもっと知りたい方、一緒に考えてみたい方は、毎週土曜日開催のオープンラボにもぜひご参加ください。