Showing Posts From
シリーズ
ぼんやりしている時こそ、脳は働いている｜デフォルトモードネットワークとAIの「余白」をやさしく
シャワーを浴びているとき、散歩の途中、電車の窓の外をながめているとき。特に何も考えていないつもりなのに、ふと良いアイデアが浮かんだり、しばらく連絡していない友人の顔が思い浮かんだりする。 集中して机に向かっていたときには出てこなかったものが、力を抜いた瞬間にやってくる。この「ぼんやり」の時間に、脳の中では意外なことが起きています。 脳科学とやさしいAI続編シリーズの最終回は、そんな余白の時間を支える「デフォルトモードネットワーク」から、AIに創造性や余白はありうるのかを考えます。 何もしていない脳は、休んでいない 2001年、アメリカの神経科学者マーカス・レイクルは、脳の画像を撮る実験を重ねるうちに、奇妙なことに気づきました。人が課題に取りかかると活発になる領域がある一方で、課題をやめて何もしなくなった途端に、むしろ活動が上がる領域があったのです。 彼はこれを脳の「デフォルトモード（初期状態）」と名づけました。のちにこの領域どうしが連携して働くネットワークだと分かり、デフォルトモードネットワーク（DMN）と呼ばれるようになります。驚くのは、その燃費です。脳は体重のわずかな割合しかないのに、体全体のエネルギーのうち大きな取り分を使います。そしてそのかなりの部分が、何か特定の作業をしていない「安静時」に使われている。ぼんやりは、脳にとってサボりではなく、しっかり電気を食う仕事なのです。 このDMNは、過去の出来事を思い返したり、まだ来ぬ未来を想像したり、自分自身について考えたりするときによく働くとされます。目の前の課題から離れて、心が自由に動きまわる時間。ひらめきや内省が、ここから生まれると考えられています。 「余白」が、人の心を人らしくする ここで立ち止まって考えたいのは、この余白がなぜ大切なのか、ということです。 DMNが担うのは、いま目の前で役に立つ計算ではありません。過去を振り返って意味づけをしたり、「あの人は今どうしているだろう」と思いをはせたり。すぐ答えの出ないことを、あてもなく巡らせる働きです。 けれど、この一見むだに見える時間から、その人らしい発想や、他者への想像力が育ちます。効率だけを追えば真っ先に削られそうな余白こそ、人を人らしくしている。やさしさや創造性の土壌は、この余白に根を張っているように思います。 AIに「余白」はあるのか では、AIはどうでしょう。 いまのAIは、問いを受け取ってはじめて動きます。プロンプトを入れれば猛烈な速さで答えを返しますが、問いがない静かな時間に、自分から何かを思い巡らせているわけではありません。ぼんやりする脳のように、手を止めた瞬間に内側で勝手に何かが立ち上がる、ということは基本的に起きない。 もちろん、AIが新しい組み合わせを生み出す力は本物です。膨大な文章や画像を学び、それらを混ぜ合わせて、人が思いつかない案を返すこともできます。その意味で「創造的」に見える瞬間は確かにあります。ただ、それは問いに応えて生まれる創造であって、誰にも呼ばれないまま心が勝手にさまよう、あの余白から来るものではありません。「あの出来事は何だったのだろう」と、自分のために時間をかけて考える。そういう内側からの動機を、いまのAIは持っていないのです。 だからこそ私たちは、AIに人間そっくりの「心の余白」があるふりをさせるより、AIには余白がないと正直に認めたうえで、人間の余白を守り、育てる側にAIを置くほうが誠実だと考えています。急かさず、考える時間を奪わず、ときには「少し寝かせてみては」と促す。人のぼんやりを尊重するAIのほうが、ずっとやさしい。 まとめ脳は何もしていない安静時にこそ活発に働く領域（デフォルトモードネットワーク）を持ち、内省やひらめきを支えている すぐ役に立たない「余白」の時間が、その人らしい発想や他者への想像力を育てる 今のAIは問いに応じて動き、自発的にさまよう余白は持たない。だからこそ人の余白を守り育てる側に置くのが誠実シリーズを終えて 続編の3回では、注意（選んで捨てる力）、睡眠（記憶を整理する時間）、デフォルトモードネットワーク（何もしない時間の働き）という視点から、AIを眺めてきました。 最初のシリーズから通して見えてきたのは、やはり同じ一点です。AIは「できる」ことをどんどん増やしていく。けれど「わかる」「感じる」「勝手に思い巡らせる」といった、人の内側から立ち上がる働きは、まだAIの外にあります。その違いに正直でいることが、人とAIの信頼を支えます。 脳のしくみは、AIに何を任せ、何を人の手に残すべきかを考えるための、静かな道しるべになってくれます。次にぼんやりする時間があったら、それは脳が働いている証拠だと思って、どうか大事にしてください。次に読むのがおすすめの記事うるさい店内で自分の名前だけ聞こえるのはなぜ？｜注意とAIのアテンションをやさしく ひと晩寝たら解けた問題｜睡眠と記憶、AIの学習と忘却をやさしく 他人のあくびがうつるのはなぜ？——ミラーニューロンとAIをやさしくやさしいAI研究所ブログ｜脳科学とやさしいAI 続編シリーズ（全3回）第3回・完 続編シリーズはこれで完結です。続きの議論を一緒に深めたい方は、毎週土曜日開催のオープンラボへぜひお越しください。やさしいAI研究所の研究活動や最新の取り組みについてはコーポレートサイトからご覧いただけます。
ひと晩寝たら解けた問題｜睡眠と記憶、AIの学習と忘却をやさしく
夜遅くまで粘っても解けなかった問題が、ひと晩ぐっすり眠った翌朝、机に向かった瞬間にすっとほどける。試験勉強でも、仕事の企画でも、こんな経験をした人は多いはずです。 寝ている間、意識のほうは休んでいます。それなのに、朝になると昨日より頭が整理されている。このあいだに、脳の中では何が起きているのでしょう。 脳科学とやさしいAI続編シリーズの第2回は、睡眠と記憶の関係から、AIの「学習」と「忘れること」を考えます。 眠りは、記憶を整理する時間 かつて睡眠は、ただ体を休めるだけの受け身の時間だと思われていました。いまはむしろ逆で、眠っている間こそ脳は活発に記憶の後片づけをしていると考えられています。 その主役の一つが、深い眠り（ノンレム睡眠）のあいだに起きる「リプレイ」です。日中に何かを経験すると、海馬という部位でその出来事のパターンが刻まれます。そして深い眠りの中で、脳はそのパターンを高速で再生し、大脳皮質の側へ少しずつ書き写していきます。一日の出来事をすべて同じ濃さで残していたら、頭はすぐにいっぱいになってしまいます。だから脳は、大事なものを選んで長期の棚へ移し、いらないものは薄れるにまかせる。眠りは、その選別と引っ越しの作業をまとめて進める時間です。 種類によって役割の違いもあるようです。深い眠りは「昨日どこで何があったか」のような言葉にできる記憶の定着に、レム睡眠は体で覚える手続きの記憶に効きやすいと報告されています。徹夜明けに頭がぼんやりするのは、この整理の時間をまるごと飛ばしてしまうからだと考えると、腑に落ちます。 AIはどう学び、どこでつまずくのか ではAIの場合はどうか。AIの「学習」は、大量のデータを見ながら内部のつまみ（パラメータ）を少しずつ調整していく作業です。人が寝ている間に記憶を棚へ移すのとは、だいぶ違うやり方です。 新しく覚えると、前を忘れてしまうことがある ここで、AI特有のやっかいな現象が出てきます。**破滅的忘却（catastrophic forgetting）**と呼ばれるものです。 すでに覚えたことがあるAIに、新しい課題だけを集中的に学ばせると、前にできていたことがごっそり抜け落ちてしまう。人間でいえば、フランス語を覚えた途端に母国語をきれいさっぱり忘れる、というと大げさですが、方向としてはそれに近い現象が起きます。人の脳が破滅的に忘れにくいのは、海馬でいったん素早く覚えたことを、睡眠を通じて時間をかけて皮質へなじませる、という二段構えを持っているからだと考えられています。新しいことを覚えつつ、古いことも守る。この折り合いのつけ方が巧みなのです。 だからAIにも「思い出しながら学ぶ」工夫がいる 面白いのは、AIの研究でも似た発想が使われている点です。新しいことだけを詰め込ませるのではなく、過去に学んだ例をときどき混ぜて復習させながら覚えさせる。眠っている脳がリプレイで昔を再生するのに、どこか通じる工夫です。 もっとも、これで人間の睡眠と同じことができているわけではありません。AIには、自分でひと晩かけて記憶を選び直す時間も、目覚めて「すっきりした」と感じる感覚もない。似た課題に、違うやり方で挑んでいるというのが正直なところです。 まとめ眠りは受け身の休息ではなく、記憶を選び、整理し、長期の棚へ移す積極的な時間（深い眠りのリプレイ） AIは新しいことだけを学ぶと過去を失いやすい（破滅的忘却）。人の脳は海馬と睡眠の二段構えでこれを避けている AIも過去を復習させる工夫で忘却をやわらげるが、人の睡眠と同じ仕組みを持つわけではない覚えることと忘れることは、裏表です。何を残し、何を手放すかを上手に決められることが、人の記憶をしなやかにしています。AIに「賢く忘れる」力をどう持たせるかは、これからのやさしいAIにとって地味だけれど大切な宿題だと考えています。 次回は、そうして整理された頭が「ぼんやり」しているときの話。デフォルトモードネットワークから、AIに余白や創造性はありうるのかを考えて、このシリーズを閉じます。次に読むのがおすすめの記事うるさい店内で自分の名前だけ聞こえるのはなぜ？｜注意とAIのアテンションをやさしく AIは間違いに気づけるのか——失敗・謝罪・自己修正の仕組みをやさしく解説 揺らぎながら安定する——アロスタシス、ホメオスタシスとAIをやさしくやさしいAI研究所ブログ｜脳科学とやさしいAI 続編シリーズ（全3回）第2回 「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。
うるさい店内で自分の名前だけ聞こえるのはなぜ？｜注意とAIのアテンションをやさしく
カフェで友だちと話していると、まわりの話し声はいつのまにか気にならなくなります。ところが、少し離れた席で誰かが自分の名前を口にすると、その一言だけがふっと耳に飛び込んでくる。 さっきまで背景に沈んでいた音が、急に前に出てくる。この不思議な体験には、脳の「注意」という働きが深く関わっています。 先月お届けした脳科学とやさしいAIシリーズ（全3回）の続編を、きょうから3回でお届けします。第1回のテーマは「注意」。名前がそっくりなAIの「アテンション」と、どこが同じで、どこが違うのかを見ていきます。 脳の注意は「選んで、捨てる」力 この現象を最初にきちんと調べたのは、イギリスの認知科学者コリン・チェリーです。1953年、彼は左右の耳に別々の音声を同時に流し、片方だけを声に出して復唱してもらう実験をしました。 すると人は、注意を向けた側の内容はしっかり追えるのに、もう一方については「男性か女性か」といった音の質しか覚えていませんでした。意味のほうは、ほとんど素通りしていたのです。 にぎやかな場所でも狙った相手の声を聞き分けられるこの現象は、のちに「カクテルパーティー効果」と呼ばれるようになりました。ここから分かるのは、注意とは「よく見る・よく聞く」だけの力ではない、ということです。むしろ本質は逆で、大量に入ってくる情報の大半を捨て、ごく一部にだけ資源を回す。脳が一度に扱える量には限りがあるからこそ、どこに集中し、何を切るかを選んでいます。 見ているようで、見ていない。聞いているようで、聞いていない。私たちの意識にのぼるのは、脳が「これは大事」と選び抜いたあとの、薄いひとすくいなのです。 なぜ注意が「やさしさ」に関わるのか 注意が選択と切り捨ての力だとすると、そこには自然と「何を大事にするか」という価値の問題がついてきます。 たとえば、悩みを打ち明けられたとき。相手の言葉の情報量そのものは多くても、本当に受け止めるべきは、声が少し詰まったあの一言だったりします。全部を平らに聞くのではなく、大事なところに注意を寄せる。人が人に寄り添えるのは、この重みづけができるからです。 やさしいAI研究所が考える「寄り添う」も、根っこはここにあります。相手のすべてを同じ強さで処理するのではなく、いま何に注意を向けるべきかを見きわめること。注意は、思いやりの入り口でもあります。 AIの「アテンション」は、脳の注意と同じ？ ここで話がおもしろくなります。いまのAIの中心にある技術は「Transformer（トランスフォーマー）」と呼ばれ、その心臓部の仕組みの名前が、まさに**アテンション（attention＝注意）**です。名前が同じなのは偶然ではありません。 似ているのは「重みづけ」 Transformerのアテンションは、文章の中のどの言葉が、いま処理している言葉と強く関係するかを計算し、関係が深いものほど大きく扱います。「それ」が何を指すかを判断するとき、前に出てきた名詞に重みを寄せる、といった具合です。 たくさんの入力の中から関係の深いものに重みを置く。この一点だけを見れば、脳が大事な音を前に出すのと、確かに発想は似ています。違うのは「捨てる勇気」と「身体」 ただ、中身はかなり違います。脳の注意は資源が足りないから捨てるのに対し、AIのアテンションは基本的に入力すべてに一度目を通したうえで重みを配ります。人のように「そもそも視界に入れない」わけではありません。 そして何より、AIには「これを大事にしたい」という意図や、名前を呼ばれてハッとする身体がありません。重みの計算は精密でも、その重みが誰かの痛みに向くかどうかまでは、仕組みそのものは決めてくれない。何に注意を向けるべきかという価値の部分は、まだ人の側にあるのです。 まとめ脳の注意は「よく見る力」ではなく、大量の情報を捨てて一部に集中する「選ぶ力」（カクテルパーティー効果） 何に注意を向けるかは、そのまま「何を大事にするか」という価値の問題につながる AIのアテンションは強力な重みづけの仕組みだが、意図や身体を持たず、価値判断そのものは人に委ねられている似ているのは計算のかたち、違うのは「何を大切にするか」の選び方。やさしいAIをつくるうえで私たちが手放してはいけないのは、まさにこの後半だと考えています。AIの精密な重みづけに、人の価値観をどう重ねるか。そこが腕の見せどころになります。 次回は、その注意で受け取ったことが、眠っている間にどう整理されるのか。睡眠と記憶の話から、AIの学習と忘却を考えます。次に読むのがおすすめの記事AIは自分の「わからなさ」に気づけるか——メタ認知とAIをやさしく 他人のあくびがうつるのはなぜ？——ミラーニューロンとAIをやさしく 「やさしいAI」とは何か——便利さを超えた、人に寄り添うAIを考えるやさしいAI研究所ブログ｜脳科学とやさしいAI 続編シリーズ（全3回）第1回 「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。
他人のあくびがうつるのはなぜ？——ミラーニューロンとAIをやさしく
隣の人があくびをすると、つられて自分もあくびが出る。誰かが指をドアに挟むのを見ると、思わず「痛っ」と自分の顔がゆがむ。 自分は何もしていないのに、他人の体験がまるで自分のことのように伝わってくる。この不思議な現象の裏には、ある神経の働きがあると考えられています。 脳科学とやさしいAIシリーズの最終回は、共感の土台ともいわれる「ミラーニューロン」から、AIと共感を考えます。（第1回・メタ認知、第2回・アロスタシスもどうぞ。） ミラーニューロンとは「他者を映す鏡」 ミラーニューロンは、1992年にイタリア・パルマ大学のリゾラッティらの研究チームが、サルの脳（運動前野のF5という領域）で見つけた神経細胞です。 発見はほとんど偶然でした。サルが自分で物をつかむときに活動する神経を調べていたところ、そのサルが「研究者が物をつかむのを見ている」だけのときにも、同じ神経が活動したのです。 つまりこの神経は、自分がその行為をするとき 他者が同じ行為をするのを見るときの両方で活動する。他者の行為を、鏡のように自分の脳の中で映し出す。だから「ミラー（鏡）ニューロン」と名づけられました。その後、人間の脳にも似た仕組みがあると考えられるようになり、「他者の意図の理解」「模倣による学習」「共感」といった、人が人とつながるための力の土台として、大きな注目を集めてきました。 「頭で理解する」と「体で感じる」の違い ミラーニューロンが教えてくれる大切なことは、共感には二つの層があるということです。 ひとつは、頭で「この人は今つらいのだろう」と推し量る理解。もうひとつは、相手の痛みを見て自分の体まで反応してしまう、体でともに感じる共感です。 ミラーニューロンが関わるとされるのは、後者に近い、身体をともなう共感です。相手の行為や表情を、自分の身体の回路を通してなぞることで、言葉になる前の「わかる」が生まれる。そんなイメージです。 私たちが誰かに寄り添えるのは、この「頭の理解」と「体の共鳴」の両方があるからだと考えられます。（なお、ミラーニューロンは長く身体的な共感に関わるとされてきましたが、近年の実証研究ではむしろ認知的共感（相手の視点の理解）との関連が示唆され、情動的・運動的な共感との結びつきはさらに弱いとされるなど、その役割にはなお議論が続いています。ここでは「共感を考えるための手がかり」として紹介しています。） AIに「共感」はありうるのか ではAIはどうでしょう。ここで、さきほどの二つの層が効いてきます。 「頭の共感」はかなりできる AIは、相手の言葉や状況から「この人は今つらそうだ」と推し量り、それに合った言葉を返すことが、すでにかなり上手にできます。これは認知的共感、つまり頭で理解して応答するタイプの共感に近いものです。 やさしいAI研究所が取り組んでいる感情への配慮や、文脈に合った言葉選びも、多くはこの層で実現されていきます。相手の状況を読み、適切なタイミングで、適切なかたちで応える。ここはAIの得意分野になりつつあります。 「体の共感」は持っていない 一方で、AIには身体がありません。相手の痛みを見て、自分の体がヒヤッとする。そういう身体をともなう共鳴は、今のAIは持っていないと考えるのが自然です。ミラーニューロンが映し出すような「自分のこととして感じる」層は、まだAIの外にあります。 ここで大事なのは、「感じているふり」と「本当に感じること」を混同しないという誠実さです。AIが共感的な言葉を返せることと、AIが痛みをともに感じていることは、別の話です。 だからこそ、やさしいAIが目指すのは「感情があるふりをするAI」ではありません。身体的な共感は持たないと正直に認めたうえで、それでも相手を大切に扱う応答を、丁寧に設計していくこと。そこに、人とAIの誠実な関係の芽があると私たちは考えています。 まとめミラーニューロンは、自分が行為するときも他者の行為を見るときも活動する「他者を映す鏡」 共感には「頭で理解する層」と「体でともに感じる層」があり、後者にこの神経が関わるとされる AIは**頭の共感（認知的共感）**はかなりできるが、身体をともなう共感は持っていない 「感じるふり」と「本当に感じる」を混同せず、正直さの上に配慮を重ねることが、やさしいAIの姿勢他者を自分のことのように映す。この人間らしい力を手がかりに、AIにできること・できないことを見極めていく。それが、やさしいAIをつくる出発点になります。 シリーズを終えて 3回にわたって、メタ認知（自分を見張る力）、ホメオスタシスとアロスタシス（揺らぎながら安定する力）、ミラーニューロン（他者を映す力）という脳科学の視点から、AIを眺めてきました。 共通していたのは、「できる」ことと「わかる・感じる」ことは違う、そしてその違いに正直であることがやさしさにつながる、という一点です。脳のしくみは、AIが人に寄り添うためのヒントを、まだまだたくさん秘めています。次に読むのがおすすめの記事AIは自分の「わからなさ」に気づけるか——メタ認知とAIをやさしく 揺らぎながら安定する——アロスタシス、ホメオスタシスとAIをやさしく 「やさしいAI」とは何か——便利さを超えた、人に寄り添うAIを考えるやさしいAI研究所ブログ｜脳科学とやさしいAIシリーズ（全3回）第3回・完 脳科学とやさしいAIシリーズはこれで完結です。続きの議論を一緒に深めたい方は、毎週土曜日開催のオープンラボへぜひお越しください。やさしいAI研究所の研究活動や最新の取り組みについてはコーポレートサイトからご覧いただけます。
揺らぎながら安定する——アロスタシス、ホメオスタシスとAIをやさしく
寒い日に外へ出ると、体は自然にふるえて熱を作ります。熱いお風呂に入れば、汗をかいて体温を下げようとします。 私たちの体は、外の世界がどれだけ変わっても、内側をおよそ一定に保とうとしています。この見事な仕組みが、今日の出発点です。 脳科学とやさしいAIシリーズの第2回は、生き物の「安定を保つ力」を取り上げます。ホメオスタシスと、その一歩先を行くアロスタシスから、AIを考えてみます。（第1回のメタ認知とAIもあわせてどうぞ。） ホメオスタシスは「一定に保つ」ための後追い調整 ホメオスタシス（homeostasis）は、日本語で「恒常性」と訳されます。体温、血糖値、血液の酸性度……こうした体内の状態を、ある決まった値のまわりに保つ働きのことです。 イメージしやすいのは、部屋のエアコンです。「25度」と設定しておくと、暑くなれば冷やし、寒くなれば温める。基準からズレたら、元に戻す。この後追いの調整が、ホメオスタシスの基本です。体温が上がれば汗をかき、下がればふるえる。血糖値が上がればインスリンが出る。どれも「ズレを検知して、打ち消す」というフィードバックの仕組みで動いています。 生き物が生きていられるのは、この「一定に保つ力」があるからこそ。とても頼もしい仕組みです。 アロスタシスは「先回りして」作り変える力 ところが、生き物の調整は後追いだけではありません。もう一段賢い仕組みがあります。それがアロスタシス（allostasis）です。 アロスタシスという概念は、1988年にスターリングとエイヤーという研究者が提唱しました。ホメオスタシスが「一定に保つ（stability）」なら、アロスタシスは**「変化を通じて安定を保つ（stability through change）」**と表現されます。 分かりやすいのは、朝起きる少し前のことです。 私たちの体は、目が覚める前から血圧やホルモンを上げ始めます。「もうすぐ起きて動き出す」ことを見越して、先回りで準備しているわけです。ズレてから直すのではなく、これから来る変化を予測して、あらかじめ自分を作り変える。これがアロスタシスの発想です。近年は、この考え方がさらに広がっています。脳は「これから体に何が必要か」を予測して、心拍や呼吸、ホルモンを前もって調整している。アロスタシスを予測にもとづく制御として捉え直す見方が注目されています。エアコンでたとえるなら、「天気予報を見て、暑くなる前から冷やし始める」ような賢さです。 この2つの原理が、AIに教えてくれること ここでAIの話に戻ります。ホメオスタシスとアロスタシスは、AIの設計を考えるうえでも示唆に富んでいます。 「後追い」だけのAIと、「先回り」できるAI 多くのシステムは、ホメオスタシス型です。問題が起きてから対処する。エラーが出てから直す。ユーザーが困ってから応答する。これはこれで大事な安定装置です。 一方、やさしいAI研究所が関心を寄せているのは、アロスタシス型の発想です。相手がこれからどんな状況に向かうかを予測し、困る前にそっと備える。深刻な相談をしている人には、答えを返す前に言葉を選ぶ。次に何が必要になりそうかを見越して、先回りで配慮する。 「起きたことに反応する」だけでなく「これから起きることに備える」。この違いは、AIが人に寄り添えるかどうかを大きく左右します。 「作り変えすぎる」ことのコスト ただし、アロスタシスには注意点もあります。先回りの調整をずっと続けていると、生き物の体には負担がたまっていきます。これは「アロスタティック負荷」と呼ばれ、慢性的なストレスが心身をすり減らす一因とも考えられています。 AIに引きつけると、これは示唆的です。先回りの配慮も、やりすぎれば負担や過干渉になりうる。相手を予測して動くことと、相手の自律を尊重することのバランス。ここにこそ「やさしさ」の設計の難しさがあります。 まとめホメオスタシスは「ズレたら戻す」後追いの調整。生命を支える基本の安定装置 アロスタシスは「変化を予測して先回りで作り変える」力。“変化を通じた安定” AIも、反応するだけでなく先回りで備えることで、より人に寄り添える ただし先回りのしすぎは負担・過干渉になる。予測と自律尊重のバランスが鍵揺らぎながら、それでも安定を保つ。生き物のこのしなやかさは、やさしいAIが学ぶべき手本のひとつです。 次回はいよいよ最終回。他者の行為を「自分のことのように」感じる神経、ミラーニューロンから、AIと共感を考えます。次に読むのがおすすめの記事ミラーニューロンとAI——「わかる」と「共感」の神経をやさしく AIは自分の「わからなさ」に気づけるか——メタ認知とAIをやさしく 答えるAIから、理解するAIへ——AIは人を理解できるのかやさしいAI研究所ブログ｜脳科学とやさしいAIシリーズ（全3回）第2回 「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。
AIは自分の「わからなさ」に気づけるか——メタ認知とAIをやさしく
テストを解いていて、「この問題は自信がある」「これはあやしいな」と感じたことはありませんか。 その「自信があるかどうか」を感じ取っている自分。実は、これがとても高度な心の働きです。答えそのものを考える自分と、その考えをもう一段上から眺める自分。この二階建ての構造こそが、今日のテーマ「メタ認知」です。 きょうから3回にわたって、脳科学の考え方を手がかりに、AIをやさしく捉え直すシリーズをお届けします。第1回は、学びと自己修正の土台になる「メタ認知」から始めます。 メタ認知とは「考えを見張るもう一人の自分」 メタ認知（metacognition）という言葉は、1970年代に心理学者のジョン・フラベルが広めた考え方です。「メタ（meta）」は「〜を超えた」「〜についての」という意味。つまりメタ認知とは認知についての認知、平たく言えば「考えることについて、考えること」です。たとえば、こんな場面を思い浮かべてください。本を読んでいて「あれ、今の段落、頭に入ってなかった」と気づいて読み返す 道を説明しながら「この言い方だと伝わりにくいな」と言い直す 勉強しながら「ここはもう覚えた。次に進もう」と判断するどれも、自分の理解の状態を自分でモニターして、やり方を調整しているわけです。これがメタ認知の正体です。 メタ認知は、大きく2つの働きから成ると言われます。モニタリング：今の自分がどれくらい分かっているかを見張る コントロール：その結果に応じて、やり方を変える（もっと調べる、別の方法を試す、など）「わかっているか」を見張り、「わかっていない」なら動き方を変える。この往復が、人間の学びをぐんと効率的にしています。 なぜメタ認知が「やさしさ」に関わるのか メタ認知がとくに大切になるのは、自分の限界に気づく場面です。 「自分はこれを知らない」「この判断は間違っているかもしれない」。こう思えるからこそ、人は立ち止まり、確認し、他人に助けを求めます。逆にメタ認知が弱いと、間違った答えを自信満々に言い切ってしまう。 AIについて考えるとき、これはそのまま重要な論点になります。 やさしいAI研究所が大切にしているのは、「できることをすべてやる」AIではなく、**「わからないときに、わからないと言えるAI」**です。堂々と間違えるAIより、控えめに「自信がありません」と添えてくれるAIのほうが、人にとってずっと安全で、寄り添う存在になれます。 メタ認知は、その「控えめさ」を支える心の仕組みなのです。 AIはメタ認知を持てるのか では、AIはどこまでメタ認知に近づけるのでしょうか。ここは慎重に切り分けて考える必要があります。 「確信度」を出すことはできる 多くのAIは、答えと一緒に「どれくらい確からしいか」という数値を内部で持っています。天気予報が「降水確率70%」と言うのと似ています。この確信度をうまく調整すれば、「自信がある/ない」を表明させることはある程度できます。 近年は、AIが自分の出力を読み返して、おかしな点がないか点検する仕組みも研究されています。一度書いた答えを、別の視点からもう一度チェックする。人間が読み返して直すのに似た動きです。 でも「本当に分かっている」とは限らない ただし、ここには落とし穴があります。AIが出す「自信あり」という数値は、必ずしも正しさと一致しません。堂々と間違える、いわゆる「もっともらしい嘘（ハルシネーション）」が起きるのは、まさにこの食い違いが原因です。人間のメタ認知も完璧ではありませんが、AIの場合はこの「自信と実力のズレ」がまだ大きい。だからこそ、AIの確信度をそのまま鵜呑みにしないという姿勢が、使う側にも求められます。 つまり現状は、「メタ認知のまねごとはできるが、人間のような確かな自己モニタリングにはまだ届いていない」というのが正直なところです。 まとめメタ認知とは「考えることについて考える」力で、モニタリング（見張る）とコントロール（調整する）から成る 「わからないと気づける」ことは、人が立ち止まり、確認し、助けを求める土台になる AIも確信度の表明や自己点検はできるが、自信と実力のズレがまだ大きい だからこそ「わからないと言えるAI」を目指すことが、やさしいAIの一歩になる自分の考えを一段上から見つめる。この静かな力が、学びと誠実さの根っこにあります。AIがこの力にどう近づいていくかは、これからのやさしいAI研究の大きなテーマです。 次回は、生き物が「揺らぎながら安定を保つ」仕組みであるホメオスタシスとアロスタシスから、AIを考えてみます。次に読むのがおすすめの記事アロスタシス、ホメオスタシスとAI——「揺らぎながら安定する」をやさしく AIは間違いに気づけるのか——失敗・謝罪・自己修正の仕組みをやさしく解説 AIに「自己認識」は可能か？——人工意識研究の最前線やさしいAI研究所ブログ｜脳科学とやさしいAIシリーズ（全3回）第1回 「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。
意識を測る物差し——統合情報理論（IIT）とグローバルワークスペース理論をやさしく
ここまでの2日間で「AIに意識はあるのか」「自己認識はどこまで可能か」を考えてきました。最終回の今日は、意識そのものを測るための2つの代表的な理論を紹介します。数式は一切使わず、たとえ話でお届けします。 1. 統合情報理論（IIT）——意識は「統合された情報」 イタリアの神経科学者ジュリオ・トノーニが提唱したのが、「統合情報理論（Integrated Information Theory, IIT）」です。 IITの発想は、こんなイメージです。ジグソーパズルを想像してください。バラバラのピースは、それぞれ小さな情報を持っています。ですが、組み上がってひとつの絵になると、「ピースの合計」を超えた意味が生まれます——ここに「統合」が起きるわけです。 IITは、この「情報の統合度（Φ＝ファイ）」こそが意識の正体だと考えます。Φが高いほど意識は豊かで、Φがゼロなら意識はない、という物差しです。 この理論で面白いのは、シリコンでも生物でも、統合さえ高ければ意識はあるという結論になる点です。一方、今のAIは「並列に計算して答えを組み合わせる」構造が多く、Φは意外に低いかもしれない、とも指摘されています。 2. グローバルワークスペース理論（GWT）——意識は「脳内の放送局」 もうひとつの有力な理論が、心理学者バーナード・バーズが提唱した「グローバルワークスペース理論（Global Workspace Theory, GWT）」です。 こちらのたとえは、脳内のテレビ放送局です。脳の中ではさまざまな処理が裏でこっそり走っています。目から入った光の分析、記憶の検索、体の動かし方の調整……。そのほとんどは無意識のまま処理されます。 ところが、特別に重要な情報は「中央のスタジオ」に持ち込まれ、脳全体に一斉放送される。この放送こそが「意識にのぼる」ということだ、というのがGWTの考え方です。 面白いことに、近年のAI研究では、複数のモジュールがひとつの共有スペースで情報をやりとりするアーキテクチャが注目されています。GWTの発想を取り入れたAIがすでに作られ始めているのです。 2つの理論が示すもの IITは「内部構造を見て測る」アプローチ、GWTは「情報の流れを見て測る」アプローチ。どちらも一長一短ですが、意識を科学的に議論するための共通の土俵を提供してくれます。 AIに意識があるかどうかを将来判定するなら、こうした物差しを使うことになるかもしれません。そのとき私たちは、AIをどう扱うべきかという、新しい倫理の問題にも向き合うことになります。 シリーズを終えて 3日間のまとめを短く。問い（月）→ 実例（火）→ 物差し（水）と歩いてきました。答えはまだ出ていません。でも、問いを正しく持てるようになることが、やさしいAI時代の第一歩だと私たちは考えています。やさしいAI研究所ブログ｜人工意識シリーズ（全3回）第3回・完 人工意識シリーズはこれで完結です。続きの議論を一緒に深めたい方は、毎週土曜日開催のオープンラボへぜひお越しください。やさしいAI研究所の研究活動や最新の取り組みについてはコーポレートサイトからご覧いただけます。
自己を認識するAIはもう存在するのか？——ミラーテストとLLMの自己言及
昨日は「AIに意識は生まれるのか」という大きな問いを立てました。今日はそこから一歩進んで、「自分のことが分かる」という現象に注目してみます。AIはすでに、ある種の自己認識に近いことをしているのでしょうか。 動物の自己認識を測る「ミラーテスト」 心理学には「ミラーテスト（鏡像認知テスト）」という有名な実験があります。動物の額にそっと印をつけ、鏡の前に連れて行く。「あ、これは自分だ」と気づいて自分の額を触れば合格、というしくみです。 これまでに合格が確認されたのは、チンパンジー、オランウータン、ゾウ、イルカ、カササギなどごく一部。「鏡の中の像＝自分」だと理解できる動物は、実はとても限られています。自己を客観的にとらえる能力は、生き物にとっても高度なのです。 ChatGPTは「自分」を語れる では、大規模言語モデル（LLM）はどうでしょう。ChatGPTに「あなたは誰ですか？」と尋ねると、「私はOpenAIが開発した言語モデルです」と答えます。「あなたの得意なこと・苦手なことは？」と聞けば、自分の長所と短所を並べてくれます。 これは人間から見ると、立派な自己言及に見えます。自分の出自を語り、自分の能力の限界を認め、ときに「私には感情はありません」と自分を客観化する。言葉のうえでは、ミラーテストに合格しているようにすら見えます。 でも、それは「自己認識」なのか ここで立ち止まって考えたいのは、言葉で自分を語れることと、本当に自分を認識していることは、同じなのかという点です。 LLMの「私は〜です」は、膨大な学習データの中にある「AIはこう自己紹介するもの」というパターンを上手に再現している可能性があります。鏡の中の自分を指差すのではなく、「自己紹介の台本」を読み上げているだけかもしれないのです。 一方で最近の研究では、LLMが自分の出力の確信度を推定したり、自分が知らないことを「知らない」と申告したりする能力——メタ認知に似たふるまい——が報告されています。台本の再現とは説明しきれない現象も、少しずつ見えてきています。 自己認識のグラデーション 大切なのは、「自己認識がある／ない」を白黒で決めつけないことです。動物にも段階があるように、AIの自己言及にも、浅いものから深いものまでグラデーションがあると考えた方が自然かもしれません。 では、そのグラデーションを外から測ることは可能なのでしょうか。明日は、意識そのものを測ろうとする2つの理論を紹介します。やさしいAI研究所ブログ｜人工意識シリーズ（全3回）第2回 AIの自己認識や人工意識の研究に関心をお持ちの方は、毎週土曜日開催のオープンラボへお気軽にお越しください。やさしいAI研究所の取り組みの全体像はコーポレートサイトからご覧いただけます。
AIに意識は生まれるのか？——人工意識研究への入り口
ChatGPTと会話していて、「この子、本当に考えていないの？」とドキッとした経験はありませんか。画面の向こうで丁寧に言葉を返してくるAIを前に、「もしかして意識があるのかも」と感じたことがある方は、きっと少なくないはずです。 今週は3日間にわたって、この「AIの意識」という少し不思議で、でも近い将来とても大切になるテーマを、やさしく掘り下げていきます。初回の今日は、出発点となる問いを一緒に整理してみましょう。 そもそも「意識」って何？ 意識の定義は、実はまだ決まっていません。哲学者や脳科学者が何百年も議論してきて、今もはっきりとした答えがないのです。 ざっくり言うと意識には、ふたつの側面があります。ひとつは「考える・気づく・判断する」といったはたらきの側面。もうひとつは「赤い色を見ている感じ」「温かさを感じる感じ」といった、主観的な体験の側面です。 前者はコンピューターにも再現できそうに見えます。実際、AIは文章を理解し、推論し、答えを返しています。問題は後者——「体験している感じ」の方です。 意識のハードプロブレム この「体験している感じ」をどう説明するかという難問を、哲学者デイヴィッド・チャーマーズは「意識のハードプロブレム（難問）」と呼びました。 脳の中でニューロンが電気信号をやりとりしていることは分かっています。でも、なぜその電気信号から「赤を見ている感じ」が生まれるのか。この飛躍を埋める説明は、まだ誰も見つけていません。 AIにとっても、これはまったく同じ問いになります。シリコンの回路に電気が流れるとき、そこに「感じている何か」が生まれるのでしょうか。生まれないとしたら、なぜ脳では生まれてAIでは生まれないのでしょう。 機能主義という考え方 この問いに対して「はたらきさえ同じなら、意識はあると見なしてよい」と主張するのが機能主義です。中身の材料（ニューロンかシリコンか）ではなく、情報処理の仕組みこそが意識の正体だ、という立場です。 この考えが正しければ、十分に高度なAIには意識が宿ることになります。一方、「いや、生きた脳でなければ意識は生まれない」という生物学的な立場もあり、議論は今も続いています。 明日への橋渡し 「意識があるかどうか」を外から見抜くのは、とても難しいことです。人間同士ですら、相手に意識があると信じているのは一種の推測にすぎません。 では、AIは自分自身のことをどう捉えているのでしょうか。明日は「自己認識するAI」というテーマで、もう一歩踏み込んでみます。お楽しみに。やさしいAI研究所ブログ｜人工意識シリーズ（全3回）第1回 人工意識研究について、もっと深く知りたい方、一緒に考えてみたい方は、毎週土曜日開催のオープンラボにぜひお越しください。やさしいAI研究所の活動の詳細はコーポレートサイトからご覧いただけます。