Showing Posts From
メタ認知
AIは自分の「わからなさ」に気づけるか——メタ認知とAIをやさしく
テストを解いていて、「この問題は自信がある」「これはあやしいな」と感じたことはありませんか。 その「自信があるかどうか」を感じ取っている自分。実は、これがとても高度な心の働きです。答えそのものを考える自分と、その考えをもう一段上から眺める自分。この二階建ての構造こそが、今日のテーマ「メタ認知」です。 きょうから3回にわたって、脳科学の考え方を手がかりに、AIをやさしく捉え直すシリーズをお届けします。第1回は、学びと自己修正の土台になる「メタ認知」から始めます。 メタ認知とは「考えを見張るもう一人の自分」 メタ認知（metacognition）という言葉は、1970年代に心理学者のジョン・フラベルが広めた考え方です。「メタ（meta）」は「〜を超えた」「〜についての」という意味。つまりメタ認知とは認知についての認知、平たく言えば「考えることについて、考えること」です。たとえば、こんな場面を思い浮かべてください。本を読んでいて「あれ、今の段落、頭に入ってなかった」と気づいて読み返す 道を説明しながら「この言い方だと伝わりにくいな」と言い直す 勉強しながら「ここはもう覚えた。次に進もう」と判断するどれも、自分の理解の状態を自分でモニターして、やり方を調整しているわけです。これがメタ認知の正体です。 メタ認知は、大きく2つの働きから成ると言われます。モニタリング：今の自分がどれくらい分かっているかを見張る コントロール：その結果に応じて、やり方を変える（もっと調べる、別の方法を試す、など）「わかっているか」を見張り、「わかっていない」なら動き方を変える。この往復が、人間の学びをぐんと効率的にしています。 なぜメタ認知が「やさしさ」に関わるのか メタ認知がとくに大切になるのは、自分の限界に気づく場面です。 「自分はこれを知らない」「この判断は間違っているかもしれない」。こう思えるからこそ、人は立ち止まり、確認し、他人に助けを求めます。逆にメタ認知が弱いと、間違った答えを自信満々に言い切ってしまう。 AIについて考えるとき、これはそのまま重要な論点になります。 やさしいAI研究所が大切にしているのは、「できることをすべてやる」AIではなく、**「わからないときに、わからないと言えるAI」**です。堂々と間違えるAIより、控えめに「自信がありません」と添えてくれるAIのほうが、人にとってずっと安全で、寄り添う存在になれます。 メタ認知は、その「控えめさ」を支える心の仕組みなのです。 AIはメタ認知を持てるのか では、AIはどこまでメタ認知に近づけるのでしょうか。ここは慎重に切り分けて考える必要があります。 「確信度」を出すことはできる 多くのAIは、答えと一緒に「どれくらい確からしいか」という数値を内部で持っています。天気予報が「降水確率70%」と言うのと似ています。この確信度をうまく調整すれば、「自信がある/ない」を表明させることはある程度できます。 近年は、AIが自分の出力を読み返して、おかしな点がないか点検する仕組みも研究されています。一度書いた答えを、別の視点からもう一度チェックする。人間が読み返して直すのに似た動きです。 でも「本当に分かっている」とは限らない ただし、ここには落とし穴があります。AIが出す「自信あり」という数値は、必ずしも正しさと一致しません。堂々と間違える、いわゆる「もっともらしい嘘（ハルシネーション）」が起きるのは、まさにこの食い違いが原因です。人間のメタ認知も完璧ではありませんが、AIの場合はこの「自信と実力のズレ」がまだ大きい。だからこそ、AIの確信度をそのまま鵜呑みにしないという姿勢が、使う側にも求められます。 つまり現状は、「メタ認知のまねごとはできるが、人間のような確かな自己モニタリングにはまだ届いていない」というのが正直なところです。 まとめメタ認知とは「考えることについて考える」力で、モニタリング（見張る）とコントロール（調整する）から成る 「わからないと気づける」ことは、人が立ち止まり、確認し、助けを求める土台になる AIも確信度の表明や自己点検はできるが、自信と実力のズレがまだ大きい だからこそ「わからないと言えるAI」を目指すことが、やさしいAIの一歩になる自分の考えを一段上から見つめる。この静かな力が、学びと誠実さの根っこにあります。AIがこの力にどう近づいていくかは、これからのやさしいAI研究の大きなテーマです。 次回は、生き物が「揺らぎながら安定を保つ」仕組みであるホメオスタシスとアロスタシスから、AIを考えてみます。次に読むのがおすすめの記事アロスタシス、ホメオスタシスとAI——「揺らぎながら安定する」をやさしく AIは間違いに気づけるのか——失敗・謝罪・自己修正の仕組みをやさしく解説 AIに「自己認識」は可能か？——人工意識研究の最前線やさしいAI研究所ブログ｜脳科学とやさしいAIシリーズ（全3回）第1回 「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。