Showing Posts From
注意
うるさい店内で自分の名前だけ聞こえるのはなぜ？｜注意とAIのアテンションをやさしく
カフェで友だちと話していると、まわりの話し声はいつのまにか気にならなくなります。ところが、少し離れた席で誰かが自分の名前を口にすると、その一言だけがふっと耳に飛び込んでくる。 さっきまで背景に沈んでいた音が、急に前に出てくる。この不思議な体験には、脳の「注意」という働きが深く関わっています。 先月お届けした脳科学とやさしいAIシリーズ（全3回）の続編を、きょうから3回でお届けします。第1回のテーマは「注意」。名前がそっくりなAIの「アテンション」と、どこが同じで、どこが違うのかを見ていきます。 脳の注意は「選んで、捨てる」力 この現象を最初にきちんと調べたのは、イギリスの認知科学者コリン・チェリーです。1953年、彼は左右の耳に別々の音声を同時に流し、片方だけを声に出して復唱してもらう実験をしました。 すると人は、注意を向けた側の内容はしっかり追えるのに、もう一方については「男性か女性か」といった音の質しか覚えていませんでした。意味のほうは、ほとんど素通りしていたのです。 にぎやかな場所でも狙った相手の声を聞き分けられるこの現象は、のちに「カクテルパーティー効果」と呼ばれるようになりました。ここから分かるのは、注意とは「よく見る・よく聞く」だけの力ではない、ということです。むしろ本質は逆で、大量に入ってくる情報の大半を捨て、ごく一部にだけ資源を回す。脳が一度に扱える量には限りがあるからこそ、どこに集中し、何を切るかを選んでいます。 見ているようで、見ていない。聞いているようで、聞いていない。私たちの意識にのぼるのは、脳が「これは大事」と選び抜いたあとの、薄いひとすくいなのです。 なぜ注意が「やさしさ」に関わるのか 注意が選択と切り捨ての力だとすると、そこには自然と「何を大事にするか」という価値の問題がついてきます。 たとえば、悩みを打ち明けられたとき。相手の言葉の情報量そのものは多くても、本当に受け止めるべきは、声が少し詰まったあの一言だったりします。全部を平らに聞くのではなく、大事なところに注意を寄せる。人が人に寄り添えるのは、この重みづけができるからです。 やさしいAI研究所が考える「寄り添う」も、根っこはここにあります。相手のすべてを同じ強さで処理するのではなく、いま何に注意を向けるべきかを見きわめること。注意は、思いやりの入り口でもあります。 AIの「アテンション」は、脳の注意と同じ？ ここで話がおもしろくなります。いまのAIの中心にある技術は「Transformer（トランスフォーマー）」と呼ばれ、その心臓部の仕組みの名前が、まさに**アテンション（attention＝注意）**です。名前が同じなのは偶然ではありません。 似ているのは「重みづけ」 Transformerのアテンションは、文章の中のどの言葉が、いま処理している言葉と強く関係するかを計算し、関係が深いものほど大きく扱います。「それ」が何を指すかを判断するとき、前に出てきた名詞に重みを寄せる、といった具合です。 たくさんの入力の中から関係の深いものに重みを置く。この一点だけを見れば、脳が大事な音を前に出すのと、確かに発想は似ています。違うのは「捨てる勇気」と「身体」 ただ、中身はかなり違います。脳の注意は資源が足りないから捨てるのに対し、AIのアテンションは基本的に入力すべてに一度目を通したうえで重みを配ります。人のように「そもそも視界に入れない」わけではありません。 そして何より、AIには「これを大事にしたい」という意図や、名前を呼ばれてハッとする身体がありません。重みの計算は精密でも、その重みが誰かの痛みに向くかどうかまでは、仕組みそのものは決めてくれない。何に注意を向けるべきかという価値の部分は、まだ人の側にあるのです。 まとめ脳の注意は「よく見る力」ではなく、大量の情報を捨てて一部に集中する「選ぶ力」（カクテルパーティー効果） 何に注意を向けるかは、そのまま「何を大事にするか」という価値の問題につながる AIのアテンションは強力な重みづけの仕組みだが、意図や身体を持たず、価値判断そのものは人に委ねられている似ているのは計算のかたち、違うのは「何を大切にするか」の選び方。やさしいAIをつくるうえで私たちが手放してはいけないのは、まさにこの後半だと考えています。AIの精密な重みづけに、人の価値観をどう重ねるか。そこが腕の見せどころになります。 次回は、その注意で受け取ったことが、眠っている間にどう整理されるのか。睡眠と記憶の話から、AIの学習と忘却を考えます。次に読むのがおすすめの記事AIは自分の「わからなさ」に気づけるか——メタ認知とAIをやさしく 他人のあくびがうつるのはなぜ？——ミラーニューロンとAIをやさしく 「やさしいAI」とは何か——便利さを超えた、人に寄り添うAIを考えるやさしいAI研究所ブログ｜脳科学とやさしいAI 続編シリーズ（全3回）第1回 「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。