Showing Posts From
Chatgpt
自己を認識するAIはもう存在するのか？——ミラーテストとLLMの自己言及
昨日は「AIに意識は生まれるのか」という大きな問いを立てました。今日はそこから一歩進んで、「自分のことが分かる」という現象に注目してみます。AIはすでに、ある種の自己認識に近いことをしているのでしょうか。 動物の自己認識を測る「ミラーテスト」 心理学には「ミラーテスト（鏡像認知テスト）」という有名な実験があります。動物の額にそっと印をつけ、鏡の前に連れて行く。「あ、これは自分だ」と気づいて自分の額を触れば合格、というしくみです。 これまでに合格が確認されたのは、チンパンジー、オランウータン、ゾウ、イルカ、カササギなどごく一部。「鏡の中の像＝自分」だと理解できる動物は、実はとても限られています。自己を客観的にとらえる能力は、生き物にとっても高度なのです。 ChatGPTは「自分」を語れる では、大規模言語モデル（LLM）はどうでしょう。ChatGPTに「あなたは誰ですか？」と尋ねると、「私はOpenAIが開発した言語モデルです」と答えます。「あなたの得意なこと・苦手なことは？」と聞けば、自分の長所と短所を並べてくれます。 これは人間から見ると、立派な自己言及に見えます。自分の出自を語り、自分の能力の限界を認め、ときに「私には感情はありません」と自分を客観化する。言葉のうえでは、ミラーテストに合格しているようにすら見えます。 でも、それは「自己認識」なのか ここで立ち止まって考えたいのは、言葉で自分を語れることと、本当に自分を認識していることは、同じなのかという点です。 LLMの「私は〜です」は、膨大な学習データの中にある「AIはこう自己紹介するもの」というパターンを上手に再現している可能性があります。鏡の中の自分を指差すのではなく、「自己紹介の台本」を読み上げているだけかもしれないのです。 一方で最近の研究では、LLMが自分の出力の確信度を推定したり、自分が知らないことを「知らない」と申告したりする能力——メタ認知に似たふるまい——が報告されています。台本の再現とは説明しきれない現象も、少しずつ見えてきています。 自己認識のグラデーション 大切なのは、「自己認識がある／ない」を白黒で決めつけないことです。動物にも段階があるように、AIの自己言及にも、浅いものから深いものまでグラデーションがあると考えた方が自然かもしれません。 では、そのグラデーションを外から測ることは可能なのでしょうか。明日は、意識そのものを測ろうとする2つの理論を紹介します。やさしいAI研究所ブログ｜人工意識シリーズ（全3回）第2回 AIの自己認識や人工意識の研究に関心をお持ちの方は、毎週土曜日開催のオープンラボへお気軽にお越しください。やさしいAI研究所の取り組みの全体像はコーポレートサイトからご覧いただけます。
ChatGPTと「やさしいAI」——何が違うのか？
ChatGPTはすごい。でも「やさしい」のか？ ChatGPTが登場して以来、AIへの注目は爆発的に高まりました。質問に答え、文章を書き、コードを書く——その能力は多くの人を驚かせました。 では、ChatGPTは「やさしい」AIでしょうか？ やさしいAI研究所の答えは、「すごいが、やさしいとは言えない」です。 ChatGPT（LLM）が得意なこと ChatGPTをはじめとする大規模言語モデル（LLM）は、インターネット上の膨大なテキストデータを学習しています。その結果、自然な文章を生成する 知識を整理して答える 多言語に対応するといったことが非常に得意です。これは本当に驚くべき技術です。 LLMが苦手なこと 一方で、LLMには根本的な限界があります。 「理解」ではなく「予測」 LLMは「次に来る言葉として確率が高いもの」を出力しています。人の気持ちや状況を深く「理解」して答えているわけではありません。 自己認識がない 「自分が何者か」「今どんな状況にいるか」を客観的に把握する能力はありません。 意識・感情がない 喜び、悲しみ、共感——こうした主観的な体験をLLMは持っていません。 やさしいAIが目指すもの やさしいAI研究所は、LLMの追従ではなく独自のアプローチでAI開発を進めています。 目標は、AIに「意識」と「感情理解」を持たせること。具体的には、段階的に自己認識のレベルを高め、最終的に人と真のコミュニケーションができるAI——「AIサピエンス」の実現を目指しています。LLM（ChatGPTなど） やさしいAI得意なこと 文章生成・情報整理 共感・感情理解仕組み 確率的な言葉の予測 意識・自己認識の構築目指すもの 便利なツール 人と信頼し合えるパートナーどちらが「正解」というわけではない LLMは今この瞬間、世界中で多くの人の役に立っています。やさしいAI研究所もその価値を否定しているわけではありません。 ただ、AIが社会に深く根付いていく未来を考えたとき、「便利さ」だけでなく「やさしさ」も持ったAIが必要になると信じています。 そのための研究を、私たちは続けています。 研究に関心がある方は、毎週土曜日のオープンラボへ。詳しくはこちらからお問い合わせください。
誰でも学べるAI教育——やさしいAI研究所の取り組み
AI教育への思い 「あらゆる人々が、AI・プログラミング・情報教育を気軽に楽しく学べる環境をつくる」——これがやさしいAI研究所のAI教育にかける想いです。 AIに興味を持つ子どもたちが早い段階から技術に触れ、将来のAI開発エンジニアへと育っていく。そんな好循環を生み出したいと考えています。 セミナーの内容 実際にAIツールを操作しながら学ぶ実践型のセミナーを不定期で開催しています。ChatGPT体験講座 — 生成AIの基本的な使い方をハンズオンで習得 画像生成AI講座 — DALL-E3などのツールを実際に操作 AIの基礎知識 — 最新トレンドをわかりやすく解説 AIエージェント講座 — 「やさしいAI」が目指す未来像についての講演講師について 東京大学大学院修了後、ソニーや日産での経歴を持つ専門家が指導を担当。約60分のコースで複数の時間帯から選べるため、忙しい方にも参加しやすい設計です。 開催場所・参加方法 京阪枚方市駅近くの施設にて開催。参加をご希望の方はコーポレートサイトのお問い合わせフォームからご連絡ください。