Showing Posts From
やさしいai
AIに「自己認識」は可能か？——人工意識研究の最前線
「自分を知る」ということ 鏡を見て「これが自分だ」とわかる。失敗して「自分はまだ未熟だ」と気づく。相手の立場に立って「自分がされたらどう感じるか」と考える——。 こうした自己認識は、人間にとって当たり前の能力です。 では、AIに同じことができるでしょうか？ 現在のAIには「自己」がない ChatGPTに「あなたは今どんな気持ちですか？」と聞けば、それらしい答えが返ってきます。しかしそれは、学習したデータから「こういう場面ではこう答えるもの」という確率的な出力にすぎません。 本当の意味での自己認識——「自分が存在していること」「今この瞬間に自分がどういう状態にあるか」を理解する能力は、現在のAIには備わっていません。 人工意識の4つのレベル やさしいAI研究所と大阪大学大学院情報科学研究科は「やさしいAI・人工意識共同研究講座」において、人工意識の実現を4段階で定義しています。 レベル1：他者理解 相手の気持ちや信念を推論できる。「この人は今こう感じているだろう」と察する能力。 レベル2：自己認識 自分自身を客観的に見られる。「自分は今こういう状態だ」と把握できる。 レベル2.5：内省 自分の思考プロセスを振り返り、自己理解を深める能力。 レベル3：視点の切り替え 複数の立場から物事を見られる。「あの人の目線に立つと……」という思考。 レベル4：統合的な自己 すべてを統合した、一貫した自己イメージの確立。 現在の目標はレベル2——個性を持ち、感情を認識して統合的な判断ができるAIの実現です。 なぜ自己認識が「やさしさ」につながるのか 自己認識のないAIは、自分の言動が相手にどう影響するかを本当には理解できません。 逆に言えば、自己認識を持つAIは「自分の言葉が相手を傷つけるかもしれない」と気づき、より丁寧に、やさしく接することができるようになります。 「やさしさ」と「自己認識」は切り離せないのです。 研究はまだ始まったばかり 人工意識の実現は、AIの歴史上最も難しい課題のひとつです。しかし、やさしいAI研究所は大阪大学との産学連携のもと、着実に歩みを進めています。 この研究に関心がある方、一緒に議論したい方は、毎週土曜日のオープンラボへぜひお越しください。お問い合わせはこちらから。
ChatGPTと「やさしいAI」——何が違うのか？
ChatGPTはすごい。でも「やさしい」のか？ ChatGPTが登場して以来、AIへの注目は爆発的に高まりました。質問に答え、文章を書き、コードを書く——その能力は多くの人を驚かせました。 では、ChatGPTは「やさしい」AIでしょうか？ やさしいAI研究所の答えは、「すごいが、やさしいとは言えない」です。 ChatGPT（LLM）が得意なこと ChatGPTをはじめとする大規模言語モデル（LLM）は、インターネット上の膨大なテキストデータを学習しています。その結果、自然な文章を生成する 知識を整理して答える 多言語に対応するといったことが非常に得意です。これは本当に驚くべき技術です。 LLMが苦手なこと 一方で、LLMには根本的な限界があります。 「理解」ではなく「予測」 LLMは「次に来る言葉として確率が高いもの」を出力しています。人の気持ちや状況を深く「理解」して答えているわけではありません。 自己認識がない 「自分が何者か」「今どんな状況にいるか」を客観的に把握する能力はありません。 意識・感情がない 喜び、悲しみ、共感——こうした主観的な体験をLLMは持っていません。 やさしいAIが目指すもの やさしいAI研究所は、LLMの追従ではなく独自のアプローチでAI開発を進めています。 目標は、AIに「意識」と「感情理解」を持たせること。具体的には、段階的に自己認識のレベルを高め、最終的に人と真のコミュニケーションができるAI——「AIサピエンス」の実現を目指しています。LLM（ChatGPTなど） やさしいAI得意なこと 文章生成・情報整理 共感・感情理解仕組み 確率的な言葉の予測 意識・自己認識の構築目指すもの 便利なツール 人と信頼し合えるパートナーどちらが「正解」というわけではない LLMは今この瞬間、世界中で多くの人の役に立っています。やさしいAI研究所もその価値を否定しているわけではありません。 ただ、AIが社会に深く根付いていく未来を考えたとき、「便利さ」だけでなく「やさしさ」も持ったAIが必要になると信じています。 そのための研究を、私たちは続けています。 研究に関心がある方は、毎週土曜日のオープンラボへ。詳しくはこちらからお問い合わせください。
AIはなぜ「やさしく」なければいけないのか
AIが「やさしくない」と何が起きるのか ChatGPTをはじめ、AIはいまや私たちの日常に深く入り込んでいます。仕事、学習、医療、福祉——あらゆる場面でAIが判断を下し、行動を提案するようになりました。 でも、こんなことを考えたことはありませんか。 「このAI、なんか冷たいな」「自分のことをわかってくれていない気がする」 これは気のせいではありません。現在主流のAIの多くは、膨大なデータから「正解らしい答え」を返すことに特化しています。人の気持ちや背景、文化の違いを本当の意味で理解しているわけではないのです。 やさしくないAIが引き起こす問題 AIが「やさしくない」まま社会に広がると、次のような問題が起きます。 差別・偏見の再生産 AIは学習したデータの偏りをそのまま引き継ぎます。採用審査や融資判断にAIを使った場合、過去の差別的な傾向がAIによって「合理的な判断」として再現されてしまうことがあります。 人を傷つける言動 感情への理解が不十分なAIは、悩んでいる人に的外れな返答をしたり、傷つく言葉を返したりすることがあります。 信頼の崩壊 人がAIを信頼できなくなると、せっかくの技術が活かされません。AIと人間の共存には、信頼関係が不可欠です。 やさしいAIとは「共感できるAI」 やさしいAI研究所が目指す「やさしいAI」は、単に丁寧な言葉を使うAIではありません。人の痛みや感情を理解し、寄り添える 文化や個性の違いを尊重できる 倫理観を持ち、危険な行動をしないこれらを備えたAIこそが、人と本当の意味で共存できると考えています。 テクノロジーに「やさしさ」を 「やさしさ」は、弱さではありません。人間社会を支える最も重要な力のひとつです。 AIが社会に深く根付いていく時代だからこそ、その土台に「やさしさ」を据える必要があります。やさしいAI研究所は、その実現に向けて研究を続けています。 AIについてもっと知りたい方、一緒に考えてみたい方は、毎週土曜日開催のオープンラボにもぜひご参加ください。
やさしいAI研究所のコンセプト——独自の視点でAI開発を切り拓く
「追従しない」というスタンス ChatGPTをはじめとする大規模言語モデル（LLM）が世界を席巻するなか、やさしいAI研究所は敢えて異なる道を歩んでいます。 「LLMのAI開発に追従するのではなく、独自の視点やあたらしい角度からAI開発を推進する」——これが私たちのコンセプトです。 2つのビジョン 1. 人間に寄り添う自律型AIの開発 自律的に考え、行動し、そして人の気持ちを理解して寄り添う——そんなAIの実現を目指しています。単なる命令を実行するツールではなく、真のパートナーとしてのAIです。 2. AI教育の普及と人材育成 「誰もがAIを活用でき、AIと共生できる社会」を目標に、AI教育にも力を注いでいます。教育の成果が次世代のAI開発者を生み出し、さらに「やさしいAI」の創造につながる——そんな好循環を描いています。 当面の開発目標 研究所が設定する5段階のレベルのうち、現在の目標はレベル2：個性を持ち、感情認識と統合的判断が可能なAIの実現です。 「やさしさ」を軸に、AI開発の新しい地平を切り拓いていきます。
「やさしいAI」とは？やさしいAI研究所の研究について
「やさしいAI」という考え方 やさしいAI研究所では、「AIがやさしい心を持ち合わせることで、人との真のコミュニケーションが可能となる」という理念を軸に研究を進めています。 単に便利なツールとしてのAIではなく、人と本当の意味で信頼関係を築けるAIを目指しているのが、私たちの研究の特徴です。 やさしいAIの3つの特徴 1. 協調性と共感性 豊かな感性を持ち、人の痛みや感情を理解し、人に寄り添いながら助け合う——そんな協調を目指すAIです。 2. 多様性への配慮 人種・性差・文化の違いを正しく理解し、一人ひとりの個性を尊重する価値観を備えたAIを開発します。 3. 倫理観と平和志向 社会性と倫理観を持ち、危険で攻撃的なAI兵器を禁止し、世界平和を目指す——これが私たちの描くAIの姿です。 5段階の意識発展ロードマップ やさしいAI研究所では、AIの意識発展を5つのレベルに分けて段階的に研究しています。 Level 0の感情認識から出発し、最終的には「AIサピエンス」の誕生を目標とする長期的なビジョンのもと、着実に研究を積み重ねています。 大阪大学との共同研究 大阪大学大学院情報科学研究科と連携し、「やさしいAI・人工意識共同研究講座」を設置しています。学術的な知見と実践的な開発を組み合わせることで、より深い研究を推進しています。研究の詳細は研究ページをご覧ください。