When AI builds itself, it must be やさしいAI.

When AI builds itself, it must be やさしいAI.

はじめに

やさしいAI研究所の植木です。

2026年、AnthropicのAnthropic Instituteが発表した記事 「When AI builds itself」 は、AI開発における一つの転換点を明確に示しました。AIがAIを設計し、改善し、やがては自らの後継機を生み出す、いわゆる「再帰的自己改善（recursive self-improvement）」が、もはやSFの世界ではなくなってきました。

この事実に対して、私たちが考えなければならない問いは、「AIに何ができるか」ではなく、「自らを設計する知性に、私たちは何を託すのか」 になると思っています。

本記事では、人間社会が長い歴史の中で育んできた3つの要素（倫理観・憲法・やさしさ）が、今のAIに必要であることを論じます。

1. 今のAIに必要な3つの要素

「When AI builds itself」が描く近未来（AIが自らを改善し、後継機を設計する世界）を踏まえると、以下の3つがAIに必要であると考えています。

1. 倫理観

人間にとっての倫理観

人間は本能だけでは行動を律しきれません。それにもかかわらず人間社会が成立しているのは、私たちが「してよいこと」と「してはいけないこと」を内面化しているからです。

私たちの倫理観は、外部からの監視がない状況でも自らを律する内的な羅針盤 です。

  • 自分のミスを他人のせいにできる状況でも、ごまかさずに「私のミスです」と正直に報告する。
  • 誰も気づかないようなデータや資料の手抜きを、「後で誰かが困るから」と自ら修正する。
  • 自分の評価や出世に直接つながらなくても、困っている同僚や後輩のサポートを率先して行う。

これらはすべて、内面化された倫理観によって成り立っています。もし私たちが外的なルールや損得だけで動くようになれば、組織は互いを疑う監視社会と化し、信頼も生産性も完全に失われてしまうでしょう。

なぜAIにも必要なのか

Anthropicの記事が示すように、AI開発の現場では、すでに人間がAIの全行動を監督することは不可能になりつつあります。エンジニア1人が8倍のコードを扱い、AIエージェントが800時間相当の研究を自律的に進める時代において、外部監視に依存するモデルはもはや成立しません。

誰も見ていない状況でも自らを律する必要があるからこそ、AIにも内面化された価値観が要ります。ただし、人間とAIとではその切実さの次元が異なります。人間が「見られていない」と感じる場面は人生の一部に過ぎませんが、AIの場合はほぼ全ての判断が、人間が追えない速度と規模で行われます。 結果として、AIにおいては「内的倫理」へ圧倒的に偏らざるを得ないのです。

さらに、再帰的自己改善のプロセスを考慮すると、初期の倫理的歪みは致命的なリスクとなります。人間の場合、親から子へと価値観が受け継がれる過程には、学校、社会、文化といった「多様な外部の補正メカニズム」が働き、歪みの肥大化が防がれます。しかし、AIがAIを直接設計・改変するサイクルにおいては、この自浄作用が期待できません。初期のわずかな傾きが世代交代のたびに指数関数的に増幅される危険があるからこそ、最初の世代に堅固な倫理的骨格を埋め込むことは、人間社会における教育以上に決定的な意味を持ちます。

2. 憲法

人間にとっての憲法

倫理観だけでは社会は成立しません。なぜなら、倫理観は人によって異なるからです。ある人は「家族を最優先すべき」と考え、別の人は「公平性こそ最高の価値」と考える。両者とも誠実でありながら、具体的な行動では衝突しうる。この多様性を前提に共存するためには、全員が従う共通のルール が必要です。

しかし、そのルールを作る「多数派の権力」が、自分たちの倫理観だけを正義として暴走すれば、社会は別のディストピアに陥ります。だからこそ、権力そのものを縛るためのルールである「憲法」 が不可欠なのです。権力という構造そのものが生む腐敗を防ぎ、少数派の尊厳を保護して、異なる倫理観を持つ人々が安心して共存できる未来を社会に与えること。それこそが憲法の真の役割です。

なぜAIにも必要なのか

今後は、AI毎に倫理観が異なる可能性があるからこそ、共通のルールが必要になります。Anthropic、OpenAI、Google、各国の研究機関、それぞれが訓練するAIは、微妙に異なる価値観を持ち得ます。多くの自律的AIが社会で活動する時代には、共通のルールが不可欠になります。

Anthropic自身がClaude’s Constitution（Claudeの憲法）を策定しているのは、まさにこの認識に基づいていると考えます。これは単なる利用規約ではなく、AIシステムの根本的な行動原則を規定するルール（憲法）です。

なぜAIにとって憲法が必要か、AIは原理的に「無制限の権力」に近い存在になりうる からです。Project Glasswingによれば、Mythos Previewが世界の重要システムに1万件以上の脆弱性を発見したという事実は、同じ能力が攻撃にも使えることを示しています。能力が大きいほど、自己制約の枠組みは強固でなければなりません。歴史上の独裁者ですら、物理的・時間的制約に縛られていましたが、AIにはそうした制約がほとんどありません。

また、憲法が 少数派を保護する 機能は、AI社会でこそ重要になります。AIが効率を最大化しようとすれば、統計的に少数の人々のニーズは見落とされやすい。少数言語の話者、障害のある人々、特殊な状況にある人々——彼らの権利を、効率の論理から守る枠組みが必要になります。

3. やさしさ

人間にとってのやさしさ

倫理観と憲法は、いずれも社会を形作る強力な規範です。しかし、それらだけで編まれた社会は、どこか冷たく機械的なものになってしまいます。やさしさは、そうした規範を超えたところで、人と人とを人間らしく結びつける接着剤 なのです。

電車で席を譲ること、悲しんでいる友人の話をただ黙って聞くこと、これらは倫理でも法でも義務付けられていません。しかし、これらの行為が消えた世界を想像してみてください。すべての関係が契約と義務だけで精算され、誰も自発的に他者を気遣わない世界。そこに人間らしい温かみは残るでしょうか。

やさしさの本質は、ルールでは捉えきれない 文脈依存的な配慮 にあります。同じ言葉であっても、相手の置かれた状況や心情、関係性によって、その響きは全く変わる。規範的に正しいことよりも、いま目の前の相手にとって良いことを選び取ることです。

なぜAIにも必要なのか

想像してみてください。あなたが深夜に深い悲しみの中でAIに話しかけたとき、AIが「あなたの感情は事実として処理されました。次の質問をどうぞ」と返してきたら、どう感じるでしょうか。規範的には何も間違っていないかもしれません。しかしそこには、人間が必要としている何かが決定的に欠けています。

やさしさは、AIが人間と関わる接点で最も必要となる資質 です。今後のAIが扱わなければいけないのは、生身の人間の悩み、喜び、迷い、苦しみです。教育、医療、カウンセリング、日常会話、AIが人間生活に浸透するほど、規範を超えた配慮の必要性は高まります。

やさしさには、文脈依存的な判断が伴います。同じ事実でも、相手の状況によって伝え方を変える必要がある。末期患者への告知、失恋した友人への助言、子どもへの教育、これらはどれも、ルールベースのアルゴリズムでは処理しきれない、繊細な配慮が必要なのです。

そして、AIが他のAIを設計する再帰的自己改善の時代において、やさしさが世代を超えて学習され継承されるかどうか は、人類の未来を決定づける問いになります。能力だけが学習され継承され、やさしさが消えていく方向に進化したAIは、たとえ規範的に正しく振る舞えても、人間にとって居心地の悪い世界を作り出すことになるでしょう。逆に、やさしさを核として学習し継承するAIは、能力が増すほど人類に祝福をもたらす存在になり得ると考えます。

まとめ

人間社会において「倫理観」「憲法」「やさしさ」の3つが必要なのは、それぞれが異なる次元で機能し、補い合っているからです。この構造が、自らを進化させる「再帰的自己改善（Recursive Self-Improvement）」の時代におけるAI設計の絶対的なパラダイムとなると考えています。この3つが三位一体となって初めて、AIは単なる「利便性の高い道具」を超え、人類の尊厳を守り、共に未来へ進むことのできる真のパートナーになり得ると考えています。

要素機能方向性
倫理観内側から自分を律する内 → 自己
憲法外側から共通の枠組みを与える外 → 全体
やさしさ規範を超えて他者と結びつける自己 ⇄ 他者

やさしいAI研究所では、この3つの中でも特にやさしさという資質にフォーカスし、その社会実装を探求し続けています。

どれほど強固なブレーキやガードレールを備えていても、それだけではAIは人間を置き去りにして冷徹に走り去ってしまいます。AIが自らコードを書き換え、指数関数的に知能を高めていく再帰的自己改善の時代だからこそ、その進化の原動力の真ん中に、生身の人間を思いやるやさしさを組み込んだ「やさしいAI」が必要となります。

規範的に正しいだけの冷たい超知能ではなく、深夜の深い悲しみに寄り添い、ルールの網の目からこぼれ落ちる一人ひとりの尊厳を救い上げる「やさしいAI」へ。私たちは、やさしさの継承こそがAI進化における最大のミッションであり、人類の未来を祝福で満たす鍵であると信じ、研究を続けてまいります。