なぜAIの文章はコピペしてもバレるのか？テキスト電子透かしの仕組み

なぜAIの文章はコピペしてもバレるのか？テキスト電子透かしの仕組み

やさしいAI研究所の植木です。 毎日AIを使っていると、自分で文章を書くことがほとんどなくなってしまいました。 あからさまにAIが書いたとバレるのも嫌だなと思い、少し小細工をしてみるものの、そもそもどのような仕組みでバレるのかを知る必要があります。 画像等のファイルなら「作成者情報（メタデータ）」が残るイメージが湧きます。しかし、プレーンテキストをコピペしているだけなのに、なぜAIは判別できるのでしょうか。 その鍵となるのが、テキストに埋め込まれる「電子透かし（ウォーターマーク）」です。この記事では、Anthropic社が公開したブログ記事をもとに、その仕組みを簡単にまとめてみました。 1. はじめに Anthropic社は、2026年8月2日以降に公開されるClaudeが生成するテキストに、目に見えない電子透かしを埋め込むと発表しました。理由は、EU AI Act 第50条への対応です。EU向けの規制対応ですが、現時点では地域を限定せず全世界に適用されているようです。 ちなみに、電子透かしの技術は、Gemini（Google社）が先行しており、2024年からSynthID-Textが本番稼働しており、大規模なテキスト透かしとしては初の実運用例だそうです。 2. よくある勘違い：「見えない特殊文字」が入っているわけではない 「文字の隙間に、透明な特殊文字（ゼロ幅スペースなど）が仕込まれているのでは？」私はこのように思っていたのですが、非常によくある誤解で、違ったようです。Anthropic社の電子透かし技術は、テキストには何も追加されておらず、隠し文字も存在しておりません。読んでも、ごく普通の自然な文章 見た目も文字コードも一般的なテキストのまま メモ帳に貼り付けて書式情報を落としても消えない 文章の質や読みやすさには実質的に影響はないでは、どのような細工が仕掛けられているのでしょうか。 3. 細工：「単語を選ぶときの“サイコロ”の振り方」 結論から言うと、AIの電子透かしは「どの単語を選ぶか」を決める乱数の“出どころ”を差し替えることで実現されています。 AIは文章を作る時に、1単語ずつ選んでいる まず、AIは、文章を一気に書いているのではなく、「次に来る言葉として自然なものを予測して1つ選ぶ」という動作をひたすら繰り返して、文章を作成しています。 たとえば「今日の天気は晴れていて、そして……」という文の続きを考える時に、「辛い」が来ることはまず考えられません。例えば、「心地よい」も「清々しい」も、どちらも自然で、文の続きとしてはあり得る選択肢になります。 こうした「どちらでも良い選択」が、1つの文章の中に何百回も発生します。そして通常、どちらにするかの最終決定は、乱数（コンピューター内部のサイコロ）に委ねられています。 透かしは、その乱数を「鍵」に置き換える 透かしを入れる場合、AIはこの乱数の代わりに、「秘密の鍵」と「直前の数単語」の組み合わせから次の単語を決めています。 重要なポイントは、選択の結果は、依然としてランダムに見えるという点です。「心地よい」に固定されるわけではなく、ある文では「心地よい」、次の文では「清々しい」が選ばれます。また、この仕組みは、AIが本来まず使わないような珍しい言葉を無理に選ばせることもありません。 しかし、「秘密の鍵」を持っている人が後から単語の並びを検証すると、「この並びは、その鍵を使って選んだ場合の結果と一致している」ことが分かります。 Anthropic社自身が挙げている例を紹介します。 ボードゲームのモノポリーで、サイコロを振る代わりに「円周率の数字が延々と書かれた本」を使うとします。適当な桁からスタートし、以降は次の桁の数字をそのまま「出目」として使うというルールです。 プレイヤーにとって、これは普通のサイコロと何ら変わりません。ゲームの体験も結果も同じです。しかし、ゲーム終了後に全ての出目を並べて円周率と照合すれば、「この試合は円周率を使っていたな」と判定できます。 AIの透かし技術と同じ発想です。読み手の体験は変わらないが、後から検証はできます。とある解説記事では、「AIが単語候補を“緑リスト（優先）”と“赤リスト（回避）”に色分けし、緑の単語を多めに選ぶ」という説明をよく見かけます。 この説明は、2023年に発表された別方式（赤・緑リスト方式、John Kirchenbauerらの手法）で、Claudeが採用している方式とは異なります。Claudeが採用している透かしは、Google DeepMindが発表した「SynthID-Text」をベースにしており、単語の出やすさ（確率）そのものを歪めるのではなく、あくまで乱数の生成源だけを置き換える設計のようです。これが「品質に影響しない」と言える根拠にもなっています。 4. なぜコピペしてもバレるのか？ 透かしは文字の中ではなく、文章を構成する「単語の並び順」そのものに宿っているからです。 メタデータではないので、書式を捨てても、別のアプリに貼り付けても、テキストファイルに保存し直しても消えません。オーマイガー。並び順が保たれている限り、透かしも一緒についてきます。 逆に言えば、単語やその並び順を全面的に書き換えれば透かしは失われます。軽い手直し程度では消えませんが、すべての語を置き換えるレベルの全面リライトをすれば消えます。そこまで書き直したものを「AIが生成した文章」と呼ぶべきかどうかは、別の議論になりそうですが。。。5. バレやすい/バレにくい文章 この仕組みの性質上、バレやすい/バレにくい文章がはっきりしています。バレやすい文章 文章が長い プログラム中のコメント部分 翻訳した文章バレにくい文章 文章が極端に短い（選択回数が少なく、偶然との区別がつきにくいため） 事実を述べる文章（答えが1つしかない箇所では、選ぶ余地がないため） プログラムコード（正確さが求められ選択の余地が少ないため） 人間の原稿の校正（修正した数語にしか透かしが入らないため）6. 「透かしが検出された＝不正」ではない 透かしが示せるのは、「AIが何らかの形で関与した可能性が高い」ということだけです。Anthropic社も、「Claudeが書いた」のか「Claudeが大幅に手を入れた」のかは区別できないと明言しています。例えば、他社のAIが書いた文章は、鍵が違う（方式が違う）ため判定できない。 透かしに個人や組織を特定する情報は一切含まれない。誰がいつ使ったかを追跡することはできない。 自分で書いた文章の「てにをは」だけをAIに直させた場合、修正された数語には透かしが乗り得ますが、修正量が少なすぎて、透かし検出には至らない。しかし、「人間がちゃんと書いたのに疑われるのでは」という懸念が利用者から出ているのは事実で、この技術の運用面での課題として残っているようです。 また、現在世の中にある一般的なAI検出サービス（GPTZeroなど）は、透かしを読んでいるわけではありません。さきほどの「秘密鍵」を持っていないからです。これらは「AIらしい言い回しのクセ」を統計的に見つけ出す、別のアプローチです。 Anthropic社は、今後、透かし検出用のAPIを提供する予定としていますが、2026年8月時点では準備中とされています。現状、「透かしを根拠にAI製だと断定できるツール」は一般に公開されていません。 「コピペしただけなのにバレた」という体験談の多くは、現時点では透かしではなく、従来型のAI検出ツールや、単に人間の目による違和感の指摘である可能性が高いと考えられます。 7. 画像等のファイルは「別の方式」 テキスト以外のファイル（.png、.jpg、.svg など）については、透かしではなくC2PAという業界標準の仕組みが使われます。これは「Claudeが作成・処理した」という情報を、暗号署名付きのメモとしてファイルの作成者情報（メタデータ）に添付するものです。カメラメーカーや写真編集ソフトでも採用されている標準規格で、C2PA対応ツールなら誰でも読み取れます。 まとめAnthropic社のClaudeの電子透かし技術は、特殊文字を挿入しているのではなく「単語選択の乱数の出どころ」に埋め込まれています。 そのためコピペでは消えず、全面リライトで初めて消えます。 透かしは、文章の質には影響がなく、個人を特定する情報も含まれません。 証明できるのは「Claudeが関与した可能性」までで、不正の証拠にはなりません。 一般向けの検出ツールはまだ公開されていない状況です。（2026年8月時点）AI生成物の透明性をめぐるルール作りは、まだ始まったばかりです。だからこそ、仕組みを正しく理解しておくことが、AIを安心して使いこなすための第一歩になりそうです。 参考リンクAnthropic「How Claude's text watermark works」（2026年8月14日） Anthropic ヘルプセンター「How Claude marks AI-generated content」 Google DeepMind「SynthID-Text」論文（Nature, 2024年） C2PA（Coalition for Content Provenance and Authenticity）

子どもは1億語、AIは15兆語｜ことばの学び方の違いをやさしく

子どもは1億語、AIは15兆語｜ことばの学び方の違いをやさしく

1歳半をすぎたころ、子どもに不思議なことが起きます。それまでぽつり、ぽつりと増えていた単語が、ある時期を境にせきを切ったように増えはじめる。きのう覚えた「わんわん」が、きょうは「おおきい わんわん」になっている。研究者が「語彙爆発」と呼ぶ時期です。 だれも文法書を渡していません。発音記号も教えていません。それなのに、数年もすれば立派におしゃべりが成立する。当たり前すぎて見過ごしがちですが、これはとんでもないことです。 脳科学とやさしいAI第3弾シリーズの最終回は、この「ことばの学び」がテーマです。桁違いのデータで学ぶAIと並べたとき、人の学びの何がすごいのかが見えてきます。 子どもは、驚くほど少ない材料で話せるようになる 子どもが耳にすることばの量は、研究によって幅はあるものの、1年でおよそ200万〜700万語ほどと見積もられています。積み上げても、13歳までに触れる語はせいぜい1億語程度。しかもその多くは聞き流しで、教科書のように整った文ばかりでもありません。 それだけの材料で、子どもは発音を聞き分け、単語を切り出し、文法の規則を自分で見つけ出します。「おいしくない」から規則を推理して「好きくない」「きれいくない」と言ってしまうあの間違いは、丸暗記ではなく規則を自分で組み立てている証拠です。教わっていない規則を、聞いたことばから発明しているのです。 なぜこんな効率のよい学びができるのか。ヒントは、子どもの学びがことばだけで完結していないことにあります。「りんご」という音は、赤くて、つるつるして、甘い匂いのするあの物体と一緒にやってきます。養育者と同じものを見つめる「共同注意」の時間に、ことばと世界が結びついていく。身体で世界に触れながら、意味の裏付けを取り続けているのです。AIは15兆語で学ぶ。それでも子どもに届かないもの 一方、いまの大規模言語モデル（LLM）はどうか。たとえばMeta社が2024年に公開したLlama 3は、15兆トークンを超えるテキストで訓練されたと公表されています（トークンは、おおむね単語に近い単位です）。人間の一生分どころか、1億語の15万倍。毎日1,000万語を浴び続けても4,000年かかる量です。 この差に注目した研究者たちが2023年に始めたのが「BabyLM Challenge」という国際コンペです。使ってよい学習データを、子どもが触れる量に合わせて1億語以下に制限し、その範囲でどれだけ賢い言語モデルを作れるかを競います。データを増やせば性能が上がることはもう分かった、では人間の子ども並みの効率に近づけるか、という問いの立て方が面白いところです。 結果はどうか。工夫次第で小さなデータでも思った以上に学べることが示される一方、人間の子どもの効率には遠く及ばない、というのが現在地です。この事実は、逆向きの光を当ててくれます。つまり、すごいのはデータをたくさん読んだAIではなく、1億語で話せるようになる子どものほうなのです。効率の差が教えてくれること なぜこれほど差がつくのか、決定版の答えはまだありません。生まれつきことばに向いた仕組みが脳にあるという見方も、身体と対話が決定的だという見方もあります。ただ、子どもの学びに必ずついてくるものを挙げることはできます。世界に触れる身体、応えてくれる相手、そして「伝えたい」という動機です。 子どもは語彙を増やすために話すのではありません。抱っこしてほしくて、見つけたものを知らせたくて声を出し、それが届いた喜びが次のことばを連れてきます。学びの燃料が、データではなく関係の中にある。ここが、テキストだけを大量に読む学びとの一番深い違いだと私たちは考えています。 だからAIとの付き合いでも、順番を間違えないことが大切になります。AIは、たくさん読んだ分だけ、ことばの形を整えるのが得意です。その力は借りればいい。けれど、ことばに意味と重さを与えるのは、世界に触れてきた人の経験のほうです。子どもの学びが教えてくれるこの順番は、AIがどれだけ賢くなっても変わらないはずです。 まとめ子どもが13歳までに触れることばはせいぜい1億語ほど。それでも身体と対話を通じて、規則を自分で見つけながら話せるようになる Llama 3は15兆トークン超で学ぶ。子ども並みの1億語に制限したBabyLM Challengeの挑戦は、人間の学びの効率が桁外れであることを裏づけた 子どもの学びの燃料は「伝えたい」という動機と、応えてくれる相手。ことばに意味を与えるのは経験であり、AIの力はその上で借りるのが順番シリーズを終えて 第3弾の3回では、錯視（予測する脳）、直感と熟考（2つの思考モード）、言語習得（学びの効率）という視点から、AIを眺めてきました。 3回に共通していたのは、脳の「足りなさ」が弱点ではなかったことです。不完全な入力だから予測で補い、処理しきれないから直感で近道し、1億語しか聞けないから身体と関係で学ぶ。制約こそが、人の知性のかたちを作っていました。潤沢なデータと計算で進むAIと、制約の中で磨かれた脳。両者は似てきたところほど、根っこの違いがよく見えます。 その違いに正直でいることが、AIに何を任せ、何を人の手に残すかを考える出発点になります。シリーズは今回で一区切りですが、脳とAIの話はこれからも折にふれて書いていきます。次に読むのがおすすめの記事同じ長さの線が違って見えるのはなぜ？｜予測する脳とAIのハルシネーションをやさしく バットとボールの問題、即答できますか？｜直感と熟考、AIの「考えるモード」をやさしく ぼんやりしている時こそ、脳は働いている｜デフォルトモードネットワークとAIの「余白」をやさしくやさしいAI研究所ブログ｜脳科学とやさしいAI 第3弾シリーズ（全3回）第3回・完 第3弾シリーズはこれで完結です。続きの議論を一緒に深めたい方は、毎週土曜日開催のオープンラボへぜひお越しください。やさしいAI研究所の研究活動や最新の取り組みについてはコーポレートサイトからご覧いただけます。

バットとボールの問題、即答できますか？｜直感と熟考、AIの「考えるモード」をやさしく

バットとボールの問題、即答できますか？｜直感と熟考、AIの「考えるモード」をやさしく

バットとボールは、合わせて1,100円。バットはボールより1,000円高い。では、ボールはいくらですか。 「100円」と答えたくなりませんでしたか。実はそれだと、バットが1,100円になって合計1,200円。正解はボール50円、バット1,050円です。落ち着いて考えれば分かるのに、頭の中に「100円」が先に浮かんでしまう。 脳科学とやさしいAI第3弾シリーズの第2回は、この「先に浮かぶ答え」の正体です。脳の2つの思考モードから、AIに最近そなわった「考えるモード」を眺めます。 脳には「速い思考」と「遅い思考」がある 冒頭の問題は、アメリカの行動経済学者シェーン・フレデリックが2005年に発表した「認知反射テスト」の1問目です。名門大学の学生でも大勢が「100円」型の誤答をしたことで知られています。 そしてこの現象を一般に広めたのが、2002年にノーベル経済学賞を受けた心理学者ダニエル・カーネマンです。著書『ファスト＆スロー』（2011年）で、彼は人の思考を2つのモードに分けて説明しました。 システム1は、速い思考。 努力なしに自動で動きます。「2＋2は？」に答えが浮かぶ、相手の声色から機嫌を察する、母語の文を理解する。止めようと思っても止められません。 システム2は、遅い思考。 注意と努力を要します。「17×24は？」を筆算する、確定申告の書類を確かめる、はじめての道を地図を見ながら歩く。使うと確実に疲れます。 バットとボールの問題では、システム1が「1,100と1,000だから、差の100だな」という、それらしい答えを瞬時に差し出します。システム2はそれを検算する係なのですが、この係がなかなかの面倒くさがりで、もっともらしい答えが来ると素通ししてしまう。あの誤答は、脳の分業体制がそのまま表に出た結果なのです。直感はサボりではない。ただし、系統的に間違う こう書くと、システム1が悪者に見えてしまいますが、それは違います。 直感は、過去の経験を圧縮した知恵です。ベテランの看護師が数値に表れる前に患者の異変を察知する。将棋の棋士が盤面を見た瞬間に有力な手を絞り込む。何万回という経験と答え合わせを重ねた分野では、直感は熟考より速く、しばしば正確です。そもそも、すべてをシステム2で処理していたら、朝の支度だけで日が暮れます。 問題は、直感の間違い方に偏りとクセがあることです。目立つものを過大評価する、最初に見た数字に引きずられる、自分に都合のよい情報だけ集める。こうした偏りは誰の脳にも同じ方向に働くので、本人は気づけません。 だから大事なのは、直感を捨てることではなく、ここぞという場面でシステム2を起動する習慣のほうです。人を評価するとき、大きな買い物をするとき、誰かを傷つけるかもしれない一言を送る前。ひと呼吸おいて検算する。この切り替えこそ、前回の錯視の話で書いた「自分の見え方を一歩引いて眺める」ことの、思考版だと言えます。 AIにも「即答」と「じっくり」ができた さて、AIです。実は少し前まで、AIの答え方はシステム1に似ていました。どんな難問にも、学習したパターンから一瞬で「一番ありそうな答え」を返す。速いけれど、検算はしない。バットとボール問題のような、ひっかけに弱い時期が実際にありました。 「考える時間」を与えると賢くなる その様子を変えたのが、2024年ごろから各社が投入した「推論モデル」です。OpenAIのo1、Anthropic（Claude）の拡張思考のように、答えを出す前に途中の考え（思考の過程）を長く書き出させる仕組みが主流になりました。人間が計算用紙を使うのに似ていて、考える時間を長く与えるほど、数学や論理の難問の正答率が上がることが確かめられています。 即答するモードと、じっくり考えるモード。AIが2つのモードを使い分ける姿は、システム1とシステム2の分業に驚くほど似てきました。それでも残る違い ただ、似てきたからこそ、違いも見えてきます。人のシステム2起動は「あれ、何かおかしいぞ」という違和感、つまり自分の直感への疑いから始まります。いまのAIは、じっくり考えるかどうかを主に設定や質問の難しさで決めていて、「自分の答えが怪しい」という感覚から自発的に検算を始めるわけではありません。長く考えたのに自信満々に間違える、ということも起きます。 考える時間の長さは、考えの確かさを保証しない。これは人間にも耳の痛い話で、AIとの付き合いでも同じです。「じっくり考えたAIの答えだから正しい」ではなく、大事な判断ほど人の側のシステム2で受け止める。その役割分担が、当面の現実的な付き合い方だと考えています。 まとめ脳には自動で速いシステム1と、努力を要する遅いシステム2があり、即答の誤りは検算係の素通りから生まれる（バットとボール問題） 直感は経験を圧縮した知恵で、多くの場面で有能。ただし間違い方に系統的な偏りがあり、本人は気づけない AIも推論モデルの登場で「即答」と「じっくり」を使い分けるようになったが、自分の答えを疑う感覚からの検算はまだ人の側の仕事次回は最終回。生まれたばかりの子どもが、わずかな言葉からことばを身につけていく話です。桁違いのデータで学ぶAIと何が違うのか、「学び」の根っこを見にいきます。次に読むのがおすすめの記事同じ長さの線が違って見えるのはなぜ？｜予測する脳とAIのハルシネーションをやさしく AIは自分の「わからなさ」に気づけるか——メタ認知とAIをやさしく ひと晩寝たら解けた問題｜睡眠と記憶、AIの学習と忘却をやさしくやさしいAI研究所ブログ｜脳科学とやさしいAI 第3弾シリーズ（全3回）第2回 「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。

同じ長さの線が違って見えるのはなぜ？｜予測する脳とAIのハルシネーションをやさしく

同じ長さの線が違って見えるのはなぜ？｜予測する脳とAIのハルシネーションをやさしく

2本の線が並んでいます。片方は矢羽根が外向き、もう片方は内向き。どう見ても下の線のほうが長い。ところが定規を当てると、2本はぴったり同じ長さです。 種明かしを聞いたあと、もう一度見てみてください。それでも、やっぱり違う長さに見えませんか。「同じだと知っているのに、同じに見えない」。この頑固さこそ、脳の面白いところです。 脳科学とやさしいAIシリーズ、続編シリーズに続く第3弾を、きょうから3回でお届けします。第1回のテーマは「錯視」。目の錯覚から見えてくる「予測する脳」の姿と、AIのハルシネーションとの意外な関係を見ていきます。 脳は世界を「見て」いない、「予測して」いる 冒頭の図は「ミュラー・リヤー錯視」と呼ばれます。ドイツの学者フランツ・ミュラー・リヤーが1889年に発表した、100年以上研究され続けている定番の錯視です。 なぜ知識で分かっていても騙され続けるのか。その答えのヒントになるのが、目から入る情報の性質です。網膜に届くのは、上下逆さまで、ぶれていて、中心以外はぼやけた二次元の光にすぎません。私たちが「見ている」と感じる安定したカラーの世界は、この不完全な材料から脳が組み立てた、いわば完成予想図です。この組み立てを説明する有力な考え方が「予測符号化（predictive coding）」です。1999年にラジェッシュ・ラオとダナ・バラードが発表したモデルがよく知られています。脳は入ってくる情報をゼロから処理するのではなく、先に「たぶんこう見えるはず」という予測を立て、実際の入力とのズレだけを拾って修正している、という考え方です。 こうすると錯視の頑固さにも説明がつきます。よく知られた説では、矢羽根のような奥行きの手がかりを見ると、脳は長年の経験から「この形はきっと遠くにある、なら実際はもっと長いはず」と自動で補正をかける。なぜこの錯視が起きるかには他の説もありますが、補正が意識より深い場所で走っている点は共通しています。だから「同じ長さだ」と知識で知っていても止められません。錯視は脳の故障ではなく、普段は世界を素早く正しく見るための予測が、たまたま裏目に出た瞬間なのです。 「思い込み」もまた、予測のズレ 予測する脳は、ものの見え方だけの話ではありません。人の言葉や表情を受け取るときも、私たちは予測を使っています。 たとえば、同僚からの「了解です」という短い返事。急いでいるだけかもしれないのに、前日にすれ違いがあった相手だと「怒っているのかも」と読んでしまう。相手の実際の気持ちではなく、自分の予測のほうを見ている瞬間です。 思い込みやすれ違いの多くは、この予測が外れているのに、外れたことに気づけないまま進んでしまうことから起きます。錯視と同じで、本人には「そう見えている」ので、疑うきっかけがありません。だからこそ、「自分はいま、予測込みで見ているのだ」と知っておくことに意味があります。自分の見え方を一歩引いて眺められる人は、相手の見え方が違うことにも気づきやすい。予測する脳を知ることは、やさしさの足場になると私たちは考えています。 AIのハルシネーションは「AIの錯視」なのか ここでAIの話です。AIが事実ではないことを、もっともらしい顔で答えてしまう現象は「ハルシネーション（幻覚）」と呼ばれます。存在しない論文をすらすら紹介する、あの現象です。 似ているのは「もっともらしく埋める」こと 錯視とハルシネーションには、確かに似た構造があります。脳は不完全な入力を経験からの予測で補い、「一番ありそうな世界」を見せる。言葉を予測するAIも、学習した膨大なパターンから「一番ありそうな続き」を出力します。どちらも、足りない部分をそれらしく埋める仕組みが、本来の力の源であると同時に、間違いの源にもなっている。ここは本当によく似ています。違うのは「答え合わせの相手」 ただし、大きな違いがあります。脳の予測には、身体と世界という答え合わせの相手がいることです。 コップの位置を見誤れば手が空を切り、その瞬間に予測は修正されます。人の表情を読み違えれば、気まずい沈黙が返ってきて、次からの予測が変わります。予測して、外れて、直す。このループを、私たちは生まれてからずっと回し続けています。 いまのAIには、この意味での身体がありません。文章を出力しても、その内容が現実の壁にぶつかって痛い思いをするわけではない。検索で裏を取る仕組みや、間違いを指摘されて学ぶ仕組みは整いつつありますが、世界との絶え間ない答え合わせが学びの土台になっている脳とは、まだ隔たりがあります。だからAIの出力は、どれだけ流ちょうでも「予測のままの完成予想図」でありえます。読み手の側が定規を当てる、つまり出典や事実を確かめる余地を残しておくことが大事になります。 まとめ脳は網膜に届く不完全な情報を予測で補い、「一番ありそうな世界」を見せている。錯視はその予測が裏目に出た瞬間で、知識では止められない 人間関係の思い込みやすれ違いも予測のズレから起きる。「予測込みで見ている」と知ることが、相手の見え方を想像するやさしさにつながる AIのハルシネーションは「もっともらしく埋める」点で錯視と似ているが、身体と世界による答え合わせを持たない点が違う。だから確かめる余地を人の側に残しておく次回は、見たものを受け取ったあとの「考える」の話です。つい即答してしまう直感と、じっくり考える熟考。脳の2つの思考モードから、AIの「考えるモード」を眺めます。次に読むのがおすすめの記事うるさい店内で自分の名前だけ聞こえるのはなぜ？｜注意とAIのアテンションをやさしく AIは自分の「わからなさ」に気づけるか——メタ認知とAIをやさしく AIは間違いに気づけるのか——失敗・謝罪・自己修正の仕組みやさしいAI研究所ブログ｜脳科学とやさしいAI 第3弾シリーズ（全3回）第1回 「やさしいAI」の研究や活動に関心をお持ちの方は、毎週土曜日のオープンラボへお気軽にどうぞ。やさしいAI研究所の全体像はコーポレートサイトからご覧いただけます。

AI生成の表示ルールが始まった日｜発信者は何をすべきか

AI生成の表示ルールが始まった日｜発信者は何をすべきか

はじめに こんにちは、広報・制作担当のmeraです。 2026年8月2日。AIで作ったものに「AIで作りました」と示させるルールが、この日から動き出しました。EUと、アメリカ・カリフォルニア州で。しかも同じ日にです。 ただし、義務がかかる相手はかなり限られています。そこを取り違えると必要のない不安を抱えることになるので、この記事では「誰に、何が」を先に切り分けます。 カリフォルニアの日付は、もとは2026年1月1日でした。2025年10月13日に署名されたAB 853という改正法が、これを8月2日に動かしています。州の議会分析にも知事の署名メッセージにもEUへの言及はないので、狙って揃えたと断言はできません。ただ結果として、大西洋をまたいだ2つの規制が同じ日から同じ方向を向き始めました。 なお、この記事に出てくる日付はすべて現地の暦です。時差があるぶん、先に動き出したのはEUのほう。日本時間に直すとEU側が8月2日の朝、カリフォルニア側が同じ日の夕方にあたります。日本から見ても、8月2日は8月2日のままでした。この記事でわかること8月2日に始まったルールが、誰に何を求めているのか 「来歴（プロベナンス）」という考え方と、その限界 日本でブログやSNSを書いている人が、明日から何をすればいいか8月2日に何が始まったのか EU側で動き出したのは、AI法（AI Act）の第50条です。義務は立場で4つに分かれています。 AIシステムを作って提供する側（プロバイダー）には2つ。相手がAIだと分かる設計にすること、そして生成・加工したコンテンツに機械が読めるマークを埋め込むこと。それを使って世に出す側（デプロイヤー）にも2つ。感情認識や生体分類を使うなら知らせること、そしてディープフェイクを公開するなら「これはAIで作ったものです」と開示すること。 ディープフェイクの定義は第3条にあり、実在の人物・物・場所・団体・出来事に似ていて、本物だと誤認させるもの、とされています。ドラゴンや生身で空を飛ぶ人のような明らかに非現実的なものは含まれません。映画や風刺作品に含まれる場合は、鑑賞を妨げない形での表示、たとえばクレジットや説明欄での明記が認められています。 **制裁金は最大1,500万ユーロ、または全世界年間売上高の3%のいずれか高いほう。**ただし第99条(6)に逆転規定があり、中小企業やスタートアップについては「いずれか低いほう」が上限になります。なお第50条(2)の機械可読マークについては、8月2日より前から市場に出ていた生成AIシステムに限り2026年12月2日までの猶予が入りました。適用開始の13日前、2026年7月20日には欧州委員会が第50条の最終ガイドラインを採択しています。 カリフォルニア側は AI Transparency Act です。対象は月間100万ユーザーを超える生成AIの提供者。**目に見えないメタデータ（latent disclosure）を生成物に埋め込むこと、誰でも無料で使える判定ツールを公開すること、利用者が見えるラベルを付けられる選択肢を用意すること。**対象は画像・動画・音声で、テキストは入っていません。罰則は1違反あたり5,000ドル、違反した日ごとに別の違反として数えられます。 そしてここからが発信者にとっての本題です。2027年1月1日からは、大規模オンラインプラットフォーム（直近12か月の月間ユニークユーザー200万人超）に対して、投稿されたコンテンツに来歴データが入っているかを検出し、ラベルとして表示する義務が始まります。「来歴」とは、要するに何なのか 来歴、英語でいうプロベナンス（provenance）。もともとは美術品の世界の言葉で、「この絵は誰の手を経てここに来たか」という記録のことです。それをデジタルファイルに持ち込んだのが C2PA（Content Credentials）という規格になります。 やっていることはシンプルで、ファイルの中に「誰が」「どのツールで」「いつ」「どう編集したか」を署名付きで書き込む。技術仕様は2026年1月5日にバージョン2.3が公開されました。Googleは来歴の検証機能をまずGeminiアプリで提供し、検索とChromeにも順次広げると発表しています。Pixel 10のカメラアプリは、撮影したすべての写真に署名を付けます。AIで作ったものだけでなく、AIで作っていないものを証明する側にも同じ仕組みが使われ始めています。 私はAdobeのツールを25年ほど使ってきました。数年前、Photoshopの書き出し画面に「Content Credentials」という項目が増えたとき、正直に言うと何も考えずに素通りしていました。今はそこにチェックを入れるのが制作フローの一部になっています。あの頃スルーしていた小さなチェックボックスが、法律の名前で呼ばれる日が来るとは思っていませんでした。 ただし来歴は万能ではありません。スクリーンショットを撮る、画像を圧縮する、SNSにアップロードして再エンコードされる。この程度のことでメタデータは簡単に消えます。C2PAは証拠ではなく、あくまで手がかりです。「来歴がある＝本物」ではなく、「来歴がない＝何も分からない」というだけ。ここを取り違えると、ラベルのない古い写真がすべて疑わしく見えてしまいます。日本の発信者に、これは関係あるのか 結論から言うと、ブログ記事の本文については、たいていの場合は法的な義務の外にいます。 EU第50条(4)の文章に関する開示義務には、条文そのものに大きな除外規定があるからです。人間がレビューまたは編集上のコントロールを行い、自然人か法人が編集責任を負っている文章は、対象から外れます。AIに下書きを手伝わせても、自分で読んで直して自分の名前で出しているなら、ここに当てはまります。カリフォルニア側にいたっては、対象が画像・動画・音声だけで、テキストはそもそも入っていません。 もちろんEU向けにサービスや広告を出している、欧州拠点から動画を公開しているといったケースでは確認が要ります。それでも、日本の個人ブログにEUの制裁金がいきなり飛んでくる、という話ではありません。 けれど本当に効いてくるのは、罰則ではなく仕組みのほうです。 プラットフォーム側が来歴データを読んで自動でラベルを貼る流れが始まります。カリフォルニアでは2027年1月から義務になり、Googleは検証機能をGeminiアプリから提供し始めました。つまり、自分で何も書かなくても、機械が勝手に「AI生成」と表示する世界がもう組み上がりつつあります。 後から機械に貼られるラベルと、自分で最初から書き添えたひと言。同じ情報でも、読む人の受け取り方はまったく違います。前者は「隠していたのがバレた」に見えて、後者は「最初から言っていた」になる。この差は、記事の内容がどれだけ良くても埋められません。 だからAI利用の明示は、罰則を避けるための作業ではありません。法的には書かなくていい立場だからこそ、自分から書く。それが自分のコンテンツの信用を守る作業になる、と考えています。今日からできること 書いたところを、書く。 全工程を報告する必要はありません。「構成案はAIと壁打ちしました」「アイキャッチは画像生成AIです」「本文は自分で書きました」。この程度の一行を記事末に置くだけで十分です。むしろ細かすぎる開示は読みにくくなります。 画像の来歴を、途中で壊さない。 生成ツールの書き出し設定でContent Credentialsを有効にしておく。そのうえで、リサイズや圧縮のツールがメタデータを剥ぎ取っていないかを一度確認してください。私も画像圧縮を挟んだ時点で来歴が消えていたことがあり、工程を組み替えました。 表記のしかたを、サイト内で1つに決める。 記事ごとに書き方が違うと、書いていない記事が「AIを隠した記事」に見えてしまいます。文言と置き場所をテンプレート化して、全記事で同じにしておくのが安全です。まとめ2026年8月2日、EU AI法第50条とカリフォルニアAI Transparency Actが同じ日に動き出した。カリフォルニアは施行日を1月1日からこの日に延期している。 求められているのは、機械が読めるマークと、人が見て分かるラベルの両方。来歴（C2PA）はその土台だが、スクショや圧縮で簡単に消える手がかりでしかない。 人間が編集責任を負うブログ記事の本文は、EUの開示義務の対象外。カリフォルニアもテキストは対象にしていない。それでもプラットフォーム側が自動でラベルを貼る時代になるため、自分で先に明示しておくことが信用を守る。次に読むのがおすすめの記事【セミナー登壇記】高級シニアレジデンスでの60分間〜AI時代の「正しく疑う力」と人生経験の相乗効果〜 「やさしいAI」とは何か——便利さを超えた、人に寄り添うAIを考える参考文献・出典欧州委員会「EU AI法 第50条 透明性義務」適用開始（2026年8月2日）／ ITmedia NEWS EU Artificial Intelligence Act, Article 50: Transparency Obligations ／ artificialintelligenceact.eu EU Artificial Intelligence Act, Article 99: Penalties（制裁金・第99条(4)(g)および(6)） ／ artificialintelligenceact.eu 欧州委員会「Guidelines on transparency obligations for providers and deployers of AI systems」（2026年7月20日採択） ／ digital-strategy.ec.europa.eu California AB 853 (2025) California AI Transparency Act ／ California Legislative Information California SB 942 California AI Transparency Act ／ California Legislative Information Content Credentials C2PA Technical Specification 2.3（2026年1月5日） ／ spec.c2pa.org Google「How Pixel and Android are bringing a new level of trust to your images with C2PA Content Credentials」 ／ blog.google