「AI生成」と書けば、真実は守れるのか
――EU AI法を3人の哲学者から読む
AI生成物への表示を求めるEUの新しいルールは、偽情報をなくすのだろうか。3人の哲学者の考えを手掛かりに、ラベルができることと、できないことを考える。
SNSで、ある政治家が重大な発言をしている動画を見つけたとする。しかし、その動画には小さく「AI生成」と表示されていた。
この表示を見れば、映像がAIによって作られたことは分かる。では、内容がうそかどうかも分かるだろうか。
答えは「分からない」である。
AIが作った情報でも正しい場合はある。反対に、人間が作った情報でも間違っていることはある。「AI生成」という表示が教えてくれるのは、その情報がどのように作られたかであって、内容が正しいかどうかではない。
それでも、なぜEUはAI生成物への表示を求めるのだろうか。この問題を、カント、ハンナ・アーレント、バーナード・ウィリアムズという3人の哲学者の考えから見ていこう。
EUでは何が始まるのか
2026年8月2日から、EUのAI法第50条に定められた透明性のルールが適用される。
このルールには、大きく分けて二つの表示がある。
1．コンピューターが読み取るための印
生成AIを提供する会社などは、AIが作った文章、画像、音声、動画に「機械判読可能な印」を付け、AI生成物として検出できるようにすることが求められる。データに埋め込まれた情報や、電子的な透かしのようなものだと考えると分かりやすい。
2．情報を受け取る人に知らせる表示
仕事としてAIを利用する人や企業などは、ディープフェイクや、社会的に重要な問題について人々へ情報を伝える目的で公開するAI生成・加工文章について、その事実を分かりやすく示すことが求められる。
ただし、すべてのAI利用に、目立つ「AI生成」ラベルが必要になるわけではない。
社会的に重要な問題を扱う文章でも、人間が内容を実質的に確認し、個人や組織が編集上の責任を負う場合は、表示義務の例外となる。つまりEUが重視しているのは、「AIを少しでも使ったか」だけではない。「人間が内容を確かめ、最終的な責任を引き受けているか」も重要なのである。
ラベルが示すのは「真偽」ではなく「作られ方」
「AI生成」という表示は、「この情報はうそです」という警告ではない。反対に、「この情報は正しいです」という保証でもない。
たとえば、AIが気象データを正確にまとめた天気情報は、AI生成でも正しい。一方、人間が思い込みだけで書いた記事は、人間が作ったものでも誤っている可能性がある。
AI表示が教えるのは、情報の真偽ではなく、情報の来歴、つまり「どのように作られたか」である。では、作られ方を知らせることには、どのような意味があるのだろうか。
カント――表示は、相手が自分で判断するためにある
イマヌエル・カントは、18世紀のドイツの哲学者である。カントは、真実を語ることを社会の重要な義務だと考えた。
「避けることのできない発言において真実を語ることは、すべての人に対する形式的な義務である。」
――イマヌエル・カント「人間愛から嘘をつく権利という誤った考えについて」
カントが問題にしたのは、一人の人間をだますことだけではない。うそが当たり前になれば、私たちは他人の発言を信用できなくなる。すると、約束や契約など、社会を支える仕組みそのものが成り立ちにくくなる。
もちろん、カントが生きていた時代に生成AIはなかった。しかし、彼の考えを現在に当てはめることはできる。
AIで作った映像を、本物の映像だと思わせて見せると、受け手は正しい条件のもとで判断できない。AIによる加工を隠すことは、相手が自分で考えるために必要な情報を奪うことになる。
このように考えると、AI表示は「AI作品は人間の作品より劣っている」と示す印ではない。情報を受け取る人を、自分で考えて判断できる存在として尊重するための情報なのである。
ただし、作成方法を明かしただけで、内容が真実になるわけではない。「AIを使った」と知らせるだけでなく、何を根拠に書いたのかも示す必要がある。
アーレント――意見を自由に語るには、共通の事実が必要である
ハンナ・アーレントは、20世紀の政治思想家である。彼女は、民主主義における「事実」と「意見」の違いを重視した。
「事実についての情報が保障されず、事実それ自体が争われているなら、意見の自由は茶番である。」
――ハンナ・アーレント「真理と政治」
この言葉を、簡単な例で考えてみよう。
「ある政策は良いか、悪いか」は意見の問題である。人によって評価が違ってよい。しかし、「その政策が実際に決定されたか」「政治家が本当にその発言をしたか」は事実の問題である。
意見は異なっていてもよいが、話し合いを始めるためには、最低限の事実を共有する必要がある。実際には存在しなかった出来事まで事実として広まれば、社会全体で話し合うための土台が失われてしまう。
ディープフェイクの危険は、特定の人の名誉を傷つけることだけではない。起きていない出来事を、社会の「共通の現実」の中へ紛れ込ませるところにある。
EUが、とくにディープフェイクや社会的に重要な問題を扱う文章に表示を求めるのは、意見を形成する土台としての事実を守ろうとする試みだと考えられる。
しかし、ここでもラベルだけでは十分ではない。「AI生成」と表示された正確な情報もあれば、何の表示もない人間由来のうそもある。表示のない情報を自動的に「本物」と信じるようになれば、AI表示が新しい思い込みを生むことになる。
ウィリアムズ――「正確さ」と「誠実さ」は別のものである
イギリスの哲学者バーナード・ウィリアムズは、『真理と真実性』の中で、真実に関わる二つの大切な態度を示した。
正確さ
証拠を調べ、思い込みに流されず、何が本当なのかを確かめようとする態度。
誠実さ
自分が信じていることや、どのように情報を作ったのかを偽らずに伝える態度。
この区別を使うと、AI表示の役割が分かりやすくなる。「AIを使って作りました」と明かすことは、制作方法を隠さないという意味で、主に誠実さを支える。しかし、表示そのものは証拠を調べたり、内容を確認したりしない。そのため、正確さまでは保証できない。
さらに、生成AIは自分の信念を持ち、発言の責任を引き受ける人間ではない。AI自身に「誠実であれ」と命じても、最終的な責任者にはできない。
だからこそ、AIを使って情報を公開する人や企業が、出典を確かめ、間違いがあれば訂正し、内容に責任を持たなければならない。
EUが、実質的な人間の審査と編集責任を表示義務の例外条件にしていることには、この点からも意味がある。
真実を守るために必要な三つのもの
AI生成物への表示は必要である。しかし、「AI生成」と書くだけで真実が守られるわけではない。
- 来歴の透明性――AIをどの工程で、どの程度使ったのかを示す。
- 内容の検証――主張の根拠となる出典や証拠を示し、事実を確認する。
- 責任の明確化――誰が内容を確認し、誤りがあったときに誰が訂正するのかを明らかにする。
AI表示は、情報に対する最終判決ではない。「AI生成だから信じてはいけない」という警告でもなければ、「表示しているから正しい」という保証でもない。それは、情報を確かめ始めるための入口である。
EUの制度が成功するかどうかは、ラベルの数だけでは決まらない。ラベルを見た人が、そこから根拠と責任者をたどれるかどうかが重要である。
NOW IN QUESTION
私たちは、判断までラベルに任せようとしていないか。
私たちが本当に求めているのは、AIにだまされないための表示だろうか。それとも、本来は自分たちで行うべき真偽の判断を、ラベルに代わってもらおうとしているのだろうか。
参考資料
- Regulation (EU) 2024/1689, Article 50
- European Commission, Guidelines on transparency obligations for providers and deployers of certain AI systems
- European Commission, Transparency obligations under Article 50 of the AI Act
- Immanuel Kant, On a Supposed Right to Tell Lies from Benevolent Motives
- Hannah Arendt, “Truth and Politics”
- Bernard Williams, Truth and Truthfulness: An Essay in Genealogy
※哲学者の引用文は英語資料をもとに日本語へ訳したものである。