生成AIのフェイク画像/動画が氾濫する
はじめに
先日、東京広告協会 法務政策委員会の皆様に向けて、「生成AIのフェイク画像／動画が氾濫する時代のメディアのIP／ブランド防御」をテーマとする勉強会を実施させていただきました。
私はこれまで長く放送局に勤務し、報道、放送技術、放送行政、メディアのビジネスモデルなどに関わってきました。現在はPwCコンサルティングにおいて、放送局や新聞社などのメディア企業を中心に、メディア戦略、制作業務のデジタル化、次世代のコンテンツ配信モデル、AI時代における広告戦略などの検討をご支援しています。
今回の勉強会では、生成AIによるフェイク画像・動画・音声などが急速に増える中で、メディア企業や広告に関わる企業が、どのようにIPやブランドを守っていくべきかについてお話ししました。
本稿では、当日の勉強会でお話しした内容をもとに、フェイクコンテンツによる被害の現状、ブランドや企業価値への影響、そして今後企業に求められる対応について整理します。
フェイクコンテンツ被害は指数関数的に増えている
まずお伝えしたのは、生成AIによるフェイクコンテンツの被害が、ここ数年で急速に増えているということです。
勉強会資料では、フェイクコンテンツによる被害件数が、2023年の42件から、2024年には150件、2025年には1,567件へと増加していることを示しました。また、フェイクコンテンツ起因の被害金額についても、2019～2023年の累計0.13億米ドル、2024年の0.4億米ドルに対し、2025年単年度では10億米ドルに達したと整理しています。つまり、件数・金額の双方で、わずか数年のうちに桁違いの拡大が起きています。グラフで見ると、その増え方は非常に分かりやすく、単純な右肩上がりではなく、指数関数的に拡大していることが見て取れます。
ここで重要なのは、攻撃側と防御側のスピード感がまったく異なるという点です。フェイクコンテンツは、生成AIを使えば短時間で大量に作成できます。そして、SNSや動画共有サイト、広告配信などを通じて、一気に広がっていきます。
一方で、防御側の対応は、どうしても段階的になります。見つける、確認する、関係者で判断する、削除要請をする、声明を出す、といったプロセスが必要です。攻撃が指数関数的に増えるのに対し、防御は直線的にしか打てない。この構造的な非対称性が、生成AI時代のフェイクコンテンツ問題を非常に難しくしています。
したがって、従来のように「見つけたら削除する」「問題が起きたら対応する」という後追い型の考え方だけでは、十分に対応できなくなりつつあります。
フェイクコンテンツ対策は、ブランド経営の問題になっている
フェイクコンテンツの問題は、単なる詐欺やセキュリティの問題にとどまりません。現在では、企業のブランドや評判、ひいては企業価値そのものに関わる問題になっています。
勉強会資料では、2025年のフェイクコンテンツ攻撃タイプ別メディア到達の内訳として、「ブランド・評判攻撃」が53.4％を占めることを紹介しました。これは、政治的偽情報、性的画像、消費者詐欺、企業不正などを上回る比率です。
また、偽情報に対する消費者意識の調査では、53％が「沈黙＝隠蔽」と解釈し、48％が「偽情報と戦うブランドから買う」と回答しています。さらに、51％が「義務不履行でブランドへの信頼を失う」、同じく51％が「義務不履行で購買が減る」と回答しています。
ここから分かるのは、フェイクコンテンツへの対応は、単に「被害が出たら削除する」という問題ではないということです。企業が偽情報に対して何も発信しない、あるいは対応が遅れる場合、消費者はそれを「問題を軽視している」「隠している」と受け止める可能性があります。
つまり、フェイクコンテンツに対して何もしない、あるいは「そのうち消えるだろう」と考えることは、必ずしも安全ではありません。むしろ、企業が適切に対策を取り、偽情報に向き合う姿勢を示すこと自体が、ブランドへの信頼につながる局面が増えています。
広告・メディアに関わる企業にとって、これは非常に重要な論点です。広告は、企業や商品、サービスの信頼を社会に伝える役割を持っています。メディアもまた、情報の信頼性を基盤に成り立っています。フェイクコンテンツの氾濫は、その信頼の土台を揺るがすものです。
その意味で、フェイクコンテンツ対策は、もはや一部の担当部署だけの課題ではなく、ブランド経営の一部として捉える必要があります。
ブランド・企業価値を毀損する3つの類型
勉強会では、フェイクコンテンツによるブランド・企業価値の毀損を、大きく3つの類型に整理してお話ししました。すなわち、①なりすまし広告・投資詐欺、②偽不祥事・偽広報、③IPの無断生成・無断学習です。
著名人や経営者、企業ブランドの信用を悪用し、あたかも本人や企業が推奨しているかのように見せかける広告が流通するケースです。日常的にSNSなどを見ていても、著名人を装った投資広告や、実在する人物の画像を使った怪しい広告を目にする機会が増えています。
このようなケースでは、金銭的な被害を受けるのは消費者ですが、被害はそれだけにとどまりません。なりすまされた著名人や企業のイメージも傷つきます。また、その広告が掲載された媒体や広告枠の信頼にも影響が及びます。広告経済そのものへの信頼低下にもつながり得る問題です。
企業が不祥事を起こしたかのような偽情報や、公式発表を装った情報が拡散されるケースです。これが株価や消費者の購買行動に影響することもあります。たとえ企業が後から否定したとしても、すでに拡散された情報を完全に回収することは容易ではありません。
キャラクター、タレントの肖像、声、楽曲、映像など、企業やクリエイターが保有するIP資産が、無断で生成AIに利用されたり、生成物として流通したりするケースです。
この論点は、メディアやエンターテインメントの業界にとって特に深刻です。勉強会では、海外の映像制作の現場で、俳優の姿形や音声データを取得し、生成AIによって再現できるようにする動きが問題となり、ハリウッドのストライキの背景の一つにもなったことを紹介しました。
当初は、俳優が病気や怪我で出演できなくなった場合の保険のような位置づけであったとしても、悪用されれば、本人がいなくても映像制作ができてしまう可能性があります。これは俳優だけでなく、クリエイティブに関わる人々全体にとって、大きな機会損失になり得ます。
広告・メディア業界においては、これら3類型はいずれも他人事ではありません。広告主、媒体社、プラットフォーマー、広告会社、制作会社、タレント事務所、IPホルダーなど、バリューチェーン上の多くの関係者が影響を受ける可能性があります。
責任所在の不明瞭さ、拡散スピード、検知の遅れ
フェイクコンテンツへの対応が難しい理由として、勉強会では大きく3 つの点をお話ししました。
1つ目は、責任所在が不明瞭であることです。
フェイク広告や偽情報が流通したとき、誰に責任があるのかは必ずしも明確ではありません。広告主なのか、媒体なのか、プラットフォーマーなのか、生成した人物なのか。法制度や業界ルールの整備が追いついていない中では、被害者が誰を相手にどのような対応を取ればよいのかも分かりにくい状況があります。
2つ目は、拡散スピードが非常に速いことです。
SNS や動画共有サイトを通じて、フェイクコンテンツは短時間で広がります。しかも、生成AIや翻訳技術の発展により、多言語での展開も容易になっています。これにより、影響範囲は一国内にとどまらず、グローバルに広がる可能性があります。
3つ目は、検知の遅れが致命的になり得ることです。
フェイクコンテンツを発見してから対応するまでの時間が少し遅れるだけで、被害は大きく広がります。対応が2倍遅れたら被害も2倍になる、という単純な話ではありません。拡散は指数関数的に進むため、わずかな遅れが大きな差になります。
このため、フェイクコンテンツ対策では、個別事案が発生してから後追いで対応するだけでは不十分です。あらかじめ予防、検知、対応、回復を一体として設計しておく必要があります。
対策は「予防・検知・対応・回復」で考える
勉強会では、フェイクコンテンツ対策を「予防」「検知」「対応」「回復」の4つの階層で整理しました。
予防とは、攻撃につながる芽を事前に潰すことです。
契約条項の整備、公式素材の一元管理、従業員やタレントへの教育、危機対応プロトコルの整備、そしてコンテンツ真正性を証明する仕組みの検討などが含まれます。
検知とは、攻撃が発生した際に、できるだけ早く把握することです。ブランドやIP、タレント名などを対象としたモニタリング体制や、ディープフェイク検出ツール、外部からの通報の仕組みなどが考えられます。
対応とは、被害の拡散を最小限に抑えることです。
媒体への削除要請、法的措置、公式声明の発表、関係者間の連携などが含まれます。
回復とは、一度毀損されたブランドや信用を再構築することです。
消費者やファンコミュニティとの対話、継続的な情報発信、社内制度や教育の見直しなどが重要になります。
この4つはいずれも重要ですが、特に強調したいのは「予防」です。検知、対応、回復は、基本的には事後の打ち手です。もちろん必要ではありますが、そこに依存しすぎると、拡散スピードに追いつけず、構造的に不利になります。
したがって、予防を起点にし、検知・対応・回復が機能するように全体設計を行うことが重要です。
予防層で重要になる4つの打ち手
予防層の打ち手として、勉強会では大きく4つを挙げました。契約条項の整備、IPアセットの一元管理、ガバナンスの強化、そしてコンテンツ真正性の証明です。
契約条項の整備では、既存契約や商流におけるAI利用リスクを確認し、制作会社や取引先に対して、AI利用に関するルールやガイドラインを明確にすることが必要です。
IPアセットの一元管理では、キャラクター、タレント素材、映像、音声、楽曲など、自社が保有・管理するIP資産を棚卸しし、どこに何があり、誰がどのように使えるのかを把握できる状態にすることが重要です。
ガバナンスの強化では、危機対応プロトコルの整備や、従業員・タレントへの教育が必要になります。フェイクコンテンツは、外部からの攻撃だけでなく、社内や関係者の不適切な素材管理、情報管理の甘さを入口にして発生することもあります。
そして勉強会で少し深堀りしたのが、コンテンツ真正性の証明です。
フェイクコンテンツを発見して削除するだけでは限界がある中で、そもそも「本物であること」を示す仕組みが重要になるとお話ししました。具体的には、コンテンツに来歴情報を付与し、誰が、いつ、どのように制作・編集・配信したのかを確認できるようにする考え方です。また、勉強会資料では、コンテンツ真正性証明市場のグローバル市場規模が2024年に18億米ドルに達し、2033年まで年平均成長率21.7％で成長する見込みであること、Content Authenticity Initiative（CAI）の会員企業数が2026年1月時点で6,000社を超えていることも示しました。真正性証明に向けた取り組みは、一部企業の実証にとどまらず、グローバルな潮流になりつつあります。
「偽物を見つける」だけでなく、「本物であることを示す」
フェイクコンテンツ対策というと、どうしても「偽物を見つけて削除する」という発想になりがちです。しかし、先ほど述べた通り、この方法だけでは拡散スピードに追いつくことが難しくなっています。
そこで重要になるのが、「本物であることを示す」という発想です。
具体的には、コンテンツに来歴情報を付与し、誰が、いつ、どのように制作・編集・配信したのかを確認できるようにする仕組みです。真正性や来歴を示す情報が、コンテンツにいわば「ハンコ」のように付与されていれば、消費者や取引先は、それが公式なコンテンツであるかどうかを判断しやすくなります。
勉強会では、このような技術的枠組みの一つとして、C2PAについてお話ししました。C2PAは、コンテンツの真正性や来歴を証明するための規格として、現在、世界的に認知が広がりつつあります。
この領域では、制作ツールを提供する企業や、動画配信プラットフォーム、カメラメーカーなどが取り組みを進めています。たとえば、映像を記録する段階で来歴情報を埋め込めるカメラや、配信プラットフォーム上で真正性情報を扱う取り組みなどが進んでいます。
ただし、ここで大事なのは、C2PAを導入すればすべてが解決するわけではないという点です。真正性証明は、技術だけでは機能しません。制作、編集、保管、配信、表示といった一連の業務フローの中で、どの段階で来歴情報を付与し、誰が確認し、どのように視聴者や消費者に伝えるのかを設計する必要があります。
広告領域で言えば、広告主、広告会社、制作会社、媒体社、プラットフォーマーが、それぞれ別々の運用をしていては、真正性の保証は十分に機能しません。関係者間で一定の共通理解を持ち、運用をそろえていくことが不可欠です。
法制度・規制動向も踏まえた設計が必要になる
フェイクコンテンツへの対応を考える上では、技術や業務プロセスだけでなく、法制度・規制動向も踏まえる必要があります。
日本では、AI関連技術の研究開発・活用を推進するAI法が2025年に施行され、AIの利活用とリスク対応に関する基本的な枠組みは整備されつつあります。一方で、ディープフェイク全般を直接かつ包括的に規律する単独法や、広告・メディア業界横断の真正性証明プロトコルが確立しているわけではありません。そのため、現時点では既存法、契約、社内規程、業界自主基準を組み合わせながら、各社が先行的に対応を設計していく必要があります。
また、海外に目を向けると、欧州ではEU AI Actにおいて、AI生成・操作コンテンツに関する透明性義務が定められています。グローバルに事業を展開する企業にとっては、海外規制への対応も重要な論点になります。
つまり、フェイクコンテンツ対策は、国内の現行法だけを見ていれば十分というものではありません。広告やメディア、コンテンツは国境を越えて流通します。日本企業であっても、海外市場、海外プラットフォーム、海外ユーザーとの接点を持つ以上、欧米を含む規制動向を踏まえた対応が求められます。
日本企業にとってのリスクと先行者機会
勉強会の後半では、日本国内の状況を踏まえた企業の取り組みについてもお話ししました。
現時点では、日本にいると、生成AIによるフェイクコンテンツ被害について、海外ほど深刻に実感していない企業も多いかもしれません。質疑応答でも、日本国内では大きな被害はあまり聞かない一方、海外ではタレント画像や商品画像が無断で使われるような事例がある、というお話がありました。
これに対して、私は、日本でまだ被害実感が限定的なのは、言語の壁が一定のバリアになっている面があるとお答えしました。攻撃する側から見ると、英語や中国語のような大きな市場の方が、フェイクコンテンツを作成・拡散した際のリターンが大きいからです。
しかし、生成AIの進化により、言語の壁は以前ほど強い障壁ではなくなっています。翻訳や多言語生成が容易になる中で、今後は日本語圏にも同様のリスクが広がってくる可能性があります。
また、日本企業の多くは、海外市場での事業展開を進めています。特に、家電、コンテンツ、エンターテインメント、キャラクター、ゲームなどの領域では、日本発のブランドやIPが海外で高い認知を得ています。海外市場でブランドやIPを展開する企業にとって、フェイクコンテンツ対策は、国内だけでなくグローバルな視点で考える必要があります。
一方で、これはリスクであると同時に、先行者機会でもあります。日本国内では、業界横断の基準やアライアンスがまだ十分に整っているとは言えません。だからこそ、先行して取り組む企業が、業界基準づくりを主導できる余地があります。
今後企業に求められる対応
最後に、今後企業に求められる対応として、短期・中期・長期の3つのステップをお話ししました。
おおむね3か月までの段階では、ブランド価値を守る基盤の確保が必要です。自社が保有するIPアセットを棚卸しし、どの素材がどこにあり、誰がどのように利用しているのかを把握する。ブランドモニタリング体制を整える。危機対応プロトコルを整備する。契約におけるAI関連条項を見直す。こうした基盤整備が第一歩になります。
3～12か月の段階では、制作から流通まで、一貫して自社コンテンツの真正性や信頼性を保証する仕組みを検討することが必要です。C2PA のような真正性証明の仕組みをどのように業務に組み込むか、AI 利用を前提として制作・流通プロセスをどのように高度化するかが論点になります。
12 か月以降の段階では、自社だけでなく、業界全体の信用を守るエコシステムを形成していくことが重要です。広告主、広告会社、媒体社、制作会社、プラットフォーマー、IP ホルダーなどが連携し、真正性の保証やAI コンテンツの透明性について、一定の共通ルールやプロトコルをつくっていく必要があります。
これは、個社だけで完結する問題ではありません。フェイクコンテンツは、バリューチェーンのどこか一カ所だけで止められるものではないからです。だからこそ、業界全体で信頼の基盤をつくっていくことが求められます。
おわりに
生成AIは、広告・メディア・コンテンツ産業にとって、大きな可能性を持つ技術です。制作の効率化、新しい表現の創出、コンテンツ流通の高度化など、多くのメリットがあります。
一方で、同じ技術が、なりすまし広告、偽不祥事・偽広報、IPの無断生成・無断学習といった形で、企業のブランドやメディアの信頼を損なうリスクも高めています。
今回の勉強会で最もお伝えしたかったのは、フェイクコンテンツ対策を、単なる事後対応として捉えてはいけないということです。見つけて消すだけでは、拡散スピードに追いつけません。予防を起点に、検知、対応、回復までを一体として設計する必要があります。
とりわけ、今後は「本物であることを証明する」発想が重要になります。真正性証明の技術を活用しながら、契約、IP管理、ガバナンス、危機対応、業界連携を組み合わせて、ブランドやメディアの信頼を守る仕組みを構築していくことが求められます。
日本では、まだ被害の実感が限定的な企業も多いかもしれません。しかし、生成AIの進化により言語の壁が低くなり、日本のブランドやIPがグローバルに展開されるほど、リスクは高まっていきます。
過度に恐れる必要はありませんが、無防備でいることもできません。自社のブランドやIPをどのように守り、消費者や社会に対してどのように信頼を発信していくのか。生成AI時代のブランド防御は、まさに今、企業が取り組むべき重要なテーマになっていると考えています。
勉強会にお招きいただき、ありがとうございました。