AIフェイク予告編で10億回再生、YouTubeが大手チャンネル2つを凍結 ─ 二次創作か、アルゴリズムの盲点突く規約違反か？

生成AIを使用し、フェイクの映画予告編を作成・公開していたYouTubeの大手チャンネル2つが凍結されたことがわかった。

米Deadlineによれば、このたび凍結されたのはインド発の「Screen Culture」と、ジョージア発の「KH Studio」。両チャンネルは合計で200万人以上のチャンネル登録者、および累計10億回以上の再生回数を記録していた。

Screen Cultureは、マーベル映画『ファンタスティック４：ファースト・ステップ』（2025）や『スーパーマン』（2025）の公式予告編をAIで再現し、一部改変を加えたフェイク予告編を多数公開しており、なかには検索結果で公式映像よりも上位に表示されていた映像もあった。また、「ハリー・ポッター」や「ウェンズデー」のフェイク映像も公開していた。

一方、KH Studioはやや趣旨が異なり、「ヘンリー・カヴィル＆マーゴット・ロビー出演のジェームズ・ボンド映画」や、「レオナルド・ディカプリオが出演している『イカゲーム』」など、実際には存在しない映像を生成AIによって作成、公開していた。

今回の凍結に先がけ、YouTubeは3月の時点でScreen CultureとKH Studioへの広告掲載を一時停止していたが、両チャンネルは動画のタイトルに「ファントレーラー」や「パロディ」といった表記を加えることで収益化を再開。ただし、これらが最近になって再び明記されなくなったことから、YouTubeは規約違反であるとして両チャンネルの凍結に踏み切った。

Deadlineは以前、両チャンネルの運営者に取材しており、Screen Cultureを運営するニキル・P・チャウダリ氏は、12人の編集チームがフェイク映像をすみやかに公開し、動画に修正を加えつづけることでアルゴリズムの盲点を突いたことを告白。チャウダリ氏は、ユーザーの大半はScreen Cultureの映像が本物ではないこと、検索すれば公式の予告編が見つかることを理解していると主張していた。

また、 KH Studioの運営者は、フェイク映像はユーザーを誤解させることではなく、“もしも”のアイデアで楽しんでもらうことだと述べていた。「目標はクリエイティブの可能性を探求することで、誤解させることではないのに、“誤解を招くコンテンツ”に分類されるのはつらい」と。

もっとも生成AIを使用したフェイク予告編の流通はとどまることを知らず、このたび凍結された両チャンネル以外にも、数々のチャンネルがフェイク映像を公開している。映画館でのみ上映されている『アベンジャーズ／ドゥームズデイ』のティザー映像でさえ、早くも生成AIで再現された映像や、実際とは異なる場面を含むフェイク版が公開されているのが現状だ。

Source: Deadline (1, 2)