YouTube、AIディープフェイク検出ツールを全成人ユーザーに拡大

YouTubeがAI監視の網を一般ユーザーへ

動画共有大手のYouTubeは、AIを活用したディープフェイク対策ツール「類似性検出」の対象を、18歳以上のすべてのアカウント保有者に拡大すると発表した。これまではコンテンツクリエイターや政治家、ジャーナリスト、エンターテインメント業界関係者などに限定されていたこの機能が、一般の成人ユーザーにも開放されるのは初めてのことだ。

「セルフィー監視」の仕組み

この機能は、ユーザーがセルフィー風に自分の顔をスキャンして登録すると、YouTube上の動画コンテンツを常時監視し、登録した顔と一致する可能性のある場面を検知するというものだ。一致が確認されるとユーザーに通知が届き、動画の削除をリクエストするオプションが与えられる。YouTubeはこれまで、この機能による削除リクエストの数は「非常に少なかった」としている。

削除リクエストは、YouTubeのプライバシーポリシーに基づき審査される。審査では、コンテンツが現実味があるか、AI生成としてラベリングされているか、個人を一意に特定できるかといった基準が考慮される。パロディや風刺などの一定の例外もあるほか、対象はあくまで顔の類似性に限定され、声などの他の識別特徴は対象外だ。ユーザーはいつでもプログラムから撤退し、登録したデータの削除を依頼できる。

個人を守る技術の民主化

ディープフェイクの悪用は、もっぱら有名人や政治家といった公的人物に焦点が当てられがちだが、一般人がデジタル上の「複製」を勝手に作られるリスクも現実のものとなっている。過去には、同級生によってディープフェイクにされたティーンエイジャーの事例や、AIチャットボットが青少年を性的に描写した生成物を作ったとして訴訟に発展したケースも報告されている。

今回の拡大により、長年YouTubeで活動してきたベテランクリエイターだけでなく、これから始めようとしている人でも、同等の保護を受けられるようになる。YouTubeは「アップロード歴の長さに関係なく、すべてのクリエイターが同じレベルの保護にアクセスできることを明確にした」と説明している。

技術と倫理の新たなフロンティア

この動きは、生成AI技術の普及に伴い、プラットフォームがコンテンツ管理において果たす役割が増大していることを示唆する。ユーザー自身が積極的に自分を守る手段を手にした一方で、監視の範囲やプライバシーとのバランスに関する議論も今後深まる可能性がある。AIによる自動検出が、デジタル空間における「自分らしさ」の保護にどこまで貢献できるかが問われている。