FacebookとMicrosoftが研究者と協力してディープフェイク動画検出コンテストを開催
アラン・ボイル著
Facebookは、マイクロソフト、AIパートナーシップ、国際的な学者チームと協力し、偽造動画を見分けるためのより優れたツールを開発するコンテスト「ディープフェイク検出チャレンジ」を創設したと発表した。
Facebookの最高技術責任者であるマイク・シュローファー氏は本日のブログ投稿で、「より多くの参加を促すため、このチャレンジのための共同研究や賞金の提供にも資金を提供しています。業界全体にわたるこの取り組みに、総額1,000万ドル以上を投入する予定です」と述べました。
ディープフェイクは、声のなりすましや動画操作を駆使して、著名人、特に政治家が、まるで操作者が望む言葉を話しているかのように見せかけます。例えば、ワシントン大学の研究者たちは最近、バラク・オバマ大統領の言葉を模倣する技術を実証しました。
動画操作はすでに政治的な論争を巻き起こしている。例えば、5月にFacebookとTwitterで広く拡散された動画では、ナンシー・ペロシ下院議長が記者会見中に酔っているように見せかけられていた。専門家は、ディープフェイクが2020年の大統領選挙に向けた偽情報キャンペーンでほぼ確実に利用されると指摘している。
幸いなことに、研究者たちはすでにディープフェイクを検出するツールの開発に取り組んでいる。6月には、カリフォルニア大学バークレー校のコンピューター科学者たちが、特徴的な表情や頭の動きを分析して本物の動画と偽物を区別するソフトウェアツールを披露した。
Facebookのチャレンジは、常識的な推論から文章を完成させる問題まで、様々なテーマを扱う他の人工知能コンテストをモデルにしています。Facebookは、演習で使用する動画の同意を得た有料出演者を活用し、標準データセットを作成します。Facebookユーザーのデータは使用されません。チャレンジの動画と手順は、来月韓国で開催される国際コンピュータビジョン会議のワーキングセッションで審査され、12月に各チームが取り組めるように公開されます。
出場者にはリーダーボードが設置され、コンテストはPartnership for AIのAIとメディアの完全性に関する運営委員会によって監督されます。委員会にはFacebookとMicrosoftに加え、WITNESSや市民社会、テクノロジー、メディア、学術研究に重点を置く他の組織も参加します。
学術パートナーには、バークレー大学、コーネル工科大学、MIT、オックスフォード大学、メリーランド大学カレッジパーク校、ニューヨーク州立大学アルバニー校などがあります。
オックスフォード大学のフィリップ・H・S・トール教授は声明の中で、ディープフェイクの脅威は米国だけに限らないと述べた。
「インターネット上に拡散され、偽りの陰謀論を生み出し、政治的利益のために人々を操る操作されたメディアは、民主主義、ひいては自由に対する根本的な脅威であり、世界的な重要問題になりつつあります」とトール氏は述べた。「こうした偽情報を検知し、その特徴を明らかにするための新たなツールが緊急に必要だと考えています。ですから、真実を守りつつ科学の限界を押し広げるという目標に向けて研究コミュニティを結集しようとするこの取り組みに参加できることを嬉しく思います。」
シュローファー氏は、Facebookはこのチャレンジに参加するものの、賞金は受け取らないと述べた。コンテストは来年3月、大統領選が白熱する時期に終了する。
