ディープフェイクを見分けられますか？新しいクイズで、加工された画像や動画をどれだけ正確に見分けられるか試してみましょう
カート・シュロッサー著
シアトルを拠点とするAI非営利団体TrueMediaの新しいクイズは、ディープフェイクの画像、動画、音声クリップをどれだけ見分けられるかをテストするもので、選挙シーズンが近づくにつれて、オンライン上のコンテンツが本物でないものを見分ける必要性を浮き彫りにしている。
木曜日に公開されたこのクイズでは、ユーザーがさまざまな政治関連メディアについて「本物」か「偽物」かを選択する10の質問に答え、「ディープフェイクIQ」を評価する。
表示されるのは、バイデン大統領が第二次世界大戦の退役軍人とともに立っている写真や、ドナルド・トランプ前大統領がニューヨーク市で最近行われた裁判で演説する動画です。他の質問では、ロシアのウラジーミル・プーチン大統領と北朝鮮の金正恩委員長の動画も出てきます。
オレン・エツィオーニ氏は、ディープフェイク検出機能を備えた無料のウェブベースAIツールを開発するために6ヶ月前に設立されたTrueMediaの創設者兼代表者です。ワシントン大学教授であり、アレンAI研究所の元CEOであるエツィオーニ氏は、このようなクイズの主な目的は、TrueMediaに光を当てることだけでなく、オンラインで流通している可能性のあるものについて人々に気づいてもらうことだと述べています。
「これは大きな社会問題であり、私たちのほとんどがそれに苦しんでいます」とエツィオーニ氏は述べ、なぜディープフェイクを確実に見分けられないのかに関する2021年11月のiScience誌に掲載された研究を指摘した。
新たな技術とAIの進歩により、説得力のあるディープフェイクの作成がますます容易になっています。無党派のTrueMediaは、極めて重要な選挙を前に、これを大きな懸念事項と捉えています。
「かつては国家機関だけが実行できたことだったが、残念ながら今では誰でも実行できる」とエツィオーニ氏は以前GeekWireに語り、「一種の偽情報テロ」の可能性を懸念していると付け加えた。
時事問題にかなり精通しているジャーナリストとして、その信念を頼りにクイズに挑戦してみました。結果は80%の得点で、本物だと思った加工画像1枚と偽物だと思った動画1本を間違えました。また、いくつかは推測で正解しましたが、これは本物か偽物かよく分かっていなかった証拠です。
本物か偽物かを選択すると、クイズで正しい答えが表示され、「これは偽のビデオです…TrueMedia.org は操作の重大な証拠を検出しました」などの説明文も表示されます。
ニューヨーク・タイムズも1月にクイズを公開し、読者が人間の顔とAIが生成した顔を見分けられるかどうかをテストしました。この難しいテストで、私は10問中4問しか正解できませんでした。
ディープフェイクを見分けるために何を注目すべきかと尋ねられると、エツィオーニ氏は「肉眼」に頼ることはできないとし、TrueMediaのようなツールが一般に広く公開されれば役立つだろうと述べた。
「さらに、皆さんには情報源を確認することをお勧めします」と彼は述べた。「このソーシャルメディアの投稿の出所はどこでしょうか？この画像は本物でしょうか？」
トゥルーメディアは、ディープフェイク問題への意識を高めるため、また、来たる選挙に間に合うようにそのコンテンツの影響を防ぐツールの利用範囲を広げるために、今後数か月間にさらに多くのクイズやインタラクティブ機能を計画しているとエツィオーニ氏は述べた。
関連している：
- これらのスタートアップは、生成AIによって促進されたディープフェイクやデジタル肖像権の問題に取り組んでいる。
- サイバーストーカー被害に遭った経験を持つテック創業者が、ディープフェイクコンテンツと戦うスタートアップを立ち上げた
