AI非営利団体TrueMediaが選挙前に無料のディープフェイク検出ツールをリリース
カート・シュロッサー著
AIを使ってディープフェイクを検出し、偽情報と闘うシアトルを拠点とする無党派の非営利団体TrueMediaは、火曜日にその技術を一般に公開した。
この無料のウェブベースツールは、今年初めにジャーナリスト、ファクトチェッカーなどを対象に初めて公開されましたが、米国大統領選挙を前に、今では誰でも利用できるようになりました。ユーザーは画像、動画、または音声ファイルを含むソーシャルメディアの投稿を共有すると、TrueMediaのAIが既存のディープフェイク検出ツールを活用し、コンテンツをリアルタイムで分析し、改ざんの証拠を探します。
「これまで政府機関のみが利用してきた最高クラスのディープフェイク検出技術を、初めて一般の人々が容易に利用できるようになりました」と、長年コンピューター科学者、AI専門家として活躍し、TrueMediaの創設者でもあるオーレン・エツィオーニ氏は述べています。「偽情報が蔓延する選挙期間中、誰もがオンラインで見聞きする情報の真偽を検証するために必要なツールを持つことが重要です。」
ポップスターのテイラー・スウィフトは、AIを使ってドナルド・トランプ大統領を支持するように見せかけた偽の投稿について言及した。先週、インスタグラムの投稿でカマラ・ハリス副大統領を支持すると表明した彼女は、この過去の経験が「AIと誤情報の拡散に対する恐怖」を蘇らせたと語った。
TrueMedia はニュースリリースで、自社の技術が世界的な大事件の際に特定するのに役立ったディープフェイクの他の例を次のように共有した。
- 7月のトランプ前大統領暗殺未遂事件の際に笑顔を見せるシークレットサービスの偽画像。
- 2024年インド総選挙中の偽のボリウッド政党支持。
- ロシア国営メディアは、2024年3月のクロッカスセンター爆破事件をウクライナ国防大臣が自分の功績だとする偽の音声クリップを放送した。
TrueMediaは、2023年3月から2024年6月までに9,784本の動画を公開し、累計3億8,000万回以上の視聴回数を獲得した41のAIコンテンツファームアカウントの特定にも貢献したと述べた。
6月に、TrueMediaは人々の「ディープフェイクIQ」をテストし、偽の画像、動画、音声クリップをどれだけ正確に見分けられるかを測るクイズをリリースした。
ワシントン大学教授でアレンAI研究所元CEOのエツィオーニ氏は、有権者を操作するために広く使われているディープフェイクを「一種の偽情報テロ」と呼び、かつては国家機関が展開していた戦術が、残念ながら今では誰でも実行できるようになっていると述べた。
TrueMedia は今年初め、AI ディープフェイク検出機能を強化するために Microsoft の AI for Good Lab とのコラボレーションを発表した。
「ディープフェイクは見分けるのがますます難しくなってきている」とマイクロソフト社長のブラッド・スミス氏は述べ、TrueMediaのツールを「良いAIを使って悪いAIに対抗する素晴らしい例」と呼んだ。
エツィオーニ氏は9月26日、シアトルのワシントン大学スタートアップホールで開催されるイベントでAIや誤情報などについて講演する予定。
