選挙が迫る中、TrueMedia.orgは偽コンテンツを識別するAIディープフェイク検出器をリリース
トッド・ビショップ著
シアトルを拠点とする非営利団体TrueMedia.orgは火曜日、米国および国際選挙を前にジャーナリストやファクトチェッカーがディープフェイクを検出し、誤情報と戦うのを支援するため、AIを活用した無料のメディア検証ツールをリリースした。
1月に発足したこの無党派組織は、ワシントン大学教授で長年のAI専門家であるオーレン・エツィオーニ氏が率いており、ウーバーの共同創業者であるギャレット・キャンプ氏が自身の非営利財団Camp.orgを通じて資金提供している。
このツールは完璧ではないものの、ディープフェイクを識別する能力は「非常に高い」とエツィオーニ氏は述べ、画像、動画、音声全体で約90%の精度を誇ります。TrueMedia.orgは、自社開発の技術とパートナー企業のAI検出ツールを組み合わせてメディアを分析し、コンテンツが偽物である可能性を算出しています。
例えば、このツールは、3月22日にロシアのコンサートホールで発生したテロ攻撃について、ウクライナの治安当局高官が犯行声明を出しているとされる既知の偽動画を「非常に疑わしい」と自動的に分類しました。このツールは、この動画にはAIが生成した画像が含まれていると100%の確信を持って判定しました。
「ディープフェイクであれば、見破れる可能性が非常に高い」とエツィオーニ氏は語った。
TrueMedia.org は火曜日の朝に新しいツールを発表したことに加え、データとリソースを共有し、さまざまな AI モデルとアプローチで協力するための覚書を Microsoft と締結しました。
TrueMedia.org の他のパートナーには、Hive、Clarity、Reality Defender、OctoAI、AIorNot.com、Sensity などがあります。
ニューヨーク・タイムズ紙は火曜日にこのツールの発表を報じ、エツィオーニ氏がAIツールを使って生成した病院にいる偽の画像などを例に挙げた。同紙は、この画像は「選挙直前にバイデン氏やドナルド・J・トランプ前大統領に使われれば、選挙結果を左右する可能性があるとエツィオーニ氏は考えている」と報じた。
エツィオーニ氏はGeekWireとのインタビューで、TrueMedia.orgの検証ツールをジャーナリストやファクトチェッカーに提供し、偽コンテンツを迅速に見破ることで、そうした事態を回避することが目標だと述べた。これは、来たる米国大統領選挙だけでなく、欧州、インド、その他の地域の選挙にとっても重要だとエツィオーニ氏は述べた。
https://www.youtube.com/watch?v=Kq7TfZ7lcjo
TrueMedia.orgは、ツールへのアクセスを制限しています。これは、攻撃者がツールの手法を過度に理解し、ディープフェイクの検出を回避する方法を見つけ出すのを防ぐためです。ただし、ツールを使用できるユーザーは、TrueMedia.orgのウェブサイトでさまざまなコンテンツの評価へのリンクを共有できます。
「私たちは、このツールを人々の手に届けなければなりません」とエツィオーニ氏は述べ、TrueMedia.orgは、その手法を保護しながら「このツールの利用を急速に増やすために、できるだけ寛容になっている」と説明した。
エツィオーニ氏によると、TrueMedia.org は将来、ブラウザ拡張機能を通じてこのツールをウェブブラウザに直接統合し、Twitter や Reddit などのソーシャル メディア プラットフォームにも統合して、さらにアクセスしやすくすることを検討しているという。
シアトルにあるアレンAI研究所の元CEOであるエツィオーニ氏は、生成型AIが流行の潮流となるずっと前から、キャリアの大半を人工知能分野で過ごしてきた。エツィオーニ氏は、AIが近年これほど急速に進歩し、常に新しいツールやアルゴリズムが登場している分野は見たことがないと述べた。
「これはまさに軍拡競争であり、双方にとってダイナミックな動きだ」とエツィオーニ氏は述べた。しかしながら、「少なくともこれまでのところ、検知能力は追いついている」と付け加えた。
