オレン・エツィオーニ率いる新しい非党派AI非営利団体TrueMediaは、政治的なディープフェイク検出ツールを開発している。

TrueMediaと呼ばれる新しい非営利、無党派のテクノロジー組織は、2024年の選挙に向けて政治的な偽情報と戦うことを目的として、ディープフェイクの動画、写真、音声を検出するAI搭載ツールを開発している。

ワシントン大学教授でアレンAI研究所元CEOのオーレン・エツィオーニ氏が創設・率いるシアトルを拠点とするこの団体は、ウーバー共同創業者のギャレット・キャンプ氏が自身の非営利団体Camp.orgを通じて支援している。

本質的には、この計画は AI を使って AI と戦うというものです。

「ソーシャルネットワークを通じて拡散される偽情報は、21世紀の民主主義の弱点として浮上している」と同団体は水曜日の朝の発表で述べ、AIを使って偽のメディアを作るコストが急激に低下したことにより、2024年の選挙では「偽情報の津波」が押し寄せると予測した。

TrueMediaは、今年第1四半期に、TrueMediaの技術と既存のディープフェイク検出ツール（コンピュータービジョンや音声分析など）を組み合わせた無料のウェブベースツールをリリースする予定です。当初はジャーナリスト、ファクトチェッカー、オンラインインフルエンサー向けに提供され、その後、年内に一般公開される予定です。

このグループがこの課題に取り組む最初のグループではないが、エツィオーニ氏は、TrueMedia がこの課題に対処する上で有利な立場にあると確信していると述べた。

「政治的ディープフェイクに特に重点を置き、私たちが結集している専門知識によって、これまでよりもさらに速く、前進できると考えています」とエツィオーニ氏は今週、GeekWireとのインタビューで語った。

TrueMedia のテクノロジーは、ユーザーがアップロードしたメディアを分析し、そのコンテンツが人工知能によって操作されている可能性とその評価の説明を示します。

一方、同団体は順番待ちリストへの登録を受け付けており、ウェブサイト訪問者にオンラインで発見した政治的ディープフェイクコンテンツの例を提出してツールの開発に役立てるよう呼びかけている。

エツィオーニ氏は、バイデン大統領が今夏、テクノロジー業界のリーダーたちと開催した会合に参加したことが、この問題の調査を始めるきっかけになったと述べた。同時に、同氏はこのプロジェクトの超党派的な性質を強調した。TrueMediaのAIツールは、アップロードされたメディアに関する技術的な評価を行うものであり、そのコンテンツに関する政治的な判断は行わない。

「（会議前に）私が注目していたのはこれではありませんでした。僅差の選挙で、これがどれほど恐ろしい事態を引き起こす可能性があるかを実感したのです」と彼は語った。「AIの専門家であり、技術者でもある私は、自問しました。『私たちに何ができるだろうか？』と」

エツィオーニ氏は、技術的な問題は「極めて困難」だと認めた。例えば、テクノロジー企業がAI生成コンテンツに透かしを入れる動きが進む一方で、AIの進歩により、悪意のある人物がますます説得力のあるディープフェイクを作成できるようになっている。これは、ニューハンプシャー州でバイデン氏になりすましたAI生成のロボコールがその証拠だ。

「かつては国家主体だけが行える行為だったが、残念ながら今では誰でも行えるようになっている」と彼は述べた。さらに、「一種の偽情報テロ」の可能性を特に懸念していると付け加えた。

エツィオーニ氏は、AI2インキュベータ、ベンチャーキャピタル企業マドロナ、ワシントン大学での活動を継続しながら、この取り組みに集中するため、アレンAI研究所（AI2）の理事を辞任する。

TrueMediaの初期チームには、AI2の最高執行責任者を退任するオペレーションリーダーのジェームズ・アラード氏、エンジニアリング担当のマイケル・ベイン氏とアエリン・キム氏、パートナーシップ担当のアーサー・ミン氏、リサーチ担当のオレン・ザミール氏、そしてデザインアドバイザーのヴィトール・ロレンソ氏が含まれています。この数百万ドル規模のプロジェクトに資金を提供しているキャンプ氏も、アドバイザーとして直接関わっています。

エツィオーニ氏は、トゥルーメディアは人材を募集しており、来年にはチームの規模が倍増する可能性があると述べた。

TrueMedia の科学諮問委員会のメンバーは、スタンフォード インターネット オブザーバトリーの技術研究マネージャーの Renée DiResta 氏、ブルッキングス研究所の技術革新センターのシニア フェローの Darrell M. West 氏、バッファロー大学のメディア フォレンジック ラボのディレクターの Siwei Lyu 氏、およびワシントン大学の情報公開センターのディレクターの Jevin West 氏です。

ジェビン・ウェスト氏は今週シアトルで開催されたこの問題に関するパネルディスカッションに登壇し、より大きな問題の解決には商業ベンチャーの役割も別途あると示唆した。「偽情報との戦いには大きなビジネスチャンスがある」と彼は述べた。

TrueMedia の最初のパートナーには、Hive、Clarity、Reality Defender、Sensity が含まれます。

同グループは2024年の選挙に注力しており、ホームページには11月5日までのカウントダウン時計が設置されている。今年以降の長期計画について尋ねられると、エツィオーニ氏は、まずはトゥルーメディアの実力を証明する必要があると述べた。

「結局のところ、二つの疑問が浮かびます。今回の選挙サイクルにおいて、私たちの評価はどれほど正確だったのか？そして、それはどの程度の影響を与えたのか？」と彼は述べた。「問題を解決したり、魔法の杖を振ったりすることはできませんが、真の影響を与えたいと思っています。」

[編集者注:オレン・エツィオーニ氏とその家族は、来たる夏に向けて、GeekWire の気候技術ジャーナリズム インターンシップ プログラムに資金を提供しています。]