政治における偽情報をめぐるAI戦争が最高潮に達する中、真実をどう追跡するか

人工知能は、今年の重要な政治キャンペーンにおいて偽情報の発信者とそれに対抗する者との間の軍拡競争を煽っているが、偽ニュースから身を守る最良の手段は正真正銘の人間の知性である。

Fiction Science ポッドキャストの最新エピソードでは、2 人の専門家が激化する情報戦争をこのように評価しています。

「長年のAI研究者として、私は人間の知能の大ファンになりました」と、シアトルに拠点を置き、AIを使って本物と偽造画像を判別するTrueMedia.orgの創設者、オーレン・エツィオーニ氏は語る。「ですから、第一、第二、そして第三の防御策は、メディアリテラシーと、目にするものに対する適切な懐疑心でなければなりません。」

『物語は武器だ：心理戦とアメリカ人の心』の著者アナリー・ニューイッツ氏は、偽情報との戦いにおいて人間が「ループの最も重要な部分」であるという意見に同意している。

「技術的なツールが必要です。TrueMediaのようなツールが必要です。ソーシャルメディアプラットフォームのAPIにアクセスできれば、研究者はテキストやテキスト中心の投稿向けにTrueMediaのようなツールを提供できるようになります」とニューイッツ氏は言う。「しかし、最終的には、たとえ近所の人から聞いた情報であっても、自分が利用しているプラ​​ットフォームから送られてくる情報に人々が警戒するようになることが重要です。」

最近、人々は多くの虚偽の物語を耳にしています。例えば、オハイオ州のある地域では、移民が「猫を食い、犬を食い」ているという主張が、町の住民への現実世界での嫌がらせにつながりました。歌手テイラー・スウィフトが共和党大統領候補のドナルド・トランプ氏を支持しているように見えるAI生成画像が、彼女を民主党のライバルであるカマラ・ハリス副大統領への支持へと駆り立てました。また、ハリケーン・ヘレンの襲来時には、復旧活動に関する偽情報が拡散し、救援活動員への武装脅迫が起こりました。

「フェイクニュースが現実の結果をもたらす」とエツィオーニ氏は言う。

ニューイッツは著書『物語は武器である』の中で、ネイティブアメリカン、黒人アメリカ人、そして同性愛者に対して、否定的な枠組みで語られる物語がどのように使われてきたかを記録している。過去の悪者扱いキャンペーンから得られた暗い教訓が、現在の選挙期間中に私たちが耳にする物語にも適用されているとニューイッツは述べている。

「大きな焦点の一つは移民です。移民が投票するのではないか、移民が私たちの町を乗っ取ってペットに危害を加えるのではないかという恐怖です。でも、これは単に『私たち』とは違う人たちへの恐怖でもあるんですよね？」とニューイッツ氏は言う。「今回の選挙で本当に狙われているもう一つのグループはトランスジェンダーの人々です。特にトランスジェンダーの子どもたちですが、私のようなトランスジェンダーやノンバイナリージェンダーの人たちも、本当にそうなのです。」

AIは偽情報戦争における最新のフロンティアです。クレムソン大学の研究者たちは最近、少なくとも686台のAIボットからなる共和党支持のネットワークが、ソーシャルメディアネットワークX上の政治的な投稿に反応するようにプログラムされていたと報告しました。また今週、米国の情報機関は、AI生成動画を用いて民主党副大統領候補のティム・ウォルツ氏に対する性的不品行の虚偽告発を行ったオンライン中傷キャンペーンの背後にロシア工作員がいると発表しました。

偽情報の達人たちは、コンピューターによるデータ分析ツールを駆使して、記事をマイクロターゲティングする傾向を強めている。例えば、ハフポストは、イーロン・マスク氏と関係のある政治活動委員会が、ミシガン州のイスラム教徒有権者をターゲットに、ハリス氏をイスラエルの強力な支持者と描写する広告を放映した一方、ペンシルベニア州のユダヤ系有権者をターゲットに、ハリス氏を親パレスチナ・反イスラエル派と描写する広告を放映したと報じた。

AIは、偽情報対策にも力を入れています。TrueMedia.orgはその一例です。先週、シアトルを拠点とするスタートアップ企業Hiyaは、AIが生成した音声や動画を検知できる無料のブラウザ拡張機能「Deepfake Voice Detector」をリリースしました。ディープフェイク対策に取り組むシアトルのスタートアップ企業には、Loti、Certifi AI、Official AIなどがあります。

あらゆる種類のフェイクニュースとのより広範な戦いには、他にも数十の組織が加わっています。米国で最も古い政策研究機関の一つであるランド研究所は、偽情報に対抗するために設計された80以上のオンラインサービスのリストを保有しています。中には、陰謀論者に誤った信念に疑問を抱かせるよう優しく促す「DebunkBot」と呼ばれるAIプログラムさえあります。科学者たちは、DebunkBotが人々の考えを変える可能性があることを発見しました。

すべての戦いに勝利したわけではない。ニューイッツ氏によると、オンライン上の偽情報を監視し、ソーシャルメディアプラットフォームや政府当局に警告を発していた一部の組織は、ジム・ジョーダン下院議員を含む共和党議員の反対により、撤退を余儀なくされたという。

「現在、そのような種類の調査や誤情報の追跡は私たちには不可能です」とニューイッツ氏は言う。

エツィオーニ氏も同様の懸念に直面してきたと語る。「偽情報と戦うことを目標にTrueMedia.orgを立ち上げた時、多くの人から『気をつけろ。ジム・ジョーダン氏をはじめとする人物を標的にすることになるぞ』と言われました」と彼は振り返る。「幸いなことに、そのような事態にはなっていません。それは、私たちが中立的な立場を貫いてきたからだと思います」

彼は、フェイクニュースを流布するのは右翼だけの活動ではないと指摘する。

「ウクライナ、ガザ、政治家の候補者など、極左勢力によって膨大な量の偽情報が拡散されています。トランプ氏が銃を構えている動画などです」とエツィオーニ氏は言う。「おそらく最も顕著な例は、俳優のマーク・ラファロが、トランプ氏が未成年の少女たちとエプスタイン容疑者の飛行機に乗っているとされる画像をTwitterで100万人のフォロワーと共有したことです。これは偽の画像でした。彼には本物らしく見えたので、彼はそれを転送したのです。」

偽情報戦争において、AIは純粋にプラスかマイナスか？「この文脈において、AIは明らかにマイナスだと言うのは辛いことです」と、TrueMedia.orgを設立する前はアレン人工知能研究所のCEOを務めていたエツィオーニ氏は言う。

だからこそ、エツィオーニ氏、そしてニューイッツ氏も、人工知能よりも人間の知能を優先しているのです。彼らが推奨する防御策をいくつかご紹介します。

• 少し立ち止まって考えてみましょう 。「目にしたものに感情的な反応を起こした時は、少し時間を取って『これは本当に本物だろうか？』と自問自答してみるのが賢明です」とエツィオーニ氏は言います。「本当に本物だろうか？これがどこから来たのか、分かっているだろうか？」
• 情報源を確認する：  「情報源は複数用意しましょう」とニューイッツ氏は言います。「『複数の情報源』というのは、極左の人の話を聞いた後に極右の人の話を聞いて、自分の立場を真ん中に置こうとするという意味ではありません。新聞、ポッドキャスト、ラジオニュースなど、実際に信頼性があり、数十年、あるいは1世紀にも及ぶ実績を持つ、信頼できるニュースソースに注目するということです。」
• フェイクニュースのテーマに注意を払う：  「例えば、米国市民ではない人が投票したという非難が増え始めたら、注意深く見守ってください」とニューイッツ氏は言います。「同じ作り話を何度も目にするなら、それは危険信号です。」
• 証拠を保管する：  「『証拠を保管する』というのは、過去を振り返るということです」とニューイッツ氏は言います。「こういった話が以前から広まっているのを見たことがありませんか？ 1950年代に同性愛者について言われていたことと同じことを耳にしていませんか？ それを理解し、歴史的証拠を保管しておきましょう。」

エツィオーニ氏とニューウィッツ氏は共に、今後の展開を深く懸念している。「特に短期的な事態を懸念しています。爆弾発言が飛び交うのでしょうか？数週間後に迫った選挙を左右しようとする動きでしょうか？」とエツィオーニ氏は言う。

ニューイッツ氏は、「正直に言うと、かなり恐ろしい選挙シーズンが待ち受けています。本当に、自分が間違っていることを願っています」と語った。

両者とも長期的な見通しについては楽観的だ。「私たちは決して絶望的ではありません」とエツィオーニ氏は言う。「私たちは回復力があり、本来よりも時間がかかると考えています。確かに、特に連邦レベルでは立法プロセスが行き詰まっていますが、私たちは必ず解決策を見つけられると信じています。」

ニューイッツ氏は、将来への希望の一つは、今日の政治的分裂の両側にいる人々が、直接またはオンラインで、より良い物語を共に伝える方法を見つけることだと語る。

「ダンジョンズ＆ドラゴンズが大好きな右翼の人と左翼の人を例に挙げて、20分間D&Dについて話しているのを聴いてみてください。『わあ、新しいルールがクレリックにひどい仕打ちをしたって言うなら、本当に同感だ』って思うでしょう」とニューイッツは言う。「人々がお互いに意見が一致するとはどういうことか？ より良い物語を伝えようと考える時、私が考えているのはまさにそういうことです」

Techsploitationのウェブサイトでは、アナリー・ニューイッツとその著作についてさらに詳しく知ることができます。これらの著作には、以前のFiction Scienceポッドキャストで取り上げられた2冊の著書「The Terraformers」と「Four Lost Cities」も含まれています。オーレン・エツィオーニの活動について詳しくは、TrueMedia.orgとこのベンチャーに関するこちらの記事をご覧ください。ワシントン大学情報公開センターの共同設立者であるケイト・スターバードは、Nature誌に掲載されたこちらの論説で、偽情報に関するさらなるアドバイスを提供しています。GeekWireのアーカイブには、偽情報に関する追加の背景情報が収録されています。

Fiction Scienceポッドキャストの共同ホストは、クラリオン・ウェスト・ライターズ・ワークショップ卒業生で、サンフランシスコ在住の受賞歴のある作家、ドミニカ・フェットプレイスです。フェットプレイスについて詳しくは、彼女のウェブサイトDominicaPhetteplace.comをご覧ください。

Cosmic Logに掲載されているこの記事のオリジナル版をご覧になり、ニューイッツ氏のおすすめ記事をご覧ください。また、Apple、Spotify、Player.fm、Pocket Casts、Podchaserで配信されるFiction Scienceポッドキャストの今後のエピソードにもご期待ください。Fiction Scienceが気に入ったら、ぜひポッドキャストに評価を付けて、今後のエピソードのアラートを受け取るためにご登録ください。