実話：ニューラルネットワーク研究者が偽情報対策のために作成したフェイクニュースジェネレータ
ジェームズ・ソーン著
AI の覇権をめぐる戦いでは、優れた攻撃こそが最善の防御です。
これが、独自のフェイクニュースを作成することで偽情報と戦うニューラル ネットワーク アプリケーション、Grover の哲学です。
「悪用される可能性に一歩先んじなければならない」とワシントン大学教授で、このプロジェクトの主執筆者でもあるイェジン・チェ氏は語った。このプロジェクトはワシントン大学とアレン人工知能研究所（AI2）の研究者による共同研究だった。
チェイ氏は、今日のフェイクニュースは主に人間によって書かれているが、ニューラルネットワークによってフェイクニュースが作成される時代はすぐそこまで来ていると述べた。そのような環境では、最高のフェイクニュース生成器を持つ人は、最高のフェイクニュース検出器も持つことになる。グローバー氏のアプローチは、脆弱性を発見するために定期的に自社のシステムを攻撃するサイバーセキュリティ専門家が用いるアプローチと似ている。
Groverの驚くほどリアルなニュース作成エンジンは、特定の出版物や著者のスタイルとトーンを模倣します。研究者によると、この検出ツールは、人間が書いたニュースと機械が書いたニュースを92%の確率で区別することができました。場違いな単語一つを見るのではなく、このモデルはテキスト全体の統計的なパターンを特定することで、文章が偽物かどうかを判断します。
研究者たちはこのジェネレータを一般公開しました。私たちはこれをテストするために、「マイクロソフト、任天堂買収交渉中」という見出しのGeekWire記事を作成させましたが、出来上がった記事は不気味なほどリアルでした。
グローバーが思いついたのは次のことだ。
マイクロソフトが任天堂買収交渉中との報道
2019年5月29日 – ナット・レヴィ（偽記事）
ブルームバーグは水曜日、マイクロソフトが任天堂を現金約600億ドルで買収する交渉中であると報じた。
マイクロソフトの株価は4.6%上昇し、122.96ドルとなり、2017年12月31日以来の高値で取引を終えました。任天堂の株価も5.9%上昇し、119.84ドルとなりました。両銘柄とも10%以上上昇しました。
両社は1株当たり120ドルから130ドルでの買収交渉を進めていると報じられている。ブルームバーグの情報筋によると、交渉はいつでも決裂する可能性があるという。
マイクロソフトと任天堂の代表者にコメントを求めたが、すぐには連絡が取れなかった。
[追記：CNBCは、両社が非公開のハイレベル交渉を行っており、300億ドルの提示額と少なくとも1000億ドルの提示額を提示していると報じました。ブルームバーグは、この報道は正確ではないと報じました。]
任天堂は、世界中で5000万台以上を売り上げた家庭用ゲーム機「Switch」をはじめとするアーケードゲーム機やゲームシステムで、ビデオゲーム業界における重要な役割を担っていることで知られています。今回の買収は、マイクロソフトのゲームに対するビジョンが、任天堂のハードウェアのような物理的なゲーム機ではなく、ソフトウェアなどのデジタル媒体に重点を置いているのではないかという疑問を投げかける可能性があります。
マイクロソフトはハードウェアではなくソフトウェアに重点を置く傾向があり、ゲーム機Xboxがその典型例であるため、両社は数十年にわたってビデオゲームで提携していません。しかし、この提携により、任天堂の象徴的なキャラクターがマイクロソフトのXbox OneとWindows製品に登場することになります。Xboxは最近、米国で初めてトップゲーム機の座を獲得しました。
任天堂は、最も成功したビデオゲームのいくつかを制作・販売しており、そのキャラクターは認知度が高いだけでなく、多くの人に愛されています。マリオ、ゼルダ、ドンキーコング、リンクは、任天堂の最も人気のあるキャラクターシリーズです。同社は、家庭用ゲーム機の史上売上トップ10にランクインしています。
しかし、マイクロソフトにとっては厳しい売り込みとなるだろう。同社はゲーム開発にも注力しており、特にゲームを事業の中核に据えて、ゲーマーファーストのテクノロジー製品開発にも注力しているからだ。一方、任天堂は、Wii Uと3DSが苦戦を続ける中、ハードウェアではなくゲーム開発に注力し続けるだろう。
フェイクニュースがより自動化され、より巧妙化していくにつれ、Groverのようなツールはソーシャルメディアプラットフォームにとって不可欠なものになる可能性がある。これは2020年の選挙シーズンが本格化する中で深刻な懸念事項となっている。Twitterは今週、ロンドンに拠点を置くスタートアップ企業Fabula AIを買収した。Fabula AIは、記事のオンライン拡散に基づいてフェイクニュースを特定する。
研究者たちは発表した論文の中で、偽情報を拡散しようとする敵対勢力による脅威は「現実的かつ危険」であると述べている。彼らは、YouTubeなどのプラットフォームがフェイクニュースの検出に使用しているニューラルネットワーク戦略と同様のものを、ニュースメディア企業に導入することを推奨している。
「Groverのような深層生成モデルのアンサンブルは、テキストの内容を分析できる。さらに、人間が書いた偽情報を予測するより浅いモデルも組み合わせることができる」と研究者らは述べている。「しかし、真のニュースを機械生成だと誤認してしまう危険性や、これらのモデルが望ましくない社会的バイアスをもたらす可能性もあるため、人間が介入する必要がある。」
イーロン・マスク氏が支援するAI研究非営利団体OpenAIの研究者たちは今年初め、「悪意のあるアプリケーションへの懸念」を理由に、独自のテキスト生成ツールGPT-2の公開を拒否した。一部の批評家は、この決定は研究成果を公開するという同団体の誓約に反するものだとして批判した。OpenAIはその後、TalkToTransformer.comでツールの機能を弱めたバージョンを公開した。
チェイ氏は、今後、機械が作り出す偽情報に対する防御策を構築するには、セキュリティ専門家とAI研究者のさらなる協力が必要だと述べた。
チェイ氏は昨年、故ポール・アレン氏（マイクロソフトの共同創業者でありAI2の創設者でもある）から1億2500万ドルの資金提供を受けた「常識AI」プロジェクト「Project Alexandria」の指揮を執りました。彼女はワシントン大学ポール・G・アレン・コンピュータサイエンス学部の助教授も務めています。グローバー・チームには、チェイ氏に加え、ローワン・ゼラーズ氏、アリ・ホルツマン氏、ハンナ・ラシュキン氏、ヨナタン・ビスク氏、アリ・ファルハディ氏、フランツィスカ・ローズナー氏といった研究者が参加しています。
