「ディープフェイク地理」が重大なリスクをもたらす理由と、研究者がそれを検知する方法

「百聞は一見に如かず」。コンピューターがあらゆる種類の偽画像や改変された動画を簡単に作成できるようになった今、かつては今よりもずっと真実味を帯びていた格言です。実在しない有名人の写真や、口パクでやりとりする政治家の動画を見たことがある人は多いでしょう。こうした「ディープフェイク」は、ニュースフィードやその他のメディアにおける真実と偽りの情報について、真摯な懸念を喚起しています。

この問題は、私たちの世界を表す地図や衛星画像にも及んでいます。「位置情報の偽装」やディープフェイク地理といった技術は、ますます繋がりが強まる現代社会にとって重大なリスクをもたらします。

このため、ワシントン大学の研究者チームは、こうした偽情報を見抜く方法の特定に取り組んでいるほか、地理的な事実確認システムの構築を提案している。

ワシントン大学地理学助教授のボー・ジャオ氏が率いるこの研究は、ディープフェイクの衛星画像や地図をどのように検出できるかに焦点を当てています。ディープフェイクは未来的なもののように聞こえるかもしれませんが、実際には既に存在しており、国家安全保障当局の懸念は高まっています。

「その技術は既に存在します」と趙氏は述べた。「私たちは、同じ技術を使える可能性と、それに対処する戦略を開発する必要性を明らかにしようとしているだけです。」

しかし、ディープフェイク衛星画像は機密情報であることが多いため、研究者たちは研究に適した既存の画像を入手することができず、まずは独自に画像を作成する必要がありました。

研究者たちは、ディープフェイクの作成によく用いられるAIの一種である生成的敵対的ネットワーク（GAN）を使用しました。GANは、互いに「競合」する2つのニューラルネットワークを使用します。1つは識別器で、どの画像が偽物であるかを検出しようとします。もう1つは、検出を可能にした情報を用いて、より優れた偽物を生成します。この2つのモジュールは段階的に改善を続け、最終的には非常にリアルな結果となり、訓練されていない目には判別できないほどになります。

この研究では、GANはシアトル、ワシントン州タコマ、北京のベースマップと衛星画像を使用しました。最終的に、研究チームは8,064枚の衛星画像を含むディープフェイク検出データセットを構築しました。これらの半分は3都市の本物の画像で、残りはタコマのディープフェイクで、半分はシアトルの視覚パターン、残りの半分は北京の視覚パターンを再現していました。このプロセスは、特定のソフトウェアを用いてある人物の顔の特徴を別の人物にマッピングする手法と似ています。

偽造地図や改ざん地図の問題は何世紀にもわたって存在してきましたが、GANの発展により、その課題は急増しています。コンピューター生成の衛星画像の多くは専門家の目さえも欺くことができ、プロパガンダや偽情報への利用が懸念されています。これらの技術は国家安全保障に対する潜在的な脅威と見なされており、政府や軍隊にとってこれは大きな懸念事項です。3月にFBIが出した警告はこの点を強調しています。「悪意のある行為者は、今後12～18ヶ月の間に、サイバー攻撃や外国への影響力行使に、（ディープフェイクを含む）合成コンテンツを利用することはほぼ確実だ」

しかし、偽の地図や衛星画像を作成する動機は、必ずしもスパイ活動やプロパガンダだけに限りません。モバイルデバイスが私たちの居場所を検知し、報告する能力が高まるにつれ、「位置情報の偽装」、つまり私たちの居場所を偽装する手法がますます一般的になっています。例えば、まさにこの目的のためのモバイルアプリが既にいくつか存在しています。

「位置情報の偽装に関しては、動機は実に多様です」とZhao氏は述べた。「偽の休暇を誇示するために位置情報を変える人もいます。ポケモンGOでは、ゲームの賞品をもらうために位置情報を変える人もいます。」

研究によると、他の種類の偽造画像や録画の検出においては一定の進歩が見られるものの、ディープフェイク衛星画像の検出はこれまで研究されていなかった。研究者らはディープフェイクデータセットを構築し、畳み込みニューラルネットワークなどのAIツールを用いて、検出を自動化するための様々な手法をテストした。

「ディープフェイクをどのように検出できるかという点に関して、手がかりを見つけるために、従来の方法と最新のGAN検出アルゴリズムの両方を使用しました」とチャオ氏は語った。

研究者たちは、空間領域、ヒストグラム領域、周波数領域における26の特徴に注目し、検出戦略を開発しました。個々の特徴はそれぞれ異なる精度を示しましたが、検出モデルを組み合わせることで、性能は最高レベルに達しました。

研究者たちは、一般の人々や専門家が偽造の可能性がある画像を特定するために使用できるツールを公開する予定です。趙氏は、「疑わしい画像を見つけた人は、Factcheck.orgのようなウェブサイトにアップロードして、画像に矛盾がないか確認するかもしれません」と述べています。

趙氏は、検出ツールが画像を完全に偽物か本物か判断することについては慎重だと指摘した。「社会的な観点から見ると、何かが明らかに偽物だと表現されると、人々はそれを非常に否定的に解釈することがわかりました」と趙氏は述べた。「ですから、ユーザーには矛盾点が見つかったと伝え、それが文脈の中で何を意味するのかはユーザー自身に判断してもらうようにしたいのです。」

しかし、その判定が統計的に決定的であり、画像が重大な社会的影響を及ぼす場合には、その真正性の状態を明確に述べる必要があると彼は付け加えた。

ディープフェイクを生成するGANは近年大きな注目を集めていますが、Zhao氏はGANベースのアルゴリズムは必ずしも悪いものではなく、多くの有益な用途があると付け加えました。例えば、レコードセット内の欠落データを補完したり、写真のモーションブラーを修正したりすることができます。

私たちの世界において何が真実で何がそうでないかを認識することは、ますます大きな課題となっています。このような研究は、より真の未来を築くための道筋を示すのに役立つかもしれません。

_______________________________

この研究の共著者は、ワシントン大学地理学部大学院生のYifan Sun氏、オレゴン州立大学のShaozeng Zhang氏とChunxue Xu氏、ビンガムトン大学のChengbin Deng氏です。「ディープフェイク地理？地理空間データと人工知能が出会うとき」は、2021年4月21日にCartography and Geographic Information Science誌に掲載されました。