AIとディープフェイクが政治に与える影響は、誤情報研究者を懸念させている。
テイラー・ソパー著
今月初め、ジョー・バイデン大統領になりすましてニューハンプシャー州の有権者をターゲットにした人工知能によるロボコールが発生したが、これは急速に進化するAIツールが選挙、そしてより広くは社会にとっていかに脅威となっているかを示す最新の例に過ぎない。
バイデン氏のロボコールや昨年のスロバキア選挙での偽の録音などのディープフェイクは、AIが民主化され、テイラー・スウィフトのディープフェイクのような改ざんされたテキストや画像だけでなく、音声や動画も含めたマルチモーダルコンテンツの作成に利用されるようになり、誤情報の研究者や政治専門家を心配させている。
また、同じ主題に関連する偽のコンテンツが複数公開されると、より信憑性のある物語が作られることもあります。
「選挙直前の数日間で、説得力のある世界観を構築することは想像に難くありません」と、ワシントン大学の法学教授でテクノロジー政策の専門家であるライアン・カロ氏は述べた。「ジェビンと私が夜も眠れないほど悩んでいるのは、まさにそういうことです」
カロ氏は月曜日、シアトルのレイニアー・クラブで行われたパネルディスカッションで、ワシントン大学情報学部のジェビン・ウェスト教授と共に講演した。両氏は、戦略的誤情報の拡散を研究するワシントン大学情報公衆センターの共同設立者である。
ウェスト氏は、ディープフェイクやその他のAI生成コンテンツの質は確実に向上し、検出が難しくなるだろうと述べた。
これは、正当なコンテンツにも影響を及ぼす可能性があり、人々が不当に人工的であると主張する可能性、つまり、実際には本物であるものを偽物と呼ぶ可能性にも影響を及ぼします。
ウェスト氏は、何よりも、政府に対する国民の信頼が歴史的な低水準にある中で、「私たちのシステムへの信頼度が低下すること」を最も懸念していると述べた。
しかし、彼は偽造コンテンツを識別するための透かしやその他の技術に関する研究に勇気づけられている。
「誤情報との戦いには大きなビジネスがある」とウェスト氏は語った。
しかし、偽コンテンツから本物の情報を見分ける方法を一般大衆に教育するのは難しいだろうと、ディープフェイクを禁止する法律の制定に努めたワシントン州元上院議員のデビッド・フロックト氏は述べた。
「私は、出回っている偽情報と、それに対して私たちにできることがほとんどないことを本当に心配しています」と彼は語った。
パネリストらは、埋もれた市民データを見つけるのを支援したり、天気や交通パターンをより正確に予測したりするなど、AIが政府にもたらす潜在的なプラス効果を指摘した。
また、規制当局が介入してAIが生成した誤情報の影響を抑制するべきかどうか、またどのように介入すべきか、あるいはその責任はAIツールを開発し、コンテンツ用のプラットフォームを提供するテクノロジー企業にあるのかどうかについても議論した。
カロ氏は、法律や法制度がAIによってもたらされる変化に適応する必要があることは明らかだと述べた。インターネットの害悪を人々が認識するまでにあまりにも長い時間がかかったと述べ、二度とこのような遅れを繰り返さないことを願っている。
「私たちは何十年もの間、AIは数十億ドル規模の人間の活動でありながら、大きなマイナス面がない初めてのものだと偽ってきました。しかし今、私たちは誤情報、プライバシーの侵害、セキュリティ問題など、様々な問題を抱える時代を生きています」と彼は述べた。「AIについても同じ過ちを繰り返さないようにしましょう。」
