ホーキング、マスク、ウォズニアックが自律型兵器の禁止と世界的なAI軍拡競争の防止を求める書簡に署名
モリー・ブラウン著
今日、スティーブン・ホーキングの Reddit AMA に質問を投稿しようと考えているなら、自律型兵器の世界的な禁止を求める Future of Life からの最新の書簡から始めるのが良いかもしれません。
ホーキング博士は、戦争におけるAIの開発と使用の国際的禁止を求める請願書に署名した数千人のロボット工学の専門家や科学者の一人である。
書簡によると、「人工知能（AI）技術は、そのようなシステムの導入が、法的には無理でも、数十年ではなく数年以内には現実的に実行可能になる段階に達しており、そのリスクは大きい。自律型兵器は、火薬と核兵器に続く戦争における第三の革命と言われている。」
この書簡には、テスラ/スペースXのイーロン・マスク氏やアップルの共同創業者スティーブ・ウォズニアック氏など、AIの潜在的悪用を懸念する著名なIT専門家も署名しており、そう遠くない未来に起こり得るシナリオを列挙している。まるでニューヨーカー誌の地震記事がピクサー映画のように思えるほどだ。専門家たちは、悪意のある組織がAIを安価かつ容易に入手・展開できるため、世界的なAI軍拡競争が始まれば深刻な影響が生じる可能性があると警告している。
「これらの兵器が闇市場に流通し、テロリスト、国民統制を強化したい独裁者、民族浄化を実行しようとする軍閥などの手に渡るのは時間の問題だ」と書簡は述べている。「自律型兵器は、暗殺、国家の不安定化、住民の鎮圧、特定の民族集団の選択的殺害といった任務に最適だ」
この書簡は、AI専門家のほとんど（私たちはそう願っています）は武器を作ることに興味はなく、人類を助けるツールを作ることだけに興味を持っていると主張しています。そして、次のように結論づけています。「AIは人類に様々な形で恩恵をもたらす大きな可能性を秘めており、この分野の目標はまさにそれを実現することであるべきだと私たちは信じています。軍事AI軍拡競争を始めるのは賢明ではなく、人間の実質的な制御を超えた攻撃的な自律型兵器の禁止によって阻止されるべきです。」
この手紙は明日、ブエノスアイレスで開催される人工知能に関する国際合同会議で発表される予定です。
手紙を読んで、Reddit でホーキングに質問してください。
