『ターミネーター』が帰ってきた！AI専門家がハリウッドの新たなロボット悪夢の現実を検証
彼は戻ってくると約束した。そして、アーノルド・シュワルツェネッガーが最初の映画「ターミネーター」で人工知能の失敗の決まり文句を作り出してから35年、時間旅行をする殺人ロボットについての映画の悪夢が大スクリーンに戻ってきた。
『ターミネーター：ニュー・フェイト』は、脚本家兼プロデューサーのジェームズ・キャメロンの復帰作でもあります。彼はシリーズ最初の2作を監督しましたが、その後の3作の続編には関わっていません。キャメロンはそれらの作品を飛ばし、ロボットによる終末という別のタイムラインでサーガをリブートしました。
1927年のフリッツ・ラング監督の『メトロポリス』以来、怪物のような機械が映画のストーリーに登場してきたが、『ターミネーター』におけるシュワルツェネッガーの演技は、制御不能なインテリジェント機械に対する懸念を生み出すきっかけとなった。
億万長者のIT専門家イーロン・マスクは、最も有名な悲観論者の一人です。「私は警鐘を鳴らし続けています。しかし、ロボットが街を歩き回り、人を殺していくのを実際に目にするまでは、人々はどう反応すればいいのか分かりません。あまりにも非現実的に思えるからです」とマスクは2017年に述べています。
一方、シアトルのアレン人工知能研究所（AI2）のCEO、オーレン・エツィオーニ氏は、人々に冷静になるよう呼びかけている。「AIはますます活用されていますが、スカイネットやターミネーターのような未来はそう遠くないということを、皆さんに安心させてください。理由は数多くあります」と、エツィオーニ氏は2016年にGeekWireの取材に答えている。
新作『ターミネーター』は、1984年以降のAI、自動化、ロボット工学の発展を踏まえ、サーガを現代に蘇らせているのでしょうか？『ニュー・フェイト』は、AI時代の現実とどのように対比されるのでしょうか？より詳しい視点を得るため、この分野で活躍する二人の方に映画を鑑賞していただき、鑑賞後に感想を共有していただきました。
カリッサ・シェーニックはAI2のシニアプログラムマネージャー兼コミュニケーションディレクターで、Project AristoおよびReVizチームと連携しています。ライアン・カロはワシントン大学の法学教授であり、同大学のテックポリシーラボの共同ディレクターです。映画鑑賞後の会話の記録は、簡潔さと明瞭さ、そしてネタバレ防止のために編集しました。もし映画を見る前にストーリーについて何も知りたくない場合は、ここで読むのをやめて、『ターミネーター：ニューフェイト』を観終わってから戻ってきてください。
GeekWire: 『ターミネーター』のプロデューサーや脚本家、その他の制作チームは、以前の作品から何かを学びましたか?
カリッサ・シェーニック：「ええ…AIには独自の動機があるというのが当たり前のこととして認識されてきたので、今度はその裏側を示すAIを描こうとしているんです。ターミネーターが人間の動機を理解し始めるかもしれない、と。例えば、なぜ家族を持つ必要があるのか？ あるいは、なぜ誰かの世話をする必要があるのか？ ロボットが悪者になれる未来なら、善を志向するロボットがあってもいいのではないか、という視点で取り組もうとしているのを見るのは新鮮でした。でも、そもそもロボットに内発的な動機を持たせるという考え自体が、かなり馬鹿げています。AIは道具であり、あるいはそれを作る人間の表現なのですから。」
ライアン・カロ：「この作品で彼らがやったのは、実際に信頼できる技術をいくつも取り入れたことだと思いました。誰かが未来から恐ろしい動機と恐ろしい能力を持って戻ってくる、そうでしょう？ でも、その世界はカメラで溢れ、完全にネットワーク化され、武器が広く入手可能な世界です。
これまでの作品と同様に、本作は、私たちが築き上げてきた現代のテクノロジーが、もしそれを利用しようとする者がいれば、危険であるという点を指摘しているように思います。顔認識、ドローン、至る所に張り巡らされたカメラ、追跡装置と化した携帯電話…これらはどれも興味深い現代の問題です。それが未来から来たロボットであろうと、星の彼方から来たエイリアンであろうと、それは問題ではありません。私たちは、これらのアフォーダンスを悪用できるものが、より危険で致命的になるような世界を作り上げてしまったのです。
GeekWire：この映画はAIと自動化に関連する他のテーマにも触れています。例えば、工場の現場でロボットが人間に取って代わることや、人間を拡張するという考えなどです。これはイーロン・マスクが言っていたことです。「敵に勝てないなら、味方になろう」。AIが世界を席巻するなら、まずは人間自身を拡張し、AIを脳に組み込むべきだ、と。
シェーニック氏：「なぜそんなことをしたいと思うのでしょうか？ 私たちは自分の体の仕組みをほとんど理解していないのに。AIで体を有意義に拡張するなんて、かなり狂気じみています。『敵に勝てないなら、仲間になれ』という言い方にも疑問を感じます。『彼ら』とは一体誰のことでしょうか？ もし私たちの体にAIを組み込んだら、彼らは魔法の統合ハッキングを使って私たちの体を乗っ取ってしまうのではないでしょうか？」
GeekWire: つまり、これは興味深いストーリー展開になるが、それ以上ではないということだと思います。
シェーニック：「そうだね。」
Calo:「ターミネーターが、あらゆる計画と追跡を実行できる超高度なAIであるにもかかわらず、非常に不安定で恐ろしい判断を下すという点が気に入っています。例えば、私が乗る車はどれも、フロントガラスを破って銃を撃ちまくるんです。そして結局、追跡していたものを破壊し、よく訓練されたニューラルネットワークなら絶対に下さないような、軽率で馬鹿げた判断を下してしまうんです。」
シェーニック：「これは、AIが人間と連携しないと、いかに軌道から外れ、ひどい結果になるかを示す良い例かもしれません。AIをツールとして必要な方向に導き続けるには、人間の要素が必要なのです。」
カロ：「ターミネーターの戦略は比較的シンプルです。見つけて破壊するだけです。しかし、社会ロボット工学やロボットの能力、特に人間の擬人化傾向を巧みに利用したロボットの能力について考えてみると、ターミネーターはそれを戦略的に利用して目的を達成することがあります。」
シェーニック氏：「これはAIのなりすましの良い例です。例えば、ヘアカットの予約ができるGoogle Duplexプログラムなどです。AI2では、『もし人間になりすましている、あるいは人間になりすますように作られているAIシステムがあれば、そのAIシステムは人間に正体を明かすべきだと考えています。なぜなら、人間だと思っている生き物とAIが交流することで、人間は様々な憶測をし、ある種の感情を抱くからです』と言っています。AIが人間を模倣し始めたら、私たちはそのことについて学ぶ必要があるという社会意識が芽生えます。
人間が先を見据え、計画を立て、そして内在する希望を持つ能力こそが、この映画のテーマと言えるでしょう。計画を立て続け、何かをし続け、生き残ろうとし続ける。しかしAIにはそのような生命力はありません。使命のためなら、自らを捨てることも、自爆することも厭わないのです。今、そして近い将来においても、AIは私たちが『発見』したものではありません。どこからともなく現れて私たちに戦いを挑む邪悪な力でもありません。AIは私たちが作り上げているツールであり、そこには私たちが持つすべての力があります。ですから、AIを悪意ある目的のために作ることができるのと同じように、善意のために作ることもできるのです。
カロ：「未来から送り込まれた、本当に洗練されたAIが誰かを殺すために、もっと効率的かつ計画的に行動するだろうと思う。このAIはジェームズ・キャメロンの映画のために最適化されたんだ。だから物事を破壊している。だから何度も何度も混乱を引き起こしているんだ。」
シェーニック：「アクション映画で鍛えられました。」
GeekWire：この映画がAIに関する多くの誤解を復活させてしまうのではないかと心配していますか？それとも、これは教訓となる瞬間だとお考えですか？
シェーニック氏：「AIをめぐっては、恐怖をあおる言動が数多く見られます。『ターミネーター』はまさに古典的作品だと思います。実際、私たちはあれをAIへの恐怖の典型的な例として挙げています。しかし、このような映画、そしてメディアもまた、『監視社会が実際にどのような問題を引き起こす可能性があるのか、あるいは自動化が一般の人々にどのような影響を与えるのかを考えてみよう』といった反論を提起できると思います。」
「人々にそのことについて考えさせ、AI全般のあらゆる側面を認識させることが、AIをめぐるこの恐ろしく未知の予言的な現象を緩和するより良い方法です。『ターミネーター』は教育映画ではありませんが、少なくともこうした考えのいくつかに触れています。そして、これらの考えこそが、私たち社会が将来AIに健全なアプローチで取り組むために考えなければならないことなのです。」
カロ：「一つ残念な点がありました。ある場面で、ターミネーターの『ニューラルネット』を焼き尽くすという話がありましたが、あれはニューラルネットではありません。ニューラルネットワークとは、訓練されたモデルのことです。現在のニューラルネットが、そのようなものに進化するというのは…」
シェーニック氏：「ええ、『ニューラルネットは悪い』です。これは流行語で、映画でそれを聞いた人は『ああ、それって何だっけ』と思うでしょう。そういうトリックの一つなんです。」
GeekWire: では、アクション映画として、そして AI への教訓的な瞬間として、『ターミネーター: ニュー・フェイト』に何個の星を付けますか。最高は 4 つ星ですか?
シェーニック：「アクション映画としては星3つです。飛行機のチェイスシーンがあって、すごく面白かったです。実際に巨大な軍用機のチェイスシーンを見たのは初めてです。ヘリコプターやダムなど、様々な墜落シーンが盛り込まれていました。アクション映画に求めるものに加え、懐かしさも感じられる作品です。」
「しかし、有益なAI映画としては、私は1点を付けます。AIについての議論を前進させる上で、この映画はあまり刺激を与えません。」
カロ：「アクション映画としては3点。テクノロジーとしては2点。タイムトラベルなんてファンタジーだというのは誰もが知っているでしょう？ ナノテクノロジーも同じで、何かを恣意的に再構成できる段階に到達している。自発的に邪悪な超知能も、少なくとも演じる俳優たちの生きている間は、おそらくファンタジーだろう」
この映画が顔認識、ドローン監視、そして相互接続性の危険性に注目を集めている点は評価できます。警鐘を鳴らすという点では、非常に良い効果を上げていると思います。しかし、この映画は失敗作だと思います。なぜなら、超悪の超知能を、タイムトラベルと並ぶ適切なカテゴリーではなく、監視国家と同じカテゴリーに意図的に分類しようとしているからです。実際、個人的には、タイムトラベルは実現するだろうと確信しています。
