北朝鮮よりも大きなリスク？OpenAIの「Dota 2」ボットが語る人工知能
トッド・ビショップ著
シアトルで開催されたValve主催の大規模eスポーツ大会「The International」で、非営利の人工知能研究企業OpenAIは金曜日、Key Arenaでのライブイベントで、ビデオゲーム「Dota 2」の世界トッププロゲーマーの一人を2度破ったボットを公開しました。下の動画でご覧いただけるように、このボットはライブイベントに先立ち、他のトップゲーマーにも圧勝していました。
GeekWireのアラン・ボイルがこのデモを報じたところによると、Open AIへの資金提供に協力しているイーロン・マスク氏は、これはコンピューターが囲碁やチェスで人間に勝つことよりも「はるかに複雑な」成果だと語った。
これは、子供の頃に知っていたようなコンピューターとのゲームとは異なります。Open AIのボットははるかに賢いです。ゲームを一から学習するようにプログラムされており、自身のコピーと何度も対戦し、ゲームに勝つための戦略やコツを理解し、その知識をゲームプレイに適用します。
OpenAIチームの説明によると、このボットは他のプレイヤーの動きに関する特別なシステムレベルの知識から恩恵を受けていないようです。人間と同じように学習し、プレイしますが、その規模ははるかに大きいです。
「このボットはまさに人生経験の積み重ねでプレイしているんです」と、OpenAIの共同創設者兼CTOであるグレッグ・ブロットマン氏は、金曜日にこのボットが初のライブマッチに勝利した後、語った。「Dotaの試合を何度もプレイし、様々な戦略を探求してきました。相手を誘い込む方法を学び、誘い込む相手を出し抜く方法も学びました。人間よりもはるかに多くの戦略を駆使してプレイしてきたのです。」
OpenAIはウェブサイトで、「このボットは自己対戦によってゲームをゼロから学習し、模倣学習やツリー探索は使用していません。これは、生身の人間が関わる複雑で混沌とした状況において、明確に定義された目標を達成するAIシステムの構築に向けた一歩です」と述べています。
投稿にはさらに、「上の動画では、私たちのボットが、他のプレイヤーがどこに移動するかを予測し、慣れない状況に応じて即興で対応し、他のプレイヤーの味方ユニットに影響を与えて成功に導く方法を、完全にセルフプレイを通じて学習したことがわかります。」と付け加えている。
これはビデオゲームだけに限った話ではない。マスク氏はAIの危険性について繰り返し警告してきた。スペースXとテスラの創業者であるマスク氏は、Open AIのボットがDota 2で27歳のプロゲーマー、ダニーロ・“Dendi”・イシュティン氏を圧倒した後、AIのリスクを現在の北朝鮮の核をめぐる緊張と比較し、懸念を改めて表明した。
Open AI の明示された目的は、人工知能が「人類全体に最も利益をもたらす方法」で作成されるようにすることです。
マスク氏、スティーブン・ホーキング氏をはじめとする人々は、自律型兵器システムの可能性を非常に懸念し、その禁止を訴えています。その理由を理解するには、ボットがDota 2をプレイする様子を見て、AIが現実世界の兵器システムを制御していたらどうなるか想像してみてください。そんなゲームは誰もプレイしたくありません。
