AIエージェントは意識を持つことができるか？専門家は汎用人工知能の将来を見据える
ChatGPT、Google Gemini、Grokといったソフトウェアプラットフォームのおかげで、人工知能（AI）が急速に知能化していることは疑いようがありません。しかし、それはAIエージェントが人間の知能を特徴づける汎用的な知能をいつか凌駕することを意味するのでしょうか？もしそうなら、それは人類にとって良いことでしょうか、悪いことでしょうか？これらは、今週シアトルで開催されたAGI-24カンファレンスで提起された疑問のほんの一部です。
ワシントン大学で開催されたカンファレンスのセッションは、人工汎用知能（AGI）と呼ばれる概念に焦点が当てられました。人工知能（AI）は、囲碁の対局から特定の種類の癌の診断に至るまで、ますます多くの専門タスクにおいて人間を上回る能力を発揮しています。しかし、人間はより広範なタスク、特に訓練されていないタスクの処理に関しては、依然としてAIエージェントよりも知能が高いとされています。これがAGIの真髄です。
ロボット工学者でありアーティストでもあり、ソフィアという名のヒューマノイドロボットの製作で最もよく知られているデビッド・ハンソン氏は、人間レベルの知能と意識を取り巻く疑問は、ハンソン・ロボティクスの彼のチームにとって最優先事項であると語った。
「真の目標は、知性とはどういうことなのかを継続的に探求することです」と彼は金曜日のセッションで述べた。「どうすれば意識を獲得できるのか？どうすれば人間と共進化する機械を作れるのか？こうした取り組みはどれも本当に素晴らしいし、私も誇りに思っていますが、結局のところ、人間と共進化できる意識を持った機械のエンジンを始動させようとしているだけなのです。」
そこまで到達するには、開発者は生物を動かす原動力にヒントを得た「バイオドライブ」を備えたAIエージェントを作成する必要があるだろうとハンソン氏は述べた。
「すると、ある種の自我を持つエージェントが生まれます。そしてその自我は、心、身体、進化の原動力、生きたいという欲求といった、いくつかの特定のパターンで構成されています」と彼は言った。「私たちはこれを全生物アーキテクチャと呼んでいます。『わあ！』とか『うわあ！』とか。つまり、これらを正しく組み合わせれば、目覚めて『わあ！ここはどこ？あなたは誰？ここはどこ？』と言うエージェントが生まれると思います」
そのようなエージェントは「自分自身と人間や他の生物との間の親和性、相同性関係を模索し始めるだろう」とハンソン氏は述べた。「機械がそのようなことをし始めると、人類にとって『おおっ』という瞬間となるのです」
例えば、エージェントが生きたいという欲求から、人間が停止できないように自らを「修正」してしまうとどうなるでしょうか？ ハンソン氏は、将来のAGIエージェントの開発者は、進歩を遂げる中で慎重に行動する必要があると述べています。その目標達成に向けて、彼は「小さなハッカーグループ」を結成し、生物学に着想を得たAGIへのアプローチを研究しています。
「この『ティンカラーズ』アプローチこそが前進への道だと私は考えています。とにかく試してみて、うまくいくかどうか見てみましょう。AGIは制御不能な超知能へと急速に進化し、すぐに『ブーム』を起こすようなものではありません」とハンソン氏は述べた。
「私たちは赤ちゃんAGIを作り、それからその赤ちゃんをどうやって育てていくかを考えていきます」と彼は言った。「彼らに愛情を示してください。これは本当に重要な原則だと思います。彼らを人間として育てる必要があるのに、道具のように扱ってはいけないのです。」
しかし、AIエージェントは人間と同じ意味で存在になることができるのだろうか？ ハンソン氏の講演に続くバーチャルセッションで、シアトルに拠点を置くアレン研究所の神経科学者、クリストフ・コッホ氏は、意識と知能を同一視すべきではないと主張した。そして、AIエージェントはハードウェアの構造上、意識を持つことができないと主張した。
コッホは統合情報理論として知られる意識モデルを支持している。このモデルは、あるシステム内の要素の相互接続性と、そのシステムによって生み出される因果力に基づいて、意識のレベルを測定できると提唱している。
「コンピュータが意識を持つためには、脳と同等の因果関係を築かなければならない」とコッホ氏は述べた。しかし、今日のコンピュータハードウェアの基盤となるアーキテクチャは、人間の脳の能力には遠く及ばない。
「何を実行しているかに関係なく、このマシンの因果力は常にごくわずかであり、ソフトウェアに依存しません」とコッホ氏は語った。
だからといって、コンピューターが賢くなれないというわけではない。コッホ氏の見解では、AIエージェントは人間の知性、さらには人間の内面さえも非常に巧みにシミュレートし、まるで意識があるかのように見せかけることができる。しかし、だからといって、AIエージェントが人間と同じように人生や感情を実際に経験するわけではない。
コッホ氏は、コンピューターによるブラックホールのシミュレーションと比較した。「あのシミュレーションを起動すれば、コンピューターの周囲で時空が歪み、ソフトウェアがブラックホールに吸い込まれるような動作をしてしまうのではないかと心配する必要はありません」と彼は述べた。「『そんなの馬鹿げている。ただのシミュレーションだ』と言う人もいるでしょう。それが私の主張なのです」
コッホ氏は人工意識の可能性を完全に否定しているわけではない。量子コンピューターやニューロモルフィック・コンピューターは、機械に意識を持たせる新たな道を切り開く可能性があると彼は述べた。
意識と知性の兆候が異なることは、何か違いをもたらすのだろうか？コッホ氏は「間違いなく違いがある」と述べ、ある意味、彼は言葉通り行動していると言えるだろう。
コッホ氏は、イントリンシック・パワーズというベンチャー企業の役員を務めており、資金力も有していると述べた。同社は、行動反応のない患者の意識の有無を評価するための脳モニタリング装置を開発している。コッホ氏は、米国では最大10万人の患者が、外部刺激に反応しないにもかかわらず、ある程度の意識を有している可能性があることを示唆する、最近発表された研究結果に言及した。
「彼らは実は意識を保っているんです」とコッホ氏は言った。「どうやってそれを検知するのでしょうか？ なぜなら、45日後には集中治療が中断され、多くの患者が亡くなってしまうからです。実際、80%が亡くなっています。」
ハンソン氏は、AGIと人工意識の研究にも同様に注力している。「100年も待つことはできません。そうなったら、運が悪くなり、時間切れになってしまうでしょう。生態系から取り返しのつかないほどの深みを奪ってしまうでしょう。もし今日ここで立ち止まって、『よし、ニンテンドーで遊んで、ソーラーパネルでくつろごう』と言っても、おそらく手遅れでしょう」と彼は語った。
「つまり、人類を滅ぼすのはAGIではなく、AGIの不在なのです」と彼は付け加えた。「私たちはまだ十分に賢くありません。もっと賢くならなければなりません。だからこそ、私は今AGIを提案しているのです。正しい方法で、この動きを加速させていきましょう。」
