AIは最終的に人格を獲得するのでしょうか？その可能性とは？
人工知能は人類にとって最大の助けになると主張する人もいれば、AIが人類にとって最も危険なライバルになると警告する人もいます。しかし、もしかしたら第三の選択肢があるかもしれません。AIエージェントが人間と同等の人格を獲得するというのです。
このシナリオの可能性に焦点を当てているのが、最近出版された『ザ・ライン：AIと人格の未来』です。著者であるデューク大学法学教授ジェームズ・ボイル氏によると、この本は10年以上かけて執筆されたとのことです。これは、テクノロジー業界が現在AIに抱く強い関心について、通常以上の先見性を示唆しています。
Fiction Science ポッドキャストの最新エピソードで、彼は 12 年以上前にこの本についての初期のアイデアを連邦判事に伝えたときに受けた反応を回想しています。
「『権利は人間のために、女性から生まれてきたもの！』って言うんです。まあ、必ずしも大勢の人が集まるわけではないんですけどね」と、デューク大学ロースクールのパブリックドメイン研究センターの創設者であるボイル氏は言う。「もちろん、当時から状況は変わりました。この本は、当時ほど狂ってはいないのかもしれませんね」
AIは2011年以来、大きく進歩しました。OpenAIのChatGPTやAnthropicのClaudeのような高度なチャットボット向けに開発されたスマート機能は、現在、MicrosoftのCopilotやAmazonのAlexa音声アシスタントなど、幅広いソフトウェア製品に統合されています。
最高のAIエージェントでさえ、時に人間離れした音声を発することがあります。ニューヨーク・タイムズのコラムニストが、マイクロソフトのチャットボットが彼に恋をし、人間になりたいと発言した際に、そのことを痛感しました。今年、スタンフォード大学の研究者たちは、ChatGPT-4がチューリングテストに合格したと発表しました。チューリングテストは、人間の知能と機械の知能の境界を定義するために数十年前に提案されたテストです。
AIの認知能力が人間の能力を明らかに超える時代が来るのでしょうか？もしそうなった場合、AIエージェントに与えられる権利と責任にどのような影響が及ぶのでしょうか？ボイル氏は、知能機械は最終的には何らかの形で人格を獲得すると考えています。
ボイルは本書の執筆に着手した当初、AIは人間に非常に近づき、道徳的な見地から人格を与えられるべきだろうと想定していた。SFにおけるその例としては、『スタートレック：新世代』のあるエピソードで、データがアンドロイドの自己決定権を勝ち取ろうとする試みが挙げられる。
「議論の焦点はそこにあるだろうと思っていました」とボイル氏は言う。「そして次第に、AIに何らかの法人格を与える可能性は、企業の場合と同じ、あるいはそれ以上に高いかもしれない、ということに気づきました。つまり、『これは便利だ。訴える相手と訴えられる相手が必要だ』というわけです。」
法人格は、生身の人間が持つ権利と責任の一部（契約を締結する権利、犯罪で起訴される責任など）を法人に付与する一方で、その他の権利（結婚する権利、公職に立候補する権利、投票する権利など）を法人に付与しないという、やや議論のある法的概念です。
Alexaが契約上の義務から逃れるために訴訟を起こすという考えは、宇宙船エンタープライズ号のワープドライブと同じくらいSFのように聞こえるかもしれない。しかし、TrueMedia.orgの創設者であり、シアトルに拠点を置くアレン人工知能研究所の元CEOであるオーレン・エツィオーニ氏は、それはそれほど突飛な話ではないと述べている。
「企業がある種の人間だとすれば、AIエージェントが人間になる境地に達するのは確実です」とエツィオーニ氏はメールで述べた。「AIエージェントが意識を獲得したら、私たちは彼らの感情に思いやりを持って接する必要があるでしょう。」
ChatGPTやその他の大規模言語モデル（LLM）は、いつか意識を獲得するのでしょうか？シアトルのアレン研究所（アレンAI研究所とは別組織）の神経科学者、クリストフ・コッホ氏によると、それはあり得ないとのこと。
「ここでは本当に2つの疑問があります」とコッホ氏はメールで語った。「1. AI/ロボットの行動（言語理解や発話を含む）は、人間のそれに非常に似てくる（あるいは機能的には人間よりも優れている）ので、ほとんどの人がそれらを意識のあるものとして扱うようになるのでしょうか？ 2. そのようなAI/ロボットであることに、何かを感じることはあるのでしょうか？」
コッホ氏は、最初の質問への答えは「おそらくイエス」だと述べた。「唯一の不確実性は、いつになるかということだ」と彼は記した。「そして、オーレン氏が示唆するように、これは道徳的、倫理的、法的、そして社会的に影響を及ぼすだろう」
しかし、コッホ氏は、今日のコンピューターの基盤となっているアーキテクチャは、人間レベルの意識のようなものをサポートすることができないと主張している。「つまり、たとえ遅かれ早かれ超知能が実現するとしても、法学修士課程に在籍していることが何の意味も持たないということです。量子コンピューターやニューロモルフィックコンピューターといった、根本的に異なるハードウェアが登場することで、状況は変わるかもしれません」と彼は述べた。
「知性は行動に関するものであり、意識は存在に関するものである。」
ボイル氏は、AIエージェントが意識を持つようになるかどうかという問題に関して、コッホ氏の見解に賛同している。「現在のアーキテクチャでは『ノー』ですが、将来的には『イエス』になると思います」と彼は言う。
ボイル氏は著書とポッドキャストの中で、自身の主張を展開するためにSFだけでなく科学的事実も用いている。映画『ブレードランナー』と、その原作となったフィリップ・K・ディックの小説『アンドロイドは電気羊の夢を見るか』は、未来のAIエージェントがどのように扱われるかという自身の見解の「ナイル川の源泉」となっていると彼は述べている。
ボイルは、映画と小説の中で刑事たちが、対峙する存在が生まれながらの人間なのか、それとも人工的に作られたレプリカントなのかを判断するために用いる質問票に特に興味をそそられている。これは、存在が感情的な刺激に対してどれほどの共感を感じるかを測定するための、いわゆる「フォークト・カンプフ・テスト」である。
「私にとって、この2つの作品が提起する疑問は、私たち全員がレプリカントであるかどうか、あるいはむしろ、私たちが実際に他の何かに課すようなテストに合格できるかどうかだ」とボイル氏は言う。
ボイル氏は、AI 製品を開発する人間とそれを使用する消費者は、今後数年間で異なる種類の試練に直面するだろうと考えている。
「今世紀中に、マイクロソフトであれ、アントロピックであれ、あるいはOpenAIであれ、私たちが人間として扱っている自己実現型AIが、この取り組みに参加していると意図的に主張する企業が出てくるだろうと確信しています」と彼は言う。「ホールフーズ・マーケットのような、いわば『フェアトレードコーヒー』のような雰囲気になるでしょう」
ボイル氏はまた、他の企業が自社の AI エージェントを「忠実なサイバーサーバントであり、それ以外の何者でもない。掃除機を扱うのと同じくらい慎重に扱う必要はない」と売り出すだろうとも考えている。
「これは、プロプライエタリソフトウェアとフリーソフトウェア、オープンソースソフトウェアの分裂のように、市場における分裂になるだろうと私は予想しています」と彼は言う。
市場において、その瞬間はいつ訪れるのでしょうか？どちらのアプローチが勝利するのでしょうか？AIが生み出したモノが、人格の境界線を定める線に収まるかどうかがわかるまで、どれくらいの時間がかかるのでしょうか？そのタイムラインがどうなるのか、あるいは、知能機械がその境界線を越えた時に何をするのかを正確に予測することは困難です。
「それまでの間、ルンバに優しくしようと思います」とボイルさんは言う。「私たちみんなにできるのは、それしかないと思うんです」
『ザ・ライン：AIと人格の未来』は、印刷版と電子書籍版で入手可能です。クリエイティブ・コモンズの元理事長であるジェームズ・ボイル氏は、情報へのオープンアクセスの提唱者であり、彼の著書はデューク大学ロースクールのウェブサイトから無料でオンラインで入手できます。（ちなみに、ジェームズと私はボイル姓を共有していますが、血縁関係はそれほど深くありません。）
アレン研究所の神経科学者、クリストフ・コッホ氏も意識をテーマにした著書を数冊出版しています。最新刊は『Then I Am Myself the World: What Consciousness Is and How to Expand It』です。コッホ氏の研究について詳しくは、2019年のGeekWireの記事をご覧ください。この記事は、以前の著書『The Feeling of Life Itself』に焦点を当てています。2021年に私が行ったコッホ氏へのFiction Scienceインタビューもぜひご覧ください。
Fiction Scienceポッドキャストの共同ホストは、クラリオン・ウェスト・ライターズ・ワークショップ卒業生で、サンフランシスコ在住の受賞歴のある作家、ドミニカ・フェットプレイスです。フェットプレイスについて詳しくは、彼女のウェブサイトDominicaPhetteplace.comをご覧ください。
ジェームズ・ボイルによるおすすめの参考文献については、Cosmic Logに掲載されているこの記事のオリジナル版をご覧ください。また、Apple、Spotify、Player.fm、Pocket Casts、Podchaserで配信されるFiction Scienceポッドキャストの今後のエピソードもお楽しみに。Fiction Scienceが気に入ったら、ぜひポッドキャストに評価を付けて、今後のエピソードの通知を受け取るためにご登録ください。
