人工知能は本当に賢いのか？AIインフルエンサーは希望的観測を懸念
アラン・ボイル著
タイム誌が選ぶ人工知能分野で最も影響力のある100人のうち2人を同じ講義室に集めたらどうなるだろうか？もしその2人がSF作家のテッド・チャンとワシントン大学の言語学教授エミリー・ベンダーだったら、ChatGPTのような生成AIツールの将来について多くの懐疑的な意見が出てくるだろう。
「私は使っていないし、今後も使うつもりはない。他の人が使っているのを聞きたくもない」とベンダー氏は金曜日の夜、クラリオン・ウェスト主催のシアトルのタウンホールフォーラムで語った。
AIについてのエッセイを執筆し、自身のフィクション作品のいくつかにインテリジェントマシンを登場させているチアン氏は、AIエージェントが思考していると考えるのがあまりにも簡単になりつつあると述べた。
「彼らは何も考えていないと確信しています」と彼は言った。「彼らは何も理解していないが、彼らの行動を理解するには別の方法が必要だ」
一体何が問題なのか？チアン氏が最も懸念しているのは、AIを操る思考力と呼吸力を持つ人間が、それを他の人間を支配する手段として利用してしまうことだ。最近のヴァニティ・フェア誌のインタビューで、チアン氏はAI主導の経済を「降りることのできない巨大なトレッドミル」に例えた。そして金曜日のフォーラムで、チアン氏はAIアシスタントの人間らしさが、私たちをトレッドミルから引き離す要因となるのではないかと懸念を示した。
「もし人々がAlexaのような何かに敬意を払うべきだと考え始めれば、それはAmazonにとって有利に働く」と彼は言った。「Amazonはそれをさらに増幅させようとするだろう。どんな企業でも、製品を人間だと思わせようとするだろう。なぜなら、ユーザーは特定の方法で人間とやりとりするからだ。そして、企業はそこから利益を得る。つまり、これは人間心理の弱点であり、企業はまさにそれを悪用しようとしているのだ」
ChatGPTやDALL-EなどのAIツールは、既存の作品の膨大なデータベースを分解し、それらの要素を組み合わせてまるで人間が作成したかのようなテキストや画像を生成するのが一般的です。この人工的な本物らしさこそが、ベンダー氏が生成AIから可能な限り遠ざかろうとする最大の理由です。
「こうしたシステムから生み出される紙粘土のような言語は、いかなる存在、いかなる人物の経験も表していません。ですから、これは創作活動にはなり得ないと思います」と彼女は言った。「企業が『まあ、コピーは手に入るから…』とか、美術の世界でも『盗まれた芸術、視覚的なもの、あるいは言語的なもので作られたシステムの出力を再利用すれば、イラストはずっと安く作れる』などと言ってくるようになると、作家として生計を立てるのが難しくなるリスクはあると思います」
ベンダー氏は、ハリウッドの脚本家や俳優が今年のスタジオとの契約交渉でAIの侵略から保護されたことを高く評価した。しかし、AIが作成したコンテンツを自身の記事にこっそりと持ち込むジャーナリストには反対の意を示した。（完全開示：本レポートの執筆にはAIツールは一切使用されていない。）
「例えば、『計算言語学』というフレーズでGoogleアラートを設定しています」と彼女は言った。「何年も前に、学生の就職情報を見つけるために設定しました。2022年11月から、ChatGPTについて書かれたニュース記事が次々と送られてきて、驚くほど多くの記事がChatGPTで生成された、フラグも付いていない段落で始まり、その下の方に『ああ、これは機械が書いたんだ』と書かれていました。どんなジャーナリストがこんな風に誠実さを犠牲にするんだろう？それに、よくもこんな風に私を騙して偽の文章を読ませるなんて」と思ったものです。
ベンダー氏は、Google アラートを使用しているというだけで AI エコシステムに同化していると主張する人もいるかもしれないが、彼女は生成 AI と、機械翻訳や自動音声テキスト変換などの特殊用途のテクノロジーを区別している。
「スペルチェッカーがあるのは本当にありがたいです」と彼女は言った。「つまり、言語テクノロジーは確かに価値あるものになるということです。」
生成型AIにも活躍の場はあるかもしれない、とChiang氏は言う。
「世の中は私たちに、くだらない文章を大量に生成するよう求めることがよくあります。もしそれを処理できるツールがあれば、それは素晴らしいことです」と彼は言った。「いや、いや、実際にはそれほど素晴らしいものではありません。問題は、世の中が私たちにこうしたくだらない文章を生成するよう求めていることです。ですから、それを代わりにやってくれるツールがあれば…それは確かに有用と言えるでしょう。」
チアン氏とベンダー氏は、生成AIには規制上のガードレールが必要であることに同意した。
「私が望むガードレールは透明性に関するものです」とベンダー氏は述べた。「合成メディアに遭遇した時、それが人間の目にすぐにわかるように、私たち全員が認識すべきだと思います。また、フィルタリングして全く見えないようにできるように、機械的にエンコードされているべきです。学習データについても透明性が必要だと思います。エネルギー使用についても透明性が必要だと思います。そしてそれに加えて、説明責任も求めています。OpenAIがChatGPTの出力のすべてに実際に責任を負う世界に住みたいですね。」
「それについては何も付け加えることはありません」と蒋介石氏は述べた。
タウンホールシアトルのチャットから人間が生成したその他の逸品:
- チアン氏は、AIが生成したテキストはインターネット詐欺師にとって恩恵となるだろうと述べた。「これは、人間が生成した貴重なテキストがAIが生成した無意味なテキストの海に埋もれてしまうという、より広範な問題の一例だと思います。」
- AIプログラムはチェスや囲碁といった複雑なゲームをマスターしているが、チアン氏は、その習得には何百万回もの試行が必要だったと指摘した。さらにチアン氏は、ラットがわずか24回の試行でミニカーの運転を習得した実験を例に挙げた。この基準に基づくと、AIプログラムは「マウスほどスキル習得が得意ではない」とチアン氏は述べた。「AIが人間と同等のスキル習得をできるようになるまでには、まだ長い時間がかかるだろう」
- チアン氏は、AIによって生徒が書いたエッセイと機械生成のテキストを区別することがより困難になることを認めた。「これは解決不可能な巨大な問題です」と彼は述べた。「エッセイ作成は教育ツールとしての有用性を失っているのかもしれません」
- AIは蒋氏のような作家を廃業に追い込むのだろうか？「AI生成テキストが散文小説市場に革命をもたらすとは、私には全く思えません」と彼は述べた。「本の出版コストで言えば、著者に支払う金額はそのほんの一部に過ぎません。つまり、実際にはそれほど大きな節約にはなりません」。彼は生成AIがブレインストーミングツールとして役立つかもしれないと述べ、SF作家のフィリップ・K・ディックが『高い城の男』を執筆する際に、同様の目的で易経の占いの貨幣を使ったことを指摘した。
- チャンは、2016年の映画『メッセージ』の原作となった短編小説の著者として最もよく知られていると言えるでしょう。この映画は言語学の教授を主人公としています。『メッセージ』は、言語学における議論の的となっているサピア＝ウォーフ仮説も反映しています。では、言語学者たちはチャンの物語をどう見ているのでしょうか？「言語学者の友人たちは皆、私がテッドに会えることを羨ましがっています」とベンダー氏は言います。「1月にアメリカ言語学会で講演することになっていて、このことを自慢できるようにすでに講演の準備をしています。」
