学者たちは、人間がAIの誇大宣伝にどう対抗できるか、そしてなぜそれが必要なのかを説明する。
ChatGPTをチャットボットと呼ばないでください。会話シミュレーターと呼んでください。DALL-Eを芸術的なイメージの創造者と考えないでください。合成メディア押し出し機と考えてください。実際、生成AIが行うことが人工知能そのものだと考えるのは避けてください。
これは、「AI詐欺」と題された新刊の著者らによる、人工知能をめぐる誇大宣伝に対抗するための処方箋の一部である。
「『人工知能』という言葉は、本質的に擬人化されたものです」と、ワシントン大学の言語学教授であるエミリー・M・ベンダー氏は、Fiction Scienceポッドキャストの最新エピソードで説明しています。「この言葉は、この技術を実際以上に誇張しています。なぜなら、これは例えば、自動的に文字起こしをしたり、録音の音量を自動調整したりするシステムではなく、『人工知能』だから、もっと多くのことができるかもしれないからです。」
ベンダー氏と共著者のアレックス・ハンナ氏は、著書とポッドキャストの中で、AIマーケティングの問題点を指摘している。彼らは、AIがもたらすメリットは誇張され、コストは軽視されていると主張している。そして、最大の利益はソフトウェアを販売するベンチャー企業、あるいはAIを理由に人間の労働者の地位を貶めているベンチャー企業にもたらされていると指摘する。
「AIはあなたの仕事を奪うわけではありませんが、おそらくあなたの仕事をよりつまらないものにするでしょう」と、分散AI研究所の研究ディレクターを務める社会学者ハンナ氏は言う。「なぜなら、これらのツールが仕事を完全に置き換える例は多くないからです。しかし、最終的には、人間が行っている多くの作業をAIが代替するものとして想定されるようになるのです。」
こうした主張は、従業員の解雇を正当化するためによく使われ、その後「ギグワーカーとして再雇用するか、サプライチェーン内で代わりにその仕事をする別の人を見つける」ために使われるとハンナ氏は言う。
テクノロジー企業の幹部は、AIツールが生産性を飛躍的に向上させると主張するのが通例だが、ハンナ氏は、昨年ノーベル経済学賞を共同受賞したMITのダロン・アセモグル氏をはじめとする経済学者たちの、それほど楽観的ではない予測を指摘する。アセモグル氏は、今後10年間のAIによる生産性向上は年間約0.05%と見積もっている。
さらに、アセモグル氏は、AIは資本所得と労働所得の格差拡大など、「社会への悪影響」をもたらす可能性があると述べている。「AIの詐欺」の中で、ベンダー氏とハンナ氏は、エネルギーや水資源の枯渇から、ケニアやフィリピンなどの国でAIモデルを訓練する労働者の搾取に至るまで、AIが社会と環境に及ぼす悪影響を列挙している。
もう一つの懸念は、文学作品や芸術作品がAIモデルの学習に海賊版として利用されているという点です。（完全な開示：私の著書『The Case for Pluto』は、MetaのLlama 3 AIモデルの学習に使用された作品の一つです。）また、大規模な言語モデルが、一見もっともらしく聞こえるものの、実際には全くの誤りである情報を出力するという、よく知られた問題があります。（ベンダー氏とハンナ氏は、これを「幻覚」と呼ぶことを避けています。その言葉は知覚の存在を暗示するからです。）
さらに、人種や性別に基づくアルゴリズムのバイアスに関する問題もあります。AIモデルが誰を雇用するか、誰を刑務所に送るか、あるいはどの地域に警察を増員するかを決定する際に使用される場合、こうした問題は警戒すべき事態となります。これらはすべて「AIの詐欺」で取り上げられています。
この本の中で AI を称賛する内容を見つけるのは難しい。
「AIに良い点があると私が言うのを耳にしたことは一度もありませんし、だからといって自動化のすべてに反対しているわけではありません」とベンダー氏は言う。「ただ、AIは重要なものではないと思っています。確かに、パターン認識やパターンマッチングの自動化など、自動化のユースケースはあります。…それはケースバイケースですよね？」
問うべき質問には、次のようなものがあります。何が自動化されているのか？自動化ツールはどのように構築されたのか？そのツールの構築には誰の労力が費やされ、労働者には正当な報酬が支払われたのか？ツールはどのように評価され、その評価は自動化対象のタスクを真にモデル化しているのか？
ベンダー氏は、生成 AI アプリケーションは彼女のテストに不合格だと述べています。
「私が実現に近づいた例の一つは、ビデオゲームのノンプレイヤーキャラクターとの会話です」とベンダーは言う。「合成テキスト押し出し機を動かせれば、もっと生き生きとした会話ができるはずです。これはフィクションなので、事実を求めているわけではありません。しかし、架空の体験の中にある種の真実を求めているのです。そして、まさにそこが偏見が問題になりやすいところです。なぜなら、もしノンプレイヤーキャラクターが、微妙であろうと明白であろうと、ただの偏見の持ち主だとしたら、それは良くないからです。」
言葉遣いに注意し、推進されているシステムについて疑問を持つ以外に、AIの誇大宣伝を抑えるために何をすべきでしょうか？ベンダー氏とハンナ氏は、透明性、情報開示、説明責任を確保し、自動化された意思決定に直面した際に遅滞なく事実を正す能力を保障するための新たな規制の余地があると指摘しています。彼らは、欧州連合（EU）の一般データ保護規則（GDPR）のような、個人データを保護するための強力な規制枠組みが、過剰なデータ収集行為を抑制するのに役立つ可能性があると述べています。
ハンナ氏は、団体交渉は職場におけるAIの介入を阻止するもう一つの手段だと述べている。「2023年のストライキ後、全米脚本家組合が行ったように、多くの組織が団体交渉で大きな成功を収めています」と彼女は言う。「全米看護師連合も同様の取り組みをしています。多くの組織が契約書に、合成メディアの使用について事前に通知を受け、拒否できること、そしてライターズルームでAIを導入する場所と時期、そして職場のどこにAIを配置するかを決定できることを規定しています。」
著者らは、インターネット利用者に対し、テキスト押し出し機ではなく信頼できる情報源に頼るよう助言している。また、テクノロジー企業からAIブレンダーへのデータ提供やAIブレンダーからのデータ利用を求められた場合、ユーザーは「戦略的拒否」、つまり「絶対に拒否」する姿勢を持つべきだとも述べている。
ベンダー氏は、AIに関する過剰な主張を揶揄することも役立つと語る。彼女とハンナ氏はこの戦略を「実践としての嘲笑」と呼んでいる。
「『いや、あなたの馬鹿げた主張を受け入れる必要はない』という気持ちを身につけるのに役立ちます」とベンダー氏は言う。「そして、それを笑うことで、自信が湧いてくるような気がします」
さらに詳しい情報へのリンク
ポッドキャスト中、そして私のイントロダクションでは、多くのニュースや関連資料について触れました。ここでは、触れられた話題に関連するウェブリンクをいくつかご紹介します。
- Ars Technica: Google DeepMind は、新しいアルゴリズムを発明できる超高度な AI を開発しています。
- GeekWire: ワシントン大学のコンピュータサイエンスの天才が率いるAIスタートアップが「超人的な聴覚能力」を実現
- ジュルネ・モンディアル：中国初のAI病院は数日で1万人の患者を診断できる（医療にとってこれが何を意味するのか）
- AP通信：イーロン・マスクのAI企業は、南アフリカの人種政治に焦点を当てたGrokチャットボットは「無許可」だったと述べている
- 404 Media：マイクロソフトの調査で、AIが人間の認知能力を「萎縮させ、準備不足にする」ことが判明
- ポリティコ：トランプ大統領のソーシャルメディア監視におけるAIへの懸念
- ロイター通信：イーロン・マスクのDOGEはAIを使って米国連邦政府職員を監視していると情報筋が語る
- Ars Technica: デンマークの労働市場の調査によると、AIによって節約された時間は、新たに生み出された仕事によって相殺されている。
- 「確率的オウムの危険性について」は、ベンダーが筆頭著者である大規模言語モデルに関する研究論文である。
- 「情報技術の『目に見えない』物質性」は、情報技術の環境への影響に焦点を当てた研究です。
- 「機械は行動を学習できるか」は、AIエージェントに価値観を与える可能性を評価するGoogle研究者ブレイズ・アグエラ・イ・アルカスによるエッセイである。
- 「AI 2027」は、超人的なAIの影響力は産業革命を超えるほど巨大になると予測するエッセイである。
- ミステリーAIハイプシアター3000は、ベンダーとハンナが共同司会を務めるAIハイプに関するポッドキャストです。
ベンダー氏とハンナ氏は、本日午後7時（太平洋標準時）にシアトルのエリオット・ベイ・ブック・カンパニーで、「AIコン」について講演します。また、火曜日午後7時（太平洋標準時）にはレイクフォレストパークのサード・プレイス・ブックスでも講演します。シアトルでのイベントでは、ワシントン大学で情報技術倫理を研究するアナ・ローレン・ホフマン准教授と共演します。サード・プレイス・ブックスでは、ハギング・フェイスのコンピューターサイエンティストで、機械学習と倫理に基づいたAI開発を専門とするマーガレット・ミッチェル氏もベンダー氏とハンナ氏に加わります。「AIコン」のイベントカレンダーはこちらでご確認ください。
Fiction Scienceポッドキャストの共同ホストは、クラリオン・ウェスト・ライターズ・ワークショップ卒業生で、サンフランシスコ在住の受賞歴のある作家、ドミニカ・フェットプレイスです。フェットプレイスについて詳しくは、彼女のウェブサイトDominicaPhetteplace.comをご覧ください。
Fiction Scienceは、FeedSpotの「ベストSFポッドキャスト100」に選出されました。Cosmic Logに掲載されたこのレポートのオリジナル版では、ベンダーとハンナによるSF読書のおすすめをご覧いただけます。また、Apple、Spotify、Player.fm、Pocket Casts、Podchaserで配信されるFiction Scienceポッドキャストの今後のエピソードにもご期待ください。Fiction Scienceが気に入ったら、ぜひ評価していただき、今後のエピソードのアラートを受け取るためにご登録ください。
