ホワイトハウスの最後の人工知能ワークショップは、人間がAIをコントロールする必要性を強調した。
アラン・ボイル著
ホワイトハウスは本日、人工知能に関する全国規模のワークショップを、次のような警告の調子で終了した。確かに、AIは人類の多くの苦悩を軽減すると期待されているが、人類は生身の人間である政策立案者がしっかりと責任を負っていることを確認する必要がある。
ハーバード大学定量社会科学研究所データプライバシーラボ所長のラタニヤ・スウィーニー氏は、AIプログラムは人間社会が合意した規範を反映するように作られるべきだと述べた。
「テクノロジーそのものではなく、私たちが選んだ人々がそうした規範をコントロールすることを望んでいます。…アルゴリズムは透明性が保たれ、テストされ、何らかの保証が付くか、検査を受けられるものでなければなりません」と、彼女はニューヨーク大学で行われた本日の公開ワークショップで述べた。
ニューヨーク市の住宅・都市開発担当副市長アリシア・グレン氏は、こうした規範には社会的平等と多様性の支援も含まれるべきだと述べた。
「人工知能は、最良の場合、公平性を促進するツールとなり、多くの人々に大きな経済的機会をもたらすことは明らかです」と彼女は述べた。「しかし、意図的か否かに関わらず、差別的な影響を及ぼす可能性もあります。…私たちは決してこれに目をつぶるつもりはありません。」
本日ニューヨーク市で開催された「AI Now」ワークショップは、人工知能（AI）の短期的な社会的・経済的影響に焦点を当てました。このイベントは、ホワイトハウスの科学技術政策局が共催し、シアトル、ワシントンD.C.、ピッツバーグで開催されてきた会合に続くものです。
ホワイトハウスの副最高技術責任者（CTO）エド・フェルテン氏は、ニューヨーク市当局がデータ分析をビジネスの促進と公共の安全向上に効果的に活用していると述べた。「変革をもたらす技術が市民に利益をもたらすというこの考えこそが、政権が今年『AIの未来』政策イニシアチブを立ち上げた原動力です」とフェルテン氏は述べた。
ワークショップのパネリストたちは、より安全な自動運転車やより良い医療につながる可能性のあるAIの取り組みを挙げました。例えば、Google DeepMindはロンドンのムーアフィールズ眼科病院と協力し、100万枚のデジタル化された眼球スキャン画像を分析する取り組みを進めています。このプロジェクトは、AIプログラムに黄斑変性症や糖尿病網膜症などの眼疾患の初期症状を認識させることを目的としています。
しかし、パネリストたちはAIツールが人間の偏見を反映し、あるいは増幅させるという反例も挙げた。例えばスウィーニー氏は、検索された名前が「黒人」っぽい響きを持つ場合（例えばユーザーが「ラタニャ」や「トレボン」といった名前を検索した場合）、逮捕記録を検索するというGoogle AdSenseプログラムに関する自身の調査を例に挙げた。
スウィーニー氏は、この問題に対処するために検索アルゴリズムを変更することについてGoogleの担当者と話し合ったと述べた。「彼らは変更しないことを選択した」と彼女は述べた。
他の研究では、刑事判決を下す際に広く使用されているソフトウェアプログラムが、白人よりも黒人に対してより厳しいリスク評価を下していることや、オンライン検索では女性よりも男性に高収入の仕事の広告が多く表示される傾向があることが示唆されています。また、企業が個人データの収集をより巧妙に行うようになるにつれて、多くの人がコントロールの喪失を感じています。
現実世界では、製品は安全性試験や消費者レポートによるレビューを受けることが多いとスウィーニー氏は指摘した。「一部のAIにも、そのようなものが必要なのかもしれません」と彼女は語った。
AIやロボット工学の大きな可能性としてしばしば挙げられる分野の中には、人間に任せた方がよい場合もあると、ランカスター大学で人間と機械のインタラクションを研究するルーシー・サックマン氏は述べた。例えば高齢者介護に関しては、生活環境をより創造的に構築したり、介護士のサービスを賃金体系の中でより高く評価したりすることを推奨した。
「ロボットが介護の仕事に従事できると信じられる根拠は何ですか？」とサックマン氏は尋ねた。
Google DeepMindの共同創業者であるムスタファ・スレイマン氏は、同社の英国における事業は、独立委員会による審査と、米国法よりも厳しいデータプライバシー規制の対象となっていると述べた。また、DeepMindは医療分野におけるAIプロジェクトに関するガイダンスを提供するために、患者エンゲージメントフォーラムと臨床エンゲージメントフォーラムも設立したと付け加えた。
「米国では、データを入手するだけです。…だから、米国に来たら、おそらくはるかに早くスタートを切ることができるでしょう」とスウィーニー氏は皮肉を込めてスレイマン氏に語った。
本日のイベントはワークショップシリーズの最終日となりますが、ホワイトハウスのAIイニシアチブはまだまだ終結には程遠い状況です。フェルテン氏は、このテーマに関するパブリックコメントは7月22日まで受け付けていると述べました。ホワイトハウスは今年後半に、人工知能の政策的影響に関する報告書を公表し、AI研究開発のための戦略計画を策定する予定です。
5月のシアトルと6月のワシントンでのワークショップのレポート、そしてピッツバーグとニューヨークでのイベントのウェブサイトをご覧ください。また、ホワイトハウス経済諮問委員会（CEA）のジェイソン・ファーマン委員長の発言の拡大版もご覧いただけます。
