AIは期待よりも脅威か？技術開発者らが活動家らに加わり、新たな安全策を求める

ダース・ベイダーを解放するのは、ルーク・スカイウォーカーを投獄し続けるよりもはるかに悪い。これは、全米の刑事司法制度で採用されている再犯予測アルゴリズム「COMPAS（代替制裁のための矯正犯罪者管理プロファイリング）」などのリスク評価ツールの根底にある哲学的論拠であり、ワシントンのACLU（アメリカ自由人権協会）のテクノロジーと自由プロジェクトディレクター、シャンカール・ナラヤン氏を懸念させている。

ナラヤン氏は金曜日、シアトル・インタラクティブ・カンファレンスでスター・ウォーズに言及した。リスク評価ツールを研究する学者によるこの発言は、人工知能が人を監禁する方向に傾く危険性を浮き彫りにしていると彼は述べた。

同氏は、COMPAS は「偽陽性と偽陰性」の間で「リスク回避のバランス」を保っており、社会的に疎外されたコミュニティに悪影響を及ぼす可能性があると述べた。

「黒人社会が刑事司法に関与した事例が多すぎることを考慮すると、こうしたツールによって『高リスク』と判断される人が増えることになる」と彼は述べた。

人工知能に関するこうした懸念は、「AIの約束と脅威」と題されたパネルで全面的に示され、AIの可能性に期待を寄せる技術開発者たちでさえ、安全策を導入するケースが増えている。

例えば、HTCはVive VRプラットフォーム向けにボディトラッキング技術を提供していますが、ユーザーデータが公開されないクローズドシステムの構築を選択しました。同社のプラットフォーム戦略・開発者リレーションズ担当副社長であるヴィナイ・ナラヤン氏は、この決定はビジネスイノベーションと消費者のプライバシーのバランスをとったものだと述べています。スマートフォンとVR技術で知られる台湾の家電メーカーHTCは、北米本社をシアトルに置いています。

「技術的な観点から言えば、誰もそんなことはしたくありません。なぜなら、すべてのデータを中央サーバーに取り戻さなければ、迅速な反復作業は不可能だからです」と彼は述べた。「私たちは非常に強力なツールを構築したと認識しており、多くの技術的安全策を講じていますが、他の人がどのように使うかは分かりません。」

HTC は自社製品の潜在的な悪用を認識しているが、日常的なソフトウェア アプリケーションでの AI の普及が進んでいることから、他の企業はそれほど警戒していない。

「こうしたツールを活用している企業のほとんどは、結局のところAI企業ではありません。彼らは顧客対応時間の改善を目指しているカスタマーケア企業なのです」とヴィナイ・ナラヤン氏は述べた。「AIを使っていることに気づいていない企業もあるかもしれません。」

パフォーマンスが低い、あるいは偏った AI に対する一般的な対応策の 1 つはデータ セットを改善することですが、Shankar Narayan 氏はこれをほとんど否定しています。

「技術者やデータサイエンティストはテクノロジーに対して限りなく楽観的ですが、権力の仕組みや刑事司法制度におけるデータの偏りを実際に見てきた私の視点からすると、ツールを修正するためのクリーンなデータセットを入手するのはほぼ不可能に思えます」と彼は語った。

実際、シャンカール・ナラヤン氏は、AIをより多くのデータで修正しようとする衝動は、さらなるデータ収集へのインセンティブを生み出すからだと述べた。「たとえそれがその技術の本来の目的をはるかに超えていたとしても、とにかく収集、収集、収集、収集するのです」と、ACLUの関係者は一般的なアプローチについて説明した。

交通の流れやエネルギー利用といった都市システムの最適化を監視技術に大きく依存する、いわゆるスマートシティ推進の渦中にある中で、こうした衝動に駆られた彼はためらう。彼は、元ボストン市のデータサイエンティスト、ベン・グリーンが新著『The Smart Enough City（十分にスマートな都市）』で提唱するような、よりバランスの取れたアプローチを好んでいる。

「事実上あらゆる監視技術が、社会的に疎外された脆弱なコミュニティに不均衡な影響を与えてきた長い歴史があります」と、ワシントン州のドローンとボディカメラ対策タスクフォースに所属するシャンカール・ナラヤン氏は述べた。「だからこそ、『とりあえず導入して、どうなるか見てみよう』という姿勢には、しばしば困惑させられるのです」

こうした原則的な立場は、AI支援技術が解決しようとしている現実世界の課題とも相容れない。例えば、横断歩道をふさいでいる車両や公共交通機関専用レーンを違法に走行する車両に対してシアトル市がカメラによる取り締まりを実施することを認める法案は、今年の議会会期中に委員会で廃案となった。

HTC の Vinay Narayan 氏にとって、このような政治的決定は、限られた数の警察官が交通法規を執行するのに苦労するという非効率的な現状に戻ることになる。

「大規模な交通流の手動インターフェースには人間が使われています」と彼は述べた。「まさにここで、コンピュータービジョンとAIが問題解決に真に役立つのです。」

しかし、警察や検察がワシントンD.C.の赤信号カメラのデータを他の犯罪にも利用するよう要求するのを見てきたシャンカール・ナラヤン氏にとって、この技術の有効性は、より広範な懸念によって打ち消されている。「カメラ設置のコンセプト自体には反対していないが、安全策が講じられていなかった」と彼は述べ、「ミッションクリープ（目的の拡大）の問題だ。カメラを設置すると、もっと多くのことに使いたくなる」と説明した。

編集者注：この記事はシャンカール・ナラヤン氏の発言を反映して更新されました。