AOC対アマゾン：アレクサンドリア・オカシオ＝コルテス上院議員、テック大手の顔認識技術に偏見があると警告

モニカ・ニッケルズバーグ著2019年1月28日午後12時15分2019年1月28日午後3時4分

アレクサンドリア・オカシオ＝コルテス下院議員は、デジタルネイティブならではの方法でテクノロジーを活用しています。

29歳の下院議員オカシオ＝コルテス氏は、ソーシャルメディアで発信する本物でパーソナルな存在感の力を熟知している。斬新なアプリが旧来の選挙戦略に及ぼす影響を目の当たりにしてきた。また、新技術には狡猾な側面があることも理解している。日曜日、オカシオ＝コルテス氏はアルゴリズムによるバイアスへの対策を訴えた。これは研究者や公民権活動家が数ヶ月前から警鐘を鳴らしてきた、十分に裏付けのある現象である。

新人議員である彼女は、MITとトロント大学による新たな研究結果をツイートした。それによると、Amazonの顔分析ソフトウェアは、女性を男性と誤認する確率が19%だった。また、肌の色が濃い女性を男性と誤認する確率は31%だった。

アマゾンの人工知能担当ゼネラルマネージャー、マット・ウッド氏はこの調査結果に異議を唱え、この研究は顔認識とは異なる顔分析技術に焦点を当てていると指摘した。顔分析は、写真データベースから特定の属性を検索するために使用される。例えば、広告デザイナーがストックフォトのカタログから眼鏡をかけ笑顔の女性を検索したいとしよう。そこで顔分析が役に立つのだ。

アマゾンの顧客は、顔認識技術を用いて、他の顔のデータベースと照合することで個人を特定しようとします。フロリダ州とオレゴン州の法執行機関は現在、この目的でアマゾンのソフトウェアを使用しており、アメリカ自由人権協会（ACLU）や多くのアマゾン従業員、株主を困惑させています。

「顔分析を用いて得られた結果に基づいて、法執行機関を含むあらゆるユースケースにおける顔認識の精度について結論を導き出すことは不可能です」とウッド氏は声明で述べた。「また、論文の結果はRekognitionの最新バージョンを使用しておらず、顧客が現在どのようにサービスを利用するかを反映していません。」

アマゾンは、最新のソフトウェアでテストを再現した結果、誤認はなかったと述べた。

それにもかかわらず、専門家、活動家、そしてアマゾンの隣人であるマイクロソフトは、この技術が人間の偏見を増幅させないように、さらなる規制と監視を求めている。

「アルゴリズムは依然として人間によって作られています」と、オカシオ＝コルテス氏は今月初めのマーティン・ルーサー・キング・デーのイベントで述べた。「そして、それらのアルゴリズムは依然として人間の基本的な仮定に縛られているのです。」

MITのテクノロジーレビューはオカシオ・コルテス氏の発言に対し、「彼女は間違っていない」とツイートした。