アマゾン、顔認識技術と警察に関するACLUの調査に異議を唱える
モニカ・ニッケルズバーグ著
アマゾンは金曜日、公民権活動家らが提起した懸念を払拭するため、法執行機関による顔認識技術の使用事例を擁護した。
Amazon Web Servicesの機械学習チームのリーダーであるマット・ウッド氏は、同社に対しRekognitionソフトウェアの警察への販売停止を求めているアメリカ自由人権協会（ACLU）などの支援団体からの批判に応える形でブログ記事を公開した。ウッド氏は記事の中で、「温度設定を間違えてピザを焦がしてしまう可能性があるので、オーブンを捨てるべきではない」と警告している。
ウッド氏は、ACLU（アメリカ自由人権協会）がRekognitionを用いて、議員の顔写真と2万5000枚の逮捕時顔写真データベースを照合した実験に懐疑的な見方を示した。Amazonによると、この実験ではRekognitionは80%の信頼度で照合を行ったという。ACLUによると、Rekognitionは逮捕時の写真に写っている議員28名と誤って照合したという。
ACLUはブログ投稿で、「偽のマッチングは、黒人議員連盟の6人を含む、有色人種が不釣り合いに多かった」と述べた。
ウッド氏は回答の中で、アマゾンはACLUの実験を再現し、議員の写真と85万人の顔データベースを99%の信頼度閾値で比較したと述べています。アマゾンは、「より大規模な顔データベースと比較しているにもかかわらず」誤認率は0%だったと述べています。
「Rekognitionのデフォルトの信頼度閾値は80%です。これは、物体やソーシャルメディア上の有名人の識別など、幅広い一般的なユースケースには適していますが、公共安全ユースケースには適していません」とウッド氏は述べている。「ACLUが使用している80%の信頼度閾値は、個人の正確な識別を保証するには低すぎます。このレベルの信頼度では誤検知が発生することが予想されます。」
Amazonは、正確な顔認識が不可欠な法執行機関などのユースケースにおいて、99%の信頼度を推奨しています。Amazonの広報担当者はGeekWireに対し、「Rekognitionは、対象範囲を絞り込み、人間が自身の判断で迅速に選択肢を検討・検討できるようにするためにほぼ独占的に利用されています（完全に自律的な判断を行うためのものではありません）。これは、行方不明の子供の捜索、人身売買の抑制、犯罪の防止などに役立ちます」と述べています。
更新: ACLU は Amazon のブログ投稿に応じて次の声明を発表しました。
危険な顔認証監視製品に対する5段階の悲しみの中で、Amazonは明らかに現実逃避に固執している。わずか48時間で、Amazonは自社システムのデフォルト一致率を80%としていたのに、昨日は95%と言い、今日は99%と言い出した。Amazonは、自社の顔認証監視製品が生身の人間に及ぼす極めて深刻な影響について、一切責任を負っていない。
アマゾンは、重大な公民権問題から目をそらすために、必死に手段を講じている。アマゾンは、軽率な顔監視製品が既に引き起こしたかもしれない損害を修復し、更なる被害を防ぐための措置を講じるべきである。アマゾンは、議会議員に回答すべきである。この技術を既に購入したすべての政府機関を開示すべきである。そして、組織や自社の顧客、従業員、株主の声に耳を傾け、政府への顔監視製品の販売を停止すべきである。アマゾンが、自社の技術がもたらす極めて現実的な脅威に対処するどころか、必要な措置を講じることさえ拒否しているという事実は、同社の遺憾な現実逃避のさらなる証拠であり、議会が速やかに介入してモラトリアム（一時停止）措置を講じる必要があることを如実に示している。
アメリカ自由人権協会（ACLU）は5月、警察によるRekognitionの使用について警鐘を鳴らし始め、この技術が人種偏見を増幅させる可能性があると主張しました。6月には、様々な市民団体や移民権利団体のリーダーたちが、警察へのRekognitionの販売停止を求める15万筆の署名をAmazonシアトル本社に提出しました。
