アマゾンの顔認識技術に恐怖検知機能を追加したアップデートに公民権活動家が激怒
モニカ・ニッケルズバーグ著
アマゾンのRekognitionソフトウェアの最新アップデートは、顔認識技術に対する人権団体の抗議を再び呼び起こしている。アマゾンは火曜日、同社のアルゴリズムが人の表情から恐怖を検知できるようになったと発表した。
この恐怖検知機能は、他の7つの感情とともに、Amazon Rekognitionを使用して画像や動画のデータベースから人物を識別するお客様のデフォルト機能セットに加わりました。これらのお客様には複数の法執行機関が含まれており、これは公民権団体にとって重要な懸念事項となっています。
アメリカ自由人権協会（ACLU）は、警察による顔認識技術の導入を遅らせたり、停止させたりするための法案成立に向けて、積極的にロビー活動を行っています。ACLUは、顔認識技術「Rekognition」が白人男性よりも有色人種や女性を誤認する頻度が高いことを示す複数の調査を実施しました。
アマゾンは今週の発表で、「感情検出の精度（7つの感情すべて：「幸せ」、「悲しみ」、「怒り」、「驚き」、「嫌悪」、「落ち着き」、「混乱」）が向上し、新しい感情「恐怖」が追加された」と述べた。
AmazonによるRekognitionのアップデートは、カリフォルニア州議会で審議中の法案に関連した新たな調査結果をACLUが発表した翌日に行われました。ACLUによると、顔認識ソフトウェアが カリフォルニア州議会議員26名と公開データベースの顔写真を誤って照合していたとのことです。この調査の目的は、警察官が装着するボディカメラへの顔認識ソフトウェアの搭載を禁止する法案の承認を議員に促すことでした。
「これらのカメラは、監視のためではなく、警察官の責任追及と透明性のために地域社会に約束されたものだ」と、アメリカ自由人権協会（ACLU）カリフォルニア州弁護士マット・ケーグル氏は記者会見で述べた。
アマゾンの広報担当者はACLUの調査結果に異議を唱え、次のような声明を発表した。
ACLUは再び、Amazon Rekognitionを故意に悪用し、不当に解釈して注目を集めようとしています。これまで何度も述べてきたように、推奨される99%の信頼度閾値に基づき、人間主導の意思決定の一部として使用される場合、顔認識技術は、犯罪者の身元確認、行方不明の子供の捜索、人身売買の阻止など、様々な有益な目的に活用できます。私たちは、責任ある使用を確保するために、顔認識技術の連邦法制化を継続的に推進しており、具体的な提案を政策立案者と非公式に、またブログでも共有してきました。
信頼度しきい値は、Rekognitionのお客様が希望するマッチング精度に応じて調整できる設定です。例えば、Rekognitionユーザーが1,000枚の画像を100枚に絞り込みたい場合、低い信頼度しきい値を設定できます。Amazonは、法執行機関など、公民権が関係する可能性のあるユースケースでは、99%の精度しきい値を推奨しています。Amazonによると、ACLU（アメリカ自由人権協会）は政治的な目的を達成するために意図的に低いしきい値を設定しました。
しかし、ACLUワシントン支部の技術・自由プロジェクトディレクターのシャンカール・ナラヤン氏は、たとえ顔認識技術が完璧であったとしても、ACLUは問題視するだろうと述べている。
「完璧に正確な顔監視システムでさえ危険であり、透明性や説明責任なしに政府が人々を追跡し、管理する能力を強化することになる」と彼はGeekWireに語った。
ナラヤン氏は、顔認識が法執行機関の手に渡ると危険になる可能性があるとして、次のようなシナリオを示した。
例えば、Amazonの製品に搭載されているような恐怖や怒りの検知機能を備えた警察用ボディカメラを想像してみてください。警察官は、その結果に基づいて、致死的な武力を使用するかどうかを瞬時に判断しなければならないかもしれません。顔認証監視製品は、人物の識別と感情の判断の両方において偏りがあることを示す多くの研究結果を踏まえると、このような用途は危険であり、警察における既存の偏見を強化することになるでしょう。
Rekognitionの新たな恐怖検知機能について警鐘を鳴らしているのは、ACLUだけではない。デジタル権利擁護団体「Fight for the Future」のエヴァン・グリア氏は、Amazonが「悪夢のようなディストピア的な監視国家」を構築していると非難した。
「顔認識は既に警察の虐待、プロファイリング、そして差別を自動化し、悪化させています」と彼女は声明で述べた。「今、Amazonは、欠陥のあるアルゴリズムの冷徹な証言に基づいて、武装した政府職員が瞬時に判断を下せるような状況へと私たちを導こうとしています。当局の尋問中に恐怖を感じているように見えるとコンピューターが判断しただけで、無実の人々が拘留、国外追放、あるいは不当に投獄される可能性があります。」
顔認識をめぐる懸念から、すでに一部の政府は介入を余儀なくされている。サンフランシスコ、マサチューセッツ州サマービル、カリフォルニア州オークランドでは、顔認識技術の一部の使用を禁止する法律が可決されている。
アマゾンの本拠地であるワシントン州では、顔認識技術に関する新たな規制を導入する法案が提出されましたが、州議会で前回の会期で廃案となりました。この法案はマイクロソフトとアマゾンの支持を得ていましたが、アメリカ自由人権協会（ACLU）は規制が骨抜きにされ、許容範囲が広すぎるとして反対しました。
アマゾンは、この新興技術を規制するために連邦規制を望んでいると述べているが、活動家らは、連邦法は市民の自由を守るには弱すぎるのではないかと懸念しているという。
編集者注: このストーリーは、シャンカール・ナラヤン氏の名前を修正するために更新されました。
