下院議員、アマゾンの顔認識技術利用を非難、新たな情報開示を求める
レイチェル・ウランガ著
アマゾンは警察への顔認識ソフトウェアの販売を停止したかもしれないが、この動きによってこのテクノロジー大手への圧力が軽減されたわけではない。
民主党下院議員ジミー・ゴメス氏（カリフォルニア州選出）は火曜日、アマゾンのジェフ・ベゾス最高経営責任者（CEO）に送った書簡の中で、同社のソフトウェア「レコグニション」の取り扱いを厳しく批判し、同社に対し、このプログラムに内在するプライバシーと偏見に関する詳細な情報を提供するよう求めた。
アマゾンにコメントを求めたが、すぐには返答できなかった。
この書簡は、アマゾンが、議会がこの技術に厳格な規制を課す時間を確保するため、警察による監視ソフトウェアの使用を1年間禁止すると発表した直後に出されたもので、アマゾンもこの動きを支持している。マイクロソフトも同様に顔認識技術の使用を一時停止し、IBMも基本的人権と自由の侵害への懸念を理由に、自社の顔認識技術の使用を完全に中止した。
ロサンゼルス代表で下院監視・改革委員会の委員を務めるゴメス氏は、アマゾンの動きは単なる「パフォーマンス」に過ぎないと述べた。
「ジョージ・フロイド氏のような黒人アメリカ人が警察の手によって殺害されたことに対する国民の怒りを受けて、企業はブラック・ライブズ・マター運動への支持表明を迅速に行ってきた」と彼は書いた。「残念ながら、こうした行動の多くはせいぜいパフォーマンス的なものにとどまっている。顔認識技術の規制を議会に求めることは、そうした行動の一つだ」
この書簡は、監視ソフトウェアがどの程度広く使用されているか、データがどのように収集されているかについて、この電子商取引大手に情報を開示させようとする2年間にわたる取り組みの中での新たな攻撃だとゴメス氏は表現している。
「両院からの書簡、下院監視委員会の公聴会、対面での会合など、2年間にわたる議会での正式な調査を経ても、アマゾンは、顔認識技術がプライバシーや公民権に及ぼす危険性、技術の正確性、そして有色人種コミュニティへの不均衡な影響についての疑問に、いまだに十分な回答をしていない」とゴメス氏はベゾス氏に語った。
この問題は、ゴメス氏が代表を務めるロサンゼルスのコミュニティで長年にわたり続いています。活動家たちは、人種差別を助長し、プライバシーを侵害する可能性のあるテクノロジーの使用に常に反対しています。この問題は、ジョージ・フロイド氏の抗議活動を受けて、全国的な舞台で再び噴出しました。
ゴメス氏は先週ポリティコに対し、地方警察や州警察によるこの技術の使用を制限する法案を起草中であると語った。
ゴメス氏の手紙全文は以下をご覧ください。
ベゾス様
6月10日、Amazonは警察による顔認識技術「Rekognition」の使用を1年間一時停止すると発表しました。貴社は声明の中で、顔認識技術に関する連邦規制を支持し、「要請があれば支援する用意がある」と述べています。この申し出に賛同し、この一時停止の実施状況に関する情報の提供を求めるとともに、Amazonの顔認識技術に関連する公共の安全と公民権に関する懸念について、約2年間にわたり貴社に質問してきた質問リストを再提出いたします。これらの質問は、これまでほとんど無視されてきたか、全く対処されていないものです。
この問題に対するアマゾンの取り組み姿勢には勇気づけられるものの、発表内容が曖昧なため、答えよりも疑問が湧いてくる。例えば、102語のブログ記事では、アマゾンがモラトリアム期間中に警察へのRekognitionの販売を停止するかどうか、モラトリアム期間中に顔認識システムの開発を停止するかどうか、モラトリアムの対象が国土安全保障省（DHS）や移民・関税執行局（ICE）など警察以外の地方および連邦の法執行機関の両方に及ぶかどうか、モラトリアムが法執行機関との現行契約に適用されるかどうか、アマゾンが業務再開前に技術を米国国立標準技術研究所（NIST）に提出して試験を受ける予定があるかどうかなど、具体的な内容が明らかにされていない。また、モラトリアムの1年期限切れと、この自主規制期間内に連邦法が成立しない場合にアマゾンがどう対応するのかについても懸念を抱いている。
両院からの書簡、下院監視委員会の公聴会、そして直接の会合を含む2年間にわたる議会による正式な調査を経ても、Amazonは、顔認識技術がプライバシーと公民権に及ぼす危険性、技術の精度、そして有色人種コミュニティへの不均衡な影響といった疑問に、未だに十分な回答を示していません。以下は、Amazonの顔認識技術に関するポリシー、そしてそれを法執行機関に販売するという決定に関して私がAmazonに尋ねた質問の代表的なものですが、網羅的ではありません。これらの問題について、貴社が迅速かつ公に関与されることを期待しています。
未解決のリクエストAmazonは、顧客（法執行機関や関係機関を含む）が、同社の利用規約、ポリシー、その他の制限に違反して製品を使用しないよう徹底するための取り組み（もしあれば）について、適切な回答を求めます。2018年7月26日、2019年1月24日、2019年2月27日に要請しました。
Rekognitionで実施された社内精度評価またはバイアス評価、および人種、性別、肌の色、年齢に関する結果に関する情報。2018年11月29日にリクエストされました。
AmazonはRekognitionを95%の信頼度閾値での使用を推奨しているにもかかわらず、法執行機関や警察署にデフォルトの80%の信頼度閾値で運用するオプション付きで販売している理由について、詳細な情報を提供してください。2019年2月6日、2019年2月27日、2019年9月26日に要請しました。
AmazonがRekognitionシステムに、罪のないアメリカ人のプライバシー権を保護するための保護機能を組み込んでいるかどうかという私の質問に完全に答える情報。2018年11月29日にリクエストしました。
Recognitionに組み込まれている、未使用の生体認証データを自動的に削除するメカニズム（もしあれば）に関する詳細。2018年11月29日提出。
Amazonが、法執行機関によるRekognitionの使用状況について、同ソフトウェアが政府の秘密監視に悪用されていないことを確認するための監査を実施しているかどうかについて明確にしてください。2019年2月6日および2019年2月27日に要請しました。
Amazonが全米1,350以上の警察署と監視パートナーシップを結んでいるという報道に関する回答。2019年2月6日および2019年2月27日に要請。
AmazonがRekognitionの買収に関して契約または連絡を取り、現在同サービスを利用しているすべての法執行機関または情報機関に関する記録および情報。2019年2月6日に請求。
Amazon Rekognition が現在、警察のボディカメラ技術または既存の公共向けカメラネットワークと統合されているかどうかに関する情報。2019年2月6日および2019年2月27日にリクエストされました。
トレーニングデータセット（後続のキャリブレーションデータセットではなく）が白人に偏っているのか、それとも白人の顔を認識するように事前に準備されていたのかを明確にしてください。2019年2月6日および2019年2月27日にリクエストされました。
Amazonがこの技術をICEに販売しているという報道に関する回答。2019年2月6日および2019年2月27日に要請。
ジョージ・フロイド氏をはじめとする黒人アメリカ人が警察の手によって殺害された事件に対する国民の怒りを受けて、企業はBlack Lives Matter運動への支持表明を迅速に行ってきました。しかし残念ながら、こうした行動の多くはせいぜいパフォーマンス的なものにとどまっています。顔認識技術の規制を議会に求めることも、そうした行動の一つです。しかし、テクノロジーとイノベーションの世界的リーダーであるAmazonには、「黒人コミュニティとの連帯」という思いを具体的な行動に移す、またとない機会が目の前にあります。欠陥のある製品を警察に販売せず、米国の刑事司法制度における構造的人種差別を終わらせる上で重要な役割を果たすのです。
この重要な件にご関心をお寄せいただきありがとうございます。この件についてのご回答をお待ちしております。心から、
ジミー・ゴメス
国会議員
