マイクロソフト、顔認識技術の政府規制を要求
ナット・レヴィとモニカ・ニッケルズバーグ著
テクノロジーと公共部門の関係について国民の懸念が高まる中、マイクロソフトは顔認識技術を開発する企業に対する政府の監視強化を求めている。
マイクロソフト社長のブラッド・スミス氏は金曜日に公開されたブログ記事で、行方不明の子供の捜索や視覚障害者の支援といった顔認識の潜在的なメリットを強調した。しかし同時に、政府による監視や侵入的なマーケティングといった、より陰険な可能性についても言及した。
ブログ記事の中で、スミス氏は、顔認識を管理する上で、テクノロジー業界が自主規制するのではなく、政府による規制こそが正しい方法だと考えている理由を述べています。スミス氏は、一部のテクノロジー企業は顔認識について独自に慎重に検討する可能性がある一方で、そうでない企業もあると指摘しています。国内外のテクノロジー企業間の競争環境によって、自主規制はほぼ不可能になるとスミス氏は主張しています。だからこそ、政府が介入する必要があるとマイクロソフトは述べています。
「今日、テクノロジー企業にこうした決定を下すよう求める声があることは理解しています。また、後述するように、私たち自身も責任を果たす必要があることは明らかです。しかし、民主共和国においては、こうした決定は国民とその代表者による意思決定の代替としては不十分だと考えています」とスミス氏はブログ投稿で述べた。「私たちは法治国家に住んでおり、政府は顔認識技術の規制において重要な役割を果たす必要があります。一般論として、選挙で選ばれた政府に企業を規制するよう求める方が、選挙で選ばれていない企業に政府を規制するよう求めるよりも理にかなっているように思われます。」
以下はスミス氏が将来の規制で対処してほしいと考えている質問のリストです。
- 法執行機関による顔認識技術の使用は、個人の犯罪の有罪または無罪の証拠として補助なしの顔認識技術を使用することに対する制限を含め、人間による監視と管理の対象となるべきでしょうか?
- 同様に、政府の国家安全保障技術実践の一環として顔認識技術の使用に対して、民間による監視と説明責任を確保すべきでしょうか?
- 顔認識技術の有益な利用を許可しながら、人種プロファイリングやその他の権利侵害を目的とした顔認識の利用を防ぐには、どのような法的措置が考えられますか?
- 公的機関などによる顔認識の使用は、精度に関する最低限のパフォーマンスレベルに従うべきでしょうか?
- 法律で小売業者に対し、公共の場で顔認識技術を使用していることを目立つように告知することを義務付けるべきでしょうか?
- 企業は顔認識のために個人の画像を収集する前に、事前に同意を得ることを法律で義務付けるべきでしょうか？もしそうであれば、どのような状況や場所で適用されるべきでしょうか？そして、そのような同意を求め、得るための適切な方法は何でしょうか？
- 自分の名前や顔が特定された写真がどのようなものが収集され、保管されているかを知る権利を個人に保障すべきでしょうか?
- 顔認識システムによって誤って識別されたと考える個人に法的権利を与えるプロセスを作成すべきでしょうか?
スミス氏はテクノロジー業界の責任を免除したわけではない。同氏は、マイクロソフトが顔認識技術の開発を統制するために採用している4本柱のアプローチを示した。マイクロソフトは、女性や有色人種の認識における高いエラー率の是正に向けた取り組みを加速させ、顔認識技術の開発と展開に関する一連の統制原則の策定に取り組んでいる。同時に、公共政策に関する議論に参加しつつ、この技術に関するコンサルティングや契約業務を「より慎重に」進めていく計画だ。
顔認識技術は、市民権団体にとって重要な懸念事項となっています。アメリカ自由人権協会（ACLU）は、Amazonに対し、Rekognitionソフトウェアの法執行機関への販売を停止するよう、何度も公に要請してきました。ACLUは、「顔認識技術は偏見に満ちており、アフリカ系アメリカ人を誤認させ、刑事司法制度における差別の歴史に基づいて構築されたデータベースに依存している」と主張しています。
テクノロジー業界、政府、そして法執行機関の関係は、ここ数ヶ月、ますます厳しい監視の目にさらされています。マイクロソフト自身も、移民家族を引き離すICE（移民税関捜査局）の慣行を理由に、従業員や顧客からICEとの関係を断つよう求めるキャンペーンの標的となっています。この議論は、マイクロソフトがICEに顔認識技術を提供できるのか、また提供するのかという疑問も提起しました。
スミス氏は金曜日のブログ投稿でその懸念に触れた。
その後、問題の契約は顔認識には全く使用されていないことを確認しました。また、マイクロソフトは米国政府と協力し、国境で子供たちを家族から引き離すプロジェクトにも一切関与していません。これは私たちが強く反対している行為です。契約に基づく業務は、従来のメール、カレンダー、メッセージング、ドキュメント管理のワークロードをサポートすることです。この種のIT業務は、米国のあらゆる政府機関、そして事実上、世界中のほぼすべての政府機関、企業、非営利団体で行われています。それでもなお、マイクロソフトは契約を解除し、ICEとのあらゆる業務を停止すべきだと提言する人もいました。
その後の議論により、テクノロジー業界全体に波及しているより広範な疑問が浮き彫りになった。
