AI研究者はサンフランシスコの顔認識禁止は表面的な問題に過ぎないと指摘

サンフランシスコ市政管理委員会は今週、法執行目的での顔認識ソフトウェアの使用を禁止する投票を行い、重要な一歩を踏み出したが、こうした措置だけでは人工知能による監視をめぐる倫理的問題は解決されないだろう。

少なくともこれらは、AI の急速な台頭がもたらす社会的影響に焦点を当てた 3 人の専門家による第一印象です。

カーネギーメロン大学の哲学教授、デイビッド・ダンクス氏は、火曜日に承認され、来週2回目の手続き上の採決にかけられる予定の市条例の詳細を掘り下げる機会がなかったと述べた。そして、「これは細部が重要になる事件だ」と述べた。

「顔認識の一致に基づいて誰かを逮捕するという意味での『法執行目的』は、まさに極端で明白なケースです」と、ダンクス氏は火曜日の夜、シアトル大学で行われたAI倫理に関するパネルディスカッションに参加した後、GeekWireに語った。「しかし、グループのメンバーを監視する場合はどうでしょうか。その場合、その人物が誰なのかは分かっていませんが、20人の顔をアップロードしたコミュニティのメンバーであることは分かっています。」

顔認識技術は研究者やプライバシー擁護者から多くの批判を集めている。その理由としては、当局がこの技術を使って中国北西部の何百万人ものイスラム教徒を追跡していること、人種や性別に関連したソフトウェアの不具合が報告されていること、そして顔が個人の公的なアイデンティティの大きな部分を占めていることなどが挙げられる。

「顔認識と似た特性を持ち、同様に有害だが、同じような本能的な反応を引き起こさないものが実はたくさんあります」とコーネル大学の情報科学者ソロン・バロカス氏は言う。

グーグル・リサーチおよびマシン・インテリジェンスの上級科学者マーガレット・ミッチェル氏は、例えば、人の歩き方を分析したり、人の話し方のリズムをチェックしたりすることが考えられると述べた。

「機械学習は、さまざまな新しい方法を発見するだろう」とバロカス氏は語った。

AIと機械学習のリーディングカンパニーは、自社のAI製品の自主規制に取り組んでいると述べている。「Googleは、AI製品の価値観などについて、より透明性を高める取り組みを進めています」とミッチェル氏は述べた。「私が特に重視しているのは、不公平な偏見を助長しないということです。これは私のあらゆる活動に直接関係しているからです。」

一方、マイクロソフトには社内倫理委員会があり、AIソフトウェアの用途提案を審査し、倫理に反すると判断した用途については却下することもある。顔認識は最優先事項の一つだ。

しかし、自主規制だけで十分なのだろうか？ 昨年12月、マイクロソフト社長のブラッド・スミス氏は、連邦政府が顔認識技術を規制する法律を制定すべきであり、同意、第三者によるテスト、公平性、プライバシーといった問題に焦点を当てるべきだと発言した。

政府は連邦 AI 委員会を設置すべきでしょうか?

「それがどのようなものになるのか、私にはよく分かりません」とダンクス氏は述べた。「まるで『連邦内燃機関委員会』のようなものだと思っています。重要なのは、これらの技術がどのように活用されるかであり、技術単体ではありません。」

ダンクス氏の見解では、AIを規制するために全く新しい官僚機構を創設する必要はないかもしれない。

「実際、多くの分野では、既に規制権限は存在している」と彼は述べた。「不足しているのは、規制当局がそれらの権限をどのように行使し、新たな技術や企業を規制すべきかを理解するための技術的専門知識だ。その隙間に埋まらないものも出てくるだろう。そこで問題となるのは、他の新たな技術進歩と同様に、それらの隙間をいかに埋めるかということだ」

大きな例としては、個人の医療データが挙げられる。AIツールは、医療保険の携行性と責任に関する法律（HIPAA）に基づく連邦政府のプライバシー保護をはるかに凌駕する可能性があるとダンクス氏は述べた。

「例えば、推定された属性はHIPAAの対象外です」と彼は述べた。「医療データについては、ある程度の保護が強化されています。しかし、FDA承認の検査ではなくAIを使って解析した場合、それはもはや個人データとはみなされません。あくまでも『推測』であり、あくまでも引用符付きです。これは、私たちが埋めなければならないギャップの一つです。」

5月15日午後12時30分（太平洋標準時）の最新情報：ワシントン州議会は今年、顔認識技術の利用を制限するデータプライバシー法案を検討しました。1月に公開した記事では、この法案について以下のように説明されていました。

この法案は顔認識技術に関する新たな規制を定め、ソフトウェアを開発する企業に対し、消費者への使用前に同意を得ることを義務付けます。消費者は、顔認識技術が使用されているウェブサイトや物理的な空間に入る際に、目立つように通知を受ける必要があります。開発者に顔認識技術の使用を許可する企業は、第三者が精度や偏りを検証できるように、APIを公開する必要があります。

この法案は、顔認識技術の規制を公共部門にも拡大する。法案によると、政府機関は、裁判所の命令、または「差し迫った危険、または人の死亡もしくは重傷のリスクを伴う」緊急事態がない限り、公共の場での継続的な個人監視にこの技術を使用することを禁止される。

しかし、この法案は成立に至らなかった。アメリカ自由人権協会（ACLU）をはじめとする批判団体は、この法案には抜け穴が多すぎると指摘し、マイクロソフトをはじめとするテクノロジー企業が法案作成に果たした役割に異議を唱えた。これらの相違点は今年の議会会期の期限までに解決できなかったが、法案提出者であるシアトル選出の民主党上院議員ルーベン・カーライル氏は、支持者たちは来年再挑戦すると述べた。

シアトル大学アルバーズ経営経済学部主催のアルバーズ倫理週間は、マイクロソフトのIoTおよびインテリジェントエッジ担当シニアディレクター、アビジット・シンハ氏による講演「責任あるAIとモノのインターネット」で続きます。イベントは木曜日午後5時30分からピゴット・オーディトリアムで開催されます。

顔認識といえば、シアトル大学デジタルアート＆テクノロジークラブは、土曜日の正午から午後4時まで、大学レッドホークセンターで開催されるクアッドストック・ミュージックフェスティバルで「Emotion Bots」のデモンストレーションを行います。学生たちは、顔の表情から、どのような感情を表現しているかを読み取ることができます。これは、キャンパス内の様々な場所で導入される予定のクラブプロジェクトのデモ版で、来年には試験運用が開始される予定です。