ワシントン州議会議員は、政府による差別的なAI技術の使用を禁止しようとしている

ワシントン州は、政府による人工知能の利用に関する新たなガイドラインを策定する法案が審議中であることもあり、将来の技術規制で全米のリーダーになる可能性がある。

ワシントン州で昨年成立した画期的な顔認識法に続き、州議会議員と公民権擁護団体は、公的機関による自動化された意思決定における差別を禁止する新たな規則の制定を求めている。この法案は、「自動化された意思決定システム」を使用する政府機関に対する新たな規制を定めるものであり、このカテゴリーには、政府の意思決定を行う、あるいはそれを支援するためにデータを分析するあらゆるアルゴリズムが含まれる。

この法案は、米国において最も具体的な人工知能規制を確立するものとなるだろう。米国では、この問題は連邦レベルで実質的な対策が取られていない。法案支持者たちは、政府が既にAIシステムを導入し、現実世界に影響を与えているため、連邦政府による規制を待つことはできないと主張している。

この法案が成立すれば、ワシントン州の公的機関は、異なる集団を差別したり、ワシントン州民の憲法上または法的権利に影響を与える最終決定を下したりする自動意思決定システムの使用を禁止される。また、この法案は、政府機関が公共の場でAIを活用したプロファイリングを使用することも禁止する。政府機関が自動意思決定システムを使用する前に、当該技術が差別的でないことを証明する、公開されている説明責任報告書の提出が義務付けられる。

ワシントンのACLUと他のデジタル権利団体は、ボブ・ハセガワ上院議員（民主党、ビーコンヒル）が提案するこの法案を支持している。

長谷川氏は1月に行われた上院州政府選挙委員会の公聴会で、AIによる意思決定システムは「私たちが日々、何を、どのように行うか」に影響を与える「最も狡猾な」技術の一つだと述べた。

「保険の格付けから食料品店の場所まで、ありとあらゆることが関係しています」と彼は言った。「最も重要な格差は、有色人種への扱い方です。こうした格差がどのように存在するかを示すデータは枚挙にいとまがありません。」

この法案の支持者たちは、人工知能が歴史的に周縁化されてきた集団に対して既に差別的な行動をとっている実例を挙げた。例えば、米国司法省が昨春、新型コロナウイルス感染症に感染しやすい低リスクの受刑者の早期釈放を命じた際、連邦刑務局はPATTERNと呼ばれる自動リスク評価ツールの使用を計画していた。マーシャル・プロジェクトが指摘した司法省の評価によると、このアルゴリズムは、早期釈放に十分な低リスクと判断された黒人男性はわずか7%だったのに対し、白人男性は30%だった。

「これは本当に画期的な法案になるだろう」と、ACLUワシントン支部のテクノロジー・アンド・リバティ・プロジェクトのマネージャー、ジェニファー・リー氏はGeekWireとのインタビューで語った。

「この法案はワシントンに、アルゴリズムによる意思決定ツールが人々の生活に悪影響を及ぼしているという問題への意識を高める前例を作る機会を与えるでしょう」と彼女は付け加えた。「ワシントンには、AIとアルゴリズムによる偏見を非常に真剣に受け止めていることを示す絶好の機会が本当にあるのです。」

公聴会では、法執行機関とテクノロジー業界の代表者が証言を行い、立法府に対し、どの技術が規制の対象となるのかを明確にするよう求めた。彼らは、赤信号カメラや指紋認証といった自動化の標準的な用途が、法律の下で過度の負担となる可能性があることを懸念している。

「この法案の目的と必要性には完全に賛同します」と、インターネット協会のロビイスト、ヴィッキー・クリストファーセン氏は述べた。「私たちは、赤信号カメラ、速度制限区域、身分証明書システムの使用、経験年数などの客観的なデータに基づく従業員選考基準など、ごく一般的な用途に意図しない影響が生じないようにしたいのです。」

ワシントン州保安官・警察署長協会の政策ディレクター、ジェームズ・マクマハン氏は、法執行官候補者の定期的な審査やDNAおよび銃器の分析が規制の対象となると予想していると述べた。

「管轄区域内で犯罪活動が最も活発な地域において、犯罪報告書やアルゴリズムを用いてパトロール資源の配分先を提案する機関があります」とマクマハン氏は公聴会で述べた。「これらの多くは、誰もが同意するであろう正当な公共利用であり、今後も議論を継続していくよう求めます。」

しかし、一部の公民権活動家は、犯罪発生率が最も高い地域を特定するアルゴリズムなど、一見無害に見える使用例でさえ、意図せずして制度的差別を永続させてしまう可能性があると主張している。

「これは、将来犯罪が発生する場所を予測するのではなく、過去に警察が警備した場所の履歴に依存します。この種のアルゴリズムは、実際に犯罪を減らすのではなく、警察活動における既存の人種的偏見を実際に再現する可能性があります」とリー氏は述べた。

ワシントン州が制定されれば、米国におけるAI規制の先駆者となるだろう。ワシントン州のような法案を追跡している全米州議会会議によると、2020年にはいくつかの州が様々なAI規制の成立を試みたが、いずれも成功しなかった。ニュージャージー州も、現在の州議会会期中に、自動化された意思決定システムによる特定の種類の差別を禁止する法案を検討している。他の州では、人工知能技術がもたらす影響を検討または研究することを約束する法案が可決されている。

ワシントン州議会で審議中の法案は先週、州政府・選挙委員会を通過し、予算に影響を与える可能性のある法案を審査する歳入委員会に付託された。