シアトル警察組合はボディカメラ分析技術の使用に反対し、警官が「監視されていた」と主張している。
カート・シュロッサー著
シアトル警察は、警官を代表する組合からの反対により、ボディカメラの映像を分析するために設計された人工知能プラットフォームの使用を中止した。
シアトル警察官組合のマイク・ソラン会長は木曜日、GeekWireに対し「基本的に警察は職員をスパイしていた」と語り、組合はシアトル警察がシカゴに拠点を置くスタートアップ企業Truleoの技術を使用していることに反対していると語った。
「組合や市と交渉したことは一切ありません。初めて聞きました」とソラン氏は、ボディカメラの音声を解析し、警官の不適切な行動の可能性を探る技術の使用について述べた。「説明責任を果たすという点において、これは現在の（団体交渉協約）に違反しています。」
国防総省は先週、AxiosとGeekWireの最近の報道に対する「反応を踏まえて」、Truleoの技術の機能性を検証することを目的としたパイロットプロジェクトを停止したと発表した。国防総省は、誰がどのような反応を示したかは明らかにしなかった。
SPDが自社製品の使用を中止した理由を説明したかとの質問に対し、Truleoの共同創業者兼CEOのアンソニー・タッソーネ氏は、GeekWireへの電子メールによる声明で、「シアトル警察組合は、SPDがTruleoとの2年間の契約更新を知り、否定的な反応を示した」と伝えられたと述べた。
「この特定の組合がこのように反応したのは残念だ。なぜなら、民間人のプライバシーを保護する責任ある方法で行われるボディカメラ分析こそが、警察の監督と指導の未来だからだ」とタッソーネ氏は述べた。
トゥルレオは2021年に初めてシアトル警察とつながり、同署は「アンカー顧客」となった。
Truleo社によると、同社のソフトウェアは、警察署が記録する数千時間分のボディカメラ映像に関連する録音をスキャンする。この技術は音声の手がかりを探し出し、パトロール警官が市民と接する際に抱える問題などのパターンを特定するのに役立つ。警察署は、問題が深刻化する前に訓練を通じて対処することができる。
ソラン氏は、第三者ベンダーが警察官の言葉をAIで分析し、皮肉や声の抑揚などの点でそれらの言葉にフラグを付け、警察官の専門性と比較して評価していることに組合は問題を抱えていると述べた。
「隊員たちは、自分たちの身体に装着されたビデオデータがAI技術と比較されていることを知らされていませんでした」とソラン氏は述べた。「彼らはスパイ行為を受けていたと断言します。これは、職員レベルどころか、人間レベルでも甚だしい行為です。」
SPDは、トゥルレオ社が現在の顧客として特定した数少ない警察署の1つであり、カリフォルニア州のアラメダ、アトウォーター、ヴァレーオの各都市のほか、フロリダ州、アラバマ州、ペンシルベニア州の警察署も含まれる。
この技術に関する最近の報道では、メンフィスでタイア・ニコルズさんが死亡した事件を受けて、この技術がより広く採用される可能性があると指摘されている。ニューヨーク・タイムズ紙によると、メンフィスでは警察が「混乱を招き、矛盾し、時には従うことすら不可能な命令を次々と発した」という。
警察官が関与していない近くの民間人の会話など、ボディカメラの音声録音をAIが誤って解釈する可能性があると懸念する声もある。ワシントン大学で人間中心設計と工学を専攻する博士課程の学生、オス・キーズ氏は、ボディカメラとAIの併用に反対の声を上げている。
タッソーネ氏は、自社の技術は、1,000以上の警察署で導入されているボディカメラによる音声記録・検索技術と「全く対照的」だと述べた。同氏によると、これらの技術は民間人と警官の音声を区別していないという。
「Truleoが警察署に選ばれているのは、市民の音声と警察官の音声を分離し、警察官の発話に焦点を絞って分析とスコアリングを行える独自の機能があるからです」と彼は述べた。「Truleoは効果を発揮しているため、組合の支援を得て、引き続き全国の警察署に導入を拡大していきます。」
SPDは以前、Truleoの技術活用について「測定可能な成果について語るには時期尚早」と述べていたものの、将来的には知見が得られる可能性があると期待していた。プロジェクトの中止を発表した後、広報担当者は「SPDは、リスク管理、職員のパフォーマンス、そして警察サービスの提供において、継続的な改善と証拠に基づくアプローチに尽力しています」と述べた。
ソラン氏は自らを新技術と新トレーニングの「熱心な支持者」と称し、社会に有益な技術を支持することが重要だと語った。
しかし、シアトル警察では過去数年間で数百人の警察官が退職し、2023年現在までに16人の警察官が退職しているという状況を挙げ、ソラン氏は、警察官の知らないところでAI技術が使われていることが、警察官が退職するもう一つの理由だと考えていると述べた。
「ここで問題となるのは、このソフトウェアが、我々の見解では、警官に無断で異なる説明責任基準を課すために使われていたということです」とソラン氏は付け加えた。「説明責任自体に問題はありません。話し合い、交渉しましょう。もしこれを懲戒処分に結び付けるのであれば、警官はそれについて知っておく必要があるからです。」
