Q&A: Nextdoor CEOがソーシャルネットワークの人種プロファイリング対策を説明
地域密着型ソーシャルネットワーク「Nextdoor」は近年爆発的な人気を博し、その過程で論争を巻き起こしてきました。批評家たちは、このサイトが部外者への恐怖心や近隣住民間の人種差別を助長していると批判しており、Nextdoorはこうした声に大胆に対抗しています。
サンフランシスコに拠点を置く同社は5月以来、全米各地で人種プロファイリングを禁止するための機能をテストしてきました。本日、この変更を全米で展開します。水曜日の朝から、全米11万のNextdoorコミュニティのユーザーは、「不審な活動」および「犯罪と安全」カテゴリーに投稿する際に、新しいガイドラインに従うことになります。変更には、人種プロファイリングに関する一連の注意喚起と、不審者を報告する際の2段階の説明が含まれます。
Nextdoorは、ユーザーが不審な行為を報告する際に記入するフォームを変更しました。現在では、まず人種以外の特徴（髪型や服装など）を入力するよう求められます。これらの情報を入力すると、次に人種、性別、年齢などの基本情報を入力するよう求められます。
投稿に人種以外の十分な身元情報が含まれていない場合、ユーザーは投稿を公開できません。既存ユーザーの一部に不快感を与える可能性のある今回の変更は、ソーシャルメディアサイトとしては非常に異例です。しかし、NextdoorのCEO兼共同創設者であるニラヴ・トリア氏は、今回のアップデートはビジネス上のものではなく、個人的な問題だと述べています。
「ある程度、解決策の一部となるか、そうでないかのどちらかです」と、トーリア氏は本日GeekWireとのインタビューで述べた。「私たちは解決策の一部になりたいのです。Nextdoorの従業員としてだけでなく、一人の人間として、そうする道徳的義務があると感じています。」
外部からの圧力も影響しました。Nextdoorは、近隣住民からの要請を受けて、これらの変更について検討を始めました。オークランドを拠点とする2つの活動家団体、「Neighbors for Racial Justice」と「100 Black Men」が、人種差別的な投稿への懸念を表明し、Nextdoorに連絡してきました。Nextdoorは、これらの団体や他の専門家と協力して、新機能を開発しました。
GeekWireは、人種プロファイリングを禁止するという型破りな決断について、Tolia氏にインタビューしました。編集後のQ&Aは以下をご覧ください。
GeekWire: Nextdoor はなぜ人種プロファイリングを禁止することにしたのですか?
トリア：人種プロファイリングは、私たちが会社を設立した目的であるミッションに完全に反しています。私たちの目標は、テクノロジーを活用して近隣の人々を結びつけ、より強固で安全な地域社会の構築を支援することです。人種プロファイリングは分断を生み、差別を助長し、地域社会に大きな害をもたらす可能性があります。つまり、私たちが達成したいことのほぼ全てと正反対なのです。
GW:パイロット プログラムを開始して以来、変更はどの程度効果的でしたか?
トリア:私たちは過去 8 か月間に一連の変更を行ってきましたが、最近では、メンバーが犯罪や安全に関するメッセージを作成するときにまったく新しい投稿プロセスをテストしており、その一連の改善により、人種プロファイリングの事件が 75 パーセント減少したことを誇りに思っています。
GW:それをどうやって測定できるのですか?
トリア：これは統計的に有意な分析で、ある程度の期間をかけて、11万の地域のうち約70%の地域について、犯罪と安全に関するカテゴリーのすべての投稿を大まかに分析しました。これらの投稿すべてにおいて、人種に関する言及があれば、手作業で読みました。手作業で読み取る際には、二重盲検法と冗長法を採用しました。社内外の、性別や人種の異なる複数の担当者が、投稿の出所や作成元などを知らされずに、投稿を読み、個別に評価しました。そして最終的に、これらの情報をすべて統合し、統計的回帰分析を行いました。その結果、どのフォームセットが最も効果的だったかを順位付けしました。その結果、人種プロファイリングが75%減少しました。
かなり厳密な分析でした。数ヶ月にわたって実行し、何千もの投稿を手作業で調べました。
GW:変更に対して否定的な反応はありましたか?
トリア：私たちは言論の自由を抑圧し、人々の投稿をブロックしていると非難されることがあります。しかし、そういう人たちは私たちが何をしたのか正確には理解していないと思います。実際には何もブロックしていません。Nextdoorに犯罪や安全に関する投稿をする際に、人種について言及していなければ、何の変更もありません。人種について言及している場合は、より詳しい情報の提供を求めますが、投稿をブロックすることはありません。ただ、人種しか説明できない投稿はできないのです。つまり、「肌の色の濃い男がこの車に侵入した」などと書くことはできません。これは明らかに人種プロファイリングに当たるからです。「身長190センチくらい、20代半ばに見える、黄色いシャツと赤いズボンを着た肌の色の濃い男が車に侵入した」などと書くのは可能です。ですから、これらの変更によって人々の投稿がブロックされたという誤解があるように思いますが、実際に変更を経験した人からそのようなフィードバックは受けていません。それはむしろ感情的な反応です。
GW： Nextdoorはベイエリアの団体とこれらの問題について話し合ってきたと聞いています。シアトルでも同様の団体と連絡を取っていらっしゃいますか？
トリア：いいえ、連絡はありません。シアトル警察は私たちの既存のパートナーなので、フィードバックを求めています。
きっかけは、1年ちょっと前、オークランドのコミュニティグループからNextdoorをとても気に入っているという連絡を受けたことです。彼らはNextdoorの投稿を見て、善意から投稿されたものの、人種全体をプロファイリングしているため、実際にはやや破壊的な影響が出ていると感じたそうです。
これらの改善はすべて、地域団体とのワーキングセッションを通じて実現しました。「人種正義のための隣人」や「100人の黒人男性」といった団体、オークランド警察、オークランド市（副市長と市議会議員の一人を含む）、そしてACLUや司法省から雇った様々なコンサルタントの協力も得ています。
私たちは人種的平等の専門家だとは思っていませんでした。人種的平等については、私たちが学ぶ必要があり、専門家に助けを求める必要がありました。そして、私たちは共同でこれらの変化を生み出してきました。
GW：人種プロファイリングの禁止は、Nextdoorのようなプラットフォームにとっては非常に大胆な動きです。他のソーシャルネットワークと何が違うのでしょうか？
トリア：最大の違いは、Nextdoorは現実世界のコミュニティを重視している点です。Facebookは毎日会う友達と繋がりますが、Facebookの友達の多くは実際に会う人ではありません。Twitterでは、一度も会ったことのない人をフォローして交流することができますし、Instagramでも同じです。
Nextdoorは、皆さんがほとんどの時間を過ごす現実世界で何が起こっているかを映し出す鏡として機能することを目指しています。これは根本的に異なります。住所確認が必要な点も根本的に異なります。完全にプライベートである点も根本的に異なります。私たちにとって究極の成功とは、Nextdoorでの会話が現実世界での交流につながることです。私たちは皆さんをNextdoorに閉じ込めたいわけではありません。Nextdoorは、皆さんが近所の人たちと知り合い、直接コミュニケーションをとるためのきっかけとなるものであり、これは全く異なるものです。私たちはソーシャルネットワークを名乗っていますが、実際にはコミュニティ型のフォーラムに近い存在です。
GW:他のプラットフォームでは考えられないような人種プロファイリング対策を講じようと思ったのは、そのためですか?
トリア： 私たちは非常に忙しいので、私たちの考え方についてしかお話しできませんが、人種差別は今日の社会が直面している最も分断的な問題の一つだと考えています。ある程度、解決策の一部となるか、そうでないかのどちらかです。私たちは解決策の一部でありたいと思っています。Nextdoorの従業員としてだけでなく、一人の人間として、そうする道徳的義務があると感じています。
同僚全員、そして従業員全員が、この問題について非常に強い思いを抱いていることを私は知っています。これは私たちにとって個人的な問題であり、ビジネス上の問題ではありません。同時に、非常に難しい問題であるため、ウェブサイトの変更や新しいフォームの導入などで人種差別がなくなるとは考えていません。これは馬鹿げた発言です。しかし、私たちは、この問題を前進させ、食い止めるために、自らに非常に強い責任を感じています。
