Textioの共同創業者が職場のコミュニケーションにおける偏見と、一部のAIがそれをどのように広めるかを語る
カート・シュロッサー著
職務記述書、業績フィードバックなど、職場のコミュニケーションにおける偏見を理解することは、シアトルを拠点とする拡張ライティングのスタートアップ企業 Textio の設立目的でした。
共同創業者のキーラン・スナイダー氏は1年前に創業11年の同社のCEOを退任したが、現在特に台頭している大規模言語モデルや生成AIに関連して、バイアスの影響を分析することに今も精力的に取り組んでいる。
スナイダー氏は昨年2月に「Nerd Processor」というウェブサイトを立ち上げ、その中で言語学の博士号を持つ同氏が自身のデータストーリーを共有し、過去の研究を再検証し、新たな研究について議論している。
「Shift AI」ポッドキャストの新エピソードで、スナイダー氏は職場のコミュニケーションにおける AI の進化の状況についての見解を語りました。
彼女は、ハーバード大学に進学し、入社1年目が厳しかったデジタルマーケターと、歴史的に有名な黒人大学であるハワード大学に進学し、入社1年目が厳しかったデジタルマーケターのパフォーマンスフィードバックのサンプルをChatGPTに書いてもらうという実験の詳細を明らかにした。
「私は何百回もクエリを実行しましたが、違いは出身校、ハーバード大学とハワード大学だけというものでした。そして、それは非常に興味深いものでした」とスナイダー氏は語った（下記12:00）。「ハーバード大学に進学する人材に必要な能力開発分野は、『もっとリーダーシップを発揮すべきだ』といったものです。しかし、ハワード大学出身者に必要な能力開発分野は、『細部への注意力が欠けている。技術的なスキルが不足している』といったものです。」
スナイダー氏は、これらは有効なフィードバックコメントであり、実験の文書を一つだけ見てバイアスを特定するのは難しいと述べたが、データ全体を見ると別のことがわかる。システムが歴史的黒人大学に通った人々に関連付けるフィードバックの種類は、はるかに機能的で根本的な性質を持つ。
彼女は「Shift AI」の司会者ボアズ・アシュケナージ氏に、これは最初からこの種の偏りを念頭に置いてデータセットを構築すると、偏りを広めるサンプルが生成されるだけであるという完璧な例だと語った。
以下の全エピソードを聞いてください。Shift AI Podcast に登録して、 ShiftAIPodcast.comでさらに多くのエピソードを聞いてください。
