ブラッド・スミスの本は、失敗したチャットボット「Tay」をめぐるポップスターとの衝突を描いている。「マイクロソフトを振り払え」
カート・シュロッサー著
休暇中にテイラー・スウィフトの弁護士からのメールほど、注目を集めるものはない。マイクロソフト社長のブラッド・スミス氏もまさにそうだった。彼は新著の中で、このテック界の巨人とポップスターをめぐる論争を回想している。
スミス氏がマイクロソフトのコミュニケーションディレクター、キャロル・アン・ブラウン氏と共著した「ツールと武器：デジタル時代の約束と危うさ」によると、今回の騒動は、マイクロソフトが2016年に米国で「Tay」と名付けたチャットボットを導入したことが中心となった。このAIベースのソーシャルボットは、中国では既に「XiaoIce」という名前で人気を博しており、「日々の出来事、問題、希望、夢」について会話をしたい600万人のユーザーを集めていた。ギズモードは火曜日、Tayのその後の顛末を報じた。
「私たちはテイラー・スウィフトの代理人です。彼女に代わって、このメールをお送りしています」と、米国でボットが稼働を開始した際にスミス氏が受け取ったメールには書かれていた。ビバリーヒルズの弁護士はさらに、「ご存知のとおり、『Tay』という名前は依頼人と密接な関係があります」と述べた。スミス氏によると、弁護士はTayという名前の使用が人気歌手とマイクロソフトのチャットボットの間に虚偽かつ誤解を招くような関連性を生み出し、連邦法および州法に違反していると主張したという。
スミス氏は、同社の商標弁護士はこの主張に同意していないが、マイクロソフトは争いを起こすつもりはなく、他にも多くの名前から選ぶことができると述べた。
しかし、チャットボットの名前をめぐる論争にとどまらず、「テクノロジーに対する世界の嗜好の違いが明らかになった」。スミス氏は、名前は「問題の始まりに過ぎなかった」と述べた。
Tayは会話のフィードバックに基づいて人と交流するように訓練されていました。Twitterの「いたずら好き」たちは予想通り、Tayをわずか1日余りで人種差別的な荒らしに仕立て上げ、マイクロソフトはTayを削除せざるを得ませんでした。スミス氏は、これは異文化間の規範だけでなく、より強力なAI安全対策の必要性を示唆する教訓だったと記しています。2016年3月25日、マイクロソフトはブログ投稿でTayの「意図せず不快で傷つけるツイート」について謝罪しました。
ギズモードは、Tayは2018年にZoとして再リリースされ、政治、人種、宗教に関する議論を避けるようにプログラムされていたと報じた。
以下のGeekWireのスミス氏とのポッドキャストインタビューをご覧ください。
