ワシントン大学の退職したコンピュータサイエンス教授が、AI倫理と「キャンセルカルチャー」をめぐるTwitterでの論争に巻き込まれる

ワシントン大学コンピューターサイエンス学部は、AI倫理、ティムニット・ゲブル氏の物議を醸したGoogle退職、いわゆる「キャンセルカルチャー」などをめぐる討論をめぐり、退職した教授がオンラインで行ったコメントを非難した。

長年のAI研究者であるペドロ・ドミンゴス氏とワシントン大学の対応をめぐる白熱した議論は、物議を醸すテーマに関する公共の議論の複雑さを如実に示しています。また、人工知能の社会的影響に関する未解決の疑問を浮き彫りにし、政治と学界、そしてテクノロジー業界が衝突した際に起こり得る反発の最新の例となっています。

1999年にワシントン大学の教授に加わり、 『マスターアルゴリズム』 の著者でもあるドミンゴス氏は、神経情報処理システム（NeurIPS）会議が投稿論文に倫理審査を用いている理由に疑問を呈したことがきっかけで、Twitter上で最初の議論が巻き起こった。

「NeurIPSの論文が『倫理審査』を理由に却下されているのは憂慮すべき事態だ」と彼は先週ツイートした。「このような審査におけるイデオロギー的偏見をどう防げばいいのだろうか？ いつから科学会議が技術論文の倫理性を監視するようになったのだろうか？」

彼の意見は、他のトップデータサイエンティストや NeurIPS の関係者から多くの反響を呼びました。

「ここで問題なのは、彼のような人たちが、定性的な仕事のスキルがないことを認める謙虚さを欠き、すべてを『危険な道』と片付けてしまうことです」と、パリティの創設者であり、アクセンチュア・アプライド・インテリジェンスで責任あるAIの元グローバルリーダーを務めたルマン・チョードリー氏はツイートした。「定性的な手法には厳密さが求められます。倫理的な評価は一般化可能で持続可能なものになり得ます。」

その後、Twitterでの議論は、昨年のNeurIPS改名決定へと移りました。以前の名称であるNIPSには、人種差別的な中傷や性差別的な表現が含まれているため、懸念が寄せられていました。

これをきっかけに、ドミンゴス氏と、カリフォルニア工科大学の教授であり、NVIDIAの機械学習研究ディレクターで、会議名称変更の嘆願運動を主導したアニマ・アナンドクマール氏との長きにわたる議論が始まりました。「nips」という単語のウェブ検索結果に関する議論の中でポルノグラフィーの話が持ち上がり、NeurIPS 2020の多様性と包括性担当委員長であるキャサリン・ヘラー氏と、コロラド大学コンピュータサイエンス学部長であるケン・アンダーソン氏が反応しました。

火曜日の時点で、アナンドクマール氏のTwitterアカウントは停止していた。彼女はこの件についてコメントを控えた。 最新情報： アナンドクマール氏は水曜日に自身のブログで公式謝罪を投稿した。彼女はまた、「自分の安全と、愛する人たちの不安を軽減するため」Twitterアカウントを停止したと述べた。

NeurIPSは、倫理、公平性、包括性、行動規範に関する声明をホームページに掲載しました。私たちは同会議にコメントを求めています。

「ソーシャルメディア上で最近行われている議論を観察し、コミュニティとして、発言や行動が仲間、そして未来のAI / MLの学生や研究者に与える影響を念頭に置く必要があることを改めて強調する必要があると感じています」と声明は述べています。「NeurIPSとAI / MLコミュニティ全体は、すべての人にとって協力的で歓迎的な環境を育む責任を負っています。したがって、NeurIPSの使命と行動規範に反する発言や行動は容認できず、今後も容認されることはありません。」

Twitterの雑談では、GoogleのAI倫理研究のトップ研究者であるゲブル氏の最近の退職についても深く掘り下げられ、彼女が会社から解雇されたのか、それともAI倫理論文をめぐる論争を受けて辞任したのかが議論された。ドミンゴス氏は、ゲブル氏が「Google AI内に有害な環境を作り出していた」とツイートし、ゲブル氏が解雇を否定しているにもかかわらず、自身は解雇されていないと主張した。

その後、ヘラー氏はドミンゴス氏にツイートし、同氏がNeurIPSの行動規範に違反していると述べた。

その夜遅く、ウィスコンシン大学アレン校コンピュータサイエンス・エンジニアリング学部はTwitterで長文の声明を発表しました。学部幹部は、ドミンゴス氏が「Twitter上で個人を軽蔑し、AI倫理に関する正当な懸念を軽視する炎上行為」を行ったこと、そして「常軌を逸した」という言葉を使ったことに異議を唱えました。声明全文は以下のとおりです。

#UWAllen の指導部は、本学の名誉教授（退職）であるペドロ・ドミンゴス氏をめぐる最近の「議論」を認識しています。コミュニティの一員が、個人を軽視し、AI倫理に関する正当な懸念を軽視するTwitterでの炎上騒動に関与することを容認しません。テクノロジーの恩恵を受けていない集団をさらに疎外するためにテクノロジーが利用されることへの懸念を、彼が軽視したことに異議を唱えます。潜在的な危害があるからといって、必ずしも特定の研究分野の価値が否定されるわけではありませんが、その影響を考慮する義務は誰一人としてありません。そして、そのような潜在的な危害に対抗する方法については意見の相違があるとしても、様々な方法を試すことを支持すべきです。

また、「狂っている」といったレッテルの使用にも強く反対します。このような言葉遣いは容認できません。コミュニティのすべてのメンバーの皆様には、常に敬意を払い、協調的な態度でご自身の意見を表明していただくようお願いいたします。

私たちは、研究者の方々にAI倫理、テクノロジーにおける多様性、そして産業界と研究機関の関係といった問題に積極的に取り組むことを奨励しています。これらはすべて、私たちの分野と世界にとって極めて重要です。しかし、ソーシャルメディア上では、逆効果で扇動的、そしてエスカレートする議論が頻繁に起こることを、私たちはよく知っています。

ペドロ氏には、ツイートは個人として投稿しており、アレン・スクールやワシントン大学を代表するものではないことを明確にするよう求めました。さらに、このような言説のあり方そのものが有害であり、不適切であると主張します。

アレンスクールは、AI倫理と公平性について具体的な取り組みに取り組んでいます。この取り組みは現在も継続しており、多くの活動はウェブサイトに掲載されています。

重要な要素の 1 つは、カリキュラムに倫理を含める範囲を広げ、テクノロジーが特に社会的に疎外されたコミュニティに及ぼす可能性のある非常に現実的な影響について学生が考えられるように準備することです。

近年、大学院レベルと学部レベルの両方でこのトピックに関する複数のクラスが追加されており、カリキュラムのその側面を拡大するために引き続き取り組む予定です。

本校は、よりインクルーシブな教育活動を推進し、私たちの活動が人々や地域社会に与える影響を考慮することを約束しました。地域社会の内外を問わず、反対意見を唱える人々に阻まれることがあっても、私たちはこれらの目標を達成するために必要な努力を惜しみません。

署名：
アレンスクールのリーダーシップメンバー
マグダレーナ・バラジンスカ教授兼ディレクター
ダン・グロスマン教授兼副ディレクター
河野忠義教授兼多様性・公平性・包摂担当副ディレクター
エド・ラゾウスカ教授兼開発・アウトリーチ担当副ディレクター

ドミンゴス氏は、学校の対応を「ツイッターの暴徒の前で怯むようなもの」と表現した。

昨年アレン・スクールの校長に就任した、著名な研究者であり教育者でもあるマグダレーナ・バラジンスカ氏に話を伺いました。彼女はこの件について以下のように語っています。

アレン・スクールのリーダーとして、私の最優先事項の一つは、多様性、公平性、そして包摂性を備えた文化と環境を促進することです。また、たとえ物議を醸す可能性のある問題であっても、人々がオープンに、共感を持って、いじめなく議論できる環境を深く大切にしています。先週Twitterで起こった出来事を目の当たりにし、心が痛みました。私たちは団結する方法を見つける必要があります。テクノロジー業界全体がこれらの目標に向けて取り組むべきであり、やるべきことは山積みです。

アレン・スクールの長年のリーダーであるエド・ラゾウスカ氏は、学部は学問の自由と言論の自由に尽力していると語った。

「私たちは、物議を醸す問題を含め、誠実な対話を奨励しています」と彼は述べた。「しかし、コミュニティのメンバーには、個人攻撃を避け、人々の実体験を軽視することなく、敬意を払い、協調的で、建設的な方法で対話に参加することを期待しています。ペドロはこれらの基準を満たしておらず、私たちは自分たちの立場を明確にする必要があると感じました。」

ラゾフスカ氏はさらに、「ペドロにはツイートする権利があります。学校は彼の意見から距離を置くことが重要だと感じました」と付け加えた。

GeekWireとのメールのやり取りの中で、ドミンゴス氏はアレンスクールは「私の意見を表明する権利を擁護し、機械学習コミュニティに降りかかる悪臭から私を解放する私の努力を支援すべきだった」と述べた。

「その代わりに、彼女たちはこれまで通り、極左集団に敬意を表すことを選んだのです」とドミンゴス氏は、ワシントン大学のコンピューターサイエンス教授スチュアート・リージス氏に言及して述べた。リージス氏は2018年の論文で、ソフトウェアエンジニアリング分野で女性が少ないのは、制度的な障壁によって技術職へのキャリアを阻まれているのではなく、個人的な好みによるものだと主張し、批判を浴びた。

レジス氏はGeekWireに対し、アレンスクールが「ペドロを犠牲にした」ことに失望していると語った。

「彼は、ティムニット・ゲブル氏のGoogle解雇をめぐる活動、そしてAI研究のあらゆる側面に倫理審査を導入しようとする新たな取り組みについて、重大な疑問を提起しました」とレジェス氏は述べた。「彼が犯した最大の罪は、『常軌を逸した活動家』と呼んだことです。彼を解任しようとする集団的な反応は、彼の反対派とアレンスクールの指導部が、問題を探求するための有意義な対話に応じる意思がないことを示しています。」

ドミンゴス氏は、このツイッターでの論争は、機械学習コミュニティが「政治的正しさと極左政治によって徐々に締め上げられている」ことを浮き彫りにしていると述べた。

「より大きな問題は、機械学習に限らず、学界やテクノロジー業界全体が、研究の基盤となる自由な意見交換を拒否し、ますます極左寄りの正統主義を押し付けようとしている集団によって締め上げられていることです」と彼はGeekWireに語った。「人々は彼らの攻撃を恐れて暮らしています。」

2010年にワシントン大学で博士号を取得したオレゴン大学の准教授ダニエル・ロウド氏は、「私の博士課程の指導教官と共同研究者によるこれらのコメントを公に否認し、距離を置きたい」とツイートした。

AI論文の倫理審査に関するドミンゴス氏の最初のツイートに対する反応は、テクノロジーが日常生活にますます浸透する中で、AI倫理の差し迫ったジレンマを反映している。

AI研究の倫理的影響を考慮することは「絶対に不可欠」だと、シアトルのアレン人工知能研究所のCEOを務めるワシントン大学コンピューターサイエンス名誉教授（退職）のオーレン・エツィオーニ氏は語った。

「とはいえ、オンライン攻撃や自由な意見交換を拒否する姿勢についてのペドロ氏の見解に異論を唱えるのは難しい」とエツィオーニ氏は述べ、ギークワイヤーへのインタビューは個人としてであり、いかなる機関の代表としてでもなく、あくまで個人的な意見として行ったと指摘した。

エツィオーニ氏は、父親が立ち上げた「市民対話」というプラットフォームを称賛した。このプラットフォームは、差し迫った問題に関する議論を促している。また、AIソフトウェア開発者に倫理的負担を意識させるため、2018年に自らが制定した「ヒポクラテスの誓い」についても言及した。

ドミンゴス氏のツイッターでの発言について尋ねられたシアトル大学の上級講師でAI倫理の専門家であるネイサン・コラナー氏は、「彼の根本的な考え方は、AIにおける倫理的懸念は誇張されており、特にアルゴリズムの偏りに関しては倫理学者が懸念を過剰に取り上げすぎているということのようだ」と述べた。

「それは間違った考え方だと思います」とコラナー氏は述べた。「まず第一に、アルゴリズムが『中立的』であるかどうかについて、正当な議論の余地はありません。また、かつてよく耳にしていたように、AIが人間の偏見をなくすことはできないことも明らかです。しかし、人間の偏見がアルゴリズムの偏見よりも深刻な問題なのか、それともそれほど深刻ではないのか、まだはっきりしていません。」

コラナー氏は、AIイノベーションが急速に進む中で、答えが必要な未解決の疑問が数多くあると述べた。AI倫理コミュニティは「まさに混乱状態にある」と述べ、アレン・スクールの声明を支持すると付け加えた。コラナー氏は、シアトル大学にある倫理・変革技術イニシアチブのマネージングディレクターを務めている。この研究所はマイクロソフトからの寄付によって設立された。

「健全な議論はすべての人の思考を研ぎ澄まします」とコラナー氏は言う。「しかし、AI倫理コミュニティの私たちは、真剣かつ時間的制約のある仕事をしなければならないので、気を散らすのは役に立ちません。だからこそTwitterは『フォロー解除』ボタンを作ったのです。」