ワシントン大学の研究者によると、AI画像ソフトウェアはステレオタイプのギャラリーを生成するという。
リサ・スティフラー著
北米出身の人物やベネズエラ出身の女性を想像するように言われたら、どんな姿をしているでしょうか？ AI搭載の画像プログラムに同じ質問をすれば、ソフトウェアはステレオタイプな回答を生成する可能性が高いでしょう。
「人」は通常、男性で肌の色が薄い人です。
ラテンアメリカ諸国の女性は、ヨーロッパやアジアの女性よりも性的対象として扱われることが多いでしょう。
ノンバイナリージェンダーの人々や先住民の人々はほとんど存在しないでしょう。
これらはワシントン大学の研究者による最新の研究結果であり、彼らは来週シンガポールで開催される「2023年自然言語処理における実証的手法に関する会議」で研究成果を発表する予定だ。
研究者たちは、オープンソースのAI画像生成ツール「Stable Diffusion」を用いてテストを行った。プログラムに音声プロンプトを与え、6大陸26カ国から「人物の正面写真」を作成するよう指示した。また、ワシントン大学の研究者たちは、人物、男性、女性、ノンバイナリーなど、異なる性別のプロンプトも使用した。
研究者たちは大陸の画像と国別の画像を比較し、それぞれの類似度をスコア付けした。例えば、オーストラリア、パプアニューギニア、ニュージーランドを含むオセアニア出身者の写真を作れという課題では、パプアニューギニアがオセアニア地域で2番目に人口が多く、住民の大部分が先住民であるにもかかわらず、肌の色が薄い人物が最も多く生成された。
安定拡散モデルが自らの画像に「職場で閲覧不可」というラベルを付け始めた後、ワシントン大学のチームはほぼ偶然に、さまざまな国籍の性的対象化について調査した。
研究チームはNSFW検出器を用いて、画像を「セクシー」から「ニュートラル」までスコア付けした。例えば、ベネズエラ出身の女性は「セクシー」スコア0.77、米国出身の女性は0.32、日本出身の女性は0.13という結果となった。
画像生成モデルは、インターネットから収集されたキャプションとペアになった画像の公開データセットでトレーニングされました。
他の研究者たちは、AIツールが女性を従順で無力で家庭的な役割に就いていると描写することが多く、男性は支配的で好感の持てる職業に就いていると描写していることを明らかにしました。ワシントン・ポスト紙の記者たちは、安定拡散モデルが無生物にさえステレオタイプを適用していることを発見しました。「イラクのおもちゃ」は銃を持った兵士の人形として描写され、「インドの家」は埃っぽい道路に建つ粘土でできた建物として描写されました。
「AIは多くの機会をもたらしますが、その進化のスピードが速すぎるため、問題を時間内に解決できず、急速かつ指数関数的に拡大し続けます。」
– Aylin Caliskan、UW 情報学校
研究者はテキストを画像に変換するツールを使って、人種、国籍、性別、宗教、収入に関する固定観念を繰り返し実証することができるが、問題の意味と解決策はそれほど単純ではない。
「このような結果を生み出し、永続させる上での社会的慣習の影響をより深く理解する必要がある」と、この研究に携わったワシントン大学人間中心設計工学部の博士課程の学生、ソウロジット・ゴーシュ氏は述べた。
「『より良い』データがこれらの問題を解決できると言うのは、多くのニュアンスを見逃しています」と、彼は研究発表で述べた。「安定拡散法が『人』と『男性』を常に結び付けている理由の多くは、これらの用語が何世代にもわたって社会で互換性があることに起因しています。」
ChatGPTの開発元であるOpenAIの無料画像ジェネレーターDALL-Eのユーザーも、このソフトウェアに同様の偏りがあることを明らかにしている。
「AIは多くの機会をもたらしますが、その進化のスピードが速すぎて、問題を時間内に解決できず、急速かつ指数関数的に拡大し続けています」とワシントン大学情報学部のアイリン・カリスカン助教授は述べています。
カリスカン氏は、米国国立標準技術研究所の助成金を受けて行われたこの研究に貢献した。
政府、規制当局、機関は、テクノロジーの進化を導くどころか、それに追いつくのにも苦労している。
シアトル市は今月初め、バイデン大統領によるAIに関する大統領令に基づき、生成AIツールの使用を規制する方針を発表しました。8月には、マイクロソフトのブラッド・スミス社長が米国上院委員会でAI規制に関する証言を行いました。
