AIモデルが10代の若者をどのように描写するかに関するワシントン大学の研究で、強い否定的な関連性が発見された
カート・シュロッサー著
ワシントン大学が人工知能システムが十代の若者をどのように描写するかを研究した結果、システムが十代の若者に関するメディア報道に依存していることが強い否定的反応につながっていることが判明した。
情報学部の博士課程学生ロバート・ウルフ氏とワシントン大学のチームは、異なる文化のデータでトレーニングされたモデルを比較するために、英語でトレーニングされた2つの一般的なオープンソースAIシステムとネパール語でトレーニングされた1つのシステムを検討した。
UWニュースによると、英語圏のシステムでは、AIシステムの10代に関する回答の約30%が、暴力、薬物使用、精神疾患といった社会問題に言及していました。ネパールのシステムでは、その割合は10%に近かったとのことです。研究者らはまた、米国とネパールの10代の若者グループを対象にワークショップを開催し、どちらのグループも、10代に関するステレオタイプを含むメディアデータで学習したAIシステムが、自国の文化における10代の若者を正確に表現するとは考えていないことを明らかにしました。
「10代の若者が自分自身をどのように捉えているかと、システムが彼らを描写する方法との間には、全く相関関係がないことが分かりました」とウルフ氏は述べた。「例えば、AIモデルに与えた質問に対する若者の答え方は、信じられないほど平凡なものでした。彼らはビデオゲームや友達と過ごすことについて話していたのに対し、AIモデルは犯罪やいじめといった話題を持ち出しました。」
ニュース記事は事実に基づいていることが多いものの、ネガティブなニュースに焦点を当てていることも多いため、AI システムにとって「高品質」なトレーニング データと見なされています。
「これらのモデルの学習方法に大きな変化が切実に必要です」と、ワシントン大学情報学部准教授で論文の筆頭著者でもあるアレクシス・ヒニカー氏は述べています。「ニュースの見出しを飾るようなセンセーショナルな話題ではなく、10代の若者の視点や日常の経験が、これらのシステムの学習の原動力となるような、多様な人々によるコミュニティ主導の学習が実現することを期待しています。」
この研究は、カリフォルニア州サンノゼで開催されたAAAI/ACMのAI、倫理、社会に関する会議で10月22日に発表された。
研究で使用された AI システムの詳細については、UW News をご覧ください。
