テイラー・スウィフトのAIディープフェイク画像について問われたマイクロソフトCEOサティア・ナデラ氏は「行動を起こさなければならない」と述べた。
トッド・ビショップ著
以下、Microsoft の声明を更新しました。
NBCナイトリーニュースは、火曜夜に放送予定のサティア・ナデラ氏とのインタビューの抜粋を公開した。このインタビューでは、司会者のレスター・ホルト氏が、今週ネット上に出回ったテイラー・スウィフトの露骨なディープフェイク画像についてマイクロソフトCEOに詰め寄り、この問題に対して行動を起こす責任があるかどうかを質問している。
「まず第一に、これは絶対に憂慮すべき、恐ろしいことだと私は思う。だから、私たちは行動を起こさなければならない」とナデラ氏は述べた。
404 Mediaの報道によると、偽の露骨な画像は「女性に対する虐待画像を専門とする特定のTelegramグループ」から発信されたもので、同グループでよく使用されるAIツールの少なくとも1つは、OpenAIのDALL-E 3の技術を一部ベースとしたMicrosoft Designerであると指摘している。
部分的な書き起こしからは、ナデラ氏がテイラー・スウィフトの画像と今回の件におけるマイクロソフトの責任について具体的に反応しているのか、それともこの事件に代表されるディープフェイクの問題全般について反応しているのか、あるいはその両方について反応しているのかは完全には明らかではない。
以下はNBCナイトリーニュースが発表した抜粋です。
レスター・ホルト：今、インターネットは偽物、特にテイラー・スウィフトの性的に露骨な偽画像で溢れています。このことから、この技術について何が分かりますか？そして、歯磨き粉をチューブに戻すことはできるのでしょうか？
サティア・ナデラ：2点申し上げたいと思います。1つ目は、改めて私たちの責任についてです。それは、より安全なコンテンツが生み出されるよう、テクノロジーの周囲にあらゆるガードレールを設けることです。やるべきことは山ほどあり、すでに多くのことが実行されています。しかし、これは世界的、社会的、つまり、ある規範への収束に関わる問題です。そして、特に法律、法執行機関、そしてテクノロジープラットフォームが連携すれば、私たちは自分たちが考えている以上に、はるかに多くのことを統治できると考えています。
ホルト：しかし、テイラー・スウィフトの画像で私たちが目にしたのは、警鐘を鳴らすようなことでしょうか？
ナデラ：その通りです
ホルト：何ができるという点では？マイクロソフトは高い社会的責任を負っています。ご存知の通りです。しかし、このゲームには、同じような恩恵を受けていない企業も存在します。
ナデラ：まず第一に、これは本当に憂慮すべき、恐ろしい事態です。だからこそ、私たちは行動を起こさなければなりません。率直に言って、テクノロジープラットフォームに関わる私たち全員にとって、特定の問題に対する立場に関わらず、オンラインの世界が安全であれば、皆が恩恵を受けると考えています。ですから、コンテンツ制作者にとっても、コンテンツ消費者にとっても、全く安全ではないオンラインの世界を望む人はいないでしょう。だからこそ、私たちは迅速に行動を起こすべきだと考えています。
最新情報：マイクロソフトの広報担当者は、次のように述べています。「当社は、すべてのお客様に安全で敬意ある体験を提供することに尽力しており、これらの画像の出所は現時点では不明です。細心の注意を払い、調査を進めており、当社のサービスがこれらの画像の生成に利用されることを防ぐため、既存の安全システムを強化しました。」
同社のAzure OpenAIサービス行動規範では、成人向けコンテンツや「合意のない親密なコンテンツ」の作成にツールを使用することを禁止しており、マイクロソフトは、ポリシーに反するコンテンツを繰り返し作成しようとすると、サービスへのアクセスを失う可能性があると述べている。
さらに同社は、責任あるAI原則に沿って、ガードレールやその他の安全システムを開発するチームを擁していると述べています。これには、「システムの不正使用を軽減し、ユーザーにとってより安全な環境を構築するためのコンテンツフィルタリング、運用監視、不正使用検出」が含まれます。
このインタビューは1月30日火曜日、NBCナイトリーニュース・ウィズ・レスター・ホルトで放送される。
