ニルヴァーナのクリス・ノヴォセリックと他のマイクロソフト株主がAIの安全性について同社に圧力をかける

マイクロソフトは、長期的な株主価値を犠牲にして、人工知能への投資を急ぎすぎているのではないか？これが、木曜日の朝に行われた同社の株主総会で重要な問題となった。

伝説のバンド、ニルヴァーナの共同設立者でありミュージシャン兼作家でもあるクリス・ノヴォセリック氏は、同社に対しAIイニシアチブの影響を慎重に調査し報告するよう求める株主イニシアチブのスポークスマンを務めた。

ノボセリック氏は、バーチャル会議中に再生されたビデオの中で、マイクロソフトが生成AI製品の市場投入を急いでいると主張し、同社はAIのリスクをより考慮し、対処する努力をすべきだと述べた。

彼は、社会や世界への潜在的な影響だけでなく、企業にとっての長期的な法的、規制的、評判上のリスクも指摘した。

「マイクロソフトが昨年2月に生成AIを搭載したBingをリリースした際、多くのAI専門家や投資家が懸念を表明しました。多くの人が、マイクロソフトに対し、この新技術に伴うあらゆるリスクを一旦立ち止まって検討し、リスク軽減策を確立するよう強く求めました」とノボセリック氏は述べた。「しかし、当社は適切なガードレールを設けずに、この初期の技術をリリースし、突き進んでしまいました。」

同氏は自身をマイクロソフトの長期株主と称し、「生成AIがゲームチェンジャーであることに疑問の余地はないが、市場投入を急ぐあまり、長期的な成功よりも短期的な利益を優先しているようだ」と付け加えた。

マイクロソフト社長のブラッド・スミス氏は、会議の質疑応答でこの問題に触れ、AIの安全性と責任ある開発への同社の注力について説明した。スミス氏は、従業員のトレーニング、ソフトウェア開発の実践、リリース前のレビューを通じて実践されている、マイクロソフトのAI開発における6つの原則を挙げた。

「私たちは基本的に、それぞれのアプリケーションに付随するAI安全アーキテクチャを包括的に開発しました」とスミス氏は述べた。「同時に、ほとんどの市場において、人々は責任ある企業だけでなく、すべての企業が共通の基準を遵守することを保証する法的枠組みにも頼っていることを知りたいと思っていることを認識しています。」

この提案はマイクロソフトに対し、人工知能によって作成され拡散される誤情報や偽情報によってもたらされるリスクを調査し、そのリスクを軽減する計画に関する報告書を発表するよう求めている。

マイクロソフトの株主は、この提案と、総会で審議のために提出された他の8つの外部株主提案に反対票を投じた。同社は4日以内に詳細な結果を発表すると述べた。

この提案は、マイクロソフトがセクハラや性差別に関する方針や慣行について報告書を委託し公表するに至った株主提案を以前にも支援したアルジュナ・キャピタルが主導した。

提案の全文と Microsoft の回答は次のとおりです。

議案第13号：AIに関する誤情報および偽情報に関する報告書（株主提案）

Arjuna Capital と共同提出者は、年次総会での検討のために以下の提案を提出する予定であると通知しました。

誤情報と偽情報に関する報告書

一方、 マイクロソフトの ChatGPT に代表される生成型人工知能 (AI) によって、世界中で誤情報や偽情報が劇的に増加し、民主主義と民主主義の原則に深刻な脅威をもたらす可能性があるという懸念が広がっています。

「これらのモデルが大規模な偽情報の拡散に利用される可能性があることを特に懸念しています」と、マイクロソフトと共同でChatGPTを開発したOpenAIのCEO、サム・アルトマン氏は述べた^。1

マイクロソフトはOpenAIに130億ドル以上を投資したと報じられており、ChatGPTをBing検索エンジンやその他の製品に統合しています。ChatGPTは、史上最も急速に成長しているコンシューマー向けアプリケーションとされています^。2

ワシントン ・ポスト紙 は、ChatGPTユーザーが「基本的な事実に関する質問に不正確な回答をしたり、虚偽の情報を捏造したり、現実的な詳細や偽の引用文を添えたりした多数の事例を投稿している」と報じました^。3 ガーディアン 紙 は「ChatGPTが偽のガーディアン紙の記事を捏造している」と報じました^。4 マイクロソフト自身も、「Bingは見つけた情報を誤って伝えることがあり、説得力があるように聞こえるものの、不完全、不正確、または不適切な回答が表示される場合があります」と述べています。5 NewsGuardによる^テスト では、ChatGPT技術が誤情報を広く拡散する最も強力なツールとなる可能性があることが判明しました^。6

生成AIによる偽情報は、世論操作、制度への信頼の揺るがし、選挙結果への悪影響など、民主主義に深刻なリスクをもたらす可能性があります。ユーラシア・グループは1月、生成AIを世界が直面する政治リスクの第3位に挙げ、新たな技術は「海外で民主主義を弱体化させ、国内で反対意見を抑圧しようとする独裁者への贈り物となるだろう」と警告しました。7 2024^年は 、米国大統領選挙と重要な上院・下院選挙が行われる重要な選挙年となります。8^ロシア とウクライナでも大統領選挙が実施されます^。9

株主は、ChatGPTがマイクロソフトに重大な法的、財務的、そして風評リスクをもたらすことを懸念している。多くの法律専門家は、通信品位法第230条に基づくテクノロジー企業の責任免除は、ChatGPTが生成したコンテンツには適用されない可能性があると考えている。この法律を起草したワイデン上院議員は、第230条は「企業を自らの行動や製品の影響から保護することとは全く関係がない」と述べている。10専門家^は また、AIが生成した虚偽情報に名誉毀損法の原則がどのように適用されるかについても議論しており、AIは同社に重大な訴訟リスクをもたらす。11 ^ChatGPT はすでに規制当局の懸念を抱かせており、現在、欧州とカナダのデータ保護当局による調査が行われている^。12

3月、マイクロソフトはAI倫理・社会チームを全面的に廃止しました。従業員は、これによりAI原則が製品設計と密接に結びついていることを保証できる専任チームがなくなることを懸念しました^。13

決議： 株主は取締役会に対し、専有情報や法的に秘匿特権のある情報を省いた報告書を、合理的な費用で、年次総会後 1 年以内に発行し、その後は毎年更新し、人工知能によって拡散または生成される誤報や偽情報の助長における会社の役割によってもたらされる会社の業務および財務へのリスクと公共の福祉へのリスクを評価し、会社がそれらの損害を是正する予定の手順（ある場合）と、そのような取り組みの有効性を評価することを要請します。

取締役会の推奨

取締役会は、以下の理由により、この提案に対して反対票を投じることを推奨します。

反対意見に関する企業声明

マイクロソフトは、誤報および偽情報のリスクに対処するための多面的なプログラムを長年にわたり実施しており、その効果は絶大であると考えています。当社は既に、欧州連合の偽情報に関する実務規範およびオーストラリアの偽情報および誤情報に関する実務規範で義務付けられているものを含め、当社の取り組みに関する様々な種類の公開報告を行っています。透明性への取り組みをさらに示すため、マイクロソフトは2023年7月に米国政府に対し、AIガバナンスの実践に関する新たな年次透明性レポートを作成することを約束しました。このレポートでは、AIによって生成される誤報および偽情報のリスクを軽減するための当社のアプローチを網羅しています。したがって、提案者から要請された追加レポートは、AIに関連するものも含め、誤報および偽情報のリスク管理に対する当社のアプローチを株主に通知するためには不要です。

誤報や偽情報のリスクに対処するための当社の多面的なプログラム。

マイクロソフトは、米国、ウクライナ、そして世界中の民主主義国家において、政党を標的とした国家主導の情報操作キャンペーンを特定し、その無力化に尽力する上で主導的な役割を果たしてきました。私たちのDemocracy Forward Initiativeは、ハッキングからキャンペーンを保護し、政治広告の透明性を高め、偽情報を防御し、健全な情報エコシステムを確保し、民主主義国家における公正かつ安全な選挙プロセスを維持することに取り組んでいます。詳細は[リンク]をご覧ください。

2022年7月、マイクロソフトは、外国の情報の影響の検知と対応に特化したサイバー脅威分析・調査会社であるミブロソリューションズの買収を完了しました。これにより、マイクロソフトは脅威検知・分析能力を拡大し、外国の攻撃者がサイバー攻撃と連携して情報作戦を駆使して目的を達成する方法を解明することが可能になりました。 

製品レベルでは、マイクロソフトは生成 AI の威力を認識しており、責任ある AI への基本的な取り組みの一環として、情報の完全性リスクに対処するためのさまざまな措置を講じてきました (詳細は [リンク] をご覧ください)。その Web サイトには、偽情報や誤情報が潜在的なリスクであることを示す製品固有の公開レポートと、それらに対処するためのマイクロソフトの取り組みが掲載されています。たとえば、2023 年 5 月に発表された詳細なホワイト ペーパー「新しい Bing: 責任ある AI へのアプローチ」などが挙げられます。マイクロソフトはまた、生成 AI 画像作成サービスである Bing Image Creator と Microsoft Designer において、コンテンツの来歴技術を使用して、画像や動画のコンテンツの作成に使用された AI システムを識別する基本情報と、作成後に変更されたかどうかを記録するコンテンツの資格情報を、画像や動画に暗号的に添付することを約束しています。マイクロソフトは、このような措置が健全な情報エコシステムを維持し、誤情報や偽情報のリスクを軽減するための中核であると考えています。

誤報や偽情報のリスクを軽減するための当社のアプローチに関する既存および今後のレポート。

透明性への取り組みを示すため、マイクロソフトでは誤報や偽情報への取り組みに関する複数の公開レポートを公開しています。たとえば、[リンク] で公開されているマイクロソフト デジタル防御レポートなどです。また、欧州の偽情報実施規範の署名者としての義務を果たすために講じた措置についても公表しています。2023 年 9 月に提出された最新のレポートでは、生成 AI に関連する偽情報のリスクを具体的に取り上げており、[リンク] で公開されています。(オーストラリアの偽情報および誤情報に関する実施規範に基づいて同様のレポートを提出しており、その最新版は [リンク] で公開されています。) 2023 年 7 月、マイクロソフトは米国政府に対して、AI ガバナンスの実践に関する年次透明性レポートを公開することを約束しました。このレポートには、OpenAI とのパートナーシップ、およびより広範な情報エコシステム向けのツールを通じて、マイクロソフトの製品とサービスにおける誤報と偽情報のリスクを軽減するためのアプローチに関する重要な情報が含まれます。最初の年次透明性レポートは、2024 年 6 月までに公開される予定です。

責任ある AI スタッフへの投資。

最後に、この提案にあるマイクロソフトの倫理・社会チームの再編への言及は、マイクロソフトが責任ある AI への投資を幅広く削減したという印象を与える可能性がありますが、そうではありません。私たちは長年にわたり、新しいエンジニアリング システム、研究主導のインキュベーション、そしてもちろん人材を通じて、責任ある AI に多大な投資を行ってきました。2023 年 5 月のブログで責任ある AI の進捗状況について公開したように (リンク)、現在、責任ある AI に取り組んでいる従業員は 350 人近くおり、そのうち 3 分の 1 強 (正確には 129 人) がフルタイムで従事しています。残りの従業員は、責任ある AI の責任を業務の中核に据えています。コミュニティのメンバーは、ポリシー、エンジニアリング、研究、営業、その他の中核機能の役職に就いており、ビジネスのあらゆる側面に関わっています。この数は、2017 年に責任ある AI への取り組みを開始して以来増加しており、AI への注力の高まりと一致しています。

昨年、私たちは責任あるAIエコシステムにおいて2つの重要な変更を行いました。1つ目は、GPT-4などの最先端技術を含むAzure OpenAIサービスを担当するチームに、重要な新たな投資を行いました。2つ目は、元Ethics & Societyチームのメンバーをユーザーリサーチチームとデザインチームに異動させることで、専門知識を注入したことです。これらの変更を受けて、Ethics & Societyチームの残りのメンバーを解散するという難しい決断を下しました。この決定は7名に影響を及ぼしました。同僚に影響を与える決断は容易ではありませんが、責任あるAIの実践を全社的に展開するための最も効果的な組織構造に関する経験に基づいて行われたものです。