サム・アルトマン氏は、OpenAIやマイクロソフトを含む大手AI企業に対する「徹底的な監視」を呼びかけている。
OpenAIとマイクロソフトの提携、そしてこのテクノロジー大手が人工知能大手に株式を保有することの影響は、火曜日に行われた米上院司法委員会のAI小委員会の公聴会で問題として取り上げられ、OpenAIのCEOサム・アルトマン氏と他の業界関係者による証言が行われた。
アルトマン氏は、過去のテクノロジーリーダーたちとは大きく異なり、業界に対する立法および規制による監督を積極的に推進した。
さらに同氏は、監督は、生成AIツールを動かす大規模言語モデルをトレーニングし展開する能力を持つ、OpenAIやMicrosoftなどの少数のプレーヤーに重点を置くべきだと述べた。
「真のフロンティアモデルを育成できる企業の数は、必要なリソースの多さから見ても、間違いなく少数になるでしょう」と、アルトマン氏は3時間に及ぶ公聴会の終盤、コーリー・ブッカー上院議員（民主党、ニュージャージー州選出）に応えて述べた。「だからこそ、私たちと競合他社を徹底的に精査する必要があると考えています」
アルトマン氏はさらに、「非常に優れた研究と、私たちのモデルを活用するだけでなく、独自のモデルを開発している新しいスタートアップ企業によって、豊かで刺激的な業界が生まれていると思います。そして、どんな規制が施行されようとも、どんな新しい機関が設立されようとも、私たちはこの情熱を失わないようにすることが重要だと考えています。なぜなら、それが非常に重要だからです」と付け加えました。
アルトマン氏は冒頭陳述で、OpenAIは非営利団体として運営されており、「AIの恩恵を広く行き渡らせ、AIシステムの安全性を最大化するために取り組む」という使命と憲章を掲げていると指摘した。
しかし、AI問題を専門とするニューヨーク大学名誉教授のゲイリー・マーカス氏は、マイクロソフトのOpenAIへの投資は同社が公言している利他主義の使命を損なう可能性がある問題だと指摘した。
「7年経った今、GoogleはMicrosoftに大きく依存しており、常に嘘をつく検索エンジンとの熾烈な戦いに巻き込まれています。そのため、（Googleの親会社である）Alphabetは製品のリリースを急ぎ、安全性を軽視せざるを得なくなっています」とマーカス氏は述べた。
彼はさらに、「人類は後回しにされてきた。AIは信じられないほどの速さで進化しており、大きな可能性を秘めていると同時に、多くのリスクも抱えている」と付け加えた。
また、CNBCのアンドリュー・ロス・ソーキンとの事前収録されたインタビューの中で、マイクロソフトCEOのサティア・ナデラ氏は、マイクロソフトがOpenAIを管理しているというイーロン・マスク氏の過去の主張に異議を唱えた。
インタビューの冒頭部分によると、ナデラ氏は「イーロンと彼の行動には多大な敬意を抱いていますが、それは事実関係から見て正しくありません」と述べた。「OpenAIは、非営利団体の理事会によって運営されるという使命をしっかりと確立しています。私たちはOpenAIに非支配権株式を保有していますが、素晴らしい商業的パートナーシップを結んでいます。」
OpenAIは、マスク氏、アルトマン氏、OpenAIの主任科学者であるイリヤ・スツケヴァー氏、そして元Stripe CTOのグレッグ・ブロックマン氏によって2016年に非営利団体として設立されました。SpaceXとTeslaの創業者であり、現在はTwitterのオーナーでもあるマスク氏は、現在は関与していません。
2019年、OpenAIはアルトマン氏をCEOとして、関連する「利益上限設定」会社を設立した。
公聴会での質問に答えて、アルトマン氏はAIが雇用や社会にもたらすリスクを認め、強力な新しいAIエンジンは原子炉と同じレベルの規制検査を受けるべきであることに同意した。
しかし彼は、より広範な長期的な展望も示した。
「この困難を乗り越えれば、はるかに多くの仕事が生まれ、今日の仕事もより良くなると信じています」と彼は述べ、さらにこう付け加えた。「GPT-4を、混同されやすい生き物ではなく、ツールとして理解し、考えることが重要だと思います。GPT-4は、人々がその使い方をかなり自由にコントロールできるツールなのです。」
アルトマン氏は、初期のユーザーは現状のAIに内在する限界や欠陥を概ね理解しているようだと述べた。しかし同時に、AIがより正確で信頼性が高くなると、人間のユーザーが疑念を抱き、技術を検証する手段を講じなくなる可能性があると懸念を示した。
アルトマン氏の発言は、米国上院司法委員会のプライバシー・テクノロジー・法律小委員会の委員たちに概ね好意的に受け止められたようだ。彼の発言は、OpenAIのCEOに就任する前はシリコンバレーのスタートアップ・アクセラレーターであるYコンビネーターを率いていたスタートアップ創業者としての彼の精神を反映していた。
IBMの最高プライバシー・信頼責任者であるクリスティーナ・モンゴメリー氏は、現在、生成AIが一般の注目を集めていることから、「人々とその利益を保護するための適切なガードレールを定義し構築する時期が来ている」と小委員会に語った。
同時に、彼女は「AIは単なるツールであり、ツールはさまざまな目的に使用できます」と述べました。
「そのため、IBMは議会に対し、AIに対する精密な規制アプローチを採用するよう強く求めます」と彼女は付け加えた。「これは、AIの導入と具体的なユースケースを統制するための規則を制定するものであり、テクノロジーそのものを規制するものではありません。」
小委員会の委員長を務めるリチャード・ブルーメンソール上院議員（民主党、コネチカット州選出）は、公聴会の冒頭、ブルーメンソール議員がAIエンジンに「公聴会の冒頭でブルーメンソール議員はどのような発言をするだろうか」と尋ねた際にChatGPTが生成した原稿を読み上げた自身のクローン音声を再生した。その内容は以下の通り。
「テクノロジーが規制を凌駕すると、個人データが際限なく搾取され、偽情報が蔓延し、社会格差が深刻化するという事態が何度も発生しました。アルゴリズムによるバイアスが差別や偏見を永続させ、透明性の欠如が国民の信頼を損なうことを目の当たりにしてきました。これは私たちが望む未来ではありません。」
ブルーメンソール氏は脚本とその背後にある理論を「非常に印象的」と評した。
同じ精神で、ChatGPTはアルトマンの冒頭陳述を次のように要約した。
サム・アルトマン氏の声明では、いくつかの重要な点が強調されています。
- AIの可能性：アルトマン氏は、生産性から創造的な仕事、気候変動やがんといった重大な課題への取り組みまで、AIが私たちの生活のほぼあらゆる側面を向上させる可能性を秘めていると信じています。彼は、印刷機がもたらした変革的な影響を例に挙げています。
- OpenAIの使命と組織構造：OpenAIは非営利団体として運営されており、AIの恩恵を広く社会に還元し、安全性を最大限に高めることを使命とする憲章と憲章に基づき活動しています。人類に大きく貢献できるツールの構築を目指しています。
- 安全性と責任：OpenAIはAIシステムをリリースする前に、広範なテストを実施し、外部専門家による監査を実施し、モデルの挙動を改善し、堅牢な安全対策を講じています。アルトマン氏によると、最新モデルであるGPT-4の評価とテストには6ヶ月以上を費やしたとのことです。
- 規制と政府との協力：アルトマン氏は、ますます強力になるAIモデルのリスクを軽減するためには、政府による規制介入が不可欠であると示唆しています。彼は、一定の能力基準を超えるAIモデルに対して、ライセンスと試験の要件を組み合わせることを提案しています。アルトマン氏は、安全対策の策定と更新、そして国際的な協調の機会の模索において、政府と協力する意欲を示しています。
- AIへの不安：アルトマン氏は、AIが私たちの生活をどのように変えるのかという不安を多くの人が抱いていることを認めています。彼は、私たち全員がAIの恩恵を享受するためには、潜在的なマイナス面を特定し、対処するために協力することが不可欠だと考えています。
- 民主主義的価値観の重要性: 彼は、強力な AI は民主主義的価値観を念頭に置いて開発されるべきだと強調し、この分野における米国のリーダーシップの重要性を強調しました。
- 展望：アルトマン氏は、AIのリスク軽減能力について楽観的な見方を示し、AIが米国経済および世界経済の成長に大きく貢献する可能性を信じています。彼は、この技術的局面における課題と機会に立ち向かうために、関係者と協力することを楽しみにしています。
公聴会のアーカイブビデオはこちらからご覧いただけます。
