シアトルのテクノロジーリーダーがAIトレーニングデータの透明性向上を推進する非営利団体を設立
トッド・ビショップ著
人工知能（AI）は未来を一変させる可能性を秘めた強力な技術ですが、同時に多くの課題とリスクも伴います。最も喫緊の問題の一つは、AIモデルの学習に使用されるデータに対する規制と監督の欠如です。シアトルに拠点を置く新たな非営利団体「Transparency Coalition」は、この問題の解決を目指しています。
このグループの共同設立者であり、ベテランのスタートアップ設立者でテクノロジーリーダーの Rob Eleveld 氏と Jai Jaisimha 氏が、GeekWire Podcast のこのエピソードに参加し、組織を設立した理由と、この分野での新しい法律や公共政策の形成に貢献するという目標について話し合います。
以下を聞いて、会話のメモを読み続けてください。
Apple Podcasts、Spotify、またはお好きな場所でGeekWireを購読してください。
起源と使命：透明性連合は、文字通りの炉辺談話から始まりました。ジャイシマとエレヴェルドは、ウィッビー島でのキャンプ中に、AIの透明性と制約のない学習データに関する懸念について議論しました。
彼らは、政策提言と一般教育を通じてこれらの問題に対処するため、非営利団体として透明性連合を設立することを決定しました。彼らの目標は、モデルの学習方法と学習に使用されるデータの透明性を高めることで、より倫理的で責任あるAI開発を促進することです。
両者ともテクノロジーおよびスタートアップのリーダーとして豊富な経験を持っています。
- 元米海軍潜水艦士官のエレヴェルド氏は、ホワイトページズ、オプティファイ、シフトボードなどの企業で指導的役割を果たした後、2021年にマスターカードに買収された本人確認会社エカタのCEOに就任した。
- ワシントン大学で電気・コンピュータ工学の博士号を取得したジャイシマ氏は、ワシントン大学の准教授であり、RealNetworks、Amazon、Microsoft、Medioなどの企業で勤務した経験を持つ。モバイル広告キャンペーンに機械学習を応用するスタートアップ企業Appniqueを設立し、経営に携わっている。
「私は常に、制約のある問題や綿密に考え抜かれたデータセットにAIを適用することに熱心でした」とジャイシマ氏は説明した。「そして、データ収集方法のずさんさや、これらのアルゴリズムの可能性に関する誇大な期待に懸念を抱くようになりました。…その核心は、AIへの入力だったのです。」
彼らが現在注力しているのは、次の 2 つです。
- 政策立案者へのアドボカシー活動、証言活動、教育活動を通じて、州レベルの政策や立法に影響を与えています。ワシントン州とカリフォルニア州の議員と積極的に連携しています。
- 政策立案者、ビジネスリーダー、これらのトピックに関心のある一般の人々などの利害関係者の間で AI の問題に対する認識と理解を高めるための幅広い教育活動。
一つの効果としては、AIの適用範囲を特定の問題への対処に絞り込むことが挙げられます。また、透明性の向上により、学習データとの関係が明確になるため、出力の予測可能性と説明責任が向上する可能性も考えられます。
「トレーニングデータのライセンスを取得しなければならない場合、それは商品原価の一部になってしまいます」とエレベルド氏は述べた。「そのため、プロジェクトはより限定的かつ小規模になり、人類がこれまで提起してきたあらゆる疑問に答えようとするのではなく、例えばステージ3の膵臓がんの検出などに焦点を当てるようになります。私たちは、より限定的で焦点を絞った生成AIの方が社会にとってはるかに良いと考えています。より制御しやすく、出力を…入力やトレーニングデータまで追跡できるのです。」
潜在的な法案としては以下のようなものが考えられます。
- AI、トレーニング データ、透明性などの主要用語の標準的な定義。
- モデルのトレーニングに使用されるデータの透明性に関する要件。
- モデルのトレーニングに使用されるデータを検証するための監査メカニズム。
- 個人データと著作権で保護されたコンテンツの使用は、オプトアウトではなくオプトインで確実に行われます。
資金調達：エレヴェルド氏によると、彼と妻はトランスペアレンシー・コアリションの初期シード資金を提供しているという。トランスペアレンシー・コアリションは501(c)(4)非営利団体であり、一般的な501(c)(3)慈善団体と比較して、ロビー活動や政策提言においてより柔軟な権限を有している。501(c)(4)への寄付は、501(c)(3)とは異なり税控除の対象とならないため、現在、財団、ファミリーオフィス、その他政策に影響を与えることに関心のある団体から助成金を募っている。
パートナーシップと今後の取り組み：ワシントン大学のResponsible AI Systems and ExperiencesグループなどのAI研究組織と連携し、研究者によるベストプラクティスの推進を支援しています。その構想の一つは、政策立案者とAI研究者を結びつけ、重要な課題への取り組みと解決策の特定を支援することです。
「これは単なる魔法の箱ではありません」とエレベルド氏はAIモデルについて述べた。「他のシステムと同様に、入力と出力があり、基本的なレベルで分解して理解する必要があります。そして、それが理解されれば、人々は適切な質問をするようになり、より良い政策立案につながることを期待できます。」
オーディオ編集と制作はCurt Miltonが担当しました。
上記からお聞きいただくか、Apple Podcasts、Spotify、またはお聴きいただけるあらゆるサービスで GeekWire を購読してください。
