AIの監視役は誰になるのか？AI2政策ワークショップで専門家が意見交換
アラン・ボイル著
国家アルゴリズム安全委員会は必要でしょうか？重要な人工知能プラットフォームを開発するソフトウェア開発者にライセンスを与えるのはどうでしょうか？AIの規制において、誰が主導権を握るべきでしょうか？そもそもAIに規制は必要なのでしょうか？
AIと自動化の未来、そしてこれらの技術の発展を規定する政策が、シアトルのアレン人工知能研究所（AI2）が本日開催した政策ワークショップで中心的な議題となった。そして、講演した専門家たちは少なくとも一つの点について意見が一致した。それは、政策的に何らかの対策を講じる必要があるということだ。
「テクノロジーが未来を推進している。問題は、誰が舵取りをするのかだ」と、計算工学と自動化の社会的影響を研究しているライス大学のモシェ・ヴァルディ教授は語った。
人工知能はすでに規制分野におけるパラダイムシフトを引き起こしている。例えば、2016年にテスラ車のオーナーが高速道路での衝突事故で死亡した際、国家運輸安全委員会（NTSB）は同社の自動運転ソフトウェアを厳しく検証した。（その後もNTSBが調査する同様の事故が相次いでいる。）
メリーランド大学カレッジパーク校のコンピュータサイエンス教授、ベン・シュナイダーマン氏は、議会から直接資金提供を受ける独立機関であるNTSBは、将来の連邦政府によるAI監視機関にとって有用なモデルとなる可能性があると述べた。NTSBが国の交通システムのどこで問題が発生しているかを特定するのと同様に、連邦政府の命令に基づいて活動する独立した安全専門家は、アルゴリズムの欠陥を分析し、改善策を提言することができるだろう。
こうしたシステムの前提条件の一つは、監査証跡を追跡できることだろう。「あらゆるロボットにフライトデータレコーダー、あらゆるアルゴリズムにフライトデータレコーダーが必要だ」とシュナイダーマン氏は述べた。
彼は、国家アルゴリズム安全委員会（NTSB）がNTSBと全く同じ機能を果たすわけではないことを認めた。アルゴリズムに精通し、医療、高速道路の安全、金融市場、消費者保護など、幅広い分野で他の機関が実施する調査に協力する「SWATチーム」のような形態をとる可能性がある。
AIがもたらす偽情報や虚偽情報の氾濫についてはどうだろうか？ おそらく連邦通信委員会（FCC）の管轄下に入るだろう。ただし、1996年通信品位法（通称セクション230）の条項により、Facebookのようなプラットフォーム（そして例えばインターネットサービスプロバイダー）は、送信されるコンテンツに対する責任を免除されている。
「おそらく、230条を単に変更する方法、もしくは新たな解釈が必要なのかもしれない」とシュナイダーマン氏は語った。
AI政策を専門とするワシントン大学の法学教授、ライアン・カロ氏は、トランプ政権がテクノロジー業界への監督強化に賛同する可能性は低いと指摘した。しかし、物議を醸す可能性のあるAIの利用を監督する上で、州政府や地方自治体が重要な役割を果たす可能性があると述べた。
例えばシアトルでは、監視技術の使用承認前に当局が厳格な審査を行うことを義務付ける市条例が制定されています。この分野で先駆的なのがニューヨーク市で、アルゴリズムの使用方法を監視するための市タスクフォースを設置しています。
責任、説明責任、賠償責任の所在を明確にすることが不可欠となる。シアトル大学法学・経営学非常勤教授のトレイシー・コサ氏は、ソフトウェア開発者も医師や弁護士と同様に専門資格の取得を義務付けられるべきだとまで主張している。
「目標はテクノロジーで起こっていることを変えることではなく、それを構築する人々を変えることです。ヒポクラテスの誓いが医療の実践方法を変えたのと同じです」と彼女は語った。
本日提示された問題は、ワークショップに参加したソフトウェア開発者や研究者の間で大きな話題を呼びましたが、シュナイダーマン氏は、こうした問題がDCの政策関係者の間でまだ十分に理解されていないことを嘆きました。しかし、AIの急速な発展により、状況はすぐに変わるかもしれません。
「大人になって、誰がいつまでに何をするかを決めるべき時だ」とシュナイダーマン氏は語った。
ワークショップからの雑多な情報:
- ヴァーディ氏は、AIにおける倫理的慣行については多くの議論がなされてきたと指摘する一方で、倫理に焦点を当てることはテクノロジー業界にとって「ほとんど策略」であるのではないかと懸念を示した。「倫理について語るなら、規制について語る必要はない」と彼は説明した。
- カロ氏は、ホワイトハウスによる「AI競争」への言及や「アメリカのAI」という用語の使用を懸念した。「これは有害で事実に反するだけでなく、誤った政策選択につながる」とカロ氏は述べた。こうしたレトリックは、AI研究コミュニティの国際的な性格を認識していないと彼は述べた。
- 言葉について言えば、シュナイダーマン氏は、AIの説明の仕方が一般の人々の受容度に大きな違いをもたらす可能性があると述べた。例えば、「オートパイロット」や「自動運転車」といった言葉は非現実的な期待を抱かせる可能性がある一方、「アダプティブクルーズコントロール」や「アクティブパーキングアシスト」といった言葉は、依然として人間のドライバーが運転を担っていることを明確に示している。
- 一日を通して、講演者たちは AI 政策の問題に関するミニ読書リストを提供しました。ショシャナ・ズボフ著『監視資本主義の時代』、キャシー・オニール著『数学破壊兵器』、IEEE が配布したホワイトペーパー『倫理的に整合した設計』、そしてチャールズ・ペロー著の古いけれど優れた本『通常の事故』です。
