マイクロソフトは、製品リリースの標準チェックリストにAI倫理を追加する予定だ。
アラン・ボイル著
マイクロソフトのAI部門を率いる最高幹部ハリー・シャム氏によると、同社は「近い将来」、新製品のリリースに先立つ監査の標準チェックリストに、人工知能の問題に焦点を当てた倫理審査を追加する予定だという。
AI倫理はプライバシー、セキュリティ、アクセシビリティーとともにリストに加わるだろうと、シュム氏は今日サンフランシスコで行われたMITテクノロジーレビューのEmTech Digitalカンファレンスで語った。
マイクロソフトのAIおよび研究グループのエグゼクティブバイスプレジデントであるシュム氏は、AI開発に関わる企業は「テクノロジーの本質に責任を組み込む必要がある」と述べた。
倫理的な懸念の中には、AIエージェントがトレーニングに使用したデータから人間特有の偏見を拾い上げる可能性、詳細なデータ分析を通じてプライバシーを侵害する洞察をまとめ上げる可能性、知覚能力のギャップによりひどく間違った行動をとる可能性、あるいは単に人間のハンドラーによって過度の権限を与えられる可能性などがある。
シュム氏は、AIが感情、会話、文章を分析する能力が向上するにつれ、その技術によってプロパガンダや誤情報が増大し、個人のプライバシーへの侵害が深刻化する可能性があると指摘した。
マイクロソフトは、リリース前の監査に加え、顔認識ツールを改良し、より多様な肌の色、その他の身体的特徴、照明条件を持つ人々を示すためにトレーニングデータベースに写真の改変バージョンを追加することで、AIの倫理的懸念に対処している。
シュム氏と他のマイクロソフト幹部はこれまでにも AI の倫理について何度も議論してきた。
- 2016年にマイクロソフトのCEOであるサティア・ナデラ氏は、アルゴリズムによる偏見を防ぎ、コンピューターが生成した行動に対して人間が責任を持つようにする必要性を含む、AIの研究開発に関する一連の原則と目標案を提示した。
- シャム氏とマイクロソフト社長のブラッド・スミス氏は、『計算される未来』と題した著書の中で、業界のガイドラインと政府の監督に支えられたAI倫理規定の策定を訴えた。「プログラマーのためのヒポクラテスの誓いは…意味があるかもしれない」と彼らは記している。
- シャム氏とスミス氏は、マイクロソフト社内の「エンジニアリングと研究におけるAIと倫理」（Aether）グループを率いるリーダーの一人です。昨年、マイクロソフトリサーチのエリック・ホーヴィッツ氏は、Aetherグループの勧告により「大幅な売上減」に見舞われたと述べています。ホーヴィッツ氏によると、製品の使用契約に具体的な制限が盛り込まれたケースもあり、例えば顔認識アプリケーションの禁止などが挙げられます。
- シュム氏は約1年前にGeekWireに対し、Aetherグループが「AI出荷基準」を開発することを期待していると語っていた。まさに今日同氏が言及したようなリリース前チェックリストのようなものだ。
マイクロソフトは、Apple、Amazon、Google、Facebookといったテクノロジー業界のリーダー企業と連携し、非営利団体「Partnership on AI」を通じて、AIがもたらす社会問題に深く取り組んできました。しかし、EmTech Digitalでの講演で、シュム氏は政府も役割を果たさなければならないと認めました。
たとえば、非営利団体の AI Now Foundation は、顔認識や感情認識などのアプリケーションに特に重点を置いて、セクターごとに AI 技術の監視を強化するよう求めています。
一部の研究者は、技術的な問題を抱える他の監視機関を支援できる政府のAI専門家による「SWATチーム」を創設するよう呼びかけている。おそらく、国家運輸安全委員会をモデルにしているのだろう。
AIアプリケーションの全種類を違法化すべきだと主張する人々もいる。Future of Life Instituteが配布した公開書簡と、英国の医学誌BMJに掲載された論説記事の中で、専門家たちは医療界とテクノロジー界に対し、完全自律型殺傷兵器の禁止に向けた取り組みを支持するよう呼びかけた。この問題は、今週ジュネーブで開催される国連会議の議題となっている。
