マイクロソフトは新著で、人類にAI倫理ガイドラインを今すぐ策定するよう警告している
モニカ・ニッケルズバーグ著
2038年、昨今の多くの企業と同様に、あるテクノロジー企業が人工知能（AI）を用いて求職者の選考を行っている。このシステムは、一見すると偏りのないデータセットである公的雇用記録を用いて学習された。
しかし、性差別がメディアの注目を集めてから20年が経った今でも、テクノロジー業界は依然として男女不均衡を完全に是正できていない。採用選考システムは、ソフトウェアエンジニアのほとんどが男性であることを「学習」し、女性よりも男性の候補者を優遇し始めているのだ。
この危険なシナリオは、マイクロソフトが発行した新刊書「The Future Computed」で提唱されている数多くのシナリオの1つです。この本には、マイクロソフトの社長兼最高法務責任者のブラッド・スミス氏と、マイクロソフトの人工知能・研究グループの執行副社長のハリー・シャム氏が序文を寄せています。
本書は、人々が日常的に利用する多くのシステムに間もなく統合されるであろうAI技術のユースケースと潜在的な危険性を検証しています。マイクロソフトは、AIは「公平性、信頼性、安全性、プライバシーとセキュリティ、包摂性、透明性、説明責任」という6つの基本原則に基づいて開発されるべきだと考えています。
AIが公平性やセキュリティを脅かさないためには、迅速な政策立案と強力な倫理ガイドラインが不可欠だとマイクロソフトは述べています。言い換えれば、ソフトウェアエンジニアを探している架空のテクノロジー企業が直面するようなシナリオを回避するために、今から計画を立て始める必要があるのです。
マイクロソフトは、政府がAI技術を公共サービスに統合することで、AIのベストプラクティスを確立する先導役となることを提案している。「これにより、国民へのサービス提供がより効果的になるだけでなく、政府は特定された倫理原則に対処するためのベストプラクティスを開発する直接的な経験を得ることができる」と本書は述べている。
マイクロソフトはまた、政府がデータを個人に結び付けることなく公開するためのより良い方法に投資することを提案しています。AIはデータに依存しており、大規模な公開データセットはAIのトレーニングに役立つツールとなり得ますが、それは個人識別情報が保護されている場合に限られます。
「『匿名化』技術を強化するための追加研究と、再識別のリスクと社会的利益のバランスをどう取るかについての継続的な議論が重要になるだろう」と本書は述べている。
しかし、マイクロソフトは、政府は行き過ぎるべきではないと警告している。本書では、すべての個人情報が同じように機密性が高いわけではなく、AIが社会的な利益を達成するためには公衆衛生記録などの識別データが必要であるため、規制当局は「硬直的なアプローチ」を避けるべきだと述べている。
競争力も懸念事項です。AIは学習するためにデータを必要としますが、世界最大のデータセットを保有しているのは、Microsoftをはじめとする少数のテクノロジー企業です。本書の著者は、この懸念に対する解決策として政府のデータ活用を提案しています。これにより、大手テクノロジー企業に挑戦する企業が、大量のデータを必要とするAIシステムにデータを供給することが可能になります。
「データの入手可能性の問題は、ある企業が別の企業を買収しようとするときに最も直接的に生じる。そして、競争当局は、合併後の企業が、他の企業が効果的に競争できないほど価値が高く独自のデータセットを保有するかどうかを検討する必要がある」とマイクロソフトは著書の中で述べている。
マイクロソフトの推奨事項は、政府や技術者が AI に関連するリスクを認識し、安全策を念頭に置いてテクノロジを構築できるように設計された倫理規定に要約されます。
「コンピュータサイエンスにおいて、AIの影響に対する懸念は、倫理学の研究がコンピュータプログラマーや研究者にとって必須となることを意味するのでしょうか？ 私たちはそれが確実な賭けだと考えています」と、スミス氏とシャム氏は本書の序文で述べています。「医師にヒポクラテスの誓いがあるように、プログラマーにもヒポクラテスの誓いが求められるようになる可能性はあるでしょうか？ それは理にかなっているかもしれません。」
この本は今夜からダウンロード可能となり、今後数週間以内に Amazon Kindle でリリースされる予定です。
