マイクロソフトはAIアルゴリズムの「ブラックボックス」をいかにして公開し、透明性を高めているのか
アラン・ボイル著
人工知能は驚くべき働きをしますが、不思議な方法で機能することがよくあります。
機械学習は、ソフトウェアプログラムが膨大なデータを分析し、アルゴリズムを微調整することでパターンを検出し、人間が見逃す可能性のある解決策を導き出すという原理に基づいています。Google DeepMindのAlpha Go AIエージェントは、まさにこの方法で古代の囲碁（そして他のゲーム）を習得し、熟練のプレイヤーに勝つことができました。
しかし、プログラマーやユーザーがAIアルゴリズムがどのように結果を導き出したのか理解できない場合、そのブラックボックス的な動作は懸念材料となり得ます。AIエージェントがデータセットから不当な偏見や人種プロファイリングを拾い上げているかどうかを判断できなくなる可能性があります。
そのため、透明性、説明可能性、解釈可能性などの用語は、AI 倫理の議論においてますます重要な役割を果たすようになっています。
欧州委員会は、データ保護法に定められた「説明を受ける権利」に基づき、AIシステムの要件に透明性とトレーサビリティを盛り込んでいます。フランス政府は既に、使用するアルゴリズムの基盤となるコードを公開することを約束しています。米国では、連邦取引委員会の技術調査局（TORI）がアルゴリズムの透明性に関するガイダンスの提供を担っています。
透明性は、マイクロソフト CEO サティア ナデラ氏の「AI の 10 の法則」にも取り上げられており、マイクロソフトの AI 部門のシニア プロダクト ディレクターであるエレズ バラク氏は、本日シアトルで開催された世界人工知能カンファレンスでこの問題に正面から取り組みました。
「透明性が鍵だと考えています」と彼は言った。「いくつの機能を検討したのでしょうか？この5つだけを検討したのでしょうか？それとも5,000個の機能を検討して、その中からこの5つを選んだのでしょうか？」
バラク氏は、説明可能性と解釈可能性のためのソフトウェア開発キットがMicrosoftのAzure Machine Learningサービスに組み込まれていると指摘した。「このキットは、モデルを入力として受け取り、それを分解し始めます」と彼は述べた。
モデルの説明では、コンピュータモデルにどのような要素が組み込まれ、AIシステムのアルゴリズムによってどのように重み付けされたかを示すことができます。その結果、顧客は、例えば住宅ローンの融資が却下された理由、求人への応募が却下された理由、仮釈放が拒否された理由などをより深く理解できるようになります。
AI開発者は、モデルの説明を利用してアルゴリズムをより「人間的」にすることもできます。例えば、トレーニングデータセットへの適合度はそれほど高くないが、公平性を促進し、性別や人種による偏見を回避する可能性が高いアルゴリズムを採用することが望ましい場合があります。
AIアプリケーションが普及するにつれ、透明性を求める声（おそらくは政府の規制を通じて強制されるもの）はますます強まるだろう。そして、それは企業が複雑に構築したアルゴリズムの中に隠された企業秘密を暴露するリスクを伴うと、シアトルのパーキンス・コイ法律事務所で貿易規制を専門とするパートナー、エルビラ・カスティージョ氏は指摘する。
「アルゴリズムは厳重に管理される傾向にあります。…一般の人々や競合他社に対して透明性を保つことは必ずしも望ましいことではありません。そのため、根本的な緊張関係が存在します」とカスティーヨ氏は述べた。「これは、はるかに強力で積極的な法執行を行っている米国よりも、欧州でより問題となっています。」
マイクロソフトは責任あるAIに関してすでに強硬な姿勢を示しており、倫理的に問題のある方法で顔認識などのAIアプリケーションを使用しようとする見込み顧客を拒否するまでに至っている。
講演後、バラク氏はGeekWireに対し、Azure Machine Learningの説明可能性機能は、ブラックボックスの内部を調べ、AIアルゴリズムが人間的な不正を永続させていないことを検証するためのオープンソースツールとして使用できると語った。
時間の経過とともに、ソフトウェア業界やその他の関係者は、AI アルゴリズムの一連の標準や「承認シール」を開発するでしょうか?
「セキュリティなどの分野でも同様のことが起こっています。すでにそのような基準が設定されています。私たちもその方向に向かっていると確信しています」とバラク氏は述べた。「重要なのは、誰もがそれを実行できる可視性と能力を持つようにすることです。そして、そうした基準は必ずや発展していくでしょう。」
