AIの台頭：企業、警察、そして国民が人工知能とどのように取り組んでいるか
人工知能は未来的な概念のように聞こえるかもしれませんし、幅広い分野にわたって人間の脳の能力に匹敵するかそれを上回ることができる汎用的な AI が実現するまでには、何年も何十年もかかるというのは本当かもしれません。
しかし、機械学習、顔認識、そしてその他の初期段階の技術の影響は、すでに世界中の企業、政府機関、そして人々に現れ始めています。これは、プライバシーから雇用、法執行、そして人類の未来に至るまで、あらゆる問題を引き起こしています。
GeekWire ポッドキャストのこのエピソードでは、シアトルで最近開催された GeekWire サミットのさまざまなセッションで録音された、現在 AI とそのビジネス、テクノロジー、社会への影響に取り組んでいる人々のさまざまな見解を聞きます。
上記のエピソードを聞くか、お気に入りのポッドキャスト アプリで登録して、編集された抜粋を読み続けてください。
まず最初に、マイクロソフト社長であり、『Tools and Weapons』の共著者でもあるブラッド・スミス氏がAIを展望します。
スミス氏：おそらく、他のどの技術力よりも、人工知能が今後 30 年間で世界経済を大きく変えるだろう、それは 20 世紀前半に内燃機関が世界経済を大きく変えたのと同じくらいだろう、と言っても過言ではないでしょう。
私たちの章の一つは労働力におけるAIについてですが、その冒頭では馬の役割、つまり1922年にブルックリンで行われた最後の放火について論じています。そして、馬から自動車への移行が経済のあらゆる側面をどのように変えたかを辿ります。AIについても同じことが当てはまると思いますので、この点をきちんと理解しておく必要があります。
しかし、もしそれだけでは興味が湧かないなら、本書で少し触れている別の話があると思います。人類の歴史全体を通して、今この瞬間に生きている私たち、私たち全員は、これまで人間だけが行ってきた判断を機械に与える最初の世代です。ですから、私たちはそれを正しく理解する必要があるのです。
私たちは、機械がどのように意思決定を行うのか、どのような倫理原則に基づいて意思決定を行うのかを決める最初の世代です。プレッシャーはありませんが、正しく理解することが重要です。
そして、アメリカ人のあらゆる世代、そして世界中のほとんどの人々が、映画館で同じ基本的な筋書きの映画を何本も観ながら育ってきたという文脈で考えると、興味深い点があります。人間は自分で考えることができる機械を作ります。機械は自分で考えます。機械はすべての人間を奴隷にするか、殺すことを決定します。これは『ターミネーター』シリーズ1からNまで、そしてもうすぐ公開される作品も含め、他にも多くの映画に当てはまります。
そして、私たちが学んだことの一つは、これが人々の共感を呼ぶということです。テクノロジー業界を見て、私たちが意思決定ができる機械を作っているのを見ると、彼らはそこにある種の視点を持って接します。それは単なる熱意ではありません。
トッド・ビショップ：では、「正しく行う」とはどういうことでしょうか?
ブラッド・スミス：まず、倫理原則を策定する必要があると思います。当社は既に倫理原則を策定し、その策定プロセスについて説明しました。興味深いことに、これらの原則やそれに類似した原則は、世界中に広まっています。
これは、テクノロジー企業、そして最終的にはAIを導入するあらゆる企業、あらゆる機関が、これらの原則をどのように運用していくかを考え出す必要があることを意味します。これは大きな課題です。この点については少し触れましたが、社会全体としてこれらの原則を運用していく必要があるということです。どのように実現していくのでしょうか？それは法律や規制と呼ばれるものです。つまり、これら全てが絡み合うことになります。つまり、これら全てを総合すると、実に困難な課題となるのです。
もしそれが複雑に思えるなら、2019年の私たち全員にとって、そして特にシアトルの私たちにとって、本当に興味深い教訓があると思います。それは、私たちが言うところの最も基本的な倫理原則、つまり「説明責任」です。機械が人間に対して説明責任を果たせるようにする必要があるのです。
結局のところ、それはどういう意味でしょうか？それは、機械が正常に動作していない、あるいは想定した倫理的なアプローチに従っていない動作をしている場合、機械の電源をオフにできるようにする必要があるということです。
2019年にピュージェット湾経済に最も大きな影響を与えたソフトウェア関連の問題は何でしょうか？飛行機のコックピットのソフトウェア。パイロットがオフにできないソフトウェア。これは私たちに訴えかけるものです。これは特定の企業や特定の業界だけに当てはまるものではありません。テクノロジーを創造し、社会のあらゆる場所でテクノロジーを利用するすべての人々に当てはまると思います。これは私たちが忘れてはならない教訓です。私たちは優れたテクノロジーを創造できなければなりません。そして、不要な時にはそれをオフにできるようにしたいのです。
テクノロジー業界に携わる者として、私たちが常に強調しておきたいことの一つは、2010年に私たちは真の技術的転換点を迎えたということです。個人だけでなく企業も、過去よりもはるかに多くのデータをクラウド、つまりデータセンターに保存するようになったのです。私たちはデータの所有者ではなく、データの管理者となりました。私たちの第一の責任は、人々のデータ、人々、そしてデータの取り扱いによって影響を受ける可能性のある人々の権利を守ることだと考えています。
TB：人工知能の分野において、顔認識は、実際に解決できる、少なくとも最初の一歩を踏み出せる最初の分野の一つだとおっしゃっていますね。AmazonのCEO、ジェフ・ベゾス氏は2週間前、Spheresで記者団との懇談会で、この分野に取り組んでいると述べました。Amazonの公共政策チームが取り組んでいます。あなたも彼らと一緒に取り組んでいるのですか？
ブラッド・スミス：彼らとはまだ一緒に取り組んでいませんが、もし話したいとおっしゃるなら、とても嬉しいです。Amazonの仲間と話す機会があれば、いつでも歓迎しています。彼らとは色々な話をしているので、いつか機会が訪れると思っています。
まず、顔認識について皆さんに考えていただきたいことが一つあります。皆さんの多くはテクノロジー関連の仕事に携わっている方、あるいはテクノロジー分野で働いている方だと思いますが、私がマイクロソフトに勤めて26年になりますが、顔認識ほど公共政策上の問題が深刻化するのを見たことはありません。著書にも書いているように、私たちはじっくり考え、サティアと私は2018年の7月にこの問題について何を発信するかについてじっくり話し合いました。ブログも公開しました。私が書いたブログには、「この技術は大きな可能性を秘めている一方で、悪用される可能性も大きく、法規制によって管理される必要がある」と書かれていました。
最初にこれを書いた時、テクノロジー業界の多くの人々、特にシリコンバレー、そしてここシアトルでも、次のような反応がありました。「ワシントン湖の向こう岸の水に何を入れたんだ？ 一体全体どうしたんだ？ なぜ規制が必要だと言うんだ？ 問題ないじゃないか」。それから1年も経たないうちに、サンフランシスコ市は顔認識技術の使用を禁止する条例を可決しました。顔認識技術に対する懸念は文字通り世界中に広がっています。つまり、これは非常に急速な出来事だったのです。
私たちには2つのことが必要です。1つ目は、法律です。昨年12月にブルッキングス研究所で講演を行い、良い法律の構成要素となると思われる提案を共有しました。Amazonをはじめ、誰もがこの件について考えるのは素晴らしいことだと思います。私たちは皆、透明性を保つべきだと考えています。
今の国、そしてほとんどの国では、テクノロジー企業が「ねえ、こういうアイデアがある。私たちにはこういうアイデアがある。この問題にはこう取り組むべきだ」と言えば、人々は概ね受け入れてくれると思います。少なくとも公平に耳を傾けてくれるでしょう。私たちがアイデアを取り上げ、それを国民に公開することなく、いわゆる裏部屋で議員に渡すようなことは、人々は望んでいません。ですから、私たち全員がそのような透明性を持ってアイデアを共有すれば、皆が恩恵を受けると思います。
しかし、2つ目の点も重要であり、この議論はまさにこの方向へ進むべきだと思います。企業が「法律ができることを願っています。いくつかアイデアはあります。成立したら従います」と簡単に言って、この問題を免れるべきではないと思います。
私たちには、それよりももっと積極的に行動する責任があると考えています。だからこそ、12月に「法律に盛り込むべき6つの原則」を発表し、「そして、これらを私たち自身に適用していきます。例えば、私たちの技術を共有し、テストを実施できるようにします。そうすれば、人々はそれを検証し、評価し、他の技術と比較して、偏りがあるかどうかを定量的に判断できるようになります」と述べました。
TB: AI 版の Consumer Reports に例えましたね。
ブラッド・スミス：その通りです。顔認識技術を導入したい顧客向けの消費者レポートがあるべきです。例えば、偏った結果につながるような使い方をされるようなシナリオでは、顔認識技術を販売しないと明言しました。また、カリフォルニア州の法執行機関からのライセンス供与案件を、そのような使い方をされる可能性があると考えたため断った経緯も説明しました。
権威主義的な政府による大規模監視に利用されるべきではないと、私たちは主張してきました。そして、そのような利用の危険性があると判断した際に、当社の技術のライセンス供与の機会を断ってきた経緯を説明してきました。そして、世界各国で規制を設け、そのような意図で不用意に利用されることがないよう努めています。
ですから、Amazonがアイデアを提起すると述べたことを私は称賛します。それは歓迎すべきことであり、プラスの影響を与えるでしょう。しかし、私の見解では、Amazonはただ「素晴らしい。法律が可決されたら従います」と言うべきではありません。この業界にいる私たち全員に、倫理的で適切なことについて、より広い視野で自分自身の感覚について考える責任があり、どこかの政府の誰かが私たちに指示してくれるのを待つべきではないと私は考えています。
AIの現状を探る次のテーマは、プライバシー、監視、そして法執行の世界を探求することです。GeekWireの市民編集者であるモニカ・ニッケルズバーグが、GeekWireサミットでこのセッションの司会を務め、米国下院議員プラミラ・ジャヤパル氏、シアトル市警察署長カルメン・ベスト氏、そしてテーザー銃やボディカメラ技術を開発するアクソン社の社長ルーク・ラーソン氏を迎えました。
モニカ・ニッケルズバーグ：私たちは今、政府によるテクノロジーの利用方法に強い不安を感じている時代を生きています。メールプロバイダーからICE（移民税関捜査局）、そして警察がRingの監視カメラ映像を監視しているのは、まさにその通りです。なぜ今なのか、疑問に思います。国民の懐疑心、ひいては恐怖心さえも高まっているのは、何なのでしょうか？
プラミラ・ジャヤパル下院議員：そうですね、私にとって重要な点の一つは、テクノロジーの進歩のペースが政府の規制やその影響の理解のペースよりも速いということです。ですから、テクノロジーが開発される時は、先ほどお話ししたニーズを満たすために開発されるのです。そして、そのニーズを満たし、さらに改良され続けるのです。
しかし、他にも様々な副次的な用途があります。必ずしも開発目的ではありませんが、この技術は様々な形で利用されています。顔認識はその一例だと思います。しかし、政府側もこれに追いつく必要があり、最終的に規制対象となる技術に適応できるシステムを構築する必要があります。
選挙のセキュリティに関しては、現在いくつかの規制はありますが、時代遅れの技術に基づいています。技術を常に最新のものに更新し、それに合わせて規制も更新していく必要があります。
私たちは今、大規模監視の時代に生きています。そして、私たちのデータがどのように使われているのか、何が起こっているのか、誰がアクセスできるのか、そして、テクノロジーの所有者としてどのようにそれを管理できるのか、という懸念が全国で広がっていると思います。私たちは、この状況に対処するために、迅速に行動する必要があります。
カルメン・ベスト署長：その通りだと思います。問題は、その技術を発見した時に、私たちがそれをどう扱うかということです。そして、それに関する規制やルールは、その急速な発展に追いついていません。ですから、私たちはそれが非常に重要だと考えますが、人々のプライバシーを守り、私たちが持つ技術と時に衝突する問題にも対処していく必要があります。
シアトル警察には、プライバシーの専門家である弁護士が常勤で勤務しており、市内の他の場所で情報技術が適切に運用され、人々のプライバシー権が侵害されていないか確認しています。ですから、これは私たち全員にとって非常に重要な問題です。
MN：まさにこれは規制措置の必要性を物語っています。しかし、周知の通り、政府の動きは遅いものです。企業にも透明性を高めるよう促す動きはあるのでしょうか？多くの企業は、自社のストーリーや技術について説明をすることで知られていません。法執行機関との契約の多くは秘密裏に行われています。ですから、開発者が実際にその意味を伝えなければ、このイノベーションとその利用方法、そしてそれが国民にとって何を意味するのか、国民が信頼を寄せることができるでしょうか？
カルメン・ベスト署長：私の経験から言うと、疑問に思うかもしれません。法執行機関に勤めてまだ28年ですが、私の経験では、情報を入手するにはほとんどの場合、捜索令状が必要です。情報をどのように入手し、どのように活用するかについては、あらかじめ定められた基準があります。司法審査などなしに、恣意的に捜査を行うことはできません。
規制の少ない民間産業の方が心配です。Googleはシアトル警察よりもはるかに多くの情報をあなたについて持っているでしょう。おそらく私たちのほとんどよりもはるかに侵入的で、はるかに多くの情報を持っている領域があるでしょう。
ルーク・ラーソン： Axonでは、新製品の開発を検討するにあたり、「倫理委員会」という新たな諮問機関を設立しました。これは、人工知能（AI）の活用方法だけでなく、幅広い技術応用について助言を得ることを目的としています。ですから、企業がこれらのソリューションを孤立無援で開発すべきではないと考えています。様々なステークホルダーからの指導を求める必要があると考えています。
特に法執行機関においては、彼らが奉仕するコミュニティを理解し、そのコミュニティの様々な人口統計や利害関係者を理解することが非常に重要です。そして、私たちがこれらの決定を下す際には、彼らが代表されていることを確認する必要があります。
私たちの倫理諮問委員会には、技術者、警察のリーダー、そして倫理学の学者が参加しています。これらの決定が及ぼす影響について議論する際には、たとえ何かできるとしても、それが本当に正しいことなのか、そして人々の個人情報やその後の影響などを保護するための対策を講じるべきなのか、といった点について議論します。そして、最終的には、それは企業の仕事ではないと考えています。むしろ、政府にこれらの決定を規制してもらうことを期待しています。
プラミラ・ジャヤパル下院議員：企業には果たすべき役割と責任があるという点には同意します。なぜなら、企業は技術を最も理解しているからです。ですから、貴社の諮問委員会には大変感謝しています。そして、もう一つの重要な点は、技術が開発される中でそれについて考えるだけでなく、起こっていることの影響を目の当たりにしたときに、どのように即座に対応するかということです。
例えば顔認識についてですが、マイクロソフトをはじめとするいくつかの企業は、私たちと協力して、何をすべきかを真剣に考えてくれています。ブラッド・スミス氏が規制を求める素晴らしい記事を書いたのをご存知でしょうが、多くの企業は必ずしもそうではありませんが、研究結果を軽視し、「証拠がない。証明がない。何もする必要はない」と言う企業もあると思います。
ですから、こうした技術を開発する企業には真の責任があると思います。なぜなら、一度技術が世に出たら、魔神を瓶に戻すことはできないからです。中国がウイグル族に対して監視技術を使って何をするか、あるいは同じ技術を国境を越える人々の携帯電話に搭載するかをコントロールすることはできません。
ですから、責任はあらゆるところに存在し、政府は事態への対応をより迅速に行う必要があると強く思います。テクノロジーは変化していくという認識を規制に組み込む必要があります。そして、企業やあらゆる関係者と協力して、適切な規制を策定していく必要があります。
次は、 Amazon のデバイスおよびサービス事業を担当する上級副社長、デイブ・リンプ氏です。
TB： Amazonをはじめとする企業は今年、様々な音声アシスタントの音声録音を、顧客がほとんど知らないうちに人間が確認していたという報道が出て、論争に巻き込まれました。Amazonのあなたとチームは、これらの暴露に対する顧客の反応から何を学びましたか？それらの反応は、現在の取り組みにどのような影響を与えていますか？
デイブ・リンプ：そうですね、お客様からの反応を聞いたら、まず最初にすべきことは問題を解決することです。ですから、これらの分野では常に完璧というわけではありませんが、人間による注釈をオプトアウトできる機能を24時間以内に準備できました。ですから、私たちはそれを提供できた最初の企業だったと思います。同時に、利用規約とプライバシーハブ内のメッセージを明確にしました。Alexaのプライバシーに関するあらゆる情報を集約した場所を設け、プライバシーへの取り組みを明確にしています。
もし過去に戻れるなら、そこをもっとうまくやっていたでしょう。なぜ、いつ人間によるアノテーションを使っているのか、もっと透明性を高めていたでしょう。実際、少なくともAI業界では、それはよく知られた事実です。報道関係者や顧客の間でよく知られていたかどうかはさておき、私たちがその点で十分な成果を上げられなかったことは明らかです。
音声だけではありません。音声は人間がアノテーションを行っている分野の一つですが、地図では、人があなたの通った経路にアノテーションを付けています。許可があれば、X線検査のAI精度向上のために、あなたの医療記録にもアノテーションが付けられています。今日のAIの最先端技術は、人間によるアノテーションが依然として必要なレベルに達しています。
私は未来を想像し、そしてそれは必ず実現すると信じています。AIの将来に関する最新の研究論文を読めば、連合学習、教師なし学習、転移学習、そしてまだ発明されていないアルゴリズムを組み合わせることで、人間による注釈付けや地上検証の必要性が軽減される日が来るでしょう。しかし、私たちはその日が今日ではないと考えています。
TB：おっしゃる通り、音声録音の人間によるレビューをオプトアウトするオプションを顧客に提供したのはAppleが初めてでしたね。しかし、Appleはその後さらに一歩踏み込み、「デフォルトでは、人間によるレビューは行われません。お客様はオプトインできます」と発表しました。なぜそこまで踏み込まなかったのでしょうか？
デイブ・リンプ：ええ。自動削除をオンにできる機能も追加しました。つまり、この2つはほぼ同時に、約1ヶ月の間隔をあけて追加したということです。私たちは皆で集まって、オプトインとオプトアウトの違いについて話し合いました。これは重要な、基礎的なことです。皆さんが必ずしも信じてくれるとは限りませんが、Amazonではデータそのものをデータとして利用したいわけではありません。私はAmazonに9年間勤めていますが、その通りだと断言できます。私たちは、お客様のために実際に体験を向上できるようなデータ活用を望んでいます。
それで私たちは同じ部屋に集まり、まさにその議論をしました。そして、多くの例を挙げることができます。もしご興味があればいくつか例を挙げることができますが、私たちがアノテーションするデータは、ちなみに1%というごくわずかな量ですが、Alexaとサービスの向上に非常に重要なのです。
一例を挙げましょう。ちょうど2週間前にインドで新言語、ヒンディー語の提供を開始しました。提供開始から90日以内に、注釈機能やその他のアルゴリズム開発により、ヒンディー語でのAlexaの精度が30～35%向上することが分かっています。そこで、皆さんがテーブルを囲んで「この改善をお客様に還元せず、35%向上させないでおくべきでしょうか？」と自問自答しました。答えは「ノー」です。この進歩を実現するには、あらゆる地域や人口統計から得られる、十分に幅広いデータのコーパスが必要です。これが私たちの結論です。他の企業がどのように計画しているかは分かりません。彼らに聞いてみましょう。
TB:そうした決定を場当たり的に行うのではなく、社内または業界全体でそうした決定を導くための広範な業界原則は必要でしょうか?
デイブ・リンプ：確かに、私たちが今いる多くの分野、特に現状においては、規制の余地があると考えています。私たちはこれまでもその点を公に表明してきました。AI倫理に関しては、政策を通してであれ法律そのものを通してであれ、規制の余地は広くあると考えています。これは私たちが議論すべき良い問題だと思います。
第二に、プライバシーに関しては、規制の余地は多岐にわたると思います。法律の細部すべてに賛成するわけではありませんが、GDPRは、欧州がプライバシー保護をより厳格化するための取り組みであり、全体として非常に良いものです。そして、必ずしも良いとは言えない点もあります。
しかし、総合的に見て、非常に良いと思います。あまり良くないのは、曖昧な部分です。問題は、グレーゾーンがあり、コードの書き方がわからない場合です。そのため、可能な限り明確な規制が望ましいのです。しかし、どちらの分野においても、規制の余地は大きく、私たちはそれを受け入れる用意ができています。
