Ipad

AIを脳に接続すべきか？アシロマの新たな原則は注意を促す

AIを脳に接続すべきか？アシロマの新たな原則は注意を促す

アラン・ボイル著

生命の未来AIグラフィック
ベネフィシャルAIカンファレンスでは、AIに関する23の指針が策定されました。（Future of Life Institute）

何百人もの AI 研究者、ビジネスリーダー、そして単なる天才たちが、AI プラットフォームの動作を人間当局が監査する機能を組み込むことを要求するなど、人工知能に関する警告原則の声明に署名しました。

23のアシロマAI原則は、1975年にバイオテクノロジーの限界を定義する有名な会議が開催されたのと同じカリフォルニアの場所で今月開催されたベネフィシャルAIカンファレンスで策定された。

このアシロマ会議は、英国の物理学者スティーブン・ホーキング博士から、スペースXとテスラの億万長者CEOイーロン・マスク氏まで、著名人が表明したAIの急速な台頭に対する懸念に焦点を当てた。

マスク氏は今日、一連のツイートでこの研究結果に注目を促し、最終的には人間の脳と連動するデバイスにAIツールを組み込むというアイデアを支持するに至った。

トップクラスの AI 研究者が有益な AI を開発するための原則で合意 https://t.co/CATbd4oidF

— イーロン・マスク（@elonmusk）2017年1月30日

@elonmusk @FLIxrisk AIが人間の補助として作られるなら、「彼ら vs. 私たち」というリスクは決してなくなるでしょう。

— マーク・リース・アンダーセン (@ReesAndersen) 2017年1月30日

@ReesAndersen @FLIxrisk はい、人類の未来のためにはそれが重要だと思います

— イーロン・マスク（@elonmusk）2017年1月30日

フューチャー・オブ・ライフ研究所のウェブサイトに掲載されているアシロマ原則は、人間の能力拡張に直接言及しているわけではない。むしろ、人工知能の潜在的な落とし穴に関する常識的な警告に忠実に従っている。例えば、AI搭載兵器の軍拡競争を回避する必要性や、人間の価値観に合致する安全基準を構築する必要性などだ。

いくつかの原則は、データのプライバシー、透明性、そして内在する偏見といった、未だ解決されていない厄介な問題に触れています。刑事判決に関する判事への助言や、個人に合わせた求人広告の配信を目的として設計されたAIプログラムは、既に人種や性別による偏見の可能性をめぐって論争を巻き起こしています。

アシロマ原則の 1 つは、この論争に対処し、「司法上の意思決定における自律システムのいかなる関与も、有能な人間機関によって監査可能な十分な説明を提供する必要がある」と宣言しています。

他の原則は、ターミネーターのような知能機械による支配への懸念に言及しています。最初の原則は、AI研究の目標は「無目的な知能ではなく、有益な知能を創造すること」であるべきだと述べています。そして最後の2つの原則は、まるでSFの筋書きを思い起こさせてくれるかのようです。

「品質や量の急速な増加につながるような方法で再帰的に自己改善または自己複製するように設計されたAIシステムは、厳格な安全および管理措置の対象とならなければなりません。

「スーパーインテリジェンスは、広く共有されている倫理的理想のために、そして一つの国家や組織のためではなく、全人類の利益のためにのみ開発されるべきである。」

この原則を支持するために、マスク氏やホーキング氏だけでなく、グーグル・ディープマインドのデミス・ハサビス氏（ゲーム用AIプログラム「アルファ囲碁」の開発に携わった）、未来学者のレイ・カーツワイル氏（機械知能が2040年代に技術的特異点を引き起こす可能性があると述べている）など、800人以上が署名している。

署名者にはワシントン大学のライアン・カロ氏やマイクロソフトのホー・ジョン・リー氏も含まれている。

フューチャー・オブ・ライフ研究所は2015年にマスク氏から1,000万ドルの寄付を受けましたが、これはAIの倫理に焦点を当てた複数の団体の一つに過ぎません。他には以下のような活動があります。

  • 人工知能の倫理とガバナンス基金は、LinkedInの共同設立者リード・ホフマン氏、オミダイア・ネットワーク、ナイト財団、ウィリアム・アンド・フローラ・ヒューレット財団、ラプター・グループ創設者ジェームズ・パロッタ氏から2,700万ドルの支援を受けている。
  • アレン人工知能研究所は、「公共の利益のためのAI」をモットーとしている。シアトルに拠点を置くこの研究所は、マイクロソフトの共同創業者であるポール・アレンの支援を受けて2013年に設立された。
  • OpenAIは、「安全なAIを構築し、AIの恩恵が可能な限り広く均等に分配されるようにする」ことを使命とする非営利の研究会社です。2015年、ホフマン氏はPayPalの共同創業者であるイーロン・マスク氏とピーター・ティール氏、そして他の支援者らとともに、OpenAIに10億ドルを拠出しました。
  • AI100は、「人工知能100年研究」としても知られています。AI100は、マイクロソフトの幹部であるエリック・ホーヴィッツが主導するスタンフォード大学の研究プロジェクトで、AIの発展とその影響を今後1世紀にわたって監視することを目的としています。AI100は昨年9月に最初の報告書を発表しました。
  • Partnership on AI は、Amazon、Microsoft、Facebook、Google DeepMind、IBM が協力して AI テクノロジーの理解を深め、ベストプラクティスを策定する非営利団体です。

オバマ政権の終焉期に、ホワイトハウス当局はAIとその潜在的な社会への影響について、一連の報告書と政策提言を発表した。しかし、ドナルド・トランプ大統領とその側近がこれらの提言をどれだけ取り入れるかは不明である。