「人間らしさを保ちましょう」：フランシスコ教皇のAIアドバイザーが最新技術がもたらす機会と課題について語る

テクノロジー関連企業と宗教機関が協力するのは珍しい。米国国勢調査によると全米で最も宗教色の薄い都市圏であるシアトルでは、この傾向はさらに顕著かもしれない。

しかし、いくつかの問題は非常に緊急かつ重要であるため、ありそうもない仲間同士が協力することになる。

シアトル大学は今月、フランシスコ教皇の人工知能（AI）とテクノロジー倫理に関する顧問であるパオロ・ベナンティ神父を、イエズス会の著名な客員教授として迎えました。ベナンティ神父は先週、ワシントン州レドモンドにあるマイクロソフト本社で、ブラッド・スミス社長と共に従業員とのディスカッションに参加しました。そして水曜日には、投資グループ「アライアンス・オブ・エンジェルズ」と法律事務所K&Lゲイツがシアトルのダウンタウンで主催したイベントで講演を行いました。

スミス氏とベナンティ氏は5年前、バチカンで「AI倫理に関するローマの呼びかけ」の共同作業中に出会った。この呼びかけは、デジタル技術における透明性、包摂性、説明責任、公平性、信頼性、そしてセキュリティとプライバシーを促進する文書である。この文書の当初の技術署名者はマイクロソフトとIBMだった。

ベナンティ氏によると、マイクロソフトとカトリック教会が協力するようになったのは、AIと倫理について共通の疑問を抱いていることに気づいた時だった。それが「複雑さと道徳の旅」の始まりだったと彼はGeekWireに語った。

今週初め、私たちはシアトル大学のキャンパスを訪れ、国連のAI諮問機関のメンバーでもあるベナンティ氏と、シアトル大学テクノロジー倫理イニシアチブの准教授兼ディレクターのオヌール・バキナー氏と話をしました。

以下は会話のハイライトです。わかりやすさと長さを考慮して編集されています。

AIがもたらす潜在的な害について

「生成AIモデルによって誤情報が顕著になってきました」とベイキナー氏は述べた。「それ以前は、自動化された意思決定システムと、データ収集・分析方法が社会の既存の偏見を増幅させてしまう可能性、そしてデータプライバシーやデータ保護が大きなリスクだったと思います。」

ベナンティ氏は、偽情報が私たちのつながりを蝕む可能性について懸念を表明した。「これは、私たちのコミュニティや社会の絆を溶かしてしまう新たな手段です」と彼は述べた。

潜在的なメリットについて

「人間の生産性と能力を単純に高めることができるという考えは、テクノロジーの歴史そのものです」とベナンティ氏は述べた。AIは人間の潜在能力を「倍増させる」存在になる可能性があると付け加えた。

ベイキナー氏は、同大学が最近主催したAIと健康に関するサミットで議論された、診断の改善、新薬の発見、より良い医療の提供などの医療イノベーションを指摘した。

テクノロジーにどのような倫理基準を適用すべきか

「この文脈における倫理とは複数の意味を持つ言葉であり、世俗的伝統と宗教的伝統の両方において、多様な倫理観が存在することを認識すべきです」とベイキナー氏は述べた。「こうした多様な倫理観が互いに対話し、互いの視野を広げ、そしておそらくは互いに学び合うことができるような民主的な社会を築くことが重要です。」

「私たちの社会は、様々な要素が絡み合ったものです。時には違いが衝突することもあることを私たちは知っています」とベナンティは述べた。「そして、倫理とは、それに対処する方法です。この世界における人間の多様な存在について最も重要な議論の一つは、いかにして公正な方法で選択を行うかということです。」

この問題がカトリック教会とフランシスコ教皇にとってどれほど重要であるかについて

ベナンティ氏は、フランシスコ教皇は就任以来、移民、気候変動、そして今やAIの重要性を強調してきたと述べた。教会はただ「将来に何が起こるかを見ている」だけだと彼は述べた。

政策と規制について

欧州連合（EU）には今週発効するAI法があります。中国、カナダ、米国では国家レベルのAI法制化に向けた議論が進められており、コロラド州はAI関連法案を可決した最初の州だとベイキナー氏は述べました。消費者保護法、データ保護法、プライバシー法といった他の規制もAIを規制する可能性があります。また、米国連邦取引委員会（FTC）もAI開発の方向性を指示しています。

「もちろん、法律があるからといって、それが良い法律であるとは限りません」とベイキナー氏は述べた。「ですから、この点についても社会全体で議論する必要があります。しかし、法的規制への関心は確実に高まっています。」

AIの倫理的利用という課題に世界が取り組むことができるという希望を与えるものについて

「今まさに、偏見や差別、誤情報、児童保護、データ保護などの観点から、AIのリスクや害悪に取り組んでいる団体が数十団体あります」とベイキナー氏は述べた。「大学、非営利団体、地域団体など、様々な組織が活動しており、もちろん、国連のような組織にまで波及しています。こうした認識が広まっていることが、私に希望を与えているのです。」

ベナンティ氏はさらにこう付け加えた。「私たちが（AI倫理について）話し合っていることを願っています。私たちはここにいて、そのことについて話しているのです。」

テック大手とスタートアップ企業間の熾烈な競争の中で倫理的な行動の可能性がどのように変化するかについて

「私は甘い考えではありません。利益こそが企業にとっての原動力です。大企業は幹部の職を守るために、ほぼ四半期ごとに株主価値を高めなければなりません。そのため、倫理を無視してしまうこともあるのです」とベイキナー氏は述べた。

「しかし、少なくとも一部の大企業には、倫理委員会、AI責任者、コンプライアンス責任者など、安全かつ責任ある方法で技術を開発するというメッセージを実際に徹底し、広める役割を担う人材がいます」と彼は付け加えた。「必ずしも平等な闘いではありませんが、これらの企業内では間違いなく闘いが繰り広げられています。ですから、未来は開かれています。どちらの方向にも進む可能性があります。」

AIツールを開発したり、利用したりしているGeekWireの読者へのアドバイス

「人間らしくいてください」とベナンティは言った。