医療が野心的なAI改革にまだ準備ができていない理由をテクノロジー倫理学者が語る
広範囲にわたる、かつては解決不可能だった問題を解決できるという AI の能力をめぐる熱狂的で熱狂的な宣伝が広がる中、アレックス・ジョン・ロンドンは報われないほどの話題を台無しにする役割を担っている。
「哲学者であり倫理学者である私の仕事は、人々に不快なことを言うことです」とカーネギーメロン大学の教授は語った。「そして歴史的に見て、彼らは私たちを死刑に処するようなことをしてきたのです。」
ロンドン氏は木曜日、シアトル大学で開催された年次倫理・技術カンファレンスで、ユーモアを交えながら現実を直視した。今年のカンファレンスはAIとヘルスケアの融合に焦点を当てていた。
「現在、AIエコシステムは雑多な情報とノイズで満ち溢れています」とロンドン氏は述べた。「そのため、私たちが持つ技術やデータを活用して、医療システムをより安全、より効果的、より効率的、そしてより公平なものにするために必要な機能を果たすシステムを構築する方法を見つけるのは非常に困難です。」
ロンドン氏はカーネギーメロン大学倫理政策センターの所長であり、同大学ブロック技術社会センターの主任倫理学者でもある。また、最も広く読まれている医療倫理の教科書の一つである『現代医療における倫理的問題』の共同編集者でもある。
ロンドン氏はプレゼンテーションの中で、医療上の課題に対処するための AI ツールを構築するために必要な手順と、それを台無しにする方法を説明した。
取り組むべき適切な医療問題を選択する。これは最も重要なステップであり、かつ特に難しいステップだとロンドン氏は述べた。AIモデルの学習に利用できるデータは、解決すべき医療システムの問題としばしば乖離しているからだ。
データは、臨床診療記録や保険請求情報など、理想的とは言えない情報源から得られることが多い。データには統制が欠如しており、情報には偏りが多く、人種差別的な結果につながるなど、様々な問題が生じる可能性がある。
ロンドン氏は、がん治療における診断ガイダンスの提供を目指したIBMの「オンコロジー・エキスパート・アドバイザー」プロジェクトを例に挙げた。この取り組みは、目標と適切な学習データの間に大きな乖離があり、多額の費用を投じて最終的に2016年に中止された。
予測ではなく介入を提供する。AIモデルは過去のパターンに基づいて次に何が起こるかを予測するのが得意だ。しかし、医療の目標はそこではないとロンドン氏は言う。「私たちは過去にやったことに戻りたいとは思っていません。より良いものを作るために、新しいことに挑戦したいのです。」
十分な検証を受ける。AIツールを導入する前に、信頼できる手段によって慎重に検証される必要がある。しかし、デジタル医療記録会社Epicが発表した、致死的な敗血症の症例を予測するアルゴリズムでは、十分な検証が行われていなかった。
数百の病院が Epic Sepsis Model を採用しましたが、リリースから数年後に行われた独立した査読済み調査で、このモデルでは敗血症患者の 67% を特定できず、敗血症を発症していない多数の患者に誤報が発せられ、「アラート疲労の大きな負担」が生じていることが判明しました。
COVID-19以前のデータセットに基づいて作成された他の敗血症予測ツールは、COVIDの症状がある集団に適用されたときに、どこでも病気を誤って検出し始めました。
ロンドンの観点からすると、AI が医療に大規模でプラスの影響を与えるには、体系的な変更が必要です。
「こうした構造的な問題は、データセットに高度な処理を施したところで変わりません」と彼は述べた。「AIを真に活用し、医療分野におけるAIの価値を最大限に引き出すには、医療システム、生成するデータ、学習能力、医療の提供方法、そしてシステムに含まれる人々を変える必要があります。」
「それが実現しない限り、人工知能から私たちが望む価値を引き出すのは非常に難しいだろう」とロンドン氏は結論づけた。
このイベントには約200人が登録しました。参加者には、医療機関やヘルステック企業の従業員、生命倫理学者、データアナリスト、学生、投資家、学者などが含まれていました。
木曜日には、アレン脳科学研究所所長兼最高科学責任者のクリストフ・コッホ氏、シアトルのバージニア・メイソン病院の呼吸器科医でアマゾンの薬局最高医療責任者、ワシントン大学の客員助教授でもあるヴィン・グプタ博士も講演を行った。
その他の講演者には、シアトル小児病院、マイクロソフト、ワシントン大学タンパク質設計研究所、ワシントン州ベルビューに拠点を置くスタートアップ企業 Truveta、シアトルの Madrona Ventures Group の専門家が含まれていた。
編集者注:イベント参加者に関する情報を追加して 7 月 1 日に記事を更新しました。
