Henry J. Haiser（Corundum Systems Biology オペレーティング・パートナー）著
今年アブダビで開催されたHPP Globalカンファレンスでは、基盤モデル、デジタルツイン、マルチモーダルデータ収集など、医療におけるAIの可能性について多くの議論が交わされました。一方で、特に示唆に富むセッションでは、異なる観点からの議論が行われました。それは、「高性能なAIモデルを実際に臨床現場へ導入したとき、何が起こるのか」という問いです。
複数の講演を通じて、一貫したテーマが浮かび上がりました。研究環境で機能するAIモデルを構築することと、そのモデルを患者ケアの改善につながる形で臨床現場へ導入し展開することは、全く異なる課題だということです。
ここでは、カンファレンスで紹介された中でも、特に示唆に富む事例を紹介します。
リアルワールドデータの複雑さ
トロント大学のAnna Goldenberg氏は、カンファレンスの中でも特に印象的なケーススタディを紹介しました。研究チームは、ICU患者から5秒ごとに記録される連続的な生理学的シグナルを用いて、心停止を予測するAIモデルを開発しました1。過去6年間のデータでは、このモデルは心停止リスクのある患者を90%以上の精度で正しく識別し、標準的な評価指標では非常に優れた性能を示しました。
しかし実際に2020〜2023年の臨床現場（42床・360人の患者）に当モデルを導入すると、適合率・再現率ともにほぼ機能しない結果となりました。その原因は、学習データでは捉えられていなかった現場特有のノイズでした。具体的には、人工呼吸器の閉塞が心停止のシグナルに似たパターンを生み出していたこと、病床の移動によって予期しない信号パターンが発生したこと、そして臨床医が関与するにつれて心停止の定義そのものが変化したことなどが挙げられます。
最終的に研究チームは、臨床現場の専門家と協力してアウトカム定義を見直し、モデルを再学習させることで性能を回復させました。その際、「心停止の予測」から、より広く臨床的な有用性が高い「患者の容態悪化に対する予測」へと課題の焦点が移されました。
この事例が示すことは、整理されたデータセット上で優れた性能を示したモデルであっても、実際の臨床現場で同様に機能するとは限らないということです。定義の変化、データ欠損、予期しないアーティファクトを含む臨床環境特有の複雑さこそが、臨床AI導入における大きな課題となっています。
AIへの過度な依存という課題
ミシガン大学のJenna Wiens氏は、別の視点を提示しました。彼女の研究グループは、学術的なAI研究としては珍しく、実際に病床で運用されている複数のAIモデルを開発しています。この中には、院内感染や患者の容体悪化を予測するシステムが含まれており、ミシガン大学病院のラピッドレスポンスチーム（入院患者の急変や予期せぬ心停止を未然に防ぐための専門医療チーム）によって実際に活用されています。
彼女は、臨床医がAIの提示する結果をどのように活用するかという点に焦点を当てました。米国12州の450人以上の臨床医を対象とした研究では、初期誤診率が最大30%に達する急性呼吸不全の診断において、AIによる支援が診断精度を向上させるかどうかを検証しました2。
AIモデル単体では、患者の全カルテにアクセスできる医師と同等か、あるいはそれ以上の性能を示しました。しかし、臨床医がこのAIモデルとともに診断した場合、精度は73％から81％へとわずかに向上したものの限定的でした。これは、単に臨床医により多くの情報を提示するだけでは得られる効果に限界があることを示しています。AIモデルの性能だけでなく、インターフェースやワークフローの設計も同じくらい重要であることが示唆されました。
一方で、さらに深刻な問題も明らかになりました。不正確なAIモデルを提示された場合、臨床医の診断精度は62％まで低下したのです。臨床医は誤った予測を過度に信頼してしまいました。これはAI設計における難しい課題を示しています。AIは臨床医が積極的に活用したくなる程度には有用である必要がありますが、その一方でAIの判断が臨床医自身の判断を上回ってしまうほど権威的であってはなりません。
研究チームはさらに、広く導入されているEpic社の敗血症予測モデルに対しても評価結果を提示しました3。ミシガン・メディシンの77,000人以上の患者を対象とした研究では、このモデルは後ろ向きデータでは良好な性能を示す一方で、臨床診断より前に敗血症を予測する性能はランダム予測よりも下回っていました。さらに彼女は、臨床データで学習された基盤モデルはこの問題をさらに悪化させる可能性があると主張しました。それらのモデルは臨床医とは独立した新たな洞察力を提供して臨床パフォーマンスを改善するのではなく、臨床医の行動パターンそのものを学習してしまう可能性があるというのです。
導入成功の事例
一方で、すべての臨床AI導入が困難だったわけではありません。実際にうまく機能した事例には共通点がありました。それは、臨床医に行動変容を求めるのではなく、既存の診療ワークフローに自然に組み込まれるよう設計されていたことです。
スタンフォード大学のNigam Shah氏は、電子カルテを自然言語を用いて対話形式で検索できる「Chat EHR」を紹介しました。導入以来、このシステムは1,500人の医師に利用され、23,000回以上の利用セッションが記録されています。同氏は、医師たちが自ら利用を希望し、導入後も継続的に使用されている医療IT導入としては非常に珍しい事例だと述べました。
またGoogle ResearchのYossi Matias氏は、タイとインドで展開されている糖尿病網膜症スクリーニングプログラム「ARDA」を紹介しました。このシステムでは、患者が診療所を離れる前に、約2分以内に診断結果が得られます。従来は数週間を要していたプロセスを置き換え、すでに100万件以上のスクリーニングが実施されています。さらに各国政府は今後10年間で600万件の無料スクリーニングを実施する予定です。
成功の鍵は、単なるAIモデル性能ではなく、既存の診療ワークフローへ適切に組み込まれるよう設計されていたことにありました。
今後の展望
HPP Globalでの講演は、この分野の現状をより多面的に示していました。機械学習モデルが特定のタスクにおいて医師と同等以上の性能を発揮できるかという問いには、すでに多くの場面で肯定的な答えが得られています。現在は、運用面が課題となっています。変化していくアウトカムの定義にどのように対応するのか。臨床医のAIに対する信頼をどのように適切に設計するのか。そして、既存の臨床行動のパターンを単に模倣するだけのモデルをどのように回避するのか。こうした課題が今後の中心となっています。
今回紹介された事例は臨床AI全般に関するものでしたが、医学における大規模言語モデル（LLM）の最新のシステマティックレビューでも同様の傾向が報告されています4。2022年以降に発表された4,600件以上の査読付き論文のうち、実際の患者データを用いて評価された研究は約1,000件にとどまり、前向きランダム化比較試験はわずか19件でした。LLMは合成データによる評価では人間を上回ることが多い一方で、実際の臨床データではその傾向は弱くなります。このことはHPP Globalで繰り返し示された重要なメッセージを裏付けています。すなわちベンチマークで高い性能を示しても、必ずしも臨床現場での価値に結びつくとは限らないということです。
このカンファレンスで繰り返し示された教訓は明確でした。AIモデルは実際の臨床データを用いて学習・評価し、真に臨床的有用性を反映した目標に基づいて最適化すること、そして人間がAIとどのように関わるかを十分理解したうえでAIシステムを設計することです。たとえモデル自体完璧であっても、インターフェースが過度な依存を促してしまえば、かえって医療のパフォーマンスを低下させる可能性があるのです。こうした課題に長年取り組んできた研究チームでは、その成果が少しずつ現れ始めています。
About Henry J. Haiser
Corundum Systems Biologyのオペレーティングパートナーとして、科学的デューデリジェンスを主導するとともに、ポートフォリオ企業の成長支援を行っています。Novartis Institutes for BioMedical Researchおよび武田薬品工業において、前臨床から臨床段階に至る医薬品開発プログラムに携わり、10年以上にわたる創薬研究に携わってきました。また、15年以上にわたり、腸内マイクロバイオームと治療法開発の融合領域で研究・開発に取り組んできました。マクマスター大学で微生物学の博士号を取得し、その後ハーバード大学にてシステム生物学の博士研究員として研究に従事しました。
参考文献
- Tonekaboni S, Mazwi M, Laussen P, Eytan D, Greer R, Goodfellow SD, Goodwin A, Brudno M, Goldenberg A. Prediction of Cardiac Arrest from Physiological Signals in the Pediatric ICU. Proceedings of Machine Learning Research 85:534–550, 2018.
- Jabbour S, Fouhey D, Shepard S, Valley TS, Kazerooni EA, Banovic N, Wiens J, Sjoding MW. Measuring the Impact of AI in the Diagnosis of Hospitalized Patients: A Randomized Clinical Vignette Survey Study. JAMA 330(23):2275, 2023.
- Kamran F, Tjandra D, Heiler A, Virzi J, Singh K, King JE, Valley TS, Wiens J. Evaluation of Sepsis Prediction Models before Onset of Treatment. NEJM AI 1(3), 2024.
- Chen SF, Alyakin A, Seas A, Yang E, Choi JJ, Lee JV, Chen AL, Warman PI, Bitolas RT, Steele RJ, Alber DA, Oermann EK. LLM-assisted systematic review of large language models in clinical medicine. Nature Medicine, 2026. doi:10.1038/s41591-026-04229-5.
安井さくら（インターン生）・千々岩 訳
