カーネギーメロン大学のHCII（Human-Computer Interaction Institute）の研究者らは、集中治療室の臨床医が24時間監視しながら迅速かつ的確な判断を下す必要があることを指摘している。そこで、ピッツバーグ大学およびUPMCの医師および研究者と共同で、人工知能がこの意思決定プロセスに役立つのか、また臨床医がその支援を信頼するのかについて検討した。
研究チームは、18,000人以上の患者のデータセットでトレーニングされたAI Clinicianモデルを使用して、敗血症の治療に関する推奨事項を提供する対話型臨床意思決定支援（CDS）インターフェースを設計した。このモデルを利用することで、臨床専門家はデータセット内の患者をフィルタリングして検索し、疾患の軌跡を可視化し、モデルの予測とベッドサイドで行われる実際の治療決定とを比較することができる。
HCIIの博士課程の学生で研究チームのメンバーであるヴェンカテッシュ・シバラマン氏は、「臨床医は、AIが自分たちを助けてくれる可能性に興奮しているように感じられるが、これらのAIツールがどのように機能するのかについてはよく知らないかもしれない。」と述べている。しかし、実際にAIベースのツールを利用した結果、ほとんどの医師が意思決定の一部にその支援を取り入れたことがわかったという。
シバラマン氏は、「臨床医は常に、自分が診察した患者に関する多くのデータをコンピュータシステムや電子カルテに入力している。このアイデアは、我々がそのデータの一部から学ぶことで、彼らのプロセスの一部を高速化し、彼らの生活を少し楽にし、また、ケアの一貫性を向上させることができるかもしれないということだ。」と述べ、AIが臨床医の意思決定を支援することで、医療の質を向上させる可能性があることを示唆している。
この研究は、ICUで勤務し、敗血症の治療経験がある24人の臨床医を対象に行われた音読研究である。研究チームは、4つの模擬患者ケースを評価し、治療方針を決定するために、AI Clinician Explorerインターフェースを使用した。臨床医は、AIに完全に判断を委ねるか、AIを完全に無視して自分自身で判断すると考えていたが、結果はそう二者択一的なものではなかった。
研究チームは、「無視」「依存」「検討」「交渉」の4つの共通する行動を挙げた。AIの意見に影響を受けない「無視」グループや、すべての意思決定においてAIの意見を受け入れる「依存」グループが存在した。また、「検討する」グループでは、AIの推奨事項を考慮し、受け入れるか否かを決定した。しかし、ほとんどの参加者は「交渉する」グループに属し、少なくとも1つの決定で推奨の個々の側面を受け入れた医師が含まれていた。
この結果は、AI「Clinician Explorer」を改善するためのヒントにもなる。臨床医は、AIが患者の全体的なデータにアクセスできないことに懸念を示し、AIが教えられたことに反する推奨を行った場合には懐疑的であった。シバラマン氏は、「CDSが、臨床医が通常行うことやベストプラクティスと考えることから逸脱している場合、その理由がよく分かっていない」と述べ、そのデータを提供し、これらの推奨を検証する方法を決定することに集中すると語った。
このような問題に取り組むことは、機械学習とAIが必要となる困難な問題である。しかし、今後もこのような研究が進められ、AIによる医療の進歩が期待される。
このチームの研究は、臨床医の意思決定を代替・複製することではなく、AIを使って過去の患者の転帰で見逃していたかもしれないパターンを明らかにすることを目的としている。チームリーダーのシバラマン氏は、「敗血症のように、患者によって症状が大きく異なる病気はたくさんあり、それによって最適な行動方針も異なるかもしれない。一人の人間が、あらゆる状況において最善の方法を知るために、すべての知識を蓄積することは不可能だ。だから、AIは彼らが考えもしなかった方向へ誘導したり、彼らが最良の行動と考えることを検証する手助けをすることができるかもしれない。」と述べている。
シバラマン氏の共同研究者には、HCIIの助教授であるアダム・ペラー博士、ピッツバーグ大学公衆衛生大学院の上級研究マネージャーであるリー・ブコウスキー、ピッツのカッツビジネス大学院の博士候補であるジョエル・レヴィン、UPMCの重症治療医学科の医師でピットの医学部と公衆衛生大学院の重症治療医学と医療政策の准教授のジェレミー・カーン博士がいる。
シバラマン氏は、「Ignore, Trust or Negotiate：Understanding Clinician Acceptance of AI-Based Treatment Recommendations in Health Care」と題されたチームの論文を、2023年4月にドイツ・ハンブルグで開催されたAssociation for Computing Machinery's Conference on Human Factors in Computing Systems（コンピューティングシステムにおけるヒューマンファクターに関する協会会議 ：CHI 2023)で発表した。
