人类判断在AI辅助诊断中的作用

美国英语科技

2024-11-20 21:00:00阅读时长3分钟1460字

AI辅助诊断放射科医生医疗专业人员胸片诊断决策过度依赖AI置信水平诊断准确性自动化偏见

根据一项发表在《放射学》杂志上的研究，放射科医生和其他医疗专业人员在做出诊断决策时可能过度依赖AI，尤其是在AI识别X光片中特定区域时。

胸片（CXR）示例展示了（A, C）局部（基于特征的）AI解释和（B, D）全局（基于原型的）AI解释，这些解释是由研究中呈现给医生的模拟AI工具ChestAId提供的。在所有示例中，X光片的正确诊断印象是“右上肺肺炎”，相应的AI建议也是正确的。与该胸片相关的患者临床信息是“一名63岁男性因咳嗽到急诊科就诊”。为了更好地模拟一个真实的AI系统，解释的具体性会根据高（即80%-94%）或低（即65%-79%）AI置信水平进行调整：高置信度的局部AI解释（如图A所示）的边界框比低置信度的（如图C所示）更精确；高置信度的全局AI解释（如图B所示）有更多的经典示例图像，而低置信度的（如图D所示）示例图像则更加微妙。图片来源：RSNA

截至2022年，已有190个放射学AI软件程序获得美国食品药品监督管理局的批准。然而，AI的概念验证与其实际临床应用之间存在差距。为了弥合这一差距，培养对AI建议的适当信任至关重要。

在多中心、前瞻性试验中，220名放射科医生和内科/急诊科医生（其中132名为放射科医生）在AI指导的帮助下审查了胸部X光片。每位医生的任务是评估八个胸部X光病例，使用来自模拟AI助手的建议，该助手的诊断性能与该领域的专家相当。临床案例包括从波士顿贝斯以色列女执事医院获取的正面和对应的侧面胸部X光图像，使用开源MIMI胸部X光数据库。一组放射科医生选择了代表真实世界临床实践的病例。

对于每个病例，参与者可以看到患者的临床历史、AI建议和X光图像。AI提供了正确或错误的诊断，以及局部或全局解释。在局部解释中，AI突出显示图像中最相关的特征，而在全局解释中，AI使用以前案例中的相似视觉来解释其诊断过程。

Yi博士补充道：“这些局部解释直接引导医生实时关注问题区域。在我们的研究中，AI实际上用一个框圈出了肺炎或其他异常的区域。”

评审者可以接受、修改或拒绝AI的建议。他们还被要求对其发现和印象的信心水平以及AI建议的有用性进行评分。

Drew Prinster硕士和Amama Mahmood硕士，巴尔的摩约翰霍普金斯大学计算机科学博士生，领导了这项研究，分析了实验变量对诊断准确性、效率、医生对AI有用性的感知和“简单信任”（用户同意或不同意AI建议的速度）的影响。研究人员考虑了诸如用户人口统计和专业经验等变量。

研究结果表明，当AI提供局部解释时，评审者更有可能将其诊断决策与AI建议一致。然而，这导致他们花更少的时间全面考虑诊断。“与全局AI解释相比，局部解释在AI建议正确时提高了医生的诊断准确性。它们还通过减少考虑AI建议的时间总体上提高了诊断效率，”Yi博士表示。

当AI建议正确时，评审者的平均诊断准确率为全球解释的85.3%和局部解释的92.8%。然而，当AI建议错误时，医生的准确率分别降至全球解释的26.1%和局部解释的23.6%。

Yi博士补充道：“当提供局部解释时，研究中的放射科医生和非放射科医生都倾向于更快地信任AI诊断，无论AI建议的准确性如何。”

共同资深作者Chien-Ming Huang博士和John C. Malone，约翰霍普金斯大学计算机科学系助理教授，指出这种对AI的信心可能有缺点，包括过度依赖或自动化偏见的风险。

Yi博士表示：“当我们过于依赖计算机告诉我们的信息时，这是一个问题，因为AI并不总是正确的。我认为作为使用AI的放射科医生，我们需要意识到这些陷阱，并保持对我们诊断模式和培训的警觉。”

根据研究，AI系统开发人员应仔细考虑不同类型AI解释如何影响对AI建议的依赖。

Yi博士总结道：“我真的认为行业和医疗保健研究人员之间的合作是关键。我希望这篇论文能开启对话，并促进未来的研究合作。”

(全文结束)

相关知识

人类判断在AI辅助诊断中的作用
中科院专家揭秘“AI读心术”：能识别情绪，还能辅助诊断抑郁症
36氪首发 | 基于AI做消化内镜辅助诊断，「Wision A.I.」获数千万元A轮融资
人工智能辅助病理诊断
获人工智能大会最高奖！看AI如何助力新冠病情诊断
AI软件可以智能诊断乳腺癌
基于AI识别技术的大数据诊断在烟草病虫害综合治理中的应用
AI与伦理的矛盾和冲突——AI对人类影响之三！
AI医疗，已经跃过了“锦上添花”的阶段
孝昌县第一人民医院数智化病理服务体系建设AI组织病理辅助诊断软件终止公告

网址: 人类判断在AI辅助诊断中的作用 https://www.huajiangbk.com/newsview2289860.html