视网膜影像中基于概念的可解释人工智能:核心概念、技术与挑战

《Journal of Imaging Informatics in Medicine》:Concept-Based Explainable AI in Retinal Imaging: Core Concepts, Techniques, and Challenges

【字体: 大 中 小 】 时间:2026年10月15日 来源:Journal of Imaging Informatics in Medicine 3.1

编辑推荐:

  专业术语翻译的论文摘要 在高风险领域如医疗健康中,建立对人工智能辅助决策的信任对于增强专家和研究人员的信心至关重要。然而,标准的解释方法可能无法完全满足临床需求,它们提供的是原始数据,例如显著性图,而非人类可读的文本和可审计、透明的推理过程。为了弥合这一差距,

  
专业术语翻译的论文摘要 在高风险领域如医疗健康中,建立对人工智能辅助决策的信任对于增强专家和研究人员的信心至关重要。然而,标准的解释方法可能无法完全满足临床需求,它们提供的是原始数据,例如显著性图,而非人类可读的文本和可审计、透明的推理过程。为了弥合这一差距,研究人员越来越倾向于采用基于概念的方法,通过植根于专家支持的临床知识的人类可读概念来表达模型推理。尽管该领域近年来发展迅速,但视网膜基于概念的可解释人工智能(C-XAI)在方法论上仍然存在异质性,在分类法、评估和临床验证方面共识有限。本综述识别了视网膜C-XAI中反复出现的可靠性差距,并综合了解决这些差距的潜在方向,包括独立的概念级审计、鲁棒性测试和临床医生知情的验证。作为说明性示例,研究人员讨论了如何将成熟的SMILE方法论改编用于视网膜C-XAI中的概念级审计;这被提出作为一个候选研究方向,而非一个新的或经过临床验证的框架。

论文主体内容学术性总结

引言
深度学习(DL)在医疗保健领域已得到广泛应用,其在眼底图像分析(包括糖尿病视网膜病变检测)中展现出强大的诊断性能。然而,这些复杂模型的“黑箱”特性构成了临床转化的重大障碍。对于眼科医生而言,缺乏透明且可验证推理过程的诊断输出难以在临床实践中被证明合理。可解释人工智能(XAI)领域应运而生,旨在解决此不透明性问题。早期的标志性方法如LIME、SHAP和Grad-CAM主要将预测归因于输入特征,通常通过生成显著性图来实现。然而,在医学影像,特别是视网膜图像分析中,基于概念的可解释性仍相对未被充分探索。为解决这些局限性,基于概念的可解释人工智能(C-XAI)提供了一种以概念为导向的替代方案,使模型解释与高层次、人类可理解的概念对齐。C-XAI方法并非指向像素,而是以眼科医生会使用的临床生物标志物(如“硬性渗出”、“视网膜出血”或“视盘苍白”)来解释诊断结果。这种方法提供的解释更易于在临床概念的背景下进行直接解读。
尽管取得了进展,C-XAI文献在方法论上仍然存在异质性。虽然众多综述已描绘了更广泛的XAI领域,并且一些综述专门针对医学XAI,但它们往往缺乏对医学影像,尤其是视网膜影像中基于概念方法的特定关注。近期的工作开始对特定的C-XAI技术进行基准测试,或探索其在自然语言中的应用。然而,一项系统性的、统一的、专门针对医学影像(特别是视网膜分析)独特挑战的C-XAI方法综述仍然有限。本文通过一篇聚焦视网膜的基于概念XAI综述来解决这一未充分探索的领域,综合直接的眼科证据与相关的医学概念XAI证据,将文献组织成一个聚焦视网膜的分类法,并确定研究重点。直接的眼科证据主要集中在彩色眼底照相和光学相干断层扫描(OCT)中,而涉及OCT血管成像(OCT-A)、荧光素血管造影和多模态视网膜成像的证据则非常有限。
方法论
本节描述了用于识别、筛选和综合本研究中所包含证据的综述方法论。它概述了检索策略、资格标准、基于PRISMA的研究选择流程、结构化证据评估以及与本综述发现解读相关的方法学局限性。
检索策略旨在确保透明度和可重复性,采用了跨技术、医学和补充学术信息来源的多源策略。检索数据库包括PubMed、IEEE Xplore和Google Scholar,主要覆盖期限为2017年1月1日至检索日期。检索词结合了描述基于概念和自我解释型人工智能方法(包括概念瓶颈、概念激活向量、原型和基于案例的方法、概念发现、神经符号方法、自解释网络、可解释表征、语言引导概念和视觉-语言模型)的术语,以及与视网膜和眼科相关的术语(涵盖眼底成像、OCT/OCT-A、血管造影、糖尿病视网膜病变、青光眼、年龄相关性黄斑变性和视网膜生物标志物)。纳入和排除标准在研究筛选前已定义,以区分直接的眼科证据与背景性的医学C-XAI证据。研究选择过程遵循PRISMA 2020框架,最终合成中包含109篇报告,其中47篇为直接的眼科报告,62篇为背景性的医学概念XAI报告。对于每篇纳入的报告,提取了C-XAI方法和架构、证据角色、成像模态和疾病、数据集和样本信息、概念来源、解释输出、解释评估策略、主要发现、外部验证、眼科医生参与度、代码可用性和报告的局限性。对所有纳入的报告进行了结构化的方法学报告和证据评估,涵盖九个预设领域:数据集/样本报告、外部验证、患者级别划分、标注质量、眼科医生参与度、代码可用性、解释忠实度、鲁棒性/稳定性和临床可用性。评估是基于可获得的提取证据进行的,并将领域层面的发现进行描述性总结。
背景
本节提供了理论背景,介绍了聚焦视网膜的分类法以及对C-XAI方法的综述,包括事后解释型和可解释性设计型模型。
首先定义了核心组件。C-XAI流程始于输入图像,模型将其映射到有意义的潜在空间。关键的机制在于概念表征层,它将模型的内部逻辑转化为人类可理解的表征。概念类型主要分为五类:符号化概念、无监督概念基、原型概念、文本概念和关系概念。构建这些概念通常需要引入额外知识或监督,如概念标注和语言模型生成的文本概念。模型学习这些概念后,会生成三类输出解释:类别-概念关系、节点-概念关联和概念可视化。
接着定义了临床眼科概念。在视网膜图像分析中,这些概念通常包括解剖学结构(如视盘、黄斑、中心凹和视网膜血管)和病理学生物标志物(如微动脉瘤、出血、硬性渗出、棉絮斑、玻璃膜疣、新生血管和视盘苍白)。这些概念对应于眼科医生在评估糖尿病视网膜病变、青光眼和年龄相关性黄斑变性等疾病时所使用的视觉证据。
随后介绍了视网膜成像模态、分割和定量生物标志物。彩色眼底照相提供二维视图,OCT提供横截面结构信息,OCTA和荧光素血管造影提供血管信息。多模态视网膜成像能提供比单一模态更全面的评估。分割是将视网膜图像分析与概念解释联系起来的重要桥梁,U-Net等架构可实现临床有意义结构和病灶的像素级勾画。放射组学可作为定量成像生物标志物的补充来源,其提取的特征可作为候选的定量概念。
最后比较了方法论路径:事后解释型方法与可解释性设计型方法。事后C-XAI方法是应用于预训练黑箱模型的调查工具,灵活但解释是近似值。可解释性设计型C-XAI模型则在架构上内建了透明度,概念表征显式地嵌入在预测路径中,但架构透明并不保证解释的忠实度、概念纯度或临床有效性。
评估视网膜影像中C-XAI的分析方法
本节分析了评估方法、证据质量和报告差距。对纳入报告的结构化评估揭示了在数据集报告、外部验证、患者级别数据拆分、标注质量、眼科医生参与、代码可用性、解释忠实度、鲁棒性/稳定性以及临床可用性等方面的现状和不足。
可靠基于概念XAI的新兴方向
本节综合了可靠性差距,并讨论了独立审计的潜在方向,包括一个说明性的基于SMILE的概念级审计示例。识别的可靠性风险包括空间错位、概念纠缠、虚假相关、标签泄露和概念不确定性。独立审计被视为重要的研究需求,而将SMILE方法论用于概念级审计仅作为说明性的候选方向提出,需经验证。
结论
本节总结了综述的主要发现和研究重点。未来优先事项包括专家知情的概念定义、结构化临床知识、关系推理、多模态验证、透明沟通和独立评估。这些被呈现为研究优先级,而非新的临床决策支持框架。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号