深度学习用于胶质母细胞瘤疗效预测的可解释性与临床信任:一个综合框架

《Journal of Imaging Informatics in Medicine》:Explainability and Clinical Trust of Deep Learning in Glioblastoma Treatment Efficacy Prediction: A Comprehensive Framework

【字体: 大 中 小 】 时间:2026年10月15日 来源:Journal of Imaging Informatics in Medicine 3.1

编辑推荐:

  胶质母细胞瘤(Glioblastoma, GBM)的治疗反应具有高度异质性。从治疗前MRI预测患者结局是一项关键且尚未满足的临床需求,然而“黑箱”深度学习(Deep Learning, DL)模型的临床采用因缺乏透明度而受阻。仍需开发稳健而全面的验证框架,以建

  
胶质母细胞瘤(Glioblastoma, GBM)的治疗反应具有高度异质性。从治疗前MRI预测患者结局是一项关键且尚未满足的临床需求,然而“黑箱”深度学习(Deep Learning, DL)模型的临床采用因缺乏透明度而受阻。仍需开发稳健而全面的验证框架,以建立临床信任。研究人员采用多层可解释人工智能(eXplainable AI, XAI)流程,剖析了一个先前开发的、用于预测GBM总生存期的深度学习模型。首先,对模型的视觉焦点进行了定性与定量分析。其次,利用输入消融研究量化了模型的特征依赖性。第三,通过对内部表示进行线性探测,追踪了类别信息在网络中变得可解码的深度。最后,在一项多阅片者、多病例研究(37例患者、4位阅片者、3个阶段、444项观察)中,使用广义估计方程(Generalised Estimating Equations, GEE)和聚类自助法评估了AI及其解释的临床影响。分析揭示了一种高强度启发式:颅骨周边的高信号像素锚定了“长期”预测,而模型在其缺失时则基于肿瘤强化默认预测为“短期”。消融研究证实了这一依赖性,线性探测也指向相同方向。在临床研究中,AI辅助显著提高了专家准确性(优势比[Odds Ratio, OR] 1.598,p<0.01),且未人为提升置信度(p=0.561)。重要的是,XAI热力图的添加与专家使用AI评分方式的改变相关(交互p<0.01),并且错误判定为长期生存者的患者更少。高预测准确率可能掩盖对低级强度启发式的依赖。虽然对显著性图的肤浅解读具有风险,但多层审计能暴露这些捷径。在临床上,空间热力图与专家诊断准确率的提高及决策策略的转变相关。
胶质母细胞瘤(Glioblastoma, GBM)是成人最常见的侵袭性原发脑肿瘤,中位总生存期约为15个月。其治疗结局高度异质,从术后放疗前MRI进行早期预后分层是一项未满足的临床需求。深度学习(Deep Learning, DL)模型在该任务上常获得高准确率,但仅以全局性能指标评价并不充分,因为模型可能依赖“捷径学习”(shortcut learning),利用扫描仪伪影等虚假相关性而非生物学特征。现有神经肿瘤学可解释性研究多局限于用静态显著性图确认模型关注肿瘤,未进行多方法比较、定量质量评估、因果检验或临床医师评估。为解决这一问题,研究人员提出一个多层可解释人工智能(eXplainable AI, XAI)审计框架,固定三个问题:模型响应输入的哪一部分、类别在网络多深处可解码、前两点指向的候选特征是否为预测所必需,并进一步评估解释工具的临床影响。

研究人员审计了一个先前开发的ResNet-51q卷积神经网络(Convolutional Neural Network, CNN),该模型以术后放疗前T1-Gd MRI(0.5×0.5×1 mm3,每例9张中心轴位切片)预测GBM总生存期(短期≤332天 vs 长期>332天),原始队列共175例患者、1575张切片,按患者层级划分为训练(104例)、验证(34例)和测试(37例,333张切片)。主要技术包括:Grad-CAM(梯度加权类激活映射)、层间相关性传播(Layer-wise Relevance Propagation, LRP)和LIME(局部可解释模型无关解释)三种归因方法;以平均交并比(Mean Intersection over Union, mIoU)及阈值无关的相关质量指标量化空间焦点;通过掩膜解剖区域或连续最高亮度像素比例的输入消融进行因果检验;用线性探测(Linear Probing)追踪类别可分性的网络深度;并开展多阅片者、多病例(Multi-Reader Multi-Case, MRMC)临床研究(37例、4位阅片者、3阶段、444项观察),以广义估计方程(Generalised Estimating Equations, GEE)和聚类自助法分析。

归因分析揭示模型的双向策略。对显著性图的定性与定量分析显示,对正确预测为短生存期的患者,模型聚焦于大体肿瘤体积(Gross Tumour Volume, GTV),LRP进一步定位到对比增强区;对正确预测为长生存期的患者,模型将重要性归于颅骨尤其是手术部位。错误分类支持该策略:无手术标志时模型默认按肿瘤增强预测短期,或将颅骨高信号误判为长期。

定量分析确认策略转变。mIoU分析显示,短生存期类别的焦点最初锚定于颅骨,随后在Stage 2发生向GTV的决定性反转(p<0.001);不依赖阈值的相关质量指标同样证实此转折。

三种显著性方法在定位与稳定性上存在差异。在插入/删除AUC、指向游戏、基尼稀疏度、鲁棒性五项指标上,无方法全部最优。指向游戏中,对短期预测切片,LRP和Grad-CAM的峰值归因落入GTV的比例为48%和39%,而LIME仅5%且82%落在颅骨;对长期预测切片,三种方法均不指向GTV,颅骨占比59%–92%。Grad-CAM在短期预测切片的噪声鲁棒性为负。

模型策略依赖关键高强度启发式。斯皮尔曼秩相关(Spearman's rank correlation)显示LIME归因与像素强度强相关(ρ=0.69±0.03);高信号像素主要位于颅骨(约76%)和肿瘤对比增强区(约14%)。输入消融中,掩膜整个GTV仅使AUC从0.89降至0.83,而掩膜最亮的前1%前景像素使AUC降至0.79,前5%降至0.642,接近移除全部前景的0.63,说明预测能力主要编码于极窄的高信号像素。

追踪类别可分性出现深度。线性探测显示,初始Stem块后即达AUC 0.70,对应关注颅骨阶段;Stage 1和2停滞,进入Stage 3时AUC突增至>0.92,与该处的空间下采样聚合肿瘤特征一致。

可解释AI提升专家表现并优化决策策略。MRMC研究中独立AI模型AUC为0.869;专家平均AUC从基线0.718升至AI辅助0.760和AI+热图0.781。GEE显示AI辅助显著提高正确诊断优势比(Phase 2 OR=1.336,p<0.05;Phase 3 OR=1.598,p<0.01),置信度无显著增加(p=0.561)。Phase 3相对Phase 2的总体准确率增益不显著(p=0.0808),但交互分析表明XAI显著改变专家使用AI评分的方式(交互p<0.01);假阳性从19降至13,假阴性不变(21 vs 22)。决策曲线分析(Decision Curve Analysis, DCA)显示,较高阈值下Expert+AI+XAI为人为主导策略中的最高净收益。

讨论部分指出,高强度启发式可能是手术范围的间接替代,但信号局限于极小图像比例、出现过早且多位于颅骨,提示更可能是强度伪影;与既往研究相比,本研究的消融实验揭示预测依赖强度而非解剖结构。XAI热图提供放射解剖锚点,使专家能仲裁AI错误,且未造成过度信任;三种归因方法的不一致凸显三角验证必要性。局限性包括单中心、单序列、依赖非定量T1-Gd强度,以及阅片者研究采用便利样本、静态单层图像和非临床环境。结论翻译:研究人员提出了一个结合事后可解释性方法(空间归因、因果输入消融)与内部表示线性探测的多层审计框架,用于评估GBM治疗疗效预测的深度学习模型,发现其强依赖低级强度启发式,而单方法归因无法揭示这一点;多阅片者研究显示XAI热图可支持专家诊断准确性。该框架的核心是程序而非结果:通过三个问题、三种测量交叉验证候选机制,可推广至其他模型。实践上应避免依赖单一归因方法,对依赖原始强度的模型需在跨中心部署前进行强度标准化;在神经肿瘤学中,将可解释性与可解释工具结合以在临床部署前表征AI系统具有重要价值。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号