深度学习越来越多地在医疗保健中获得迅速采用，以帮助改善患者的结果。在医学图像分析中，需要进行广泛的培训，以获得必要的专业知识，以成为值得信赖的从业者。但是，尽管深度学习技术继续提供最先进的预测性能，但阻碍医疗保健中这一进展的主要挑战之一是这些模型推理机制的不透明性质。因此，归因在建立对利益相关者的信心中对深度学习模型为临床决策做出的预测的信心至关重要。这项工作试图回答以下问题：深神网络模型在医学图像中学到什么？从这个角度来看，我们使用基于自适应路径的梯度积分技术提出了一个新颖的归因框架。结果表明，通过允许他们了解输入预测相关结构，发现新的生物标志物并揭示潜在的模型偏见来提高领域专家的信任，以改善医疗保健结果。