在本文中，我们在卷积神经网络（CNNS）的不断扩大性文献中介绍了一个新问题。虽然以前的工作侧重于如何在视觉解释CNNS的问题上，但我们问我们关心解释的是什么，即哪些层和神经元值得我们关注？由于巨大的现代深度学习网络架构，自动化，定量方法需要对神经元的相对重要性进行排名，以便为此问题提供答案。我们提出了一种新的统计方法，用于在网络的任何卷积层中排名隐藏的神经元。我们将重要性定义为激活映射与类分数之间的最大相关性。我们提供了不同的方式，其中该方法可用于可视化与Mnist和Imagenet的目的，并显示我们对街道级图像的空气污染预测方法的真实应用。
translated by 谷歌翻译