Explainability has been widely stated as a cornerstone of the responsible and trustworthy use of machine learning models. With the ubiquitous use of Deep Neural Network (DNN) models expanding to risk-sensitive and safety-critical domains, many methods have been proposed to explain the decisions of these models. Recent years have also seen concerted efforts that have shown how such explanations can be distorted (attacked) by minor input perturbations. While there have been many surveys that review explainability methods themselves, there has been no effort hitherto to assimilate the different methods and metrics proposed to study the robustness of explanations of DNN models. In this work, we present a comprehensive survey of methods that study, understand, attack, and defend explanations of DNN models. We also present a detailed review of different metrics used to evaluate explanation methods, as well as describe attributional attack and defense methods. We conclude with lessons and take-aways for the community towards ensuring robust explanations of DNN model predictions.

Estimating treatment effects from observational data is a central problem in causal inference. Methods to solve this problem exploit inductive biases and heuristics from causal inference to design multi-head neural network architectures and regularizers. In this work, we propose to use neurosymbolic program synthesis, a data-efficient, and interpretable technique, to solve the treatment effect estimation problem. We theoretically show that neurosymbolic programming can solve the treatment effect estimation problem. By designing a Domain Specific Language (DSL) for treatment effect estimation problem based on the inductive biases used in literature, we argue that neurosymbolic programming is a better alternative to treatment effect estimation than traditional methods. Our empirical study reveals that our method, which implicitly encodes inductive biases in a DSL, achieves better performance on benchmark datasets than the state-of-the-art methods.

A machine learning model, under the influence of observed or unobserved confounders in the training data, can learn spurious correlations and fail to generalize when deployed. For image classifiers, augmenting a training dataset using counterfactual examples has been empirically shown to break spurious correlations. However, the counterfactual generation task itself becomes more difficult as the level of confounding increases. Existing methods for counterfactual generation under confounding consider a fixed set of interventions (e.g., texture, rotation) and are not flexible enough to capture diverse data-generating processes. Given a causal generative process, we formally characterize the adverse effects of confounding on any downstream tasks and show that the correlation between generative factors (attributes) can be used to quantitatively measure confounding between generative factors. To minimize such correlation, we propose a counterfactual generation method that learns to modify the value of any attribute in an image and generate new images given a set of observed attributes, even when the dataset is highly confounded. These counterfactual images are then used to regularize the downstream classifier such that the learned representations are the same across various generative factors conditioned on the class label. Our method is computationally efficient, simple to implement, and works well for any number of generative factors and confounding variables. Our experimental results on both synthetic (MNIST variants) and real-world (CelebA) datasets show the usefulness of our approach.

通过利用和适应到目前为止获得的知识，人类具有识别和区分他们不熟悉的实例的天生能力。重要的是，他们实现了这一目标，而不会在早期学习中恶化表现。受此启发，我们识别并制定了NCDWF的新的，务实的问题设置：新颖的类发现而无需忘记，哪个任务是机器学习模型从未标记的数据中逐步发现实例的新颖类别，同时在先前看到的类别上保持其性能。我们提出1）一种生成伪内表示的方法，该表示的代理（不再可用）标记的数据，从而减轻遗忘的遗忘，2）基于相互信息的正常化程序，可以增强对新型类别的无聊发现，而3）a 3）当测试数据包含所见类别和看不见的类别的实例时，简单的已知类标识符可以有助于广义推断。我们介绍了基于CIFAR-10，CIFAR-100和IMAGENET-1000的实验协议，以衡量知识保留和新型类发现之间的权衡。我们广泛的评估表明，现有的模型在确定新类别的同时灾难性地忘记了先前看到的类别，而我们的方法能够有效地在竞争目标之间平衡。我们希望我们的工作能够吸引对这个新确定的实用问题设定的进一步研究。

为了使模型在看不见的域（又称域的概括）下进行概括，学习是域 - 不可思议的特征表示并捕获构成对象类别的基础语义。朝着弱监督的视力语言模型的最新进展，从廉价监督的嘈杂文本注释中学习整体表示，通过捕获在不同域下概括的对象特征，表明了他们在语义理解上的能力。但是，当涉及多个源域时，数据集中每个图像的策划文本注释的成本可能会爆炸多次，具体取决于其数字。这使得该过程乏味和不可行，阻碍了我们直接使用这些监督视觉语言方法来实现对看不见的领域的最佳概括。从此激励的是，我们研究了如何以“内在”的方式利用现有预训练的多模式网络的多模式信息，以使系统在看不见的域下概括。为此，我们提出了用于域概括（Indigo）的固有多模式，这是一种简单而优雅的方式，用于利用这些预训练的多模式网络中存在的固有模态以及视觉模态以增强概括性在测试时间内看不见域。我们在几个领域的概括设置（封闭状态，OPENDG和有限的来源）上进行了实验，并在看不见的域上显示了最新的概括性能。此外，我们提供了彻底的分析，以发展对靛蓝的整体理解。

代表学习者认为，解开变异的因素已经证明是在解决各种现实世界的关切方面是重要的，如公平和可意识。最初由具有独立假设的无监督模型组成，最近，监督和相关特征较弱，但没有生成过程的因果关系。相比之下，我们在原因生成过程的制度下工作，因为生成因子是独立的，或者可能被一组观察或未观察到的混乱困惑。我们通过解散因果过程的概念对解开表示的分析。我们激励对新指标和数据集进行研究，以研究因果解剖和提出两个评估指标和数据集。我们展示了我们的指标捕获了解开了因果过程的探索。最后，我们利用我们的指标和数据集对艺术艺术状态的实证研究进行了脱扣代表学习者，以从因果角度来评估它们。

神经网络利用数据中的因果关系和相关的关系，以学习优化给定性能标准的模型，例如分类准确性。这导致学习模型可能不一定反映输入和输出之间的真实因果关系。当在培训时可获得因果关系的域中，即使在学习优化性能标准时，神经网络模型也将这些关系保持为因果关系。我们提出了一种因果规则化方法，可以将这种因果域前瞻纳入网络，并支持直接和完全因果效应。我们表明这种方法可以推广到各种因果前导者的规范，包括给定输入特征的因果效果的单调性或针对公平的目的去除一定的影响。我们在11个基准数据集上的实验显示了这种方法在规则中规范学习的神经网络模型以保持所需的因果效果。在大多数数据集上，可以在不损害精度的情况下获得域名一致模型。

视觉世界自然地在目标或场景实例的数量中表现出不平衡，导致\ EMPH {长​​尾分布}。这种不平衡对基于深度学习的分类模式构成了重大挑战。尾课的过采样实例试图解决这种不平衡。然而，有限的视觉多样性导致具有差的呈现能力差的网络。一个简单的计数器到此是解耦表示和分类器网络，并使用过采样仅用于培训分类器。在本文中，而不是反复重新采样相同的图像（以及由此特征），我们探索通过估计尾类分布来生成有意义特征的方向。灵感来自于近期工作的思想，我们创建校准的分布，以对随后用于训练分类器的其他功能。通过在CiFar-100-LT（长尾）数据集上的几个实验，具有不同的不平衡因子和迷你想象 - LT（长尾），我们展示了我们的方法的功效并建立了新的状态 - 艺术。我们还使用T-SNE可视化对生成功能进行了定性分析，并分析了用于校准尾级分布的最近邻居。我们的代码可在https://github.com/rahulvigneswaran/tailcalibx获得。

自解释深层模型旨在在训练期间隐含地学习基于潜在的概念的解释，从而消除了任何HOC后期解释生成技术的要求。在这项工作中，我们提出了一种这样的模型，该模型将解释生成模块附加在任何基本网络的顶部，并共同列举显示出高预测性能的整个模块，并在概念方面产生有意义的解释。与基线方法相比，我们的培训策略适用于无监督的概念学习，与基线方法相比具有更大的参数空间要求。我们拟议的模式还规定了利用自我监督对概念来提取更好的解释。然而，通过完整的概念监督，与最近提出的基于概念的可解释模型相比，我们实现了最佳预测性能。我们通过我们的方法报告了定性和定量结果，这表明了比最近提出的基于概念的解释方法更好的性能。我们报告了一个没有地面真理概念的两个数据集，即CiFar10，ImageNet和两个具有地面真理概念的数据集，即AWA2，Cub-200，以显示我们两种情况的方法。据我们所知，我们是第一批展示诸如ImageNet的大规模数据集的结果。

改变特定特征但不是其他特性的输入扰动的反事实示例 - 已经显示用于评估机器学习模型的偏差，例如，对特定的人口组。然而，由于图像的各种特征上的底层的因果结构，生成用于图像的反事实示例是非琐碎的。为了有意义，生成的扰动需要满足因果模型所暗示的约束。我们通过在前瞻性学习推断（ALI）的改进变型中结合结构因果模型（SCM）来提出一种方法，该方法是根据图像的属性之间的因果关系生成反事实。基于所生成的反事实，我们展示了如何解释预先训练的机器学习分类器，评估其偏置，并使用反事实程序缓解偏差。在Morpho-Mnist DataSet上，我们的方法会在质量上产生与基于SCM的Factficuls（DeepScm）的质量相当的反功能，而在更复杂的Celeba DataSet上，我们的方法优于DeepScm在产生高质量的有效反应性时。此外，生成的反事件难以从人类评估实验中的重建图像中无法区分，并且随后使用它们来评估在Celeba数据上培训的标准分类器的公平性。我们表明分类器是偏见的w.r.t.皮肤和头发颜色，以及反事实规则化如何消除这些偏差。