尽管对抗性和自然训练（AT和NT）之间有基本的区别，但在方法中，通常采用动量SGD（MSGD）进行外部优化。本文旨在通过研究AT中外部优化的忽视作用来分析此选择。我们的探索性评估表明，与NT相比，在诱导较高的梯度规范和方差。由于MSGD的收敛速率高度取决于梯度的方差，因此这种现象阻碍了AT的外部优化。为此，我们提出了一种称为ENGM的优化方法，该方法将每个输入示例对平均微型批次梯度的贡献进行正规化。我们证明ENGM的收敛速率与梯度的方差无关，因此适合AT。我们介绍了一种技巧，可以使用有关梯度范围W.R.T.规范的相关性的经验观察来降低ENGM的计算成本。网络参数和输入示例。我们对CIFAR-10，CIFAR-100和Tinyimagenet的广泛评估和消融研究表明，Engm及其变体一致地改善了广泛的AT方法的性能。此外，Engm减轻了AT的主要缺点，包括强大的过度拟合和对超参数设置的敏感性。
translated by 谷歌翻译
3D面部建模一直是计算机视觉和计算机图形学研究的活跃领域，从虚拟化身中的面部表达转移到合成数据生成，助长了应用。现有的3D深度学习生成模型（例如，VAE，gan）允许生成紧凑的面部表征（形状和纹理），可以在形状和外观空间中建模非线性（例如，散射效果，镜面等）。但是，他们缺乏控制微妙表达产生的能力。本文提出了一种新的3D面部生成模型，该模型可以使身份和表达不适，并提供对表达式的颗粒状控制。特别是，我们建议使用一对监督自动编码器和生成对抗网络来产生高质量的3D面，无论是外观和形状而言。实验结果是用整体表达标签或作用单元标签学到的3D面的产生结果表明，我们如何将身份和表达分离；在保留身份的同时，获得精细的表达方式。
translated by 谷歌翻译
我们提出了一种质量感知的多模式识别框架，其将来自多个生物特征的表示与不同的质量和样本数量相结合，以通过基于样本的质量提取互补识别信息来实现增加的识别准确性。我们通过使用以弱监督时尚估计的质量分数加权，为融合输入方式的质量意识框架，以融合输入方式的融合。此框架利用两个融合块，每个融合块由一组质量感知和聚合网络表示。除了架构修改外，我们还提出了两种特定于任务特定的损耗功能：多模式可分离性损失和多模式紧凑性损失。第一个损失确保了类的模态的表示具有可比的大小来提供更好的质量估计，而不同类别的多式数代表分布以实现嵌入空间中的最大判别。第二次丢失，被认为是正规化网络权重，通过规范框架来提高泛化性能。我们通过考虑由面部，虹膜和指纹方式组成的三个多模式数据集来评估性能。通过与最先进的算法进行比较来证明框架的功效。特别是，我们的框架优于BioMdata的模式的级别和得分级别融合超过30％以获得$ 10 ^ { - 4} $ 10 ^ { - 4} $的真正验收率。
translated by 谷歌翻译
本文介绍了SuperMix的监督混合增强方法，它利用输入图像内的突出区域来构建混合训练样本。 SuperMix旨在获得丰富的视觉特征的混合图像，并符合现实的图像前提。为了提高算法的效率，我们开发了牛顿迭代方法的变种，比这个问题的渐变血管更快65美元。我们通过广泛的评估和消融研究验证SuperMix的有效性和对象分类和知识蒸馏的两个任务。在分类任务上，SuperMix为高级增强方法提供了可比的性能，例如自动化和randaugment。特别是，将SuperMix与Randaugment组合实现了78.2 \％在ImageNet上实现了78.2 \％的前1个精度。在蒸馏任务上，单独对使用教师知识混合的图像进行分类，实现了最先进的蒸馏方法的可比性。此外，平均地，将混合图像掺入蒸馏物物镜中，分别在CiFar-100和Imagenet上提高了3.4×％和3.1±1％的性能。 {\它的代码是在https://github.com/alldbi/supermix}上获得的。
translated by 谷歌翻译
Solving portfolio management problems using deep reinforcement learning has been getting much attention in finance for a few years. We have proposed a new method using experts signals and historical price data to feed into our reinforcement learning framework. Although experts signals have been used in previous works in the field of finance, as far as we know, it is the first time this method, in tandem with deep RL, is used to solve the financial portfolio management problem. Our proposed framework consists of a convolutional network for aggregating signals, another convolutional network for historical price data, and a vanilla network. We used the Proximal Policy Optimization algorithm as the agent to process the reward and take action in the environment. The results suggested that, on average, our framework could gain 90 percent of the profit earned by the best expert.
translated by 谷歌翻译
监视网络流量数据以检测异常的任何隐藏模式是一个具有挑战性和耗时的任务，需要高计算资源。为此，适当的摘要技术非常重要，在那里它可以是原始数据的替代品。但是，总结数据受到异常的威胁。因此，创建一个可以将与原始数据相同的模式的摘要至关重要。因此，在本文中，我们提出了一种智能摘要方法，用于识别隐藏的异常，称为innident。建议的方法保证了将原始数据分布保持在总结数据。我们的方法是一种基于聚类的算法，它通过每个群集中的本地加权功能动态地将原始要素空间映射到新的特征空间。因此，在新的特征空间中，类似的样本更近，因此，异常值更为可检测。此外，基于簇大小的选择代表与总结数据中的原始数据保持相同的分发。在执行异常检测算法和异常检测算法之前，可以使用载体作为预处理方法。基准数据集的实验结果证明了数据的摘要可以是异常检测任务中的原始数据的替代品。
translated by 谷歌翻译
有效地探索巨大的数据，以做出决定，类似于回答复杂的问题，是挑战许多现实世界应用场景。在这种情况下，自动摘要具有重要的重要性，因为它将为大数据分析提供基础。传统的摘要方法优化系统以产生短暂的静态摘要，适合所有不考虑概述主观性方面的用户，即对不同用户认为有价值的用户，使这些方法在现实世界使用情况下不切实际。本文提出了一种基于互动概念的摘要模型，称为自适应摘要，可帮助用户制作所需的摘要，而不是产生单一的不灵活的摘要。系统通过在迭代循环中提供反馈来逐渐从用户提供信息，同时与系统交互。用户可以选择拒绝或接受概述中包含概念的操作，以从用户的透视和反馈的置信界面的重要性。所提出的方法可以保证交互式速度，以防止用户从事该过程。此外，它消除了对参考摘要的需求，这对于总结任务来说是一个具有挑战性的问题。评估表明，自适应摘要可帮助用户通过最大化所生成的摘要中的用户期望的内容来基于它们的偏好来使高质量的摘要。
translated by 谷歌翻译