We revisit a simple Learning-from-Scratch baseline for visuo-motor control that uses data augmentation and a shallow ConvNet. We find that this baseline has competitive performance with recent methods that leverage frozen visual representations trained on large-scale vision datasets.
translated by 谷歌翻译
This paper mainly describes the dma submission to the TempoWiC task, which achieves a macro-F1 score of 77.05% and attains the first place in this task. We first explore the impact of different pre-trained language models. Then we adopt data cleaning, data augmentation, and adversarial training strategies to enhance the model generalization and robustness. For further improvement, we integrate POS information and word semantic representation using a Mixture-of-Experts (MoE) approach. The experimental results show that MoE can overcome the feature overuse issue and combine the context, POS, and word semantic features well. Additionally, we use a model ensemble method for the final prediction, which has been proven effective by many research works.
translated by 谷歌翻译
循环闭合是同时定位和映射（SLAM）系统的重要组成部分。大型视野（FOV）摄像机在SLAM领域受到了广泛的关注，因为它们可以利用全景图像上更多的周围功能。在大型VIO中，用于结合位于全景镜头负面平面上的信息提示，图像特征由具有单位长度的三维矢量表示。虽然全景FOV似乎对于循环封闭是有利的，但在大角度的差异下，这些好处不能轻易实现，在大型角度差异下，循环封闭帧几乎无法通过现有方法匹配。在这项工作中，为了完全释放超宽FOV的潜力，我们建议利用VIO系统的态度信息来指导环路闭合的特征点检测。随着宽圈全景数据上的循环封闭进一步带有许多离群值，因此传统的异常拒绝方法并非直接适用。为了解决此问题，我们提出了一个基于单位长度表示的新离群拒绝方法的循环封闭框架，以提高LF-VIO的准确性。在公共Palvio数据集上，进行了一组全面的实验，并提出的LF-Vio-loop优于最先进的视觉惯性化学方法。我们的代码将在https://github.com/flysoaryun/lf-vio-loop上开放。
translated by 谷歌翻译
目的：动脉自旋标记（ASL）灌注成像表示脑血流（CBF）的直接和绝对测量。动脉转运时间（ATT）是一个相关的生理参数，反映了标记的旋转到达感兴趣的大脑区域的持续时间。多个标签后延迟（PLD）可以提供CBF和ATT的强大度量，从而可以根据ATT优化区域CBF建模。延长的获取时间可以潜在地降低CBF和ATT估计的质量和准确性。我们提出了一个新型网络，以显着减少具有较高信噪比（SNR）的PLD数量。方法：对一个PLD和两个PLD SEPA-列表进行了CBF和ATT估计。对每个模型进行独立训练，以学习从灌注加权图像（PWI）到CBF和ATT图像的非线性转换。结果：One-PLD和两个PLD模型在CBF上的视觉上优于常规方法，而两PLD模型在ATT估计上显示出更准确的结构。所提出的方法将PLD的数量从ATT上的6个降低到2，甚至在CBF上的单个PLD中，而无需牺牲SNR。结论：使用高质量的深度学习生成CBF和ATT地图可行。
translated by 谷歌翻译
网络压缩对于使深网的效率更高，更快且可推广到低端硬件至关重要。当前的网络压缩方法有两个开放问题：首先，缺乏理论框架来估计最大压缩率；其次，有些层可能会过多地进行，从而导致网络性能大幅下降。为了解决这两个问题，这项研究提出了一种基于梯度矩阵分析方法，以估计最大网络冗余。在最大速率的指导下，开发了一种新颖而有效的层次网络修剪算法，以最大程度地凝结神经元网络结构而无需牺牲网络性能。进行实质性实验以证明新方法修剪几个高级卷积神经网络（CNN）体系结构的功效。与现有的修剪方法相比，拟议的修剪算法实现了最先进的性能。与其他方法相比，在相同或相似的压缩比下，新方法提供了最高的网络预测准确性。
translated by 谷歌翻译
近年来，Experts（MOE）的混合物已成为一种有前途的深度学习技术，可以将模型能力扩展为万亿多个参数，同时通过稀疏计算降低计算成本。虽然MoE开设了一个非常大的模型的新领域，但由于MOE的动态性质与系统的静态平行性/管道层之间的不匹配，因此其数以千计的GPU的实现受到限制。我们提出了Tutel，这是一种具有动态自适应并行性和管道的高度可扩展的堆栈设计和实现。 TUTEL在运行时提供自适应并行性切换和自适应管道，分别达到1.74倍和2.00倍的单MOE层加速度。我们还提出了一种用于MOE通信速度的新颖的二维层次结构算法，该算法的表现超过了2,048 GPU的先前最先前的最新时间。 Tutel汇总了所有技术，最终在16 GPU和2,048 GPU上分别提供了4.96倍和5.75倍的加速度，分别通过Fairseq：Meta的Facebook AI AI研究序列到序列工具Kit（Tutel（Tutel）（Tutel）（Tutel）（现在由Fairseq部分采用）。 Tutel源代码可在公共场所获得：https：//github.com/microsoft/tutel。我们的评估表明，Tutel有效，有效地运行了一个基于现实的MOE模型，名为Swinv2-Moe，建立在Swin Transformer V2上，这是一种最先进的计算机视觉体系结构。在效率方面，Tutel加速了Swinv2-MoE，在FairSeq的训练和推理中分别达到1.55倍和2.11倍的速度。关于有效性，SWINV2-MOE模型在预训练和下游计算机视觉任务（例如可可对象检测）方面都比对应的密度密度模型都达到了卓越的精度，这表明Tutel准备对端到端现实世界模型训练的准备就绪和推理。 Swinv2-Moe在https://github.com/microsoft/swin-transformer中开放。
translated by 谷歌翻译
广告分配涉及将广告和有机项目分配给有限的饲料插槽，以最大化平台收入，已成为研究热点。请注意，电子商务平台通常有多个针对不同类别的入口，并且某些入口几乎没有访问。这些入口的数据覆盖范围较低，这使得代理很难学习。为了应对这一挑战，我们提出了基于相似性的ADS分配（SHTAA）的混合转移，该转移有效地将样本和知识从数据富裕的入口转移到数据贫乏的入口。具体而言，我们为MDP定义了不确定性感知的相似性，以估计不同入口的MDP的相似性。基于这种相似性，我们设计了一种混合转移方法，包括实例传输和策略传输，以有效地将样本和知识从一个入口传递到另一个入口。 Meituan食品交付平台上的离线和在线实验都表明，该建议的方法可以在数据贫困的入口方面获得更好的性能并增加平台的收入。
translated by 谷歌翻译
随着强化学习（RL）的最新流行率，在推荐平台（例如电子商务和新闻提要网站）中利用RL来利用RL进行广泛的兴趣。为了获得更好的分配，将最近基于RL的广告分配方法的输入从点单项目升级到列表项目的布置。但是，这也导致了国家行动对的高维空间，因此很难以良好的概括能力学习列表表示。这进一步阻碍了RL药物的探索，并导致样本效率差。为了解决这个问题，我们提出了一种基于RL的新方法，用于广告分配，该方法通过利用Meituan食品交付平台上的任务特定信号来学习更好的列表表示形式。具体而言，我们根据对ADS分配的先前领域知识分别提出基于重建，预测和对比度学习的三个不同的辅助任务。我们在Meituan食品输送平台上进行了广泛的实验，以评估拟议的辅助任务的有效性。离线和在线实验结果都表明，与最先进的基线相比，提出的方法可以学习更好的列表表示形式，并获得更高的平台收入。
translated by 谷歌翻译
光流估计是自动驾驶和机器人系统系统中的一项基本任务，它可以在时间上解释流量场景。自动驾驶汽车显然受益于360 {\ deg}全景传感器提供的超宽视野（FOV）。但是，由于全景相机的独特成像过程，专为针孔图像设计的模型不会令人满意地概括为360 {\ deg}全景图像。在本文中，我们提出了一个新颖的网络框架 - panoflow，以学习全景图像的光流。为了克服全景转化中等应角投影引起的扭曲，我们设计了一种流动失真增强（FDA）方法，其中包含径向流量失真（FDA-R）或等骨流量失真（FDA-E）。我们进一步研究了全景视频的环状光流的定义和特性，并通过利用球形图像的环状来推断360 {\ deg}光流并将大型位移转换为相对小的位移，从而提出了环状流量估计（CFE）方法移位。 Panoflow适用于任何现有的流量估计方法，并从狭窄的FOL流量估计的进度中受益。此外，我们创建并释放基于CARLA的合成全景数据集Flow360，以促进训练和定量分析。 Panoflow在公共Omniflownet和已建立的Flow360基准中实现了最先进的表现。我们提出的方法将Flow360上的端点误差（EPE）降低了27.3％。在Omniflownet上，Panoflow获得了3.17像素的EPE，从最佳发布的结果中降低了55.5％的误差。我们还通过收集工具和公共现实世界中的全球数据集对我们的方法进行定性验证我们的方法，这表明对现实世界导航应用程序的强大潜力和稳健性。代码和数据集可在https://github.com/masterhow/panoflow上公开获取。
translated by 谷歌翻译
视觉惯性化学测定法吸引了自主驾驶和机器人技术领域的广泛关注。视场（FOV）的大小在视觉播音（VO）和视觉惯性二次测量法（VO）中起着重要作用，作为大型FOV，可以感知各种周围的场景元素和特征。但是，当摄像机的字段到达负半平面时，就不能简单地使用[u，v，1]^t来表示图像特征点。为了解决这个问题，我们建议LF-VIO，这是一个具有极大FOV的相机的实时VIO框架。我们利用具有单位长度的三维矢量来表示特征点，并设计一系列算法来克服这一挑战。为了解决带有地位的位置和姿势的全景视觉探针数据集的稀缺性，我们介绍了Palvio数据集，该数据集用具有360 {\ deg} x的整个FOV的全景环形镜头（PAL）系统收集（40 {\ deg}） -120 {\ deg}）和IMU传感器。有了全面的实验，在已建立的Palvio基准和公共Fisheye摄像机数据集上验证了建议的LF-VIO，其FOV为360 {\ deg} x（0 {\ deg} -93.5 {\ deg}）。 LF-VIO优于最先进的视觉惯性 - 调节法。我们的数据集和代码可在https://github.com/flysoaryun/lf-vio上公开提供。
translated by 谷歌翻译