This technical report briefly describes our JDExplore d-team's Vega v2 submission on the SuperGLUE leaderboard. SuperGLUE is more challenging than the widely used general language understanding evaluation (GLUE) benchmark, containing eight difficult language understanding tasks, including question answering, natural language inference, word sense disambiguation, coreference resolution, and reasoning. [Method] Instead of arbitrarily increasing the size of a pretrained language model (PLM), our aim is to 1) fully extract knowledge from the input pretraining data given a certain parameter budget, e.g., 6B, and 2) effectively transfer this knowledge to downstream tasks. To achieve goal 1), we propose self-evolution learning for PLMs to wisely predict the informative tokens that should be masked, and supervise the masked language modeling (MLM) process with rectified smooth labels. For goal 2), we leverage the prompt transfer technique to improve the low-resource tasks by transferring the knowledge from the foundation model and related downstream tasks to the target task. [Results] According to our submission record (Oct. 2022), with our optimized pretraining and fine-tuning strategies, our 6B Vega method achieved new state-of-the-art performance on 4/8 tasks, sitting atop the SuperGLUE leaderboard on Oct. 8, 2022, with an average score of 91.3.

通过3D骨骼重新识别人的重新识别（RE-ID）是一个重要的新兴话题，具有许多优点。现有的解决方案很少探索骨骼结构或运动中有价值的身体成分关系，并且它们通常缺乏通过无标记的骨骼数据来学习人Re-ID的通用表示的能力。本文提出了一个通用的无监督骨骼原型对比度学习范式，其多级图关系学习（SPC-MGR），以从无标记的骨骼中学习有效的表示，以执行人员重新ID。具体而言，我们首先构建统一的多级骨架图，以完全模拟骨骼内的身体结构。然后，我们提出了一个多头结构关系层，以全面捕获图中物理连接的身体分量节点的关系。利用全层协作关系层来推断与运动相关的身体部位之间的协作，以捕获丰富的身体特征和可识别的步行模式。最后，我们提出了一个骨骼原型对比学习方案，该方案具有未标记的图表表达的相关实例，并将其固有的相似性与代表性的骨骼特征（“骨架原型”）进行对比，以学习人重新ID的歧视性骨骼表示。经验评估表明，SPC-MGR明显优于几种基于最新的骨架方法，并且还可以实现竞争激烈的人重新绩效，以实现更多的一般情况。

本文研究了一个开放的研究问题，即生成文本图像对，以改善细粒度对文本跨模式检索任务的训练，并通过发现stylegan2模型的隐藏语义信息，为配对数据增强的新颖框架提出了一个新颖的框架。 。具体来说，我们首先在给定数据集上训练stylegan2模型。然后，我们将真实图像投影回stylegan2的潜在空间，以获取潜在的代码。为了使生成的图像可操作，我们进一步引入了一个潜在的空间对齐模块，以了解StyleGAN2潜在代码和相应的文本字幕功能之间的对齐。当我们进行在线配对数据增强时，我们首先通过随机代码替换生成增强文本，然后将增强文本传递到潜在的空间对齐模块中以输出潜在代码，最终将其馈送到stylegan2以生成增强图像。我们评估了增强数据方法对两个公共跨模式检索数据集的功效，其中有希望的实验结果表明，可以将增强的文本图像对数据与原始数据一起训练，以增强图像到文本交叉 - 模态检索性能。

在本文中，我们调查了一项开放的研究任务，该任务是从单个2D GAN产生人体面部且没有3D监督的3D卡通面部形状，在那里我们还可以操纵3D形状的面部表情。为此，我们发现了Stylegan潜在空间的语义含义，因此我们能够通过控制潜在代码来产生各种表达式，姿势和照明的面部图像。具体而言，我们首先对卡通数据集中预验证的Stylegan脸部模型进行了修复。通过将相同的潜在代码喂入面部和卡通生成模型，我们的目标是实现从2D人脸图像到卡通风格的化身的翻译。然后，我们发现了甘恩潜在空间的语义方向，以试图在保留原始身份的同时改变面部表情。由于我们没有任何针对卡通脸的3D注释，因此我们操纵潜在代码以生成具有不同姿势和照明的图像，以便我们可以重建3D卡通脸部形状。我们在定性和定量上验证了方法在三个卡通数据集上的疗效。

利用Stylegan的表现力及其分离的潜在代码，现有方法可以实现对不同视觉属性的现实编辑，例如年龄和面部图像的性别。出现了一个有趣而又具有挑战性的问题：生成模型能否针对他们博学的先验进行反事实编辑？由于自然数据集中缺乏反事实样本，我们以文本驱动的方式研究了这个问题，并具有对比语言图像预言（剪辑），这些（剪辑）甚至可以为各种反事实概念提供丰富的语义知识。与内域操作不同，反事实操作需要更全面地剥削夹包含的语义知识，以及对编辑方向的更微妙的处理，以避免被卡在局部最低或不需要的编辑中。为此，我们设计了一种新颖的对比损失，该损失利用了预定义的夹子空间方向，从不同的角度将编辑指向所需的方向。此外，我们设计了一个简单而有效的方案，该方案将（目标文本）明确映射到潜在空间，并将其与潜在代码融合在一起，以进行有效的潜在代码优化和准确的编辑。广泛的实验表明，我们的设计在乘坐各种反事实概念的目标文本驾驶时，可以实现准确，现实的编辑。

半监督学习（SSL）从根本上是一个缺失的标签问题，与广泛的随机假设完全既贴心又无标记的标签完全失踪，而不是随机（mnar）问题（mnar）问题更现实和挑战数据共享相同的类分布。与现有的SSL解决方案不同，这些解决方案忽略了“类”在引起非随机性中的作用，例如，用户更有可能将流行类标记为“类别”，我们将“类”明确地纳入SSL。我们的方法是三倍：1）我们建议使用偏置标记的数据来利用未标记的数据来利用未标记的数据来训练改进的分类器。 2）鼓励罕见的课堂培训，其模型是低回调但高精度，丢弃了太多的伪标记的数据，我们提出了类动态降低（或增加）伪标签分配阈值的class感知插补（CAI）稀有（或频繁）的课程。 3）总体而言，我们将CAP和CAI集成到训练无偏的SSL模型的双重稳健估计器中。在各种MNAR设置和消融中，我们的方法不仅显着优于现有基线，而且超过了其他标签偏置删除SSL方法。请通过以下方式查看我们的代码：https：//github.com/joyhuyy1412/cadr-fixmatch。

基于骨架的人重新识别（RE-ID）的最新进展通过手工制作的骨骼描述符或骨骼表示，并具有深度学习范式的学习。但是，它们通常需要骨骼预制和标签信息进行培训，这导致这些方法的适用性有限。在本文中，我们专注于无监督的基于骨架的人重新ID，并提出一个通用的简单掩盖对比度学习（SIMMC）框架，以从未标记的3D骨架中学习有效的表示人。具体而言，要在每个骨架序列中充分利用骨骼特征，我们首先设计了一个掩盖的原型对比度学习（MPC）方案，以聚集最典型的骨骼特征（骨架原型），从从原始序列随机掩盖的不同子序列中进行，并与原始序列之间的固有相似性之间的相似性。骨骼特征和不同的原型，可学习判别骨骼表示，而无需使用任何标签。然后，考虑到同一顺序中不同的子序列通常由于运动连续性的性质而具有很强的相关性，我们提出了掩盖的序列内对比度学习（MIC）以捕获子序列之间的序列模式一致性，以鼓励学习更多人重新ID的有效骨骼表示。广泛的实验验证了所提出的SIMMC优于大多数基于最先进的骨架方法。我们进一步显示了其在增强现有模型性能方面的可扩展性和效率。我们的代码可在https://github.com/kali-hac/simmc上找到。

食物对人类日常生活很重要。在本文中，我们有兴趣学习长期食谱的结构表现形式，这些食谱可以使食谱生成和食品跨模式检索任务受益。与常见的视觉数据不同，这里的食物图像包含混合成分和目标食谱是漫长的段落，在那里我们没有关于结构信息的注释。为了解决上述局限性，我们提出了一种新颖的方法，可以毫无根据地学习烹饪食谱的句子级树结构。我们的方法在系统的框架中汇集了一些新颖的想法：（1）利用一种无监督的学习方法来在训练前获得句子级的树结构标签； （2）通过从（1）中学到的树结构标签的监督从图像中生成目标食谱的树； （3）将学习的树结构整合到食谱生成和食品交叉模式检索过程中。我们提出的模型可以生成优质的句子级别的树结构和连贯的食谱。我们在基准配方1M数据集上实现了最先进的食谱生成和食品交叉模式检索性能。

视频字幕定位目标将复杂的视觉内容解释为文本说明，这要求模型充分了解包括对象及其交互的视频场景。流行的方法采用现成的对象检测网络来提供对象建议，并使用注意机制来建模对象之间的关系。他们通常会错过一些预验证模型的不确定语义概念，并且无法识别对象之间的确切谓词关系。在本文中，我们研究了为给定视频生成文本描述的开放研究任务，并提出了带有元概念的跨模式图（CMG）。具体而言，为了涵盖视频字幕中有用的语义概念，我们弱地学习了文本描述的相应视觉区域，其中相关的视觉区域和文本单词被命名为跨模式元概念。我们通过学习的跨模式元概念动态地构建元概念图。我们还构建了整体视频级别和本地框架级视频图，并具有预测的谓词，以建模视频序列结构。我们通过广泛的实验来验证我们提出的技术的功效，并在两个公共数据集上实现最新结果。

嘈杂的标签通常在现实世界数据中找到，这导致深神经网络的性能下降。手动清洁数据是劳动密集型和耗时的。以前的研究主要侧重于加强对嘈杂标签的分类模型，而对嘈杂标签的深度度量学习（DML）的鲁棒性仍然较少。在本文中，通过提出与DML的内存（棱镜）方法提出基于概率排名的实例选择来弥合这一重要差异。棱镜计算清洁标签的概率，并滤除潜在的噪声样本。具体地，我们提出了一种新方法，即Von Mises-Fisher分配相似性（VMF-SIM），通过估计每个数据类的VON MISES-FISHER（VMF）分布来计算这种概率。与现有的平均相似性方法（AVGSIM）相比，除了平均相似度之外，VMF-SIM还考虑每个类的方差。通过这种设计，所提出的方法可以应对挑战的DML情况，其中大多数样本是嘈杂的。在合成和现实世界嘈杂的数据集中的广泛实验表明，拟议的方法在合理的培训时间内实现了高达@ 1的精度高达8.37％的精度@ 1。