With increasing privacy concerns on data, recent studies have made significant progress using federated learning (FL) on privacy-sensitive natural language processing (NLP) tasks. Much literature suggests fully fine-tuning pre-trained language models (PLMs) in the FL paradigm can mitigate the data heterogeneity problem and close the performance gap with centralized training. However, large PLMs bring the curse of prohibitive communication overhead and local model adaptation costs for the FL system. To this end, we introduce various parameter-efficient tuning (PETuning) methods into federated learning. Specifically, we provide a holistic empirical study of representative PLMs tuning methods in FL. The experimental results cover the analysis of data heterogeneity levels, data scales, and different FL scenarios. Overall communication overhead can be significantly reduced by locally tuning and globally aggregating lightweight model parameters while maintaining acceptable performance in various FL settings. To facilitate the research of PETuning in FL, we also develop a federated tuning framework FedPETuning, which allows practitioners to exploit different PETuning methods under the FL training paradigm conveniently. The source code is available at \url{https://github.com/iezhuozhuo/FedETuning/tree/deltaTuning}.

The dissemination of hateful memes online has adverse effects on social media platforms and the real world. Detecting hateful memes is challenging, one of the reasons being the evolutionary nature of memes; new hateful memes can emerge by fusing hateful connotations with other cultural ideas or symbols. In this paper, we propose a framework that leverages multimodal contrastive learning models, in particular OpenAI's CLIP, to identify targets of hateful content and systematically investigate the evolution of hateful memes. We find that semantic regularities exist in CLIP-generated embeddings that describe semantic relationships within the same modality (images) or across modalities (images and text). Leveraging this property, we study how hateful memes are created by combining visual elements from multiple images or fusing textual information with a hateful image. We demonstrate the capabilities of our framework for analyzing the evolution of hateful memes by focusing on antisemitic memes, particularly the Happy Merchant meme. Using our framework on a dataset extracted from 4chan, we find 3.3K variants of the Happy Merchant meme, with some linked to specific countries, persons, or organizations. We envision that our framework can be used to aid human moderators by flagging new variants of hateful memes so that moderators can manually verify them and mitigate the problem of hateful content online.

Massive collection and explosive growth of the huge amount of medical data, demands effective compression for efficient storage, transmission and sharing. Readily available visual data compression techniques have been studied extensively but tailored for nature images/videos, and thus show limited performance on medical data which are of different characteristics. Emerging implicit neural representation (INR) is gaining momentum and demonstrates high promise for fitting diverse visual data in target-data-specific manner, but a general compression scheme covering diverse medical data is so far absent. To address this issue, we firstly derive a mathematical explanation for INR's spectrum concentration property and an analytical insight on the design of compression-oriented INR architecture. Further, we design a funnel shaped neural network capable of covering broad spectrum of complex medical data and achieving high compression ratio. Based on this design, we conduct compression via optimization under given budget and propose an adaptive compression approach SCI, which adaptively partitions the target data into blocks matching the concentrated spectrum envelop of the adopted INR, and allocates parameter with high representation accuracy under given compression ratio. The experiments show SCI's superior performance over conventional techniques and wide applicability across diverse medical data.

在计算机音乐和心理声学中，感知响度与身体属性之间的关系是一个重要的主题。对“相等大通轮廓”的早期研究可以追溯到1920年代，从那以后，对强度和频率进行了测量的响度已被修订了多次。然而，大多数研究仅关注合成的声音，并且很少有合理的自然色调理论。为此，我们通过建模钢琴音调在本文中研究了天然音调感知的理论和应用。该理论部分包含：1）对音高的钢琴相等大小轮廓的准确测量，以及2）一个机器学习模型，能够纯粹基于基于人类主题测量的光谱特征来推断响度。至于应用程序，我们将理论应用于钢琴控制转移，其中我们调整了两个不同玩家钢琴（在不同的声学环境中）上的MIDI速度，以达到相同的感知效果。实验表明，我们的理论响度建模和相应的性能控制转移算法都显着优于其基准。

随着自我监督学习的快速发展（例如，对比度学习），在医学图像分析中广泛认识到具有大规模图像（即使没有注释）来训练更具概括的AI模型的重要性。但是，大规模收集大规模任务的未注释数据对于单个实验室来说可能具有挑战性。现有的在线资源（例如数字书籍，出版物和搜索引擎）为获取大型图像提供了新的资源。然而，在医疗保健中发布的图像（例如放射学和病理学）由大量的带有子图的复合图组成。为了提取和分离化合物形象为下游学习的可用单个图像，我们提出了一个简单的复合图分离（SIMCFS）框架，而无需使用传统所需的检测边界框注释，并具有新的损失函数和硬案例模拟。我们的技术贡献是四倍：（1）我们引入了一个基于模拟的培训框架，该框架最小化了对资源广泛的边界框注释的需求； （2）我们提出了一种新的侧损失，可针对复合人物分离进行优化； （3）我们提出了一种阶层内图像增强方法来模拟硬病例； （4）据我们所知，这是第一项评估利用复合图像分离的自我监督学习功效的研究。从结果来看，提出的SIMCF在ImageClef 2016复合人物分离数据库上实现了最先进的性能。使用大规模开采数字的预审预革的学习模型通过对比度学习算法提高了下游图像分类任务的准确性。 SIMCF的源代码可在https://github.com/hrlblab/imageseperation上公开获得。

背景和目标：现有的医学图像分割的深度学习平台主要集中于完全监督的细分，该分段假设可以使用充分而准确的像素级注释。我们旨在开发一种新的深度学习工具包，以支持对医学图像分割的注释有效学习，该学习可以加速并简单地开发具有有限注释预算的深度学习模型，例如，从部分，稀疏或嘈杂的注释中学习。方法：我们提出的名为Pymic的工具包是用于医学图像分割任务的模块化深度学习平台。除了支持开发高性能模型以进行全面监督分割的基本组件外，它还包含几个高级组件，这些高级组件是针对从不完善的注释中学习的几个高级组件，例如加载带注释和未经通知的图像，未经通知的，部分或无效的注释图像的损失功能，以及多个网络之间共同学习的培训程序。Pymic构建了Pytorch框架，并支持半监督，弱监督和噪声的学习方法用于医学图像分割。结果：我们介绍了基于PYMIC的四个说明性医学图像细分任务：（1）在完全监督的学习上实现竞争性能； （2）半监督心脏结构分割，只有10％的训练图像； （3）使用涂鸦注释弱监督的分割； （4）从嘈杂的标签中学习以进行胸部X光片分割。结论：Pymic工具包易于使用，并促进具有不完美注释的医学图像分割模型的有效开发。它是模块化和灵活的，它使研究人员能够开发出低注释成本的高性能模型。源代码可在以下网址获得：https：//github.com/hilab-git/pymic。

产品描述生成是一项具有挑战性且探索不足的任务。大多数这样的工作都采用一组产品属性，因为输入然后在单个通行证中从头开始生成描述。但是，在面对用户在约束描述时的动态愿望时，这种广泛的范式可能会受到限制，例如根据先前版本删除或添加用户指定属性的内容。为了应对这一挑战，我们在描述生成中探索了一种新的草稿编辑方式，从而导致了电子商务中提议的新任务控制文本编辑。更具体地说，我们允许系统从用户接收命令（删除或添加），然后通过基于上一个版本灵活修改内容来生成描述。通过修改以前的版本而不是从头开始，满足新需求更容易，更实用。此外，我们设计了一种数据增强方法，以纠正此任务中的低资源挑战，其中包含一种基于模型的基于规则的策略，以模仿人类的编辑。为了遵循这项新任务，我们介绍了一个人为编写的命令编辑数据集，称为e-cedits和一个新的指标“属性编辑”。我们的实验结果表明，在自动和人类评估中，使用新的数据增强方法在更大程度上优于基准。

在2022年的亚马逊KDD杯中，我们旨在采用自然语言处理方法来提高搜索结果的质量，从而大大增强用户体验并与搜索引擎进行电子商务。我们讨论了这项竞赛的实用解决方案，在任务一中排名第六，任务第二和任务3中排名第三。

最近，在推荐系统领域中，一个关键问题隐约可见 - 没有进行严格评估的有效基准 - 因此，这会导致不可再生的评估和不公平的比较。因此，我们从实践理论和实验的角度进行研究，目的是为严格的评估做出基准建议。关于理论研究，一系列影响整个评估链中建议性能的超级因素通过对2017 - 2020年在八个顶级会议上发表的141篇论文进行的详尽评价进行了系统的总结和分析。然后，我们将它们分类为独立于模型和模型依赖性的超因子，并相应地定义和讨论了不同的严格评估模式。在实验研究中，我们通过将这些超级因子整合以进行严格的评估来发布DaisyREC 2.0文库，从而进行了整体经验研究，以揭示不同超级效应器对建议性能的影响。在理论和实验研究的支持下，我们最终通过提出标准化程序并在六个数据集上的六个评估指标中提供10个最先进的方法来创建严格评估的基准，以作为以后研究的参考。总体而言，我们的工作阐明了建议评估中的问题，为严格的评估提供了潜在的解决方案，并为进一步调查提供了基础。

在过去的几十年中，知识感知的方法增强了一系列自然语言处理应用。随着收集的动力，最近在文档摘要中引起了知识，这是自然语言处理应用之一。先前的作品报告说，知识包裹的文档摘要在产生卓越的消化方面表现出色，尤其是在信息性，连贯性和事实一致性方面。本文追求对将知识嵌入文档摘要的最先进方法论进行的首次系统调查。特别是，我们提出了新的分类法，以概括文档摘要观点下的知识和知识嵌入。我们进一步探讨了如何在嵌入文档摘要模型的学习体系结构时，尤其是深度学习模型的学习架构。最后，我们讨论了这个主题和未来方向的挑战。