Positive-Unlabeled (PU) learning tries to learn binary classifiers from a few labeled positive examples with many unlabeled ones. Compared with ordinary semi-supervised learning, this task is much more challenging due to the absence of any known negative labels. While existing cost-sensitive-based methods have achieved state-of-the-art performances, they explicitly minimize the risk of classifying unlabeled data as negative samples, which might result in a negative-prediction preference of the classifier. To alleviate this issue, we resort to a label distribution perspective for PU learning in this paper. Noticing that the label distribution of unlabeled data is fixed when the class prior is known, it can be naturally used as learning supervision for the model. Motivated by this, we propose to pursue the label distribution consistency between predicted and ground-truth label distributions, which is formulated by aligning their expectations. Moreover, we further adopt the entropy minimization and Mixup regularization to avoid the trivial solution of the label distribution consistency on unlabeled data and mitigate the consequent confirmation bias. Experiments on three benchmark datasets validate the effectiveness of the proposed method.Code available at: https://github.com/Ray-rui/Dist-PU-Positive-Unlabeled-Learning-from-a-Label-Distribution-Perspective.

Traditional machine learning follows a close-set assumption that the training and test set share the same label space. While in many practical scenarios, it is inevitable that some test samples belong to unknown classes (open-set). To fix this issue, Open-Set Recognition (OSR), whose goal is to make correct predictions on both close-set samples and open-set samples, has attracted rising attention. In this direction, the vast majority of literature focuses on the pattern of open-set samples. However, how to evaluate model performance in this challenging task is still unsolved. In this paper, a systematic analysis reveals that most existing metrics are essentially inconsistent with the aforementioned goal of OSR: (1) For metrics extended from close-set classification, such as Open-set F-score, Youden's index, and Normalized Accuracy, a poor open-set prediction can escape from a low performance score with a superior close-set prediction. (2) Novelty detection AUC, which measures the ranking performance between close-set and open-set samples, ignores the close-set performance. To fix these issues, we propose a novel metric named OpenAUC. Compared with existing metrics, OpenAUC enjoys a concise pairwise formulation that evaluates open-set performance and close-set performance in a coupling manner. Further analysis shows that OpenAUC is free from the aforementioned inconsistency properties. Finally, an end-to-end learning method is proposed to minimize the OpenAUC risk, and the experimental results on popular benchmark datasets speak to its effectiveness.

Precision-Recall曲线（AUPRC）下区域的随机优化是机器学习的关键问题。尽管已经对各种算法进行了广泛研究以进行AUPRC优化，但仅在多Query情况下保证了概括。在这项工作中，我们介绍了随机AUPRC优化的一次性概括中的第一个试验。对于更庞大的概括范围，我们专注于算法依赖性概括。我们目的地都有算法和理论障碍。从算法的角度来看，我们注意到，仅当采样策略偏见时，大多数现有随机估计器才会偏向，并且由于不可兼容性而不稳定。为了解决这些问题，我们提出了一个具有卓越稳定性的采样率不变的无偏随机估计器。最重要的是，AUPRC优化是作为组成优化问题配制的，并提出了随机算法来解决此问题。从理论的角度来看，算法依赖性概括分析的标准技术不能直接应用于这种列表的组成优化问题。为了填补这一空白，我们将模型稳定性从实例损失扩展到列表损失，并弥合相应的概括和稳定性。此外，我们构建状态过渡矩阵以描述稳定性的复发，并通过矩阵频谱简化计算。实际上，关于三个图像检索数据集的实验结果谈到了我们框架的有效性和健全性。

近年来，已取得了巨大进展，以通过半监督学习（SSL）来纳入未标记的数据来克服效率低下的监督问题。大多数最先进的模型是基于对未标记的数据追求一致的模型预测的想法，该模型被称为输入噪声，这称为一致性正则化。尽管如此，对其成功的原因缺乏理论上的见解。为了弥合理论和实际结果之间的差距，我们在本文中提出了SSL的最坏情况一致性正则化技术。具体而言，我们首先提出了针对SSL的概括，该概括由分别在标记和未标记的训练数据上观察到的经验损失项组成。在这种界限的激励下，我们得出了一个SSL目标，该目标可最大程度地减少原始未标记的样本与其多重增强变体之间最大的不一致性。然后，我们提供了一种简单但有效的算法来解决提出的最小问题，从理论上证明它会收敛到固定点。五个流行基准数据集的实验验证了我们提出的方法的有效性。

对成对比较的排名聚集在选举，体育比赛，建议和信息检索中表现出了令人鼓舞的结果。但是，与众多有关计算和统计特征的研究工作相反，对这种算法的安全问题几乎没有关注。在巨额利润的推动下，潜在的对手具有强大的动力和动力来操纵排名清单。同时，文献中没有很好地研究等级聚集方法的内在脆弱性。为了充分了解可能的风险，我们专注于有目的的对手，他们希望通过修改本文中的成对数据来指定汇总结果。从动力学系统的角度来看，具有目标排名列表的攻击行为是属于对手和受害者组成的固定点。为了执行目标攻击，我们将对手和受害者之间的相互作用作为游戏理论框架，由两个连续的操作员组成，同时建立了NASH平衡。然后，构建了针对Hodgerank和RankCentrality的两个程序，以产生原始数据的修改。此外，我们证明，一旦对手掌握了完整的信息，受害者将产生目标排名列表。值得注意的是，所提出的方法允许对手只保留不完整的信息或不完美的反馈并执行有目的的攻击。一系列玩具模拟和几个现实世界数据实验证明了建议的目标攻击策略的有效性。这些实验结果表明，所提出的方法可以实现攻击者的目标，即扰动排名列表的领先候选人是对手指定的。

由于课堂之间不可避免的语义歧义，TOP-K错误已成为大规模分类基准测试的流行指标。有关TOP-K优化的现有文献通常集中于TOP-K目标的优化方法，同时忽略了度量本身的局限性。在本文中，我们指出，顶级目标缺乏足够的歧视，因此诱导的预测可能使完全无关的标签成为最高等级。为了解决此问题，我们开发了一个新颖的度量标准，名为Top-K曲线（AUTKC）下的部分区域。理论分析表明，AUTKC具有更好的歧视能力，其贝叶斯最佳分数函数可以在条件概率方面给出正确的顶级排名。这表明AUTKC不允许无关标签出现在顶部列表中。此外，我们提出了一个经验替代风险最小化框架，以优化拟议的指标。从理论上讲，我们提出（1）贝叶斯最佳分数函数的渔民一致性的足够条件； （2）在简单的超参数设置下对类不敏感的概括上限。最后，四个基准数据集的实验结果验证了我们提出的框架的有效性。

点击率（CTR）预测的目标是预测用户单击项目的可能性，在推荐系统中变得越来越重要。最近，一些具有自动从他/她的行为中提取用户兴趣的深度学习模型取得了巨大的成功。在这些工作中，注意机制用于选择用户在历史行为中感兴趣的项目，从而提高CTR预测指标的性能。通常，这些细心的模块可以通过使用梯度下降与基本预测变量共同训练。在本文中，我们将用户兴趣建模视为特征选择问题，我们称之为用户兴趣选择。对于这样一个问题，我们在包装法的框架下提出了一种新颖的方法，该方法被称为Meta-wrapper。更具体地说，我们使用可区分的模块作为包装运算符，然后将其学习问题重新提出为连续的二元优化。此外，我们使用元学习算法来求解优化并理论上证明其收敛性。同时，我们还提供了理论分析，以表明我们提出的方法1）效率基于包装器的特征选择，而2）可以更好地抵抗过度拟合。最后，在三个公共数据集上进行的广泛实验表明了我们方法在提高CTR预测的性能方面的优势。

众所周知，深度学习模型容易受到对抗性例子的影响。现有对对抗训练的研究已在这一挑战中取得了长足的进步。作为一个典型的特征，他们经常认为班级分布总体平衡。但是，在广泛的应用中，长尾数据集无处不在，其中头等级实例的数量大于尾巴类。在这种情况下，AUC比准确度更合理，因为它对课堂分布不敏感。在此激励的情况下，我们提出了一项早期试验，以探索对抗性训练方法以优化AUC。主要的挑战在于，积极和负面的例子与目标函数紧密结合。作为直接结果，如果没有数据集进行全面扫描，就无法生成对抗示例。为了解决此问题，基于凹入的正则化方案，我们将AUC优化问题重新制定为鞍点问题，该问题将成为实例函数。这导致端到端培训方案。此外，我们提供了提出的算法的收敛保证。我们的分析与现有研究不同，因为该算法被要求通过计算Min-Max问题的梯度来产生对抗性示例。最后，广泛的实验结果表明，在三个长尾数据集中，我们的算法的性能和鲁棒性。

知识图（kg）嵌入在实体的学习表示和链接预测任务的关系方面表现出很大的力量。以前的工作通常将KG嵌入到单个几何空间中，例如欧几里得空间（零弯曲），双曲空间（负弯曲）或超透明空间（积极弯曲），以维持其特定的几何结构（例如，链，层次结构和环形结构）。但是，KGS的拓扑结构似乎很复杂，因为它可能同时包含多种类型的几何结构。因此，将kg嵌入单个空间中，无论欧几里得空间，双曲线空间或透明空间，都无法准确捕获KGS的复杂结构。为了克服这一挑战，我们提出了几何相互作用知识图嵌入（GIE），该图形嵌入了，该图形在欧几里得，双曲线和超级空间之间进行了交互学习的空间结构。从理论上讲，我们提出的GIE可以捕获一组更丰富的关系信息，模型键推理模式，并启用跨实体的表达语义匹配。三个完善的知识图完成基准的实验结果表明，我们的GIE以更少的参数实现了最先进的性能。

张量分解和基于距离的模型在知识图完成（KGC）中起重要作用。但是，KGC方法中的关系矩阵通常会引起高模型的复杂性，并具有过度拟合的高风险。作为一种补救措施，研究人员提出了各种不同的正规化器，例如张量核定常正规器。我们的动机是基于以下观察，即先前的工作仅着眼于参数空间的“大小”，同时留下隐含的语义信息广泛不受欢迎。为了解决这个问题，我们提出了一个新的正常化程序，即均衡规则器（ER），可以通过利用隐式语义信息来抑制过度拟合。具体而言，ER可以通过使用头部和尾部实体之间的语义模棱两可来增强模型的概括能力。此外，它是基于距离的模型和基于张量分解的模型的通用解决方案。实验结果表明，对最先进的关系预测方法有了明显的重大改进。