在本文中，我们以高效统一的方式呈现Grecx，这是一种开源Tensorflow框架，用于基于GNN的推荐模型。 GreCX由核心库组成，用于构建基于GNN的推荐基准，以及基于流行的基于GNN的推荐模型的实现。核心库为构建高效和统一的基准，包括FastMetrics（高效度量计算库），VectorSearch（密集向量的高效相似性搜索库），Batcheval（高效迷你批量评估库）和DataManager（Unified DataSet Management库（Unified DataSet Management库） ）。特别是为提供统一的基准测试，以进行不同复杂的基于GNN的推荐模型的公平比较，我们设计了一种新的公制GRMF-X并将其集成到FastMetrics组件中。基于Tensorflow GNN Library TF_Geometric，Grecx仔细实现了各种基于GNN的推荐模型。我们仔细实施了这些基线模型来重现文献中报告的性能，我们的实现通常更有效和友好。总之，GreCX使用来以高效统一的方式培训和基于GNN的推荐基线。我们与Grecx进行实验，实验结果表明，Grecx允许我们以有效和统一的方式培训和基于GNN的推荐基准。 grecx的源代码可在https://github.com/maenzhier/grecx上获得。

图表神经网络（GNNS）已广泛应用于推荐任务，并获得了非常吸引人的性能。然而，大多数基于GNN的推荐方法在实践中遭受数据稀疏问题。同时，预训练技术在减轻了各个领域（如自然语言处理（NLP）和计算机视觉（CV）等域中的数据稀疏而取得了巨大成功。因此，图形预培训具有扩大基于GNN的建议的数据稀疏的巨大潜力。但是，预先培训GNN，建议面临独特的挑战。例如，不同推荐任务中的用户项交互图具有不同的用户和项目集，并且它们通常存在不同的属性。因此，在NLP和CV中常用的成功机制将知识从预训练任务转移到下游任务，例如共享所学习的嵌入式或特征提取器，而不是直接适用于现有的基于GNN的推荐模型。为了解决这些挑战，我们精致地设计了一个自适应图形预训练框架，用于本地化协作滤波（适应）。它不需要传输用户/项目嵌入式，并且能够跨越不同图的共同知识和每个图形的唯一性。广泛的实验结果表明了适应的有效性和优越性。

近年来，由于图表代表学习的出色表现，图形神经网络（GNN）技术在许多真实情景中获得了相当大的兴趣，例如推荐系统和社交网络。在推荐系统中，主要挑战是从其互动中学习有效的用户/项目表示。但是，由于它们对数据集和评估度量的差异，比较使用GNNS用于推荐系统的GNN的许多出版物。此外，其中许多只提供了一个演示，以对小型数据集进行实验，这很远可在现实世界推荐系统中应用。为了解决这个问题，我们介绍了Graph4Rec，这是一个Universal Toolkit，它统一地将GNN模型培训到以下部分：图表输入，随机步行生成，自我图形生成，对生成和GNNS选择。从这个训练管道，可以通过一些配置轻松建立自己的GNN模型。此外，我们开发了一个大规模的图形引擎和参数服务器，以支持分布式GNN培训。我们进行系统和全面的实验，以比较不同GNN模型在不同规模中的若干场景中的性能。证明了广泛的实验以识别GNN的关键组分。我们还尝试弄清楚稀疏和密集的参数如何影响GNN的性能。最后，我们研究了包括负面采样，自我图形建设顺序和温暖开始策略的方法，以找到更有效和高效的GNNS在推荐系统上做法。我们的工具包基于PGL HTTPS://github.com/paddlePaddle/pgl，并且在https://github.com/paddlepaddle/pgl/tree/main/apps/graph4rec中打开代码。

图形神经网络（GNNS）通过提取和传播结构感知功能来处理曲线数据的成功。现有的GNN研究设计了各种传播方案来指导邻居信息的聚合。最近，该字段从本地传播方案中提升，专注于朝向延长传播方案的本地传播方案，这些方案可以直接处理由本地和高阶邻居的扩展邻居。尽管表现令人印象深刻，但现有的方法仍然不足以建立一种高效和学习的扩展传播方案，可以自适应地调整本地和高阶邻居的影响。本文提出了一种有效但有效的端到端框架，即对比自适应传播图形神经网络（CAPGNN），通过组合个性化PageRank和注意技术来解决这些问题。 CAPGNN利用稀疏局部亲和矩阵的多项式模拟了学习的扩展传播方案，其中多项式依赖于个性化PageRank以提供卓越的初始系数。为了自适应地调整局部和高阶邻居的影响，引入了系数关注模型，以便学习调节多项式的系数。此外，我们利用自我监督的学习技巧，设计了无与伦比的熵感知对比损失，以明确地利用未标记的培训数据。我们将CAPGNN作为名为CAPGCN和CAPGAT的两个不同版本，分别使用静态和动态稀疏的本地亲和矩阵。图表基准数据集上的实验表明CAPGNN可以始终如一地优于或匹配最先进的基线。源代码在https://github.com/hujunxianligong/capgnn上公开提供。

Graph neural networks (GNNs) have received remarkable success in link prediction (GNNLP) tasks. Existing efforts first predefine the subgraph for the whole dataset and then apply GNNs to encode edge representations by leveraging the neighborhood structure induced by the fixed subgraph. The prominence of GNNLP methods significantly relies on the adhoc subgraph. Since node connectivity in real-world graphs is complex, one shared subgraph is limited for all edges. Thus, the choices of subgraphs should be personalized to different edges. However, performing personalized subgraph selection is nontrivial since the potential selection space grows exponentially to the scale of edges. Besides, the inference edges are not available during training in link prediction scenarios, so the selection process needs to be inductive. To bridge the gap, we introduce a Personalized Subgraph Selector (PS2) as a plug-and-play framework to automatically, personally, and inductively identify optimal subgraphs for different edges when performing GNNLP. PS2 is instantiated as a bi-level optimization problem that can be efficiently solved differently. Coupling GNNLP models with PS2, we suggest a brand-new angle towards GNNLP training: by first identifying the optimal subgraphs for edges; and then focusing on training the inference model by using the sampled subgraphs. Comprehensive experiments endorse the effectiveness of our proposed method across various GNNLP backbones (GCN, GraphSage, NGCF, LightGCN, and SEAL) and diverse benchmarks (Planetoid, OGB, and Recommendation datasets). Our code is publicly available at \url{https://github.com/qiaoyu-tan/PS2}

社会建议利用社会关系来增强建议的代表性学习。大多数社会推荐模型都将用户互动（协作领域）和社会关系（社会领域）的用户表示统一。但是，这种方法可能无法模拟用户在两个域中的异质行为模式，从而损害了用户表示的表现力。在这项工作中，为了解决这种局限性，我们为社会建议提出了一个新颖的截面对比度学习框架DCREC。更具体地说，我们建议从项目和社会域中学习分开的用户表示。此外，分离的对比度学习旨在在分散的用户表示之间进行社交建议之间的知识转移。各种现实世界数据集的全面实验证明了我们提出的模型的优势。

Top-K建议是推荐系统中的一个基本任务，通常通过比较积极和负对对学习。对比损失（CL）是最近受到更多关注的对比学习的关键，我们发现它非常适合Top-K建议。但是，这是一个问题，即CL处理正面和阴性样本的重要性。一方面，CL面向一个正样品的不平衡问题和许多阴性样品。另一方面，稀疏的数据集中很少有稀疏项目应该强调他们的重要性。此外，其他重要问题是稀疏正项目仍然没有充分利用建议。因此，我们通过使用CL损耗功能同时使用多个正项目（或样本）来提出新的数据增强方法。因此，我们提出了一种基于多样的对比损失（MSCL）功能，通过平衡正面和负样本和数据增强的重要性来解决两个问题。基于图表卷积网络（GCN）方法，实验结果表明了MSCL的最先进的性能。所提出的MSCL很简单，可以在许多方法中应用。我们将在验收时发布GitHub上的代码。

Graph Convolution Network (GCN) has become new state-ofthe-art for collaborative filtering. Nevertheless, the reasons of its effectiveness for recommendation are not well understood. Existing work that adapts GCN to recommendation lacks thorough ablation analyses on GCN, which is originally designed for graph classification tasks and equipped with many neural network operations. However, we empirically find that the two most common designs in GCNs -feature transformation and nonlinear activation -contribute little to the performance of collaborative filtering. Even worse, including them adds to the difficulty of training and degrades recommendation performance.In this work, we aim to simplify the design of GCN to make it more concise and appropriate for recommendation. We propose a new model named LightGCN, including only the most essential component in GCN -neighborhood aggregation -for collaborative filtering. Specifically, LightGCN learns user and item embeddings by linearly propagating them on the user-item interaction graph, and uses the weighted sum of the embeddings learned at all layers as the final embedding. Such simple, linear, and neat model is much easier to implement and train, exhibiting substantial improvements (about 16.0% relative improvement on average) over Neural Graph Collaborative Filtering (NGCF) -a state-of-the-art GCN-based recommender model -under exactly the same experimental setting. Further analyses are provided towards the rationality of the simple LightGCN from both analytical and empirical perspectives. Our implementations are available in both TensorFlow

预测短期交互会话的下一个交互是基于会话的推荐中的一个具有挑战性的任务。几乎所有现有的作品都依赖于项目转换模式，并在建模用户偏好时忽略用户历史会话的影响，这通常会导致非个性化推荐。此外，基于现有的个性化会话的推荐人仅基于当前用户的会话捕获用户首选项，而是忽略来自其他用户的历史会话的有用物品转换模式。为了解决这些问题，我们提出了一种新颖的异构全球图形神经网络（HG-GNN）以以微妙的方式利用所有会话的物品过渡，以便更好地推断用户偏好与当前和历史会话。为了有效利用所有用户的所有会话转换，我们提出了一种新的异构全局图，该图包含会话，用户项交互和全局共同发生项目的项目转换。此外，为了综合地从会话中捕获用户偏好，我们建议通过两个图形增强偏好编码器学习来自全局图的两个用户表示。具体地，我们在异构全球图上设计一种新的异构图形神经网络（HGNN），以了解具有丰富语义的长期用户偏好和项目表示。基于HGNN，我们提出了当前偏好编码器和历史偏好编码器，分别捕获来自当前和历史会话的不同级别的用户偏好。为实现个性化建议，我们将用户当前偏好和历史利益的表示集成到生成最终用户首选项表示。三个真实数据集的广泛实验结果表明，我们的模型优于其他最先进的方法。

点击率（CTR）预测是许多应用程序的关键任务，因为它的准确性对用户体验和平台收入有直接影响。近年来，CTR预测已在学术界和工业中广泛研究，导致各种各样的CTR预测模型。不幸的是，仍然缺乏标准化的基准和CTR预测研究的统一评估协议。这导致现有研究中的不可重复或甚至不一致的实验结果，这在很大程度上限制了他们研究的实用价值和潜在影响。在这项工作中，我们的目标是对CTR预测进行开放基准测试，并以可重复的方式表现不同模型的严格比较。为此，我们运行{超过7,000多个实验，总共超过12,000 GPU小时，在多个数据集设置上重新评估24个现有型号}。令人惊讶的是，我们的实验表明，具有足够的超参数搜索和模型调整，许多深层模型的差异比预期较小。结果还表明，在CTR预测的建模上取得实际进展确实是一个非常具有挑战性的研究任务。我们相信，我们的基准工作不仅可以让研究人员可以方便地衡量新型模型的有效性，而且还使他们与艺术的国家相当相提并论。我们公开发布了我们工作的基准工具，评估协议和实验环境，以促进该领域的可重复研究。

学术界和工业广泛研究了图形机器学习。然而，作为图表学习繁荣的文献，具有大量的新兴方法和技术，它越来越难以手动设计用于不同的图形相关任务的最佳机器学习算法。为了解决挑战，自动化图形机器学习，目的是在没有手动设计的不同图表任务/数据中发现最好的图形任务/数据的最佳超参数和神经架构配置，正在增加研究界的越来越多的关注。在本文中，我们广泛地讨论了自动化图形机方法，涵盖了用于图形机学习的超参数优化（HPO）和神经架构搜索（NAS）。我们简要概述了专为Traph Machine学习或自动化机器学习而设计的现有库，进一步深入介绍AutoGL，我们的专用和世界上第一个用于自动图形机器学习的开放源库。最后但并非最不重要的是，我们分享了对自动图形机学习的未来研究方向的见解。本文是对自动图形机学习的方法，图书馆以及方向的第一个系统和全面讨论。

To offer accurate and diverse recommendation services, recent methods use auxiliary information to foster the learning process of user and item representations. Many SOTA methods fuse different sources of information (user, item, knowledge graph, tags, etc.) into a graph and use Graph Neural Networks to introduce the auxiliary information through the message passing paradigm. In this work, we seek an alternative framework that is light and effective through self-supervised learning across different sources of information, particularly for the commonly accessible item tag information. We use a self-supervision signal to pair users with the auxiliary information associated with the items they have interacted with before. To achieve the pairing, we create a proxy training task. For a given item, the model predicts the correct pairing between the representations obtained from the users that have interacted with this item and the assigned tags. This design provides an efficient solution, using the auxiliary information directly to enhance the quality of user and item embeddings. User behavior in recommendation systems is driven by the complex interactions of many factors behind the decision-making processes. To make the pairing process more fine-grained and avoid embedding collapse, we propose an intent-aware self-supervised pairing process where we split the user embeddings into multiple sub-embedding vectors. Each sub-embedding vector captures a specific user intent via self-supervised alignment with a particular cluster of tags. We integrate our designed framework with various recommendation models, demonstrating its flexibility and compatibility. Through comparison with numerous SOTA methods on seven real-world datasets, we show that our method can achieve better performance while requiring less training time. This indicates the potential of applying our approach on web-scale datasets.

异质图卷积网络在解决异质网络数据的各种网络分析任务方面已广受欢迎，从链接预测到节点分类。但是，大多数现有作品都忽略了多型节点之间的多重网络的关系异质性，而在元路径中，元素嵌入中关系的重要性不同，这几乎无法捕获不同关系跨不同关系的异质结构信号。为了应对这一挑战，这项工作提出了用于异质网络嵌入的多重异质图卷积网络（MHGCN）。我们的MHGCN可以通过多层卷积聚合自动学习多重异质网络中不同长度的有用的异质元路径相互作用。此外，我们有效地将多相关结构信号和属性语义集成到学习的节点嵌入中，并具有无监督和精选的学习范式。在具有各种网络分析任务的五个现实世界数据集上进行的广泛实验表明，根据所有评估指标，MHGCN与最先进的嵌入基线的优势。

近年来，异构图形神经网络（HGNNS）一直在开花，但每个工作所使用的独特数据处理和评估设置会让他们的进步完全了解。在这项工作中，我们通过使用其官方代码，数据集，设置和超参数来展示12个最近的HGNN的系统再现，揭示了关于HGNN的进展的令人惊讶的结果。我们发现，由于设置不当，简单的均匀GNN，例如GCN和GAT在很大程度上低估了。具有适当输入的GAT通常可以匹配或优于各种场景的所有现有HGNN。为了促进稳健和可重复的HGNN研究，我们构建异构图形基准（HGB），由具有三个任务的11个不同数据集组成。 HGB标准化异构图数据分割，特征处理和性能评估的过程。最后，我们介绍了一个简单但非常强大的基线简单 - HGN - 这显着优于HGB上以前的所有模型 - 以加速未来HGNN的进步。

包括传统浅层模型和深图神经网络（GNN）在内的图形嵌入方法已导致有希望的应用。然而，由于其优化范式，浅层模型尤其是基于随机步行的算法无法充分利用采样子图或序列中的邻居接近度。基于GNN的算法遇到了高阶信息的利用不足，在堆叠过多的层时很容易引起过度平滑的问题，这可能会恶化低度（长尾）项目的建议，从而限制了表现力和可伸缩性。在本文中，我们提出了一个新颖的框架SAC，即空间自动回归编码，以统一的方式解决上述问题。为了充分利用邻居接近和高级信息，我们设计了一种新型的空间自回旋范式。具体而言，我们首先随机掩盖了多跳的邻居，并通过以明确的多跳上注意来整合所有其他周围的邻居来嵌入目标节点。然后，我们加强模型，通过对比编码和蒙面邻居的嵌入来学习目标节点的邻居预测性编码，并配备了新的硬性阴性采样策略。为了了解目标到邻居预测任务的最小足够表示并删除邻居的冗余，我们通过最大化目标预测性编码和蒙面邻居的嵌入以及同时约束编码之间的相互信息来设计邻居信息瓶颈和周围的邻居的嵌入。公共推荐数据集和实际方案网络规模数据集Douyin-Friend-Recormendation的实验结果证明了SAC的优势与最先进的方法相比。

基于图神经网络（GNN）方法已饱和推荐系统的领域。这些系统的收益很大，显示了通过网络结构解释数据的优势。但是，尽管在建议任务中使用图形结构有明显的好处，但这种表示形式也带来了新的挑战，这些挑战加剧了缓解算法偏见的复杂性。当将GNN集成到下游任务中时，例如建议，缓解偏差可能会变得更加困难。此外，将现有的公平促进方法应用于大型现实世界数据集的棘手性对缓解尝试更加严重的限制。我们的工作着手通过采用现有方法来促进图形上的个人公平性并将其扩展以支持Mini批次或基于子样本的培训，从而填补了这一空白下游建议任务。我们评估了两种流行的GNN方法：图形卷积网络（GCN），该方法在整个图上进行训练，以及使用概率随机步行的图形，以创建用于迷你批次训练的子图，并评估子采样对个人公平性的影响。我们实施了一个由Dong等人提出的称为\ textit {redress}的个人公平概念，该概念使用等级优化来学习单个公平节点或项目，嵌入。我们在两个现实世界数据集上进行了经验证明，图形不仅能够达到可比的精度，而且与GCN模型相比，还可以提高公平性。这些发现对个人的公平促进，GNN和下游形式产生了影响，推荐系统，表明小批量培训通过允许当地的细微努力指导代表性学习中的公平促进过程来促进个人公平促进。

知识图（kgs）由于能够存储适用于许多领域的关系知识的能力，因此有助于多种应用。尽管在创造和维护方面进行了巨大的努力，但即使是最大的公斤也远非完整。因此，KG完成（KGC）已成为KG研究最关键的任务之一。最近，该领域的大量文献围绕着使用图神经网络（GNN）学习强大的嵌入，从而利用KGS中的拓扑结构。具体而言，已经做出了专门的努力，以扩展GNN，通常是为简单的同质和单一相关图设计的，以通过设计更复杂的聚合方案而不是相邻节点（关键的节点）（通过设计更复杂的聚合方案）（为GNN绩效）适当利用多关系信息。这些方法的成功自然归因于GNN在简单的多层感知器（MLP）模型上使用，这是由于它们的附加聚合功能。在这项工作中，我们发现简单的MLP模型能够达到与GNN的可比性能，这表明聚集可能并不像以前那样重要。通过进一步的探索，我们显示出仔细的评分功能和损失功能设计对KGC模型性能的影响要大得多，并且实际上不需要聚集。这表明了评分功能设计，损失功能设计和先前工作中的聚集结合，并有很有希望的见解当今最先进的KGC方法的可伸缩性，以及对KGC任务更合适的聚合设计的仔细注意明天。该实现可在线获得：https：//github.com/juanhui28/are_mpnns_helpful。

在大多数现实世界中的推荐方案中，多种行为（例如，单击，添加到购物车，采购等）的多类型，这对于学习用户的多方面偏好是有益的。由于多种类型的行为明确表现出依赖性，因此有效地对复杂行为依赖性建模对于多行为预测至关重要。最先进的多行为模型以所有历史互动为输入都没有区别地学习行为依赖性。但是，不同的行为可能反映了用户偏好的不同方面，这意味着某些无关的互动可能会像预测目标行为的声音一样发挥作用。为了解决上述局限性，我们向多行为建议介绍了多功能学习。更具体地说，我们提出了一种新颖的粗到五个知识增强的多功能学习（CKML）框架，以学习不同行为的共享和特定于行为的利益。 CKML引入了两个高级模块，即粗粒兴趣提取（CIE）和细粒度的行为相关性（FBC），它们共同起作用以捕获细粒度的行为依赖性。 CIE使用知识感知信息来提取每个兴趣的初始表示。 FBC结合了动态路由方案，以在兴趣之间进一步分配每个行为。此外，我们使用自我注意机制在兴趣水平上将不同的行为信息相关联。三个现实世界数据集的经验结果验证了我们模型在利用多行为数据方面的有效性和效率。进一步的实验证明了每个模块的有效性以及多行为数据共享和特定建模范式的鲁棒性和优越性。

协作过滤（CF）被广泛用于学习用户和从观察到的交互中的项目的信息潜在表示。现有的基于CF的方法通常采用负面抽样来区分不同的项目。在大型数据集上进行负抽样的培训在计算上是昂贵的。此外，应在定义的分布下仔细地对负项目进行采样，以避免在训练数据集中选择观察到的正面项目。不可避免地，在测试集中，从训练数据集中采样的一些负面项目可能是正面的。在本文中，我们提出了一个自我监督的协作过滤框架（SEXTCF），该框架是专门设计的，用于具有隐式反馈的推荐方案。提出的SEXTCF框架简化了暹罗网络，可以轻松地应用于现有的基于深度学习的CF模型，我们称之为骨干网络。 SEXCF的主要思想是增强主链网络生成的输出嵌入，因为它不可避免地增加了用户/项目ID的原始输入。我们建议并研究三种输出扰动技术，可以应用于不同类型的骨干网络，包括传统CF模型和基于图的模型。该框架使学习用户和项目的信息表示无效样本的信息表示，并且对封装的骨干不可知。我们在四个数据集上进行了全面的实验，以表明我们的框架可以比以2 $ \ times $ -4 $ \ times $ $更快的训练速度实现更高的建议准确性。我们还表明，与自我监督的框架Buir相比，SEXCF平均可以提高准确性高达17.79％。

标签感建议是通过标记行为预测用户个性化项目的任务。对于具有Last.FM或Movielens等标记功能的许多应用程序至关重要。最近，许多努力致力于通过图形卷积网络（GCN）改进引人注目的推荐系统（TRS），这已成为一般建议的新最新技术。但是，某些解决方案是直接从GCN继承而没有理由的，这很难缓解标签引入的稀疏性，模棱两可和冗余问题，从而增加了培训和退化建议性能的困难。在这项工作中，我们旨在简化GCN的设计，以使其更简洁。我们提出了一个新颖的标签推荐模型，名为Light Folksonomy图协作滤波（LFGCF），该模型仅包括必需的GCN组件。具体而言，LFGCF首先从用户分配标签和项目标记的用户记录中构造了人们图形。然后，我们利用汇总的简单设计来学习人们对人物学图的高级表示形式，并使用在多个层中学习的嵌入的加权总和进行信息更新。我们共享标签嵌入，以弥合用户和项目之间的信息差距。此外，提出了一个名为Transrt的正规化功能，以更好地描述用户的偏好和项目功能。对三个现实世界数据集的广泛超参数实验和消融研究表明，LFGCF使用的参数较少，并且显着优于大多数基线的Tag-Aware Top-N建议。