图表可以表示实体之间的关系信息，图形结构广泛用于许多智能任务，例如搜索，推荐和问题应答。然而，实际上大多数图形结构数据都遭受了不完整性，因此链路预测成为一个重要的研究问题。虽然提出了许多模型来用于链路预测，但以下两个问题仍然仍然较少：（1）大多数方法在不利用相关链路中使用丰富的信息，大多数方法都独立模型，并且（2）现有型号主要基于关联设计学习并没有考虑推理。通过这些问题，在本文中，我们提出了图表协作推理（GCR），它可以使用邻居与逻辑推理视角的关系中的关系推理。我们提供了一种简单的方法来将图形结构转换为逻辑表达式，以便链路预测任务可以转换为神经逻辑推理问题。我们应用逻辑受限的神经模块根据逻辑表达式构建网络架构，并使用反向传播以有效地学习模型参数，这在统一架构中桥接可分辨率的学习和象征性推理。为了展示我们工作的有效性，我们对图形相关任务进行实验，例如基于常用的基准数据集的链路预测和推荐，我们的图表合作推理方法实现了最先进的性能。

大型知识图（KGS）提供人类知识的结构化表示。然而，由于不可能包含所有知识，KGs通常不完整。基于现有事实的推理铺平了一种发现缺失事实的方法。在本文中，我们研究了了解完成缺失事实三胞胎的知识图表的推理的学习逻辑规则问题。学习逻辑规则将具有很强的解释性的模型以及概括到类似任务的能力。我们提出了一种称为MPLR的模型，可以改进现有模型以完全使用培训数据，并且考虑多目标方案。此外，考虑到缺乏评估模型表现和开采规则的质量，我们进一步提出了两名新颖的指标来帮助解决问题。实验结果证明我们的MPLR模型在五个基准数据集中优于最先进的方法。结果还证明了指标的有效性。

事实证明，信息提取方法可有效从结构化或非结构化数据中提取三重。以（头部实体，关系，尾部实体）形式组织这样的三元组的组织称为知识图（kgs）。当前的大多数知识图都是不完整的。为了在下游任务中使用kgs，希望预测kgs中缺少链接。最近，通过将实体和关系嵌入到低维的矢量空间中，旨在根据先前访问的三元组来预测三元组，从而对KGS表示不同的方法。根据如何独立或依赖对三元组进行处理，我们将知识图完成的任务分为传统和图形神经网络表示学习，并更详细地讨论它们。在传统的方法中，每个三重三倍将独立处理，并在基于GNN的方法中进行处理，三倍也考虑了他们的当地社区。查看全文

知识图（kgs）在许多应用程序中越来越重要的基础架构，同时患有不完整问题。 KG完成任务（KGC）自动根据不完整的KG预测缺失的事实。但是，现有方法在现实情况下表现不佳。一方面，他们的性能将巨大的降解，而kg的稀疏性越来越大。另一方面，预测的推理过程是一个不可信的黑匣子。本文提出了一个稀疏kgc的新型可解释模型，将高阶推理组合到图形卷积网络中，即HOGRN。它不仅可以提高减轻信息不足问题的概括能力，而且还可以在保持模型的有效性和效率的同时提供可解释性。有两个主要组件无缝集成以进行关节优化。首先，高阶推理成分通过捕获关系之间的内源性相关性来学习高质量的关系表示。这可以反映逻辑规则，以证明更广泛的事实是合理的。其次，更新组件的实体利用无重量的图形卷积网络（GCN）有效地模拟具有可解释性的KG结构。与常规方法不同，我们在没有其他参数的情况下在关系空间中进行实体聚合和基于设计组成的注意。轻巧的设计使HOGRN更适合稀疏设置。为了进行评估，我们进行了广泛的实验 - HOGRN对几个稀疏KG的结果表现出了令人印象深刻的改善（平均为9％的MRR增益）。进一步的消融和案例研究证明了主要成分的有效性。我们的代码将在接受后发布。

归纳链路预测（ILP）是考虑到新兴知识图（kgs）中未见实体的联系，考虑到KGS的发展性质。一个更具挑战性的场景是，新兴的kg仅由看不见的实体组成，被称为已断开新兴kgs（DEKGS）。 DEKGS的现有研究仅专注于预测封闭链接，即预测新兴KG内部的联系。到目前为止，先前的工作尚未对将进化信息从原始KG到DEKG进行进化信息。为了填补空白，我们提出了一个名为DEKG-ILP的新型模型（由以下两个组成部分组成的dekg-ilp（断开新兴知识图形的归纳链路预测）。 （1）模块CLRM（基于对比的关系特定特征特征建模）是为了提取基于全球关系的语义特征而开发的，它们在原始KGS和DEKGS之间以新颖的采样策略共享。 （2）提出了模块GSM（基于GNN的子图建模），以提取围绕KGS中每个链接的局部子图拓扑信息。在几个基准数据集上进行的广泛实验表明，与最新方法相比，DEKG-ILP具有明显的性能改进，用于封闭和桥接链路预测。源代码可在线获得。

人类智能能够首先学习一些基本技能，以解决基本问题，然后将这种基本技能融合到解决复杂或新问题的复杂技能中。例如，基本技能``挖洞''，``放树，'''``回填''和``浇水'''构成复杂的技能``植物''。此外，可以重复使用一些基本技能来解决其他问题。例如，基本技能``挖洞''不仅可以用于种植树木，而且还可以用于采矿，建造排水管或垃圾填埋场。学习基本技能并重复使用各种任务的能力对人类非常重要，因为它有助于避免学习太多的技能来解决每个任务，并可以通过仅学习几个数量来解决组成数量的任务数量基本技能，可以节省人脑中大量的记忆和计算。我们认为，机器智能还应捕捉学习基本技能并通过构成复杂技能的能力。在计算机科学语言中，每种基本技能都是“模块”，它是一个可重复使用的具体含义的网络，并执行特定的基本操作。将模块组装成更大的``模型''，以完成更复杂的任务。组装过程适应输入或任务，即，对于给定的任务，应该将模块组装成解决任务的最合适的模型中。结果，不同的输入或任务可能具有不同的组装模型，从而实现自组装AI。在这项工作中，我们提出了模块化的自适应神经体系结构搜索（MANAS），以演示上述想法。不同数据集上的实验表明，MANAS组装的自适应体系结构优于静态全局体系结构。进一步的实验和经验分析为魔力的有效性提供了见解。

知识图表通常掺入到推荐系统，以提高整体性能。由于知识图的推广和规模，大多数知识的关系是不是目标用户项预测有帮助。要利用知识图在推荐系统捕捉目标具体知识的关系，我们需要提炼知识图，以保留有用的信息和完善的知识来捕捉用户的喜好。为了解决这个问题，我们提出了知识感知条件注意网络（KCAN），这是一个终端到终端的模式纳入知识图形转换为推荐系统。具体来说，我们使用一个知识感知注意传播方式，以获得所述节点表示第一，其捕获用户 - 项目网络和知识图表对全球语义相似度。然后给出一个目标，即用户 - 项对，我们会自动提炼出知识图到基于知识感知关注的具体目标子。随后，通过在应用子有条件的注意力聚集，我们细化知识图，以获得特定目标节点表示。因此，我们可以得到两个表示性和个性化，以实现整体性能。现实世界的数据集实验结果表明，我们对国家的最先进的算法框架的有效性。

知识图（kgs）由于能够存储适用于许多领域的关系知识的能力，因此有助于多种应用。尽管在创造和维护方面进行了巨大的努力，但即使是最大的公斤也远非完整。因此，KG完成（KGC）已成为KG研究最关键的任务之一。最近，该领域的大量文献围绕着使用图神经网络（GNN）学习强大的嵌入，从而利用KGS中的拓扑结构。具体而言，已经做出了专门的努力，以扩展GNN，通常是为简单的同质和单一相关图设计的，以通过设计更复杂的聚合方案而不是相邻节点（关键的节点）（通过设计更复杂的聚合方案）（为GNN绩效）适当利用多关系信息。这些方法的成功自然归因于GNN在简单的多层感知器（MLP）模型上使用，这是由于它们的附加聚合功能。在这项工作中，我们发现简单的MLP模型能够达到与GNN的可比性能，这表明聚集可能并不像以前那样重要。通过进一步的探索，我们显示出仔细的评分功能和损失功能设计对KGC模型性能的影响要大得多，并且实际上不需要聚集。这表明了评分功能设计，损失功能设计和先前工作中的聚集结合，并有很有希望的见解当今最先进的KGC方法的可伸缩性，以及对KGC任务更合适的聚合设计的仔细注意明天。该实现可在线获得：https：//github.com/juanhui28/are_mpnns_helpful。

Incorporating knowledge graph as side information has become a new trend in recommendation systems. Recent studies regard items as entities of a knowledge graph and leverage graph neural networks to assist item encoding, yet by considering each relation type individually. However, relation types are often too many and sometimes one relation type involves too few entities. We argue that it is not efficient nor effective to use every relation type for item encoding. In this paper, we propose a VRKG4Rec model (Virtual Relational Knowledge Graphs for Recommendation), which explicitly distinguish the influence of different relations for item representation learning. We first construct virtual relational graphs (VRKGs) by an unsupervised learning scheme. We also design a local weighted smoothing (LWS) mechanism for encoding nodes, which iteratively updates a node embedding only depending on the embedding of its own and its neighbors, but involve no additional training parameters. We also employ the LWS mechanism on a user-item bipartite graph for user representation learning, which utilizes encodings of items with relational knowledge to help training representations of users. Experiment results on two public datasets validate that our VRKG4Rec model outperforms the state-of-the-art methods. The implementations are available at https://github.com/lulu0913/VRKG4Rec.

链接预测的任务旨在解决由于难以从现实世界中收集事实而引起的不完整知识的问题。基于GCN的模型由于其复杂性而广泛应用于解决链接预测问题，但基于GCN的模型在结构和培训过程中遇到了两个问题。 1）GCN层的转化方法在基于GCN的知识表示模型中变得越来越复杂； 2）由于知识图收集过程的不完整，标记为负样本中有许多未收集的真实事实。因此，本文研究了相邻节点的信息聚合系数（自我注意）的特征，并重新设计了GAT结构的自我注意力。同时，受到人类思维习惯的启发，我们在预训练的模型上设计了一种半监督的自训练方法。基准数据集FB15K-237和WN18RR上的实验结果表明，我们提出的自我发项机制和半监督的自我训练方法可以有效地提高链接预测任务的性能。例如，如果您查看FB15K-237，则建议的方法将@1的命中率提高了约30％。

链接预测是图形上非常基本的任务。在本文中受到传统路径的方法的启发，我们提出了一种基于链路预测路径的一般和灵活的表示学习框架。具体地，我们将一对节点的表示定义为所有路径表示的广义和，每个路径表示为路径中的边缘表示的广义乘积。通过贝尔曼-Ford算法来解决最短路径问题，我们表明，所提出的路径配方可以通过广义的Bellman-Ford算法有效地解决。为了进一步提高路径制构的能力，我们提出了神经贝尔曼 - 福特网络（NBFNET），这是一种全图神经网络框架，其解决了通过广义Bellman-Ford算法中的学习运算符的路径制定。 NBFNET使用3个神经元件，即指示器，消息和聚合函数参数，即分别对应于边界条件，乘法运算符和求和运算符。 NBFNET非常一般，涵盖许多传统的基于路径的方法，并且可以应用于转导和归纳设置的同质图和多关系图（例如，知识图表）。两个均匀图表和知识图表的实验表明，所提出的NBFNET在转换和归纳设置中的大幅度优于现有方法，实现了新的最先进的结果。

知识图表（KGS）是真实世界事实的结构化表示，是融合人类知识的智能数据库，可以帮助机器模仿人类问题的方法。然而，由于快速迭代的性质以及数据的不完整，KGs通常是巨大的，并且在公斤上有不可避免的事实。对于知识图链接的预测是针对基于现有的知识推理来完成缺少事实的任务。广泛研究了两个主要的研究流：一个学习可以捕获潜在模式的实体和关系的低维嵌入，以及通过采矿逻辑规则的良好解释性。不幸的是，以前的研究很少关注异质的KG。在本文中，我们提出了一种将基于嵌入的学习和逻辑规则挖掘结合的模型，以推断在KG上。具体地，我们研究了从节点程度的角度涉及各种类型的实体和关系的异构kg中的缺失链接的问题。在实验中，我们证明了我们的DegreEmbed模型优于对现实世界的数据集的国家的最先进的方法。同时，我们模型开采的规则具有高质量和可解释性。

知识图（KGS）代表作为三元组的事实已被广泛采用在许多应用中。 LIGHT预测和规则感应等推理任务对于KG的开发很重要。已经提出了知识图形嵌入式（KGES）将kg的实体和kg与持续向量空间的关系进行了建议，以获得这些推理任务，并被证明是有效和强大的。但在实际应用中申请和部署KGE的合理性和可行性尚未探索。在本文中，我们讨论并报告我们在真实域应用程序中部署KGE的经验：电子商务。我们首先为电子商务KG系统提供三个重要的探索者：1）注意推理，推理几个目标关系更为关注而不是全部; 2）解释，提供预测的解释，帮助用户和业务运营商理解为什么预测; 3）可转让规则，生成可重用的规则，以加速将千克部署到新系统。虽然非现有KGE可以满足所有这些DesiderATA，但我们提出了一种新颖的一种，可说明的知识图表注意网络，通过建模三元组之间的相关性而不是纯粹依赖于其头实体，关系和尾部实体嵌入来预测。它可以自动选择预测的注意力三倍，并同时记录它们的贡献，从该解释可以很容易地提供，可以有效地生产可转移规则。我们经验表明，我们的方法能够在我们的电子商务应用程序中满足所有三个DesiderATA，并从实际域应用程序中倾斜于数据集的典型基线。

Knowledge graph (KG) link prediction aims to infer new facts based on existing facts in the KG. Recent studies have shown that using the graph neighborhood of a node via graph neural networks (GNNs) provides more useful information compared to just using the query information. Conventional GNNs for KG link prediction follow the standard message-passing paradigm on the entire KG, which leads to over-smoothing of representations and also limits their scalability. On a large scale, it becomes computationally expensive to aggregate useful information from the entire KG for inference. To address the limitations of existing KG link prediction frameworks, we propose a novel retrieve-and-read framework, which first retrieves a relevant subgraph context for the query and then jointly reasons over the context and the query with a high-capacity reader. As part of our exemplar instantiation for the new framework, we propose a novel Transformer-based GNN as the reader, which incorporates graph-based attention structure and cross-attention between query and context for deep fusion. This design enables the model to focus on salient context information relevant to the query. Empirical results on two standard KG link prediction datasets demonstrate the competitive performance of the proposed method.

Knowledge graphs (KG) have served as the key component of various natural language processing applications. Commonsense knowledge graphs (CKG) are a special type of KG, where entities and relations are composed of free-form text. However, previous works in KG completion and CKG completion suffer from long-tail relations and newly-added relations which do not have many know triples for training. In light of this, few-shot KG completion (FKGC), which requires the strengths of graph representation learning and few-shot learning, has been proposed to challenge the problem of limited annotated data. In this paper, we comprehensively survey previous attempts on such tasks in the form of a series of methods and applications. Specifically, we first introduce FKGC challenges, commonly used KGs, and CKGs. Then we systematically categorize and summarize existing works in terms of the type of KGs and the methods. Finally, we present applications of FKGC models on prediction tasks in different areas and share our thoughts on future research directions of FKGC.

为了减轻传统推荐系统（RSS）的数据稀疏和冷启动问题，将知识图（KGS）纳入补充辅助信息，最近引起了相当大的关注。然而，简单地整合了基于KG的RS模型的KGS，这不一定是提高推荐性能的保证，甚至可能削弱整体模型能力。这是因为这些KG的构建与历史用户项相互作用的集合无关;因此，这些KG的信息可能并不总是有助于推荐给所有用户。在本文中，我们提出了具有个性化推荐的协作指导的细心知识意识的图表卷积网络（CG-KGR）。 CG-KGR是一种新颖的知识意识推荐模型，通过我们提出的协作指导机制，可以实现高度和相干的KG和用户项目交互的学习。具体而言，CG-KGR首先封装与交互式信息摘要的历史相互作用。然后CG-kgr利用它作为提取kgs的信息的指导，最终提供更精确的个性化推荐。我们在两个推荐任务中对四个现实数据集进行了广泛的实验，即TOP-K推荐和点击率（CTR）预测。实验结果表明，CG-KGR模型在Top-K推荐的召回度量方面，最近最初的最先进模型明显优于1.4-27.0％。

Knowledge graph (KG) embedding is to embed components of a KG including entities and relations into continuous vector spaces, so as to simplify the manipulation while preserving the inherent structure of the KG. It can benefit a variety of downstream tasks such as KG completion and relation extraction, and hence has quickly gained massive attention. In this article, we provide a systematic review of existing techniques, including not only the state-of-the-arts but also those with latest trends. Particularly, we make the review based on the type of information used in the embedding task. Techniques that conduct embedding using only facts observed in the KG are first introduced. We describe the overall framework, specific model design, typical training procedures, as well as pros and cons of such techniques. After that, we discuss techniques that further incorporate additional information besides facts. We focus specifically on the use of entity types, relation paths, textual descriptions, and logical rules. Finally, we briefly introduce how KG embedding can be applied to and benefit a wide variety of downstream tasks such as KG completion, relation extraction, question answering, and so forth.

多跳跃逻辑推理是在知识图（KGS）上学习领域的一个已建立问题。它涵盖了单跳连接预测以及其他更复杂的逻辑查询类型。现有的算法仅在经典的三重基图上运行，而现代KG经常采用超相关的建模范式。在此范式中，键入的边缘可能具有几对键值对，称为限定符，可为事实提供细粒度的环境。在查询中，此上下文修改了关系的含义，通常会减少答案集。经常在现实世界中的应用程序中观察到超相关的查询，并且现有的近似查询答案方法无法使用预选赛对。在这项工作中，我们弥合了这一差距，并将多跳的推理问题扩展到了超级关系的KG，允许解决这一新类型的复杂查询。在图形神经网络和查询嵌入技术的最新进展之下，我们研究了如何嵌入和回答超相关的连词查询。除此之外，我们还提出了一种回答此类查询并在我们的实验中证明的方法，即预选赛可以改善对各种查询模式的查询回答。

Knowledge graph reasoning (KGR), aiming to deduce new facts from existing facts based on mined logic rules underlying knowledge graphs (KGs), has become a fast-growing research direction. It has been proven to significantly benefit the usage of KGs in many AI applications, such as question answering and recommendation systems, etc. According to the graph types, the existing KGR models can be roughly divided into three categories, \textit{i.e.,} static models, temporal models, and multi-modal models. The early works in this domain mainly focus on static KGR and tend to directly apply general knowledge graph embedding models to the reasoning task. However, these models are not suitable for more complex but practical tasks, such as inductive static KGR, temporal KGR, and multi-modal KGR. To this end, multiple works have been developed recently, but no survey papers and open-source repositories comprehensively summarize and discuss models in this important direction. To fill the gap, we conduct a survey for knowledge graph reasoning tracing from static to temporal and then to multi-modal KGs. Concretely, the preliminaries, summaries of KGR models, and typical datasets are introduced and discussed consequently. Moreover, we discuss the challenges and potential opportunities. The corresponding open-source repository is shared on GitHub: https://github.com/LIANGKE23/Awesome-Knowledge-Graph-Reasoning.

自Transe出来以来，基于翻译的知识图嵌入一直是知识表示学习的最重要分支之一。尽管近年来许多基于翻译的方法取得了一些进展，但表现仍然不令人满意。本文提出了一种名为Triplere的新颖知识图嵌入方法，带有两个版本。Triplere的第一个版本创造性地将关系向量分为三个部分。第二版利用了残留的概念，并取得了更好的性能。此外，尝试使用NodePiece编码实体的尝试可以实现有希望的结果，从而减少了参数大小，并解决了可伸缩性问题。实验表明，我们的方法在大规模知识图数据集上实现了最先进的性能，并在其他数据集上实现了竞争性能。