基于掩码离散扩散的超关系知识图谱生成式表示学习

背景与问题

传统知识图谱推理将任务简化为链接预测，其核心假设是事实的大部分组成部分已知，只需预测一个缺失的元素（如头实体、尾实体或关系）。然而，这一受限假设在现实场景中往往不成立，例如在信息不完整的情况下，一个事实可能有多个甚至所有组成部分同时缺失。现有方法无法应对此类更复杂、更开放的推理任务。

核心内容

为解决上述问题，本文提出了两个关键创新：

1. 新任务定义：事实生成

   • 将推理任务从“填补单一空缺”扩展为“生成完整事实”。
   • 任务输入可以是一个任意掩码查询，即一个部分观察到的事实，甚至是一个完全未知的查询。
   • 目标是生成一个全新的、有效的超关系事实，这统一并涵盖了从部分补全到从零生成的各种场景。

2. 新方法提出：KREPE

   • 这是首个用于超关系知识图谱的生成式表示学习方法。
   • 核心机制是采用掩码离散扩散模型来学习并建模缺失组件的概率分布。其条件不仅包括本地事实组件，还包括知识图谱的全局结构。
   • 为捕获复杂的依赖关系，KREPE设计了双重关联建模：
     • 事实内依赖：通过上下文消息传递机制，在单个事实内部进行信息聚合与推理。
     • 事实间关联：通过聚合随机采样的上下文，将不同但相关的事实片段连接起来，利用图谱的全局信息。
   • 该方法实现了单一框架下的任务统一，一套训练流程同时支持链接预测和事实生成。

意义与影响

KREPE的意义在于突破了传统链接预测的范式局限，为处理不完全信息下的知识推理提供了更强大、更通用的解决方案。

• 性能优越：在标准的超关系知识图谱链接预测基准测试上，达到了最先进的性能。
• 生成能力强：在事实生成任务中，其生成新颖且正确事实的能力超越了基于大语言模型（LLM）的基线方法，证明了其在特定结构化知识生成任务上的有效性。这为构建更智能、能主动补全和构建知识的图谱推理系统奠定了基础。