知识图谱嵌入技术研究综述

作者

• 张天成 1
  , * 田 雪 1
  , * 孙相会 1
  , * 于明鹤 2
  , * 孙艳红 1
  , * 于 戈

摘要

知识图谱

是一种用图模型来描述知识和建模事物之间的关联关系的技术。

知识图谱嵌入

作为一种被广泛采用的知识表示方法。

主要思想是将知识图谱中的实体和关系嵌入到连续的向量空间中。同时保留$KG$的固有结构,可以使得多种下游任务受益。

KG补全和关系提取等等

知识图谱的嵌入技术

使用 KG 中观察到的事实进行嵌入的技术

添加时间维度的动态 KG 嵌入方法

及融合多源信息的 KG 嵌入技术

对相关模型从实体嵌入、关系嵌入、评分函数等方面进行分析

KG嵌入技术的典型应用

问答系统、推荐系统、关系提取等

从语义分析[6,7]、命名实体消歧[8,9]
, 到信息提取[10,11]和问答系统[12,13]等. 知识图谱是以现实世界的实体为节点, 实体之间的关系为边的有向图.

三元组

(头实体、关系、尾实体)

知识图谱嵌入（知识表示学习）

• 将 KG 的组成部分 (包括实体和关系) 嵌入到连续
  的向量空间中, 以在简化操作的同时保留 KG 的固有结构.
• , KGE 为 KG 中的实体和关系提供了更加密集的表示, 降低了其应用中的计算复杂度
• , KGE 可以通过度量实体和关系低维嵌入的相似性
  来显式地捕获实体和关系之间的相似性。

基于知识图谱中观察到的事实进行嵌入技术

基于距离模型

语义匹配模型

最新的KGE技术

融合时间信息的动态知识图谱嵌入技术。

t-TransE、

Know-Evolve、

HyTE、

TDG2E

相关调查和符号定义

相关调查

符号定义

使用事实进行知识图谱嵌入

基于距离的评分函数

基于相似性的评分函数

基于距离的模型

通过计算实体之间的距离来衡量事实的合理性。

$$h+r=t$$

• 通常由关系执行翻译后, 根据两个实体之间的距离来度量一个事实的合理性

基于距离模型SE

一种直观的基于距离的方法是计算实体在关系的对应空间中的投影向量之间的距离. 结构表示(structured embedding, SE[39]) 中的每个实体用 $d$ 维向量表示：
$SE$为每个关系定义了两个投影矩阵$M_{r,1}$和$M_{r,2}$
利用这两个投影矩阵和$L_1$距离学习结构嵌入为:

翻译模型

TransE

• 词向量空间中存在着有趣的平移不变现象。
• 该模型将关系和实体表示为同一空间中的向量，给定事实$$(h,r,t)$$
• 关系 $r$的向量$r$ 被解释为头实体向量 $h$ 与尾实体向量$t$之间的平移.
• 嵌入的实体 $h$ 和 $t$可以通过平移向量 $r$以低误差连接,即满足
• $$h+r\approx t$$
  

UM 非结构模型

复杂关系建模

Point-Wise 空间

TransH模型

引入投影到关系特定的超平面机制

TransR模型

TransD模型

sTransE

TranSparse

TransAt

流行和群

**

语义匹配模型

知识图谱嵌入模型

动态知识图谱嵌入

融合多源信息的知识图谱嵌入

文本描述

很多实体带有描述信息，这些信息可以作为结构化信息的辅助。

知识图谱嵌入的应用

核心思想：将每个实体、关系表示为一个低维向量。而学习到的实体、关系嵌入可以受益于多种下游任务。

基于知识图谱嵌入的问答

旨在利用知识图谱的事实来回答自然语言问题。

推荐系统

关系提取

**

总结

• 先不发布经验，慢慢的将基于事实的知识图谱嵌入技术全部都将其搞定，慢慢的将其全部研究透彻。研究彻底。
• 本章论文要求，将其总结出思维框架，每个模型都学会用代码表示，仔细的将用代码给其总结完整都行啦的理由与打算。

• 有待探索领域将其总结以下。

• 收集一篇论文中该领域的研究方向。

• • 沿着知识图谱这篇论文，将相关的文献啥的全部都将其搞透彻，以及啥的都将其研究彻底，代码、 数学推导、以及其未来研究方向全部都将其整理称思维框架，研究清晰，代码做到拿来即用，拿来即拼写，将这个代码全部都整理完整，将其研究彻底，研究透彻。都行啦的理由与打算。

经验

要求一天五页，搞完后自己在进行总结都行啦的样子与打算。

• 论文写作逻辑
• 某人针对某个问题的研究方向,以及提出来的挑战。以及解决的问题。