向量空间表示：如何把实体和关系表示为向量

在知识图谱中知识并不一定只能用符号和图结构表示。除了实体、关系、属性、三元组这些显式表示方式还可以把实体和关系映射到向量空间中用一组数字来表示它们的特征。这种方法通常称为向量空间表示Vector Space Representation。它是知识图谱与机器学习结合的重要方向特别适合处理相似性计算、知识补全和链接预测等任务。一、什么是向量空间表示向量空间表示是把对象映射到一个数值向量空间中的表示方法。在这个空间中每个对象对应一个向量而向量中的各个维度共同刻画该对象的某些特征。如果把知识图谱中的实体和关系都放入这样的空间那么• 每个实体可以对应一个向量• 每种关系也可以对应一个向量• 向量之间的位置、距离和方向可以反映它们之间的相似性或联系。在知识图谱研究中这类方法通常体现为实体和关系的向量嵌入Embedding。这些向量通常不是人工直接指定的而是通过表示学习过程从已有三元组中学习得到的。因此向量空间表示关注的不是“对象如何被文字定义”而是“对象如何被数字化表示并参与计算”。二、知识图谱中哪些内容可以表示为向量在知识图谱中最常被向量化的两类内容是实体和关系。1、实体向量实体向量用于表示图谱中的对象如人物、地点、机构、作品等。例如“梵高”“《星夜》”“北京大学”都可以被表示为向量。2、关系向量关系向量用于表示实体之间的语义联系。例如“创作”“位于”“属于”等关系也可以被表示为向量。这样一来知识图谱中的知识就不再只是“节点—边”的符号结构也能转化为可以进行数值计算的向量结构。在实际模型中实体和关系通常通过三元组共同参与训练从而形成相应的向量表示。三、为什么需要向量空间表示知识图谱中的符号表示很清楚但在某些任务中单纯依赖显式符号会遇到困难。向量空间表示之所以重要主要有以下几个原因。1、缓解稀疏性问题知识图谱中的很多事实是离散的、局部的。如果只看显式三元组很多对象之间可能没有直接联系。向量表示可以在更连续的空间中捕捉潜在相似性。2、便于统一数值计算当实体和关系被表示为向量后许多相似性计算、评分函数计算和学习过程就可以转化为统一的数值运算。3、便于发现隐含联系即使两个实体没有直接相连只要它们在向量空间中位置接近系统也可能发现它们存在潜在语义关联。4、支持知识补全如果知识图谱中缺少某些关系向量空间表示可以帮助系统预测哪些关系可能成立。因此向量空间表示的价值不在于替代符号表示而在于补充符号表示在计算与泛化方面的不足。四、一个直观例子从数字向量到语义方向要理解向量空间表示关键是明白一个对象在计算机中可以先表示为一组数字而这些数字又可以进一步对应为向量空间中的某个位置及其方向关系。例如在下图中左侧给出了“蝴蝶”的一组数值表示右侧则把这种数值表示直观化为向量空间中的方向示意这幅图可以帮助我们理解两个层面。1、左侧对象可以表示为一组数字图左侧的列向量说明“蝴蝶”这个对象并不一定只能用文字解释也可以表示为一串数值。这些数值共同组成了“蝴蝶”的向量表示。向量中的每一个维度通常不是单独写着“翅膀”“会飞”“昆虫”这样的文字标签而是模型在训练中自动学得的一组数值特征。也就是说向量的每一维通常并不直接对应一个人可读的语义词而是若干潜在特征的综合表达。2、右侧向量可以在空间中体现语义特征图右侧把这些数值进一步抽象为空间中的示意向量。图中标出了“蝴蝶”“瓢虫”以及“飞”“爬”等对象或特征意在说明不同对象或特征在向量空间中可以表现出某种相对位置和方向关系。例如“蝴蝶”这个向量可能更接近“飞”这一方向而“瓢虫”与“爬”这一方向则相对更接近。这并不是说模型在某一维上直接写着“飞行”而是说在整体空间结构中“蝴蝶”与“飞”表现出更强的相似性或关联性。3、这幅图说明了什么这幅图真正要说明的不是“蝴蝶被画成了一支箭头”而是• 对象可以先表示为一组数字• 这些数字可以看作向量• 向量之间的距离、方向和相对位置可以反映语义关系。因此向量空间表示的核心并不是“画图”而是“把知识放进一个可计算的空间”。五、从词到实体向量思想如何迁移到知识图谱向量空间表示并不只用于知识图谱在自然语言处理中词也常常被表示为向量。例如如果把“画家”“艺术家”“作品”“创作”等词表示为向量系统会逐渐学习到一些空间分布规律语义更接近的词在向量空间中往往位置更近语义关系相似的词也可能呈现相近的方向模式。同样的思想也可以用于知识图谱• “梵高”和“莫奈”在某些语义维度上可能比较接近• “创作”和“绘制”在某些关系层面上可能更相近• “画家”和“作品”之间会形成特定类型的向量关联。这说明知识图谱中的向量表示与词向量在思想上是相通的都是把原本离散的符号对象映射到连续空间中使系统能够用数值方式处理语义关系。六、与符号表示有什么不同向量空间表示与 RDF、OWL、属性图等符号表示方式并不相同它们各自关注的问题不同。1、符号表示强调显式语义例如三元组会明确写出“梵高—创作—《星夜》”。这种表示清楚、可解释适合建模、查询和逻辑推理。这类知识可看作显式知识Explicit Knowledge。2、向量表示强调隐式特征向量不会直接写出完整语义而是把对象和关系压缩为数值模式便于相似度计算和预测。这种方式更接近隐式表示Implicit Representation。3、符号表示可解释性更强人更容易直接读懂三元组、本体约束和图结构。4、向量表示计算性更强机器更容易在向量空间中进行大规模运算和模式学习。因此可以把二者理解为• 符号表示偏显式知识• 向量表示偏隐式表示。二者并不是互相排斥而是互补关系。七、向量空间表示的优点与局限向量空间表示之所以受到重视是因为它在现代知识图谱应用中有明显优势。但它也有自身局限。优点主要有第一便于计算。实体和关系一旦向量化就可以进行高效数值运算。第二适合相似性分析。向量距离和方向可以帮助发现对象之间的潜在联系。第三适合知识补全与链接预测。系统可以基于已有知识推测缺失关系。第四容易与机器学习模型结合。这使知识图谱能更自然地进入现代人工智能体系。局限主要有第一可解释性较弱。向量本身通常不像三元组那样直观可读而且向量维度通常不直接对应人可读的语义成分。第二依赖训练数据。如果数据不足或质量较差向量表示效果会受影响。第三难以完全替代显式语义。复杂约束、逻辑规则和本体层次仍更适合符号表示。因此向量空间表示适合做“计算增强”但不适合作为唯一知识表示方式。八、向量空间表示在知识图谱中的作用在知识图谱中向量空间表示主要承担以下几类任务。1、表示学习把实体和关系转化为可学习的向量表示。2、知识补全根据已有三元组预测缺失关系。3、链接预测判断两个实体之间可能存在什么关系。4、推理辅助在显式逻辑推理之外补充基于表示学习的关联发现能力。5、与问答、推荐等任务结合向量空间表示可以为知识图谱问答、语义检索和推荐系统提供更强的计算支持。因此它在知识图谱中的作用可以概括为把结构化知识进一步转化为可学习、可计算、可预测的表示形式。 小结向量空间表示把实体和关系映射为向量使知识图谱不仅能被符号化表示也能被数值化计算。它适合相似性分析、知识补全和链接预测是知识图谱与机器学习结合的重要方向。“点赞有美意赞赏是鼓励”