CORC  > 自动化研究所  > 中国科学院自动化研究所  > 毕业生  > 博士学位论文
题名动态知识图谱的表示学习与推理研究
作者李明达
答辩日期2022-08
文献子类博士
关键词动态知识图谱 知识表示学习 新增实体 知识推理 链接预测
英文摘要

知识图谱是大数据时代一种有效的知识表示与存储工具,被广泛应用于智能问答、个性化推荐、事件预测等领域。作为推动机器实现认知智能的重要引擎,知识图谱现已成为人工智能领域的热门研究课题。当前所使用的知识图谱大多是稀疏的、不完备的,存在大量链接缺失的现象,这降低了它们在实际应用中的价值。为了缓解知识图谱数据稀疏性的问题,研究人员尝试利用表示学习方法来得到知识的嵌入表示,通过在低维空间中的向量计算,挖掘知识图谱中的隐藏关联,进而推理得到其中缺失的链接信息。得益于其计算效率高、鲁棒性好等优点,该类方法正受到学术界和工业界的广泛关注。

 

然而,当前流行的表示学习方法大多是针对静态知识图谱设计的,其假定知识是长期不变的。显而易见,这项假设过于理想化。考虑到现实世界具有一定的动态演化属性,其中部分知识只在特定时期有效。为了更为有效地模拟动态场景,知识图谱往往具有以下结构特征:1)节点之间固定的链接结构:用以建模客观存在的事实知识;2)未知节点的不断引入:用以表示不断出现的新增知识;3)节点之间关系的不断变化:用以体现随时间演化的时序知识。因此,为了更好地满足动态知识图谱的知识表示和推理需求,现有表示学习方法亟需突破以下三个瓶颈:1)更好地建模知识图谱中的事实知识,并提升模型的推理精度,增加推理结果的可解释性;2)高效地获取新增实体的表示,并推理得到与该实体有关的缺失信息;3)有效地刻画知识图谱中的实体在不同时刻的语义关联,进而提升面向时序知识的推理性能。

 

本文在深入调研和分析现有知识图谱表示学习方法的基础上,探究如何挖掘和利用动态场景下知识图谱中的实体和关系的交互规律,进而开展以下三个创新性研究工作:

 

1)本文针对事实知识的推理任务,提出了一种融合显式特征的表示学习方法。该方法将从知识图谱中检索得到的显式特征融合进嵌入模型中,得到更具表达能力的知识图谱嵌入表示,进而提升了模型的推理精度:首先,通过局部封闭世界假设,构造知识图谱中描述链接特性的显式特征,有效表征实体和关系的链接偏好;在此基础上,在表示学习的得分函数中引入得到的显式特征,使得嵌入模型可以有效捕获实体和关系的链接特性;最后,设计了一种软间隔排序损失以更好地区分正负三元组样本对模型优化的影响,增加嵌入表示中蕴含的语义信息。在四个收录事实知识的公开知识图谱数据集上进行链接预测和实体分类实验,结果表明所提方法针对事实知识的推理效果优于当前主流的表示学习方法,且具有突出的长尾实体处理能力,并能在一定程度上增加推理结果的可解释性。

             

2)本文针对新增实体的推理任务,提出了一种基于图注意力网络的新增实体归纳式表示学习方法。该方法通过注意力机制对新增实体的邻居信息和相似实体进行加权聚合,得到更加鲁棒的新增实体表示:首先,提出了一种面向实体在图中上下文结构信息的相似性度量方法,可以有效获取新增实体的相似实体;其次,设计了一种引入关系查询的图注意力网络,通过对新增实体的邻居信息和相似实体进行加权聚合,实现新增实体的鲁棒表示;最后,在推理阶段,该方法仅依赖事先训练得到的图注意力网络便可归纳得到新增实体的嵌入表示,并将其用于推理,实现面向新增实体的高效链接预测。在两个公开的以及六个自建的面向新增实体推理的数据集上进行链接预测实验,结果表明所提方法可以利用有限的链接信息高效地归纳得到新增实体的表示,进而获得理想的针对新增实体的推理效果。

      

3)本文针对时序知识的推理任务,提出了一种基于时间敏感关系约束的表示学习框架。该框架通过挖掘关系对所连实体在不同时刻的语义约束特征,提升了现有表示学习方法针对时序知识的推理能力:首先借助当前流行的变换函数(张量分解和超平面映射),针对性地设计了两类时间敏感的关系约束项,实现了对关系和所连实体在不同时刻语义约束特征的有效捕获;其次,提出了一种嵌入正则化项用于约束知识图谱嵌入表示,可有效预防模型训练过程中出现过拟合现象;在此基础上,提出了一种时序正则化项用于约束知识图谱中时间信息的嵌入表示,使之满足时间平滑性约束。在四个公开的时序知识图谱上进行链接预测实验,结果表明所提框架可以有效提升当前主流表示学习方法的推理性能。

语种中文
页码120
内容类型学位论文
源URL[http://ir.ia.ac.cn/handle/173211/49942]  
专题毕业生_博士学位论文
通讯作者李明达
推荐引用方式
GB/T 7714
李明达. 动态知识图谱的表示学习与推理研究[D]. 2022.
个性服务
查看访问统计
相关权益政策
暂无数据
收藏/分享
所有评论 (0)
暂无评论
 

除非特别说明,本系统中所有内容都受版权保护,并保留所有权利。


©版权所有 ©2017 CSpace - Powered by CSpace