CORC  > 自动化研究所  > 中国科学院自动化研究所  > 毕业生  > 博士学位论文
题名时序知识建模与推理方法研究
作者邵朋朋
答辩日期2023-05-23
文献子类博士
关键词时序知识图谱,Tucker 分解,相关性计算,伪孪生策略网络,演化学习,知识推理
英文摘要

随着互联网技术的不断发展,海量的数据信息如潮水般涌进公众的视野,特别是在微博、微信、百度、谷歌等信息交流以及检索平台,而其中也蕴藏着大量有价值的知识。在此背景下,为了有效管理这些数据知识并对其深度挖掘和利用,知识图谱应运而生。知识图谱是一种图结构知识库,旨在描述真实世界中存在的各种实体或概念及其之间的关系,可以将事件表达成更易于认知客观世界的三元组形式,在推荐系统、智能问答以及信息检索等下游任务中有着重要应用。尽管知识图谱在管理知识方面有很大的优势,但随着存储的数据越来越多,数据渐渐呈现出动态性和时序性,知识的正确性随着时间的推移而改变,如(特朗普,总统,美国)在2017年至2021年期间是正确的,在2022年则是不正确的。所以,知识图谱这种数据信息忽略了重要的时间信息,而无法满足现实世界中动态大数据的管理需求。时序知识图谱针对这一问题在知识图谱三元组的基础上引入了时序信息,不仅确保了知识的正确性,而且也继承了知识图谱在知识建模和管理上的优势。由此,时序知识图谱开始登上了时代的舞台。相应地,在时序知识图谱上的知识建模和推理任务自然而然也成为了当前的研究热点,在大数据分析中有着很大的应用。所以,本文主要以时序知识图谱这种时序信息数据为研究对象,展开对知识的建模和推理的研究工作,以研究和挖掘各互联网平台中海量的时序信息数据中的隐藏知识和发展规律,并对可能发生的事实进行推理预测,这在目标行为画像预测、情报分析、智能问答、以及疫情预测等场景中具有重要的应用价值。本文针对当前推理当中的全局知识建模、历史知识与查询的相关性分析、历史相关信息的缺失、以及时间推理的不确定性等问题,从内插和外推两种时序知识图谱推理任务分别进行研究。
本文的研究内容和主要创新点主要包括以下几个方面:

(1) 研究基于Tucker分解的时序知识推理方法

本研究针对时序信息数据当中存在的静态和动态的两种知识建模的问题,提出了基于Tucker分解知识的建模和推理模型。在此基础上,为了将时间的先验信息融合到模型当中,本研究提出三种时序正则化方法,对所学习的时间表示进行约束,使其相邻的时间具有相似的表示。此外,针对Tucker分解模型中拥有大量参数,容易产生模型过拟合问题,本研究提出两种表示正则化方法来辅助基础模型进行训练。实验结果表明,本文提出的方法在时序知识推理任务中取得了较好的实验性能。

(2) 研究基于层级图注意力网络的时序知识推理方法

本研究针对复杂的历史事件与查询的相关性计算问题,从时间和语义两个角度切入,提出了基于层级图注意网络的时序知识推理模型。首先,从时间角度,本文提出时间上距离推理事件越近的历史事件,对查询的影响越大。而这个思想随之而带来的一个问题是,时间上近距离的事件可能与查询无关,而时间上远的事件可能对查询有很大的影响。为了解决这一问题,本文从语义的角度提出语义上越接近查询的相关历史事件对查询的影响越大。从两个角度设计的模型可以相互弥补双方在相关性计算上的不足。最后,本文设计出聚合机制将两种模型进行融合,得到一个较为合理的复杂历史事件和查询的相关性计算模型。进而将其融入到图神经网络当中以学习实体和关系的表示,并利用研究(1)中的解码器模型对知识进行推理。实验结果表明,所设计的方法在时序知识推理中达到较好的效果。

(3) 研究基于自适应伪孪生策略网络的时序知识推理方法

本研究针对在推理时缺乏与所要推理事件(查询)相关的历史信息的问题,提出了基于自适应伪孪生策略网络的时序知识推理方法。由于头实体是事件的主体,当根据头实体无法找到直接相关的历史信息时,无法依据可观察的不相关历史信息推理出查询的答案。为了解决这一问题,本文提出可以根据查询中的关系从历史事件找出间接相关的事件。因为四元组中的关系反应了事件的语义信息,所以拥有和查询相同关系的历史事件,则说明它们有相似的语义。基于以上观察和分析,本文通过关系为此类查询找到间接相关历史事件,从而获得语义动作的选择。为了最优化有历史信息的查询和无历史信息的查询的答案,本文设计伪孪生网络在统一框架内分别处理这两种情况。实验结果表明,与当前基线模型相比,本文所提模型在处理这两种情况中达到了最优性能。

(4) 研究基于贝叶斯超网络与时间差分演化网络协同的时序知识推理方法

本研究针对事件时间推理的不确定性问题,提出在实体和关系的编码、以及时间推理的解码上设计模型。具体来说,所设计的模型在编码上将时间信息融入实体和关系表示当中,在解码时利用贝叶斯超网络对时间推理的不确定性进行建模。这使得模型不仅可以在一个框架中完成实体、关系、和时间推理三种任务,还对时间推理的准确性有了很大的提升。实验结果表明,相比当前主流时间推理模型,所提模型在时间推理的准确度上有很好的提升。


本文的方法和结论对于进一步拓展时序知识图谱在实际生活中的应用具有重要的指导意义。
 

语种中文
页码126
内容类型学位论文
源URL[http://ir.ia.ac.cn/handle/173211/52287]  
专题毕业生_博士学位论文
推荐引用方式
GB/T 7714
邵朋朋. 时序知识建模与推理方法研究[D]. 2023.
个性服务
查看访问统计
相关权益政策
暂无数据
收藏/分享
所有评论 (0)
暂无评论
 

除非特别说明,本系统中所有内容都受版权保护,并保留所有权利。


©版权所有 ©2017 CSpace - Powered by CSpace