CORC  > 自动化研究所  > 中国科学院自动化研究所  > 毕业生  > 硕士学位论文
题名事件因果关系挖掘关键技术研究
作者何致涛
答辩日期2024-05-16
文献子类硕士
关键词事件因果关系识别 事件因果关系解释生成 预训练语言模型 多智能体
英文摘要

因果关系是事件语义中的一种核心关系类型,理解文本中两个事件间是否存在因果联系并给出事件因果关系解释是文本理解的重要部分。事件因果关系挖掘的核心任务是:以事件为基本语义单元,通过分析事件描述及其语义特征,识别文本中的两个事件之间是否存在因果关系,并进一步解释事件因果关系背后的形成机制,从而实现事件逻辑关系的深层推理。挖掘文本中事件的因果关系有助于深层次的语义理解,对于揭示事件演变的规律具体重要意义,可为金融风险监控、公共卫生响应及智能问答交互等应用提供基础支持。

尽管现有事件因果关系识别和解释的方法在公开评测的数据集上取得了不错的效果,但是由于事件因果关系的逻辑复杂性和知识密集性的特点,在挖掘事件因果关系时面临篇章信息建模、标注数据匮乏及虚假因果关联等难点问题。针对上述问题,本文聚焦于事件因果关系识别和事件因果关系解释生成等事件因果关系挖掘的关键技术展开深入研究。本文的主要工作和创新点总结如下:

1.基于图对比迁移学习的零样本篇章级事件因果关系识别

现有研究工作主要集中在句子级别的事件因果关系识别,且相应的数据集主要是英语语料。然而,在真实的应用场景中,大量的因果关系并不局限于单个句子内,特别是在篇章级分析中,跨句的事件因果关系通常更为常见和复杂。此外,现有的事件因果识别方法过度依赖于大规模、高质量的标注数据,高昂的标注成本导致难以为不同语言标注充足且准确的训练数据。针对篇章级事件因果关系识别任务标注数据匮乏和篇章信息建模的问题,本文提出了一种基于图对比迁移学习的零样本篇章级事件关系识别方法,该方法基于多语言预训练语言模型,通过设计篇章信息异构交互图和多粒度因果模式跨语言对比迁移学习模块,实现篇章信息的建模和因果知识的跨语言对齐,从而缓解篇章级事件因果关系抽取任务中标注数据匮乏的问题。具体地,首先通过利用启发式学习方法对篇章中所有句子的依存结构进行解析,从而抽取出与关注的事件相关的信息短语,然后利用多语言预训练语言模型对文本进行编码后,设计篇章信息异构交互图来建模分散在篇章中的事件之间的长距离依赖关系,最后在异构图上提出多粒度因果模式对比迁移学习模块,显式地在多语言空间中对齐不同语言之间的因果表示,从而提高源语言中因果知识的跨语言可迁移性。在国际公开数据集上的实验结果表明,该方法能够有效应对标注数据匮乏和篇章信息建模的问题,显著提升了篇章级事件因果关系识别的性能。

2.基于多智能体协作的事件因果关系解释生成

事件因果关系解释生成旨在为给定的一个事件因果对,生成对应的自然语言解释。当前方法通常通过上下文学习指导语言模型解释事件的因果关系。然而,解释事件因果关系需要细粒度的世界知识、特定的常识和严格的逻辑推理,对于语言模型而言,这是一项艰巨的挑战。由于因果关系背后的机制十分复杂,并不会直接在文本中显式描述,而语言模型往往依赖于事件之间的表层联系进行推理,导致其易产生虚假的因果关联,从而得到错误的解释。针对事件因果关系解释生成任务中存在的虚假因果关联问题,本文提出了一种基于多智能体协作的事件因果关系解释生成方法,通过为大型语言模型分配原因分析师、结果分析师、知识专家、解释者以及评论家等五个智能体角色,从而激活大型语言模型的不同能力,以深入探索事件因果关系背后的形成机制。具体地,本文首先设计了一个事件细粒度背景知识整合模块,该模块由三个语言模型组成,其中两个语言模型作为原因分析师和结果分析师,分别围绕原因事件和结果事件中的信息进行推理,以模拟人类的双向推理过程,并向另一个扮演知识专家的语言模型提出问题,从而挖掘出当前事件相关的细粒度世界知识;然后,为缓解因果关系解释中存在的虚假因果关联现象,本文设计了一个迭代反馈和解释改进模块,该模块利用一个语言模型作为解释者生成初步的事件因果关系解释,评论家语言模型则根据已有的细粒度世界知识和自身的常识知识对当前的因果解释给出多角度的反馈,解释者从反馈中学习,将细粒度的世界知识和常识知识融入自身的因果关系解释中,从而实现解释的改进和完善。在国际公开数据集上的实验结果表明,该方法利用多个智能体的协作能够有效地缓解解释中虚假因果关联的问题。

语种中文
学科主题计算机科学技术 ; 人工智能
页码84
内容类型学位论文
源URL[http://ir.ia.ac.cn/handle/173211/56639]  
专题毕业生_硕士学位论文
推荐引用方式
GB/T 7714
何致涛. 事件因果关系挖掘关键技术研究[D]. 2024.
个性服务
查看访问统计
相关权益政策
暂无数据
收藏/分享
所有评论 (0)
暂无评论
 

除非特别说明,本系统中所有内容都受版权保护,并保留所有权利。


©版权所有 ©2017 CSpace - Powered by CSpace