题名 | 基于结构信息增强的图神经网络研究 |
作者 | 呼奋宇 |
答辩日期 | 2023-05-18 |
文献子类 | 博士 |
关键词 | 图神经网络 结构信息 邻居交互 注意力机制 多专家融合 多任务学习 |
英文摘要 | 图数据在现实世界中广泛存在,它可以自然地表示不同的对象及其之间的复杂关系。例如,在社交网络中,用户可以表示为节点,用户之间的好友关系可以表示为边。随着神经网络和深度学习技术的不断发展,近年来图神经网络在图数据分析中逐渐成为主流方法。虽然相关研究已经取得一些进展,但现有方法在利用图结构信息方面仍然存在较大提升空间。首先,对于节点级别的研究,由于图数据结构的千变万化,节点之间通常存在错综复杂的关系。为了学到节点之间的相似性和差异性,图神经网络需要拟合一个非常复杂的非线性函数,这对于图神经网络的非线性表达能力提出了挑战。其次,在图级别任务中,图数据通常包含丰富的结构信息和语义信息,如何自适应地提取图数据中的关键信息,提升图神经网络的判别能力,也是一大挑战。另外,在特定的标签分布下,图神经网络的性能通常会受到限制。如何更好地挖掘图的拓扑结构和标签分布之间的关系,也具有重要意义。本文以充分利用图数据的结构信息为切入点,深入挖掘结构信息和特定问题之间的内在联系。具体地,在节点级别、图级别和标签级别三种不同层次的图任务中,研究如何增强图神经网络的非线性表达能力、关键信息的提取能力、和特定标签分布下的判别能力。本文取得的研究成果主要包含以下四项:
2. 提出一种基于二阶全局注意力的方法,用于图级别关键信息学习。图数据包含复杂多样的结构信息和语义信息,这些信息对图级别判别任务的影响可能不同,因此神经网络需要自适应地提取重要信息。针对此问题,本文从两方面设计全局注意力机制:首先,在通道方面,设计通道注意力机制对图表达的不同维度进行加权,从而对某些语义进行增强。特别地,考虑到不同通道语义之间存在关联关系,本文进一步提出一种二阶注意力机制。其次,由于同一个图中不同节点的重要性也不尽相同,本文还设计了节点注意力,对不同节点的权重进行自适应调节。实验结果表明,通道注意力和节点注意力可以有效学习图数据中的关键信息,最终提升图分类和图回归任务的性能。
|
语种 | 中文 |
页码 | 122 |
内容类型 | 学位论文 |
源URL | [http://ir.ia.ac.cn/handle/173211/52302] |
专题 | 毕业生_博士学位论文 |
推荐引用方式 GB/T 7714 | 呼奋宇. 基于结构信息增强的图神经网络研究[D]. 2023. |
个性服务 |
查看访问统计 |
相关权益政策 |
暂无数据 |
收藏/分享 |
除非特别说明,本系统中所有内容都受版权保护,并保留所有权利。
修改评论