CORC  > 自动化研究所  > 中国科学院自动化研究所  > 毕业生  > 博士学位论文
题名类脑脉冲神经网络信息编码与学习模型研究
作者孙胤乾
答辩日期2023-05-24
文献子类博士
关键词类脑智能 脉冲神经网络 多房室神经元模型 脉冲信息编码 值分布 强化学习
英文摘要

受生物脑脉冲信息传递与处理机制启发,类脑脉冲神经网络建模生物神经元的动态计算与脉冲输出过程,相比于传统人工神经网络, 具有更高的能效比和生物合理性。脉冲神经网络在信息编码、结构特征与优化应用等众多方面都有区别于传统人工神经网络的独特之处。神经科学研究表明,神经元脉冲在频率和相位两个维度编码信息,拓展了大脑信息表征能力。同时,神经元的结构特征也在大脑信息处理过程中起到至关重要的作用。神经元树突、胞体等不同部位具有相对独立的信息计算能力,单个神经元不同部位计算效果的组合产生复杂的动力学特性。脉冲神经网络在信息编码和结构特征方面的计算建模,奠定了类脑学习模型处理复杂感认知问题的计算基础。

      本文从信息编码、学习模型和认知应用三个方面研究类脑脉冲神经网络。在信息编码方面,构建频率-相位相结合的脉冲序列时空维度编码方法;在模型结构方面,受大脑皮层神经元结构特性启发,构建多房室脉冲神经元模型,在神经元模型中分别建立负责处理不同信息的树突和胞体结构,提高单个神经元处理复杂感认知信息的能力。同时,本文将脉冲序列编码和模型结构结合起来,构建多房室脉冲神经网络,实现深度脉冲网络在复杂感知、决策场景上的应用。本文的主要工作与创新点归纳如下:

       一、受量子叠加态启发的脉冲序列时空维度编码方法。传统人工神经网络使用标量实值表征信息,而脉冲序列的频率和相位特征维度拓展了其信息编码能力。目前脉冲神经网络模型往往只采用频率或者相位单个维度编码脉冲信息,而生物神经元脉冲序列同时使用频率和相位两个维度编码信息,具有高维时空信息表示能力。本文使用量子计算的数学框架,借鉴量子图像处理方式,提出量子叠加态时空脉冲序列编码方法,将脉冲序列的频率和相位特征结合起来,映射到表征量子态的复数希尔伯特空间,实现频率和相位分别编码不同信息特征。本文将量子叠加态脉冲编码应用到处理背景翻转的图像。实验证明,相比只使用频率或相位编码方法,使用脉冲序列频率和相位相结合的时空维度编码方法能取得更强的适应图像背景变换和噪声干扰的能力。

       二、多房室脉冲神经网络模型与优化算法。受大脑皮层锥体神经元结构与信息处理机制启发,本文构建类脑多房室神经元模型,将神经元的树突和胞体视为独立的信息接收与处理单元,使得单个神经元具有不同的信息计算模块,基于此构建用于模式识别任务的多房室脉冲神经网络。本文将多房室脉冲神经网络与量子叠加态时空脉冲序列编码方法结合,用于处理背景翻转和噪声图像。实验证明,在原始图像数据上训练,传统卷积神经网络无法识别背景翻转后图像。与此相比,得益于脉冲序列时空表征维度拓展和多房室神经网络复杂动态计算过程,本文提出的脉冲神经网络能够在图像背景翻转后保持模型性能,在加入噪声的图像数据上也表现出超过传统卷积神经网络的鲁棒性。

       三、膜电势正则化深度脉冲神经网络强化学习模型。目前脉冲神经网络研究与应用主要集中在图像分类、目标检测与跟踪等视觉监督学习任务。脉冲神经网络在复杂决策任务(比如深度强化学习)上的应用还比较少。尽管之前有关于脉冲神经网络和强化学习结合的研究,但大多数集中在浅层网络机器人控制问题,或者使用ANN-SNN转换方法来解决深层网络的权重调节问题。 本文从数学分析深层脉冲神经网络中脉冲序列传递特征消失问题,借鉴神经元膜电势受局部场效应影响的机制,提出了一种层级膜电势正则化方法,实现了深度脉冲神经网络在视觉输入的强化学习任务上的应用。实验表明,与ANN-SNN转换方法和其他脉冲神经网络强化学习工作相比,本文所提出的膜电势正则化深度脉冲状态-动作值网络在Atari游戏任务上取得了目前最好的性能。

       四、类脑多房室深度脉冲神经网络值分布强化学习模型。认知神经科学研究表明,大脑采用概率分布来预测决策与推理过程所有可能奖励。本文结合多房室脉冲神经网络模型和群体神经元脉冲序列编码方法,构建深度脉冲神经网络值分布强化学习模型。多房室神经网络的树突接受并处理不同来源的决策信息,并在胞体部分进行信息整合产生不同状态-动作值的概率分布估计。神经元群体编码将分位数连续实数值表征到可分的脉冲序列空间,实现深度脉冲神经网络分位数回归算法。实验证明,本文提出的多房室脉冲神经网络值分布强化学习模型在Atari任务上的性能表现超过了FQF等传统基于人工神经网络的深度值分布学习算法。

 

语种中文
页码128
内容类型学位论文
源URL[http://ir.ia.ac.cn/handle/173211/52037]  
专题毕业生_博士学位论文
推荐引用方式
GB/T 7714
孙胤乾. 类脑脉冲神经网络信息编码与学习模型研究[D]. 2023.
个性服务
查看访问统计
相关权益政策
暂无数据
收藏/分享
所有评论 (0)
暂无评论
 

除非特别说明,本系统中所有内容都受版权保护,并保留所有权利。


©版权所有 ©2017 CSpace - Powered by CSpace