近日,中国科学院自动化研究所研究员曾毅负责的类脑认知智能团队在美国《国家科学院院刊》(PNAS)上发表了一篇题为“脑启发神经环路演化赋能脉冲神经网络”的新研究。他们受“经过自然演化的生物脑神经环路结构呈现出的多样性”以及“脉冲时序依赖可塑性机制”启发,提出了脑启发的神经环路演化策略, 有望助力业界研发更具生物合理性和高效性的类脑脉冲神经网络。
在生物神经系统中,不同类型的神经元能够自组织成连接模式各异的神经环路,以在结构上支持实现丰富的认知功能。人脑中不同类型的神经环路及其自适应能力促进了人类感知、学习、决策及其他高等认知功能的实现。然而,当前的脉冲神经网络设计范式,大多基于深度学习领域的结构启发。这些结构主要由“前馈连接”占据主导地位,没有考虑到神经元的不同类型,这显著阻碍了脉冲神经网络在复杂任务上发挥其潜力。因此,从计算视角挖掘生物神经环路的丰富动力学特性及其意义,并应用于当前类脑脉冲神经网络的结构从而提升人工智能(AI)系统的能力,仍是一个深刻而具有开放性的挑战。
曾毅团队以“前馈”和“反馈”连接与兴奋性和抑制性神经元结合为基础,为智能演化的计算建模提供了更具生物合理性的演化空间。该研究利用神经元的局部脉冲行为,通过脉冲时序依赖可塑性的局部规则,自适应地演化出通过自然演化生成的功能性神经环路,如前向兴奋、前向抑制、反馈抑制和侧向抑制,并结合全局误差信号更新突触权重。通过融入演化生成的神经环路,该研究构建了用于图像分类和强化学习与决策任务的类脑脉冲神经网络。利用受脑启发的神经环路演化策略(NeuEvo)及其演化出的丰富的类神经环路类型,演化后的类脑脉冲神经网络极大地增强了感知、强化学习与决策能力。
利用脑启发神经演化构建的类脑脉冲神经网络。图片来源:论文
据介绍,NeuEvo在CIFAR10、DVS-CIFAR10、DVS-Gesture和N-Caltech101数据集上取得了投稿时已知结果的最先进性能,并在ImageNet上取得了脉冲神经网络上代表性的准确率。结合在线和离线深度强化学习算法,它实现了与人工神经网络相媲美的性能。
“演化后的类脑脉冲神经环路,为具有复杂功能的网络演化与认知能力涌现奠定了基础。”曾毅介绍说,此次研究以计算建模的方式模拟了自然结构演化中的“用进废退”,并以此为基础自主演化出了丰富的神经环路类型。更有意思的是,这些环路类型在自然生物的大脑中都是存在的,而且实验证明了这些结构能够更好地帮助解决学习与决策等智能相关的核心问题,自然演化中“存在即合理”,这给未来的通用类脑认知智能的研究无限启发。
相关论文信息:https://www.pnas.org/doi/10.1073/pnas.2218173120
版权声明:凡本网注明“来源:中国科学报、科学网、科学新闻杂志”的所有作品,网站转载,请在正文上方注明来源和作者,且不得对内容作实质性改动;微信公众号、头条号等新媒体平台,转载请联系授权。邮箱:shouquan@stimes.cn。