联系我们

人工神经网络

最新研究表明,人工大脑可以从睡眠中受益

已发表

 on

来自的新研究 洛斯阿拉莫斯国家实验室 这表明,人工大脑几乎可以肯定地从像活着的大脑那样的休息时间中受益。 

这项研究将在 计算机视觉 6月14日在西雅图举行的研讨会。 

Yijing Watkins是洛斯阿拉莫斯国家实验室的计算机科学家。 

“我们研究尖峰神经网络,这些系统像活着的大脑一样学习很多,” said Watkins. “我们对以类似于人类和其他生物系统在童年时期从环境中学习的方式训练神经形态处理器的前景感到着迷。”

解决网络仿真中的不稳定性

沃特金斯和团队发现 无监督学习 导致网络仿真不稳定。但是,一旦团队将网络引入到由于活脑在睡眠中经历的波动而导致的状态,就可以恢复稳定性。 

“好像我们在给神经网络一样,度过了一个美好的夜晚。’s rest,” said Watkins.

该团队在根据人类和其他生物系统学习的方式开发神经网络时发现了这一发现。在稳定正在接受无监督词典训练的模拟神经网络时,该团队面临一些挑战。无监督词典训练涉及对对象进行分类,而无需使用先前的示例进行比较。

Garrett Kenyon是Los Alamos的计算机科学家,也是该研究的合著者。

“实际上,只有在尝试利用生物学上逼真的尖峰神经形态处理器或试图了解生物学本身时,才会出现如何防止学习系统变得不稳定的问题。” said Kenyon. “The vast majority of 机器学习, 深度学习,并且AI研究人员从未遇到过这个问题,因为在他们研究的非常人工的系统中,他们可以执行全局数学运算,从而可以调节系统的整体动态增益。”

睡眠作为最后的解决方案

根据研究人员的说法,将网络暴露于人工模拟的睡眠是稳定网络的最后手段。在尝试了不同类型的噪声(类似于无线电台之间的静态噪声)后,最好的结果来自高斯噪声波。这种类型的噪声包括各种各样的频率和幅度范围。 

研究人员提出了这样的假设:在慢波睡眠期间,噪声模仿了生物神经元接收到的输入。结果表明,慢波睡眠可能在确保皮层神经元不会出现幻觉并保持其稳定性方面发挥作用。 

该小组现在将致力于在英特尔Loihi神经形态芯片上实施该算法,希望这种睡眠能够帮助它稳定地实时处理来自硅视网膜相机的信息。如果这项研究确实确定了人工大脑可以从睡眠中受益,那么对于机器人和其他智能机器而言,情况也可能如此。

资源: 使用正弦调制的噪声作为慢波睡眠的替代品,以基于峰值的稀疏编码模型实现稳定的无监督词典学习,CVPR妇女参加了计算机视觉研讨会,2020-06-14(西雅图,华盛顿,美国)

 

亚历克斯·麦克法兰(Alex McFarland)是一位历史学家和新闻工作者,报道了人工智能的最新发展。