您现在的位置是:首页 >综合 > 2020-11-29 08:53:19 来源:
新的学习算法应大大扩展AI的可能应用
导读 人工神经网络学习活动的高能耗是广泛使用人工智能(AI)的最大障碍之一,特别是在移动应用中。可以从有关人脑的知识中找到解决该问题的一种方
人工神经网络学习活动的高能耗是广泛使用人工智能(AI)的最大障碍之一,特别是在移动应用中。可以从有关人脑的知识中找到解决该问题的一种方法。
尽管它具有超级计算机的计算能力,但仅需要20瓦,仅相当于超级计算机的能量的百万分之一。
原因之一是大脑神经元之间的信息有效传递。神经元向其他神经元发送短的电脉冲(尖峰),但为了节省能量,仅在绝对必要的时候才会发送。
基于事件的信息处理
由TU Graz的两位计算机科学家Wolfgang Maass和Robert Legenstein领导的工作组在开发新的机器学习算法e-prop(e-propagation)时采用了这一原理。
也是欧洲灯塔计划“人脑计划”的一部分的理论计算机科学研究所的研究人员使用其模型中的峰值来实现人工神经网络中神经元之间的通信。
尖峰仅在网络中需要信息处理时才变为活动状态。对于这样不那么活跃的网络,学习是一个特殊的挑战,因为需要更长的观察时间才能确定哪些神经元连接可以改善网络性能。
先前的方法学习成功率太低或需要巨大的存储空间。现在,E-prop通过从大脑复制的分散方法解决了这个问题,在该方法中,每个神经元在所谓的e-trace(合格跟踪)中记录何时使用其连接。该方法与最佳和最详尽的其他已知学习方法一样强大。