您现在的位置是:首页 >要闻 > 2020-12-09 15:21:36 来源:

成长与修剪人工智能模仿大脑发育大幅减少能源使用

导读 这可能会让父母面对蹒跚学步的生活一天一震撼,但大脑的复杂性在三岁左右达到顶峰。在最初的几年中,神经元之间的连接数量实际上激增。之后

这可能会让父母面对蹒跚学步的生活一天一震撼,但大脑的复杂性在三岁左右达到顶峰。

在最初的几年中,神经元之间的连接数量实际上激增。之后,大脑开始修剪掉这个庞大的网络中未使用的部分,到我们成年时,大脑的数量减少到大约一半。过度配置幼儿大脑可以使我们掌握语言并发展精细的运动技能。但是我们不使用的东西,我们会输。

现在,生物复杂性的起伏不定激发了普林斯顿大学的一组研究人员创建了一种人工智能的新模型,创建了仅使用一小部分能量即可达到或超过行业标准的程序。在今年早些时候发表的两篇论文中,研究人员展示了如何从一个简单的AI网络设计开始,如何通过添加人工神经元和连接来扩展网络,然后修剪掉未使用的部分,从而获得精简但高效的最终产品。

电气工程学教授Niraj Jha说:“我们的方法就是所谓的“生长和修剪”范式。“这与从婴儿时期到蹒跚学步的大脑相似。” 第三年,人类的大脑开始切断脑细胞之间的联系。这个过程一直持续到成年期,因此,发达的大脑大约在其突触峰的一半处运作。

贾说:“成人大脑专长于我们提供的任何训练。” “对于通用学习而言,它不如蹒跚学步的大脑好。”

不断增长和修剪的软件所需要的计算能力只是其一小部分,因此所消耗的能量要少得多,从而可以对世界做出同样好的预测。限制能源使用对于将这种先进的AI(称为机器学习)应用到手机和手表等小型设备至关重要。

“在本地运行机器学习模型非常重要,因为(传输到云)需要大量精力,”前普林斯顿大学研究生,两篇论文的第一作者戴晓亮说。戴现在是Facebook的研究科学家。