学生开发工具来预测算法的碳足迹

每天，甚至可能没有意识到，我们大多数人都与称为深度学习的高级AI方法保持密切联系。每当我们使用Siri或Alexa，Netflix根据我们的观看历史记录推荐电影和电视节目，或与网站的客户服务聊天机器人进行通信时，深度学习算法都会搅动。

然而，这种迅速发展的技术原本可以作为抵御气候变化的有效武器，但它却有很多人不知道的缺点-高能耗。如果行业趋势继续下去，人工智能，尤其是深度学习的子领域，可能会成为重要的气候罪魁祸首。从2012年到2018年的短短六年间，深度学习所需的计算能力增长了300,000%。然而，尽管有大量研究清楚地表明了这一日益严重的问题，但与开发算法相关的能耗和碳足迹却很少被测量。

为了解决这个问题，哥本哈根大学计算机科学系的两名学生Lasse F. Wolff Anthony和Benjamin Kanding与助理教授Raghavendra Selvan一起开发了一个名为Carbontracker的软件程序。该程序可以计算和预测训练深度学习模型的能耗和CO 2排放量。

“该领域的发展正在迅速地疯狂发展，深度学习模型正在不断扩大规模并变得更加先进。现在，它呈指数级增长。这意味着能源消耗的增加，大多数人似乎都没有想到。”拉瑟·F·沃尔夫·安东尼。

一次培训= 126个丹麦家庭的年度能源消耗

深度学习训练是数学模型学习识别大型数据集中的模式的过程。这是一个耗能的过程，需要一天24小时不间断运行在专用的，耗电的硬件上。

本杰明·坎丁说：“随着数据集一天一天地增长，算法需要解决的问题变得越来越复杂。”

迄今为止开发的最大的深度学习模型之一是称为GPT-3的高级语言模型。在一次培训中，估计将使用相当于126个丹麦家庭一年的能源消耗，并排放与700,000公里行驶相同的CO 2量。

Lasse F. Wolff Anthony说：“几年之内，可能会有几倍大得多的模型。”

有待改进

“如果趋势继续下去，人工智能最终可能会成为气候变化的重要因素。阻碍技术发展不是关键所在。这些发展为帮助我们的气候提供了绝佳的机会。相反，它是要意识到这一问题。思考：我们将如何改善?” 本杰明·康定(Benjamin Kanding)解释说。

Carbontracker是一个免费程序，其思想是为该领域提供减少模型对气候影响的基础。除其他事项外，该程序收集有关在进行深度学习培训的任何区域中使用多少CO 2产生能量的信息。这样做可以将能耗转换为CO 2排放预测。

在他们的建议中，两位计算机科学专业的学生建议深度学习的从业者着眼于何时进行他们的模型训练，因为24小时内电源不是同样的绿色，以及他们部署的硬件和算法的类型。

“可以大大减少气候影响。例如，选择在爱沙尼亚或瑞典进行模型培训非常重要，这要归功于绿色能源供应，模型培训的碳足迹可以减少60倍以上。算法的能效也有很大差异。某些算法需要更少的计算，因此也就需要更少的能量来达到相似的结果。如果人们可以调整这些类型的参数，则情况可能会发生很大的变化。” Lasse F. Wolff Anthony总结道。