联系我们

AI 101

开发人员创建开源软件以帮助AI研究人员减少碳足迹

mm

更新

 on

一组国际AI研究人员和数据科学家合作开发了能够估算计算操作碳足迹的软件。名为CodeCarbo的开源软件包是由AI和数据科学公司组成的财团设计的。希望该软件将使并激励程序员提高其代码效率,并减少由于使用计算资源而产生的二氧化碳量。

减少碳足迹

根据ITP,新的CodeCarbon软件包由AI研究公司Mila领导的一组AI研究小组与Comet.ml,宾夕法尼亚州的Haverford College和GAMMA共同开发。该软件不仅可以估算由于使用计算资源而产生的二氧化碳量,而且还可以为开发人员提供减少碳排放量的建议。

训练AI模型 可能需要很多能量。 正如ArsTechnica解释的那样,来自马萨诸塞州大学阿默斯特分校的研究人员估算了创建和训练某些AI模型的总成本,研究小组发现,训练自然语言网络BERT曾经产生的碳大约是旧金山和纽约之间往返的碳排放量。同时,对模型进行多次训练直到对其进行优化,直到搭乘同一航班的315名不同乘客产生的二氧化碳量一样多。

为什么AI模型会消耗那么多能量并产生那么多的CO2副产品?答案的一部分在于如何训练和优化AI模型。为了对现有的最新算法进行很小的改进,AI研究人员可能会对其模型进行数千次训练,每次都对模型进行微调,直到找到最佳的模型体系结构为止。

AI模型的大小也一直在增长,并且每年都在变得越来越复杂。

最强大的 机器学习 像GPT-3,BERT和VGG这样的算法和模型具有数百万个参数,并且一次要进行数周的训练,总计需要数百或数千小时的训练时间。 GPT-2在网络中的参数约为15亿,而GPT-3的权重约为1750亿。最终消耗了数百公斤的二氧化碳。

代码碳

代码碳 具有跟踪机制模块,该模块记录了云提供商和数据中心使用的电量。然后,系统使用从公共资源中获取的数据来估算产生的二氧化碳量,并检查与硬件连接的电网的统计数据。跟踪器使用特定的AI模块估算每个实验产生的CO2,存储项目和整个组织的排放数据。

Mila的创始人Yohua Bengio解释说,虽然AI是一种非常强大的工具,可以解决许多问题,但它通常需要大量的计算机功能。波士顿咨询集团董事总经理西尔维安·杜兰顿(Sylvian Duranton)认为,计算和人工智能将继续在全球范围内以指数级的速度增长。这个想法是CodeCarbon将帮助AI和计算公司在不断增长的同时限制其碳足迹。 CodeCarbon将生成一个仪表板,使公司可以轻松地查看其机器学习模型的培训所产生的排放量。它还将代表开发人员可以轻松理解的指标排放,例如汽车行驶的里程,收看电视的小时数以及美国家庭的典型能源消耗。

代码碳 开发人员期望该软件不仅会鼓励AI研究人员尝试减少自己的碳足迹,而且还将鼓励提高总体排放的透明度。开发人员将能够量化和报告一系列不同的AI和计算实验产生的排放。负责创建CodeCarbon的团队希望其他开发人员将使用他们的开源工具,并通过新功能对其进行增强,这些新功能将帮助AI工程师和研究人员进一步抑制其对环境的影响。

专门从事以下工作的Blogger和程序员 Machine Learning Deep Learning 话题。 Daniel希望帮助他人将AI的力量用于社会公益。