IT之家 5 月 15 日音信,科技媒体 marktechpost 昨日(5 月 14 日)发布博文,报说念称 Meta AI 旗下 FAIR 团队联袂佐治亚理工学院,合营开发 CATransformers 框架,将碳排放手脚中枢联想考量,通过皆集优化模子架构与硬件性能,权贵镌汰总碳脚迹,为可握续 AI 发展迈出紧要一步。
机器学习本领的普及股东了从推选系统到自动驾驶的纠正,但其环境代价拦阻小觑。这些系统需要雄伟打算资源,常依赖定制硬件加快器运行,考试和推理阶段的高能耗平直导致运营碳排放攀升。
此外,硬件从制造到报废的全人命周期也产生“隐含碳”,加腾达态包袱。跟着专家各行业加快采用 AI 本领,搞定运营与隐含碳的双重着手成为热切需求。
刻下减排设檀越要辘集于擢升运营遵守,举例优化考试和推理的能耗,或提高硬件诈欺率。但这些模范时常忽略硬件联想和制造阶段的碳排放,未能整合模子联想与硬件遵守的相互影响。
Meta 的 FAIR 团队与佐治亚理工学院皆集推出的 CATransformers 框架,将碳排放纳入中枢联想考量。该框架通过多标的贝叶斯优化引擎,皆集评估模子架构与硬件加快器的性能,均衡蔓延、能耗、精度和总碳脚迹。
杰出针对边际推理斥地,CATransformers 通过剪枝大型 CLIP 模子生成变体,并诱骗硬件估算器具分析碳排放与性能。后来果 CarbonCLIP-S 与 TinyCLIP-39M 精度止境,但碳排放镌汰 17%,蔓延抵制在 15 毫秒内;CarbonCLIP-XS 则比 TinyCLIP-8M 精度擢升 8%,碳排放减少 3%,蔓延低于 10 毫秒。
询查透露,单纯优化蔓延的联想可能导致隐含碳增多高达 2.4 倍,而玄虚优化碳排放与蔓延的战略可收尾 19-20% 的总排放削减,且蔓延耗损极小。
CATransformers 通过镶嵌环境目的,为可握续机器学习系统联想奠定基础。这标明,AI 开发若从一开动就诱骗硬件智商与碳影响考量,可收尾性能与可握续性的双赢。跟着 AI 边界握续扩大,该框架为行业提供了切实可行的减排旅途。
IT之家附上参考地址
CATransformers
Carbon Aware Transformers Through Joint Model-Hardware Optimization体育游戏app平台