软件优化成数据中心节能新路径

数据中心节能正转向软件优化。测试显示,采用FP8精度推理可降能耗三分之一,Perseus优化器使训练能耗降低30%。Nvidia通过架构调优在保持性能同时节省15%能源,挖掘出被忽视的能效空间。

随着数据中心能源需求的持续攀升,业界正面临前所未有的电力挑战。据预测,到 2030 年,全球 AI 算力所需的电力将达到约 945TWh,这一数字相当于日本当前的全国用电量。国际能源署(IEA)指出,能源紧缩已成定局。面对这一压力,行业的主流应对策略集中在硬件层面:研发更高效的 GPU,以及从日益紧张的电网中争取更多供电额度。

FP8精度使推理能耗降三分之一

然而,这种对硬件的过度关注可能忽略了软件层面的潜力。能否通过优化运行在服务器上的工作负载来节省电力?Uptime Institute 发布的《2025 年调查》显示,过去六年间,平均电力使用效率(PUE)几乎没有变化。PUE 主要衡量冷却和电源系统的浪费情况,却未考量服务器上运行的软件是否在执行有效任务。在现代数据中心中,服务器约占电力总需求的 60%,而高效超大规模数据中心的冷却能耗占比仅为 7% 左右,相比之下,低效的企业级设施该比例超过 30%。因此,从软件角度挖掘能效空间显得尤为合理。

密歇根大学计算机科学博士候选人、ML.Energy 倡议研究员 Jae-Won Chung 在接受 Tom's Hardware 高级采访时明确表示:“软件或算法能否有意义地帮助节能?答案是肯定的。”

Chung 认为,计算机系统应被视为一个由硬件、系统软件、算法和应用组成的堆栈。其中,硬件层最难改变,因为芯片迭代周期长且成本高;但上层软件更易调整,任何微小的效率提升都能产生累积效应。

ML.Energy 团队针对阿里巴巴 Qwen 3 235B A22B 思维模型进行的测试表明,采用 FP8 精度格式进行推理——一种略低于常规 bfloat16 的精度——在完成问题解决任务时,能耗降低了三分之一。此外,他们开发的 Perseus 训练优化器能够识别大型模型训练中可精简的部分,在不降低吞吐量且不更换硬件的前提下,将训练能耗降低了高达 30%。

各大 GPU 厂商也在采取类似措施。Nvidia 对其 Blackwell 架构进行了精细调优,涵盖 GPU 计算频率、内存频率、功率限制、NVLink 状态及缓存设置等参数,以适配不同工作负载。Nvidia 声称,此举可在保持 97% 以上整体性能的同时,节省高达 15% 的能源,使受限于电力的设施能够部署更多 GPU,从而将吞吐量提高多达 13%。

被忽视的低效角落

SHI 数据中心基础设施业务开发经理 Chetan Visrolia 向 Tom's Hardware Premium 透露,他在现场发现的最明显浪费往往来自支持旧代码的老旧设备。“这是实现快速节能最简单的方法,”Visrolia 表示,“这类‘地板上的最烂架子’在任何数据中心都很容易找到。”

除了淘汰旧硬件,云实例的运行逻辑也可进一步优化。例如,频繁使用的 AI 提示词可以存入缓存而非每次重新计算;采用“大小模型协同”策略,即用小模型处理常规请求,仅在大模型上处理复杂任务,也能显著提升效率。同时,改进批处理机制和编译器可提高加速器利用率,而在输出端设置限制并缩短输入提示,则能减少处理的 Token 数量。

软件不仅能减少单次计算的能耗,还能改变用电的时间与地点。苏黎世联邦理工学院(ETH Zurich)自动控制实验室博士生 Sophie Hall 研究了 Google 全球数据中心机队的工作负载转移策略。她在接受采访时表示,电力消耗总量或许并非核心痛点,关键在于“何时用、在哪用,以及如何与电网互动”。

Hall 指出,如果批量生成任务不具备严格的时间敏感性,可以将其推迟至当地用电低谷期,或转移至拥有剩余容量且低碳电力充足的区域。她的研究利用前一天制定的计划结合实时调度响应电网信号,同时在保证性能的前提下实施这一策略。

Hall 补充道,当超大规模服务商建设的容量远超实际需求,且电网并非瓶颈时,此类优化的必要性较低。然而,AI 带来的巨大需求已彻底改变了这一格局。

当然,该方法存在局限性。部分国家的数据主权法规禁止工作负载跨境迁移,且对于推理服务提供商而言,跨网络移动大数据集存在风险。Hall 强调:“数据需要从物理上、地理上转移到不同位置,这并不容易。”

鉴于 AI 驱动的数据中心需求规模,软件优化并非万能灵药,也不能替代更高效芯片和新电力基础设施的建设。但它作为一个控制层,有助于榨取昂贵资产中的每一分效能,并将需求引导至产能更充裕的地区。

在追求系统运行效率的同时,还需警惕“杰文斯悖论”。如果每节省一瓦特电力都被用于生成更多 Token,那么设施的整体电力使用量并不会下降。正如受访者所言:“电力是 AI 数据中心的核心瓶颈。我们真正需要做的,是尽可能高效地利用每一瓦电力。”

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读