AI 发展能耗问题引发关注，如何提升智效并解决能耗难题成大考

1.05万亿千瓦时(kW·h)！

这是国际能源署( ，以下简称“IEA”)日前发布的《电力2024》报告中，对2026年全球数据中心的最高总用电量作出的预测。1千瓦时就是1度电，“超过1万亿度电”，根据报告的估算，这些电量大约是整个日本全年的用电量。

数据中心、智算中心等算力基础设施是人工智能(AI)的数据中枢和算力载体。随着AI尤其是生成式人工智能(AIGC)和大模型技术的快速发展，算力需求激增，AI的能耗问题也越来越受到关注。在近段时间举行的多场国际会议上，一些科技巨头纷纷表达了对AI发展带来的能耗问题的担忧。

如何在提升智效的同时解决能耗难题，对AI行业来说，是一场“大考”。

AI在推理阶段的耗能不容忽视

讨论AI耗能的问题，不可避免地要谈到AI大语言模型(以下简称“大模型”)。

“生成式人工智能是当前AI技术发展的重点。”腾讯研究院资深专家王鹏在接受中青报·中青网记者采访时说。他表示，当前，生成式人工智能技术的基础就是以数据和算力堆叠为标志的大模型，其训练和应用需要大量的算力支持，“算力背后则是算力基础设施耗电所带来的巨大电能需求”。

全国政协委员、中国科学院计算技术研究所研究员张云泉指出，大模型的参数和数据规模越大，其智能效果就越好。在大模型中，“ Laws”(规模效应)意味着当参数和数据规模大到一定程度时，大模型的智能表现将出现跃升，也就是“智能涌现”。“目前我们还没看到‘智能涌现’的上限在哪。”

“一般来说，参数量越大，大模型的算力消耗就越大，其消耗的电能就越多。”王鹏表示，因为还没达到上限，以为代表的人工智能公司在“ Laws”的驱使下，还在持续增加大模型的参数和数据规模，以求实现通用人工智能(AGI)的目标，造成短期内算力需求和电能需求的巨大提升。

“因为GPT-3有1750亿个参数，训练用到了1024张英伟达A100芯片，所以业内将其称为‘千卡千参’。”商汤科技智能产业研究院院长田丰说，目前GPT-4、GPT-5等大模型都达到了“万卡万参”的规模，且训练模型所用芯片也从英伟达A100更新到英伟达H100、B200，“参数量的激增将导致能耗显著增加”。

除了模型训练以外，AI在推理阶段的耗能也不容忽视。“推理即大模型响应用户需求的过程”，张云泉介绍，大模型单次响应用户需求的耗电量并不大，“但随着用户规模的增加，耗电量也将不断累积并增大。”

近日，源自美国的一则“如果将10万块英伟达H00芯片部署在同一地区进行模型训练，会导致电网崩溃”的新闻引起社会关注。