AI应用超费电，全球H100功耗堪比欧洲小国

随着人工智能的飞速发展，对计算能力的需求也水涨船高。英伟达的AI处理器H100目前十分畅销，然而每块H100的峰值功耗高达700瓦，超过了普通美国家庭的平均功耗。随着大量H100被部署，专家预测，其总功耗将与一座美国大城市不相上下，甚至超过一些欧洲小国。

英伟达H100GPU峰值功耗为700瓦，按照61% 的年利用率，每块 H100 每年将消耗约3740千瓦时(kWh)的电量。到2024年底，将有350万块H100芯片被部署，其总年耗电量将达到13091.82 吉瓦时 (GWh)。而立陶宛或危地马拉等国家的年均电力消耗也才为13092 吉瓦时左右。

英伟达及其人工智能潮流将电力数字推向了新的高度，这确实是黄仁勋的杰作。根据市场分析来源Stock Talk的估计数据，首席执行官黄仁勋所引领的人工智能潮流似乎不仅在收入数据方面，而且在电力消耗方面都建立了新的基准。

据悉，英伟达H100共计350万台，每年将消耗约1.3万GWh的电力。此前，电力消耗与2020年的加密货币挖矿热潮有关，因为据透露，加密货币挖矿导致消耗了173.42太瓦时的电力。

NVIDIA 在全球的H100 AI GPU现在预计其用电量相当于危地马拉和立陶宛等国家每年的耗电量，这令人感到震惊与惊讶。不可否认，Team Green的AI GPU已经在全球范围内进行了大规模部署，这不仅是因为该公司努力拓展其硬件和软件资源，而且也因为英伟达在向市场提供其产品方面处于领先地位。在目前的状态下，没有其他公司能与NVIDIA相媲美，尤其是在采用新的AI语言模型和平台方面。

然而，事情似乎并没有就此止步，因为英伟达计划明年销售高达150至200万台，这意味着用电量几乎是现在的三倍。

NVIDIA的Jupiter 超级计算机由 GH200 GPU 加速器提供支持。未来几年，几台超级计算机将投入使用，因此预计相关AI行业和数据中心领域的功耗将继续增长。

虽然H100的功耗令人震惊，但值得注意的是，AI和高性能计算 (HPC) GPU的效率正在不断提高。因此，虽然英伟达下一代Blackwell架构的B100芯片的功耗可能会超过H100，但它也将提供更高的性能，从而以更少的单位功耗完成更多的工作。

随着AI技术的发展，如何平衡算力与能耗之间的矛盾，将成为未来亟需解决的重要课题。