GPU大厂英伟达 (NVIDIA) 在售出了大量的H100 AI GPU之后，由于每个GPU的功耗高达700W，单一套的设备就媲美国一般家庭的平均用电量还要高。现在，英伟达正在大量销售用于AI工作执行的GPU，预计这些GPU的总用电量将与美国一个主要城市的用电量一样高。另外，法国施耐德机电公司10月份的统计，全球GPU的耗电量，则相当于欧洲小国用电量。
根据施耐德统计数据显示，目前全球用于人工智能运算的数据中心的总耗电量与赛普勒斯全国的用电量相当。对此，微软数据中心技术治理和策略机电工程师Paul Churnock则认为，到2024年底，在全球部署数以百万计的英伟达H100 GPU时，英伟达的H100 GPU的总耗电量将超过亚利桑那州凤凰城所有家庭的用电量，而仅次于德州休斯顿的用电量。
Paul Churnock指出，这是英伟达的H100 GPU最大用电量达到700W，以61%的年使用率计算，将相当于美国一般家庭平均用电量。而因为英伟达预计2024年H100 GPU的销量为150-200万颗，以住宅用电对比城市消费量来计算，这总和将使得全球H100 GPU用电量将排名全美第五，仅次于德州的休斯顿，领先亚利桑那州的凤凰城。
事实上，如果年利用率为61%，H100 GPU每年将消耗约3,740千瓦时 (kWh) 的电力。假设英伟达在2023年销售150万个H100 GPU，在2024年销售达到200万个H100 GPU，则到2024年底将部署350万个此类处理器。总共，它们每年将消耗高达13,091,820,000千瓦时 (kWh) 的电力，或13,091.82 GWh。
结合实际情况来看，H100 GPU的耗电量则相当于乔治亚、立陶宛等国家的约13,092 GWh年耗电量。虽然这个耗电量看起来相当令人震惊，但值得注意的是，AI和HPC GPU的效率正在提高。因此，虽然英伟达采用Blackwell的B100的功耗可能会超过H100，但它将提供更高的性能。因此，每单位功耗可以完成更多的工作，这情况是不是有助于汰换H100 GPU，以降低所需的耗电量，则有待后续观察。
(首图来源：英伟达)
文章来源: https://twgreatdaily.com/zh-hans/264c5fe837ba6ec0602ae8cd173c0c93.html