統(tǒng)計顯示，目前用于人工智能應用的數(shù)據(jù)中心的總能耗與塞浦路斯全國的能耗相當 。但最流行的人工智能處理器——Nvidia 的 H100 和 A100 的功耗又如何呢？ 

微軟數(shù)據(jù)中心技術治理和戰(zhàn)略首席電氣工程師Paul Churnock認為，到 2024 年底，部署數(shù)以百萬計的 Nvidia H100 GPU 時，Nvidia 的 H100 GPU 的能耗將超過亞利桑那州鳳凰城所有家庭的能耗。然而，總耗電量將低于德克薩斯州休斯頓等大城市。

“這是 Nvidia 的 H100 GPU；它的峰值功耗為 700W，”Churnock 在 LinkedIn 帖子中寫道。“以 61% 的年利用率計算，相當于美國家庭平均用電量（基于 2.51 人/家庭）。Nvidia 預計 2024 年 H100 GPU 的銷量為 150萬 – 200 萬個 H100 GPU。與住宅用電相比按城市消費量計算，Nvidia 的 H100 芯片將排名第五，僅次于德克薩斯州的休斯頓，領先于亞利桑那州的菲尼克斯。”

事實上，如果年利用率為 61%，H100 GPU 每年將消耗約 3,740 千瓦時 (kWh) 的電力。假設 Nvidia 在 2023 年銷售 150 萬個 H100 GPU，在 2024 年銷售 200 萬個 H100 GPU，那么到 2024 年底將部署 350 萬個此類處理器。總共，它們每年將消耗高達 13,091,820,000 千瓦時 (kWh) 的電力，或 13,091.82 GWh。

結合實際情況來看， 格魯吉亞、立陶宛或危地馬拉等國家的年耗電量約為 13,092 GWh。雖然這個功耗量看起來相當令人震驚，但值得注意的是，AI 和 HPC GPU 的效率正在提高。因此，雖然 Nvidia 基于 Blackwell 的 B100 的功耗可能會超過 H100，但它將提供更高的性能，因此每單位功耗可以完成更多的工作。