在新播客節目BG2中,微軟CEO納德拉親口承認公司正面臨一個前所未有的尷尬:微軟手上有成堆的GPU,卻因為缺電、缺空間,只能閑置在那兒。
但大的問題不是算力過剩的現狀——
大的問題不是芯片供應,而是供電能力,以及我們能否足夠快地建成靠近電源的數據中心。如果做不到,你就會有一堆芯片只能躺在倉庫。
微軟缺電,大量GPU閑置
在微軟內部,大量NVIDIAAI芯片被閑置。
不是因為算力已經足夠或者“過剩”了,而是現在的基礎設施不足以支撐這些芯片運行起來。
一是因為缺乏電力。
二是因為缺少可以立馬投入使用的數據中心——也就是納德拉口中的“warm shells”,即已經建好、具備足夠供電與冷卻能力的機房外殼。
這并不是他第一次對外談及微軟的煩惱。
去年,當被問及微軟在2024年是否仍然受到NVIDIA芯片的供應限制時,納德拉是這么說的:
我們受到的是電力限制,而不是芯片供應限制。

到了今年,這似乎成為了所有大模型巨頭們共同面臨的問題。
奧特曼也在同期討論中提到,行業面臨的總體挑戰不僅僅是算力問題,更多還有能源和基礎設施的匹配問題。
而奧特曼對這個問題的敏感,比多數科技公司來得早。
過去兩年,他陸續投資了裂變能源公司Oklo、聚變能源公司Helion,以及太陽能創業公司Exowatt。
只不過,這些新型能源技術離大規模商用還很遠,短期內,數據中心仍得依賴燃氣和可再生能源混合供電。
缺電之外:囤芯片也不再安全
過去五年,美國整體電力需求曲線突然被拉高。
隨著AI和云計算帶動的數據中心建設進入高峰期,用電需求開始以超出預期的速度增長,遠遠超過公用事業公司原本的新增發電規劃。
供給端反應明顯滯后。
傳統電廠從立項到并網通常需要數年周期,而AI產業擴張的節奏以季度計算,于是,為了追上算力擴張的步伐,越來越多的數據中心開發商不得不自己為AI發電。
因此,越來越多的數據中心開發商選擇采用所謂的“計量表后”(behind-the-meter)供電方式——直接將電力接入數據中心,繞過公共電網,以彌補供能缺口。
盡管如此,數據中心、電力與冷卻系統的建設節奏還是遠遠跟不上現實需求。

光伏太陽能被視為目前建設周期短、部署靈活的能源形式,但在時間維度上,它與數據中心幾乎同步——從選址、施工到并網動輒數月甚至一年。
AI需求的變化往往只需要一次模型更新或一次產品發布。
舉個具體點的例子來說吧:當算力曲線每季度刷新紀錄時,能源系統還在審批表格上打轉(無奈攤手.jpg)。
部分業內人士擔心,如果未來AI需求增速放緩,當前為了支撐AI算力而大規模投資的電廠和儲能項目可能會出現閑置風險。
但奧特曼并不這么看。
奧特曼認為,AI的用電需求不可能回落,只會持續增長。
也就是說,更高效、更便宜的算力,只會激發出更多應用場景。
如此來看,奧特曼似乎是一個杰文斯悖論信徒。
該悖論認為,資源的更高效利用將導致更大規模的使用,從而增加整體需求。
如果算力成本明天下降100倍,用量會增長遠超100倍。越便宜的計算力,只會帶來更大的總體需求。
為此,奧特曼呼吁美國政府每年增加100吉瓦發電能力,并將其視為“AI戰略資產”。
與此同時,算力端的企業也在重新調整策略。
納德拉明確表態,微軟不會再囤積單一代GPU。
理由很現實——
一臺昂貴的NVIDIA芯片,如果暫時插不上電,兩、三年后又被新架構取代,那等于在折舊周期內就提前貶值。
而根據微軟經驗,數據中心設備的折舊周期通常是六年,盲目囤貨不僅占用現金,還會造成資源浪費。
網友建議:不如開發點能耗降低的芯片?
自20世紀90年代末以來,美國電力生產一直徘徊在約約4萬億千瓦時/年。
但這個世界變化太快了:
人口增長了20%,部分物理電網老化,新的城市生活和科技進步都對電力需要提出了不斷增長的需求。
如上所述,GPU生產可以按季度迭代,但電力系統、數據中心冷卻與輸電網絡的建設,卻是以年為單位的工程。
AI產業算力增長能否延續,關鍵已不在芯片產量,而在能源與基礎設施是否能同步擴張。
這也讓行業目光重新轉向上游芯片廠商。
過去,NVIDIA等公司拼的是峰值性能:算力越強、速度越快越好。
但當限制從“算力短缺”變成“電力短缺”后,標準是否有可能開始反轉?
reddit相關討論帖中,有網友表達了自己的建議:
如果你是受電力限制而不是芯片限制,你會想要每工作節能的芯片,對吧?如果你已經被能耗閑置,而NVIDIA推出一款速度提升1.2倍但能耗降低25%的芯片,那將非常有吸引力。

One More Thing
周一,微軟上宣布,相關部門已經批準它向阿聯酋運送NVIDIA芯片,用來建設訓練AI模型所需的數據中心。
微軟還表示,未來四年將在海灣國家投資80億美元用于數據中心、云計算和其他人工智能項目。
中東地區資金豐厚,能源豐富,外媒分析,這筆交易也標志著AI基礎設施正在從硅谷遷往能源充足的新興市場。
或許去了那里,微軟買下的NVIDIAGPU可以不再吃灰吧……
本文鏈接:http://m.www897cc.com/showinfo-24-185297-0.html微軟機房里 大量NVIDIA GPU在吃灰:原因哭笑不得
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com