Skip to main content
Power Electronics 文章

以 48V 為 AI 處理器供電,向正確方向邁進

前沿 AI 工廠正朝著 1GW 算力邁進,其使用的 GPU 數量可達 25 萬乃至更多。未來 AI 工廠的總用電量中,GPU 的消耗占比預計將達到 50%。為這些系統供電,最佳方式是什麼? 目前業界標準是採用多相方案,但細究之下,該方案存在過多不容忽視的缺陷。 與分比式電源架構相比,多相方案表現如何?

Data center image

By Maury Wood, VP Strategic Marketing

隨著 AI 處理器對功率水准的要求不斷攀升,供電效率正成為 AI 基礎設施面臨的關鍵挑戰。本文探討了在下一代 AI 資料中心中,相較於傳統的 6V 多相供電方案,48V 分比式電源架構如何顯著降低能量損耗,减少運營成本並提升可擴充性。

在一定的抽象層面上,現代 AI 處理器無非是每秒與其他AI系統處理器(通常是 CPU)、網路處理器和儲存設備交換數萬億位元組的數據,每秒執行數千萬億次並行向量運算,並全年無休、晝夜不停地持續耗散兩三千瓦的熱量。從這個角度看,AI 處理器堪稱世界上最昂貴的電加熱器。事實上,單個當代 AI GPU 加上高頻寬記憶體(HBM)加速器所持續散發的熱量,就等同於一臺沙龍級吹風機。AI 電源系統工程師正專注於高效供給所需電能,同時减少因向這些龐大計算引擎輸送足够功率而產生的熱損耗。繼供電網路(PDN)從 12V 轉向更高效的 48V 之後,資料中心機架供電近期向 800VDC 的轉變正獲得越來越多的關注,被視為 AI 基礎設施行業的下一步變革。 然而,負載點處穩壓器在電流密度和電流增益方面存在的挑戰,正導致整個行業走向錯誤的方向。這種從高效的 48V PDN 向 6V 和 2V PDN 的倒退,將帶來巨大且不必要的熱功率損耗。

以一款先進的 AI 處理器(圖 1)為例,其熱設計功耗(TDP)為 3kW,在 0.6VDD 下需要 5000A 的熱設計電流(TDC)。請注意,AI 處理器可能擁有數十個供電軌,各有不同的電壓和電流輸送需求,因此本文中的建模為清晰起見進行了簡化。該示例 AI 處理器基於小晶片設計,假設封裝尺寸約為 55mm×74mm,即約 4070mm²。由此可得,封裝級(通常為 CoWoS 或 EMIB)功率密度約為 740mW/mm²,電流密度約為 1.23A/mm²,這印證了這些處理器如同強勁加熱器,需要採用直觸晶片式液冷技術,以保障多年持續可靠運行。

?????? image

圖 1:先進的 AI 處理器示例,CoWoS 小晶片封裝尺寸為 55mm×74mm,面積為 4070mm²。

業界標準的供電架構提案:正走向錯誤方向

傳統的標準負載點(PoL)AI 處理器供電架構,無論是橫向放置(LPD)還是垂直放置(VPD),均採用交錯式脈寬調製(PWM)跨電感穩壓器(TLVR),通常由數十個垂直放置的電源模組按順序以“多相輸出”方式協同工作。多個多相穩壓器(VR)組合起來,以滿足各供電軌(多個邏輯覈心軌、HBM 存儲軌、實體層 SerDes 軌、輸入輸出軌等)的電流需求,包括持續電流和峰值電流。在該電源架構中,數位多相控制器必須在處理器電壓紋波容差範圍內實現各相之間的類比電壓平均,並管理數十個 PoL 多相電源模組之間的精確輸出均流。

6V multiphase powertrain showing transformation then regulation stages and the voltage averaging characteristic image

圖 2:6V 多相功率鏈,展示先變壓後穩壓的級聯結構以及電壓平均特性。

多相架構的一個關鍵技術特徵是,其功率鏈結構先進行變壓,再進行穩壓。在輸入電壓為 48V 的 AI 加速卡場景中,功率鏈的第一級將 48V 變換為 12V(4:1 定比轉換),而近來更常見的是將 48V 變換為 6V(8:1 定比轉換)。 第二級為多相 TLVR 降壓穩壓器,將 6V 調節至低於 1V 的電平,例如針對處理器覈心軌的 0.6V(10:1降壓)。初始變換級通常稱為中間母線轉換器(IBC),連接各級的母線通常稱為中間母線。 由於當前最先進的 AI 處理器對輸入電流的要求極高(本文分析中使用的 0.6V 下 TDC 為 5kA),流經 6V 中間母線的電流達到 500A。假設該橫向中間母線上 PCB 電源平面和接地平面的集總電阻為 200微歐(µΩ),則每張 AI 加速卡的 I²R 熱損耗為 50W,而一個機架內通常包含數十張此類加速卡。

未來 AI 資料中心的提案架構基於 800V 配電,並將依賴獨立的電源側櫃,創建一條中間母線(目前提案為 6V),通向電腦櫃的處理器託盤,再饋送給多相 VR。這種電源架構存在巨大的中間母線 PCB 熱損耗,因為 PDN 阻抗遠高於 200µΩ,因此需要採用鍍銀銅母線液冷技術,同時面臨嚴峻的金屬成本和採購挑戰。

Current industry-standard 6V multiphase power architecture with high intermediate bus power and scalability constraints image

圖 3:當前業界標準的 6V 多相電源架構,存在高中間母線功率和可擴充性受限的問題。

向正確方向邁進:具備電流倍增功能的 48V 分比式電源架構

多相 TLVR 穩壓方案的高性能替代方案是48V分比式電源架構(FPA™), 其在負載點採用電流倍增技術。 該電源架構將 48V 從 AI 加速器輸入電源連接器一直延伸至 AI 處理器,與 6V 多相 VR 及中間母線電源架構相比,大幅降低了 AI 計算託盤和 AI 工廠中的熱損耗。

FPA 同樣採用兩個 DC-DC 轉換器級,但其架構順序為先穩壓後變壓,與傳統多相 VR 功率鏈架構的先變壓後穩壓順序相反。 穩壓級由升降壓或降壓 DC-DC 轉換器實現。 變壓級由電流倍增器實現,其將經穩壓的 48V 分比式母線電壓除以 K 因數(本例中 K = 48),從而得到 1V 的標稱 AI 處理器供電軌。 K 因數的倒數即為變壓級的電流增益。

電流倍增器具備多項獨特且創新的高性能特性,包括:

  • 理想的 DC-DC 變換器特性,無內部儲能
  • 高電流增益(> 40)和高電流密度(持續電流>3A/mm²,峰值電流>6A/mm²)
  • 低輸出阻抗
  • 高頻寬,增强瞬態回應敏捷性
  • 一流的瞬態回應能力(8.6A/µs),壓擺率為 400ns
  • 低 EMI,得益於零電壓切換(ZVS)和零電流切換(ZCS)技術,具有純淨的雜訊頻譜
  • 低輸出電壓紋波
  • 模組熱阻低於 0.15°C/W
  • 模組高度為 1.5mm

向正確方向邁進的 48V FPA 直抵負載點,在中間母線/分比式母線上的熱耗散是 6V 多相 VR 電源架構的 1/64,是新興的 2V 集成穩壓器(IVR)方案的 1/576。

以所述 3kW TDP 和 5kA TDC 的先進 AI 處理器為例,假設中間母線/分比式母線上 PCB 電源平面和接地平面的集總電阻為 200µΩ,則 48V FPA 在分比式母線上的熱耗散約為 780mW,而 6V 多相方案在中間母線上的熱耗散約為 50W。

Industry standard multiphase VPD versus Factorized Power Architecture VPD illustrates the 64 times higher intermediate bus thermal dissipation compared to 48V FPA VPD image

圖 4:業界標準多相 VPD 與分比式電源架構 VPD 的對比,顯示 6V 多相方案中間母線熱耗散比 48V FPA VPD 高出 64 倍。 兩種方案均假設母線電阻為 200mΩ。圖中所示為簡化模型。

AI 工廠層面:48V 直抵負載點與 6V 直抵負載點的綜合節能與成本節約分析

歸納要點:6V 多相電源架構的熱耗散比 48V 分比式電源架構高出 64 倍。 雖然 800V 配電至 AI 電源側櫃的做法可减少熱損耗,但多相 VR 電源架構所採用的 6V PDN 卻使中間母線熱損耗新增了 64 倍。 顯然,在降低 AI 工廠能耗這一緊迫的行業訴求與社會期望面前,6V 多相 AI 處理器電源架構正朝著錯誤的方向前進。

歸根結底,成本决定一切

Intermediate bus thermal power reduction – Vicor 48V FPA versus 12V multiphase, 6V multiphase, and 2V integrated voltage regulation image

圖 5:中間母線熱功率降幅——Vicor 48V FPA 與 12V 多相、6V 多相和 2V 集成穩壓方案的對比。

前沿 AI 工廠正朝著 1GW 算力邁進,其使用的 GPU 數量可達 25 萬乃至更多。 未來 AI 工廠的總用電量中,GPU 的消耗占比預計將達到 50%。 對於 25 萬台GPU(按每台 GPU 3kW TDP 的型號處理器計算),6V 多相穩壓器中間母線的總熱損耗約為 12.5MW(兆瓦),而對應的 48V 分比式母線總熱損耗約為 195kW(千瓦)。 這 64 倍的降幅相當於每年節約約 12.3MW 的電能,即約 108GWh(吉瓦時)。 再次強調,這些處理器全年 365 天、每天 24 小時不間斷運行。 按公用事業級電力批發價格每 1GWh 約 45000 美元計算,每年减少 109GWh 的能耗相當於節省約 490 萬美元的運營支出(OPEX)。 按四年折舊期計算,累計運營支出節省接近 2000 萬美元。

綜上所述,在 1GW AI 工廠中,每年可節省 500 萬美元的電力運營支出,加上每台 GPU 因採用 48V 直抵負載點方案相較於 6V 多相電源架構减少 55W 熱損耗,這些數據充分表明,基於 48V 的分比式電源架構在效能、運營成本和節能方面,正引領未來 AI 基礎設施走向正確的方向。 

FPA™ 是 Vicor 公司的註冊商標。

本文最初由  Power Electronics 發佈。

Maury Wood 現任 Vicor 戰略市場營銷部副總裁。 在加入 Vicor 之前,Maury 曾在各種光纖測試與電晶體公司擔任過高級職務,包括 EXFO、AFL、博通、恩智浦、模擬器件以及賽普拉斯等。 他畢業於密歇根大學,獲電子工程學士學位,並在美國東北大學、巴布森學院和麻省理工學院完成了研究生學業。 Maury 喜歡攀岩、野外滑雪、山地騎行以及爵士貝斯演奏。

Maury Wood

Maury Wood,戰略營銷總監

資源