GB300機櫃身價估400萬美元!DLC 液冷當道、浸沒式退燒

緯穎獨家發表雙面水冷板,以3D列印製作,可以最高散4KW熱能,為次世代AI晶片做準備,右下為內部結構設計。王郁倫攝影
緯穎獨家發表雙面水冷板,以3D列印製作,可以最高散4KW熱能,為次世代AI晶片做準備,右下為內部結構設計。王郁倫攝影

COMPUTEX 2025年主角是輝達的新世代AI伺服器DGX GB300,業界傳出目標9月出貨,一座機櫃(Rack)單價上看400萬美元,身價比上一代貴30%,而隨超級晶片Superchip能耗達1.4KW,DLC(直接液冷)成主流散熱方案,反觀浸沒式液冷技術前幾年高聲量,今年只剩殘響,可以確定是AI晶片功耗破千W,下世代散熱技術成顯學。

COMPUTEX熱鬧落幕,輝達新一代伺服器DGX GB300 NVL72機櫃何時推出?成市場關注焦點,由於先前過熱及主機板曲翹等問題頻傳,設計更改雜音不斷,黃仁勳在公開演說中預告第3季度,但電子五哥及Supermicro等供應伙伴均不願談論具體出貨時間,美超微總裁梁見後公開演說中指「數月後」,廣達(2382)則搭著黃仁勳的話預告第3季末前出貨。

GB300 NVL72機櫃總能耗約120~130KW,一台伺服器中的Cuperchip能耗1400W,比上一代DGX GB200 NVL72的單顆Superchip能耗1200W要高1成,由於AI處理器耗能破千瓦,氣冷已不足化解,DLC直接液冷方案今年取代氣冷成AI伺服器主流,輝達也孵化一大串DLC供應鏈,從快接頭、分歧管、液冷板、漏液感測器、CUD以及機櫃外的Side Car(水對氣)都有多家專業廠商供貨。

黃仁勳旋風式拜訪重要伙伴展場攤位,他的簽名也多集中在GB300機櫃上,儘管第2季及可見的第3季度,GB200伺服器才是最主力,且伺服器廠商在MGX GB200產品獲利比DGX機櫃多,但一座機櫃號稱400萬美元的DGX GB300NVL72仍然眾所矚目。

緯穎開發3D列印雙面水冷板

緯穎、美超微、佳世達(2352)集團其陽,今年都著重新散熱技術發布。其陽(3564)董事長曾文興表示,集團認為散熱技術是未來的趨勢,特別是考量到未來的CPU和GPU的功耗會越來越高,例如,明年的CPU可能達到 650W,NVIDIA和AMD的GPU會更熱達到1000 W以上。

由於屬於AI伺服器供應鏈後進者,其陽投資1億多元設立實驗室,跟策略伙伴合作散熱方案,且是一次直接跨入雙向浸沒式(2PIC)及2P-DLC(雙向直接液冷)方案,參加經濟部A+計畫的前瞻技術研發,打造PUE1.02數值散熱解決方案,要彎道超車切入市場。

緯穎跟與美國3D列印公司Fabric 8 Labs合作,開發雙面水冷板,可以解單顆超級晶片4KW熱能,緯穎表示,這是鑑於GPU或ASIC未來愈來愈熱,所以投入前瞻技術研發,透過3D列印方式製造水冷板,且鑑於未來晶片的電源零件將設計在背面,故設計「雙面水冷板」,以正面解熱3.5KW,背面500W方式,達到晶片散熱。

除此之外,緯穎也跟Shinwa合作開發水對氣Sidecar,該機櫃可以解除200KW熱能,遠高於GB300機櫃的120KW,為未來超級晶片功耗成長做準備。

其陽的2P-DLC單顆元件解熱係數達2KW,已有客戶接觸中,其中零件技術有許多伙伴合作,如跟3D列印公司Fabric 8 Labs合作水冷板,一詮做DLC的內部物件,MORIKAWA負責兩向式氣體回收機,另找四家業者提供無毒液體:Chemours、DAIKIN、Inventec、YONTA。

其陽表示會專注少量多樣客製化市場,目標中大型企業及獨立資料中心如中華電信(2412)或聯發科(2454),爭取提供POC(場域驗證),並用模組化堆疊方式切入市場,其他品牌伺服器產品也會放在浸沒式或DLC實驗室測試,目標提供高相容性散熱方案,其雙向式DLC蒸發器也握有專利保護。

美超微總裁梁見後則在Computex宣布發表第二代液冷方案PG DLC-2,整座機櫃以前置IO埠設計,比第一代PG DLC-1前置液冷方案散熱效果高又方便維修,減少耗水跟耗電40%,更安靜,今年開始出貨,梁見後DLC-2內部液體是美超微歷時10個月研發,Inrow CDU能解高達250KW熱能,同時今年也有HGX NVL4 GB200及DGX Station等新品。

浸沒式水冷今年退燒

前三年浸沒式液冷享有極高聲量,但今年較少業者討論,業者分析,導入驗證時間太長,資料中心機房的基礎建設跟氣冷不同,所用液體生產過程有環保爭議,且維修難度高,4原因使其尚未變主流。

緯穎過去是五哥中,對浸沒式水冷速度最快最積極的伺服器大廠,不過今年Computex在該技術沒有著墨,緯穎指出,客戶對DLC相關方案的態度有高度興趣,且一家大客戶的浸沒式方案進展也放緩,故今年液冷方案會以單向DLC為主,公司分析,單向日後更升級雙向DLC方案只要換液體,不需改動硬體架構還有升級空間。

其陽的雙向式浸沒液冷方案已經獲得美國挖礦客戶POC驗證中,目前進行7~8個月,公司預估完全落地要18個月左右,而該客戶近期也表達評估雙向DLC直接液冷方案的可行性。在輝達主導下,DLC在一兩年內仍將是AI伺服器主流散熱技術。

Computex展中各家GB300NVL機櫃都是焦點,永遠人山人海。圖為鴻海展場。王郁倫攝影
Computex展中各家GB300NVL機櫃都是焦點,永遠人山人海。圖為鴻海展場。王郁倫攝影
技嘉集團旗下技鋼科技的GB300NVL機櫃。王郁倫攝影
技嘉集團旗下技鋼科技的GB300NVL機櫃。王郁倫攝影
美超微HGX B200伺服器以第二代DLC-2液冷散熱。王郁倫攝影
美超微HGX B200伺服器以第二代DLC-2液冷散熱。王郁倫攝影
其陽的2P-DLC單顆元件解熱係數達2KW,圖為其散熱系統。王郁倫攝影
其陽的2P-DLC單顆元件解熱係數達2KW,圖為其散熱系統。王郁倫攝影
輝達孵化龐大水冷供應鏈,GB300伺服器何時出貨成下半年焦點。王郁倫攝影
輝達孵化龐大水冷供應鏈,GB300伺服器何時出貨成下半年焦點。王郁倫攝影
美超微HGX B200伺服器採用DLC-2第二代散熱方案,前面都是IO埠。王郁倫攝影
美超微HGX B200伺服器採用DLC-2第二代散熱方案,前面都是IO埠。王郁倫攝影
緯穎也跟Shinwa合作開發水對氣Sidecar,該機櫃可以解除200KW熱能,遠高於GB300機櫃的120KW,為未來超級晶片功耗成長做準備。王郁倫攝影
緯穎也跟Shinwa合作開發水對氣Sidecar,該機櫃可以解除200KW熱能,遠高於GB300機櫃的120KW,為未來超級晶片功耗成長做準備。王郁倫攝影
美超微的DLC-2散熱技術,有獨家的記憶體液冷散熱模組,散熱效果更好,但整體用水跟用電量降低40%,協助資料中心客戶降低成本。王郁倫攝影
美超微的DLC-2散熱技術,有獨家的記憶體液冷散熱模組,散熱效果更好,但整體用水跟用電量降低40%,協助資料中心客戶降低成本。王郁倫攝影
廣達集團展示的GB200NVL機櫃,機殼有黃仁勳簽名。王郁倫攝影
廣達集團展示的GB200NVL機櫃,機殼有黃仁勳簽名。王郁倫攝影
其陽投資1億元以上自建實驗室投入液冷散熱,圖左起為其陽總經理林章安、佳世達智能方案事業群總經理暨其陽董事長曾文興、其陽營運長黃逢誼。王郁倫攝影
其陽投資1億元以上自建實驗室投入液冷散熱,圖左起為其陽總經理林章安、佳世達智能方案事業群總經理暨其陽董事長曾文興、其陽營運長黃逢誼。王郁倫攝影

緯穎 伺服器

延伸閱讀

傳甲骨文將買1.2兆元輝達晶片 用於OpenAI資料中心

輝達攜台廠攻量子運算

搭上輝達就安心!這家半導體公司一宣布成供應商 股價一天翻倍

4K Doro登場!《劍星》x《勝利女神:妮姬》DLC預告片公開 3D紅蓮初亮相

相關新聞

輝達傳在陸推陽春AI晶片 不需台積電先進封裝技術

路透引述知情人士報導,輝達(NVIDIA)將為中國大陸推出一款全新的陽春款人工智慧(AI)晶片,價格遠低於剛受管制的H2...

台積專利申請件數連九年奪冠 去年達1,412件

為維持技術領先優勢,我企業持續加深專利布局。根據經濟部智慧財產局統計,2024年本國人發明專利申請以台積電1,412件最...

產業追蹤/AI協作時代串接共通語言 實現多工協作智慧團隊

2024年起,生成式AI迅速成為企業數位轉型的核心驅動力。從文案自動生成、智慧客服,到知識管理與流程自動化,愈來愈多企業...

產業追蹤/陸IC設計業擴張 台廠戒備

全球半導體產業競爭加劇,中國大陸IC設計產業正迎來一波高度活躍的整併潮。2024年全球市場需求低迷、產業周期下行,以及大...

產業追蹤/量子科技 美中角力新戰場

聯合國2024年6月宣布2025年為「國際量子科技年」,並訂出幾個目標,包括提高大眾對於量子科技與應用的認知,尤其希望向...

輝達GB200散熱解決 鴻海、廣達等AI供應鏈營運將逐季高飛

輝達(NVIDIA)人工智慧(AI)伺服器GB200組裝散熱問題已經解決,由於GB200伺服器單價是一般伺服器的十倍,可...

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。