GB200出貨在即 臺伺服器廠SC24秀新品

SC24臺伺服器廠秀AI伺服器

採用輝達NVIDIA Grace CPU+Blackwell GPU的GB200機櫃式AI伺服器,將於明年第一季起陸續放量出貨,多家臺伺服器廠也於正於美國舉辦的SC24(Super computing 2024)中展出配置液冷的解決方案。近日來,包括廣達、鴻海、技嘉、華碩及和碩等臺廠,皆相繼預告旗下的GB200 NV72下季將出貨。

此外,正加速追上AI伺服器大軍的微星及仁寶,也在此回的SC24中端出採用NVIDIA MGX架構的H200 NVL系列,力拚明年起旗下AI伺服器業務隨着新品出貨逐步發酵,爲各自營運挹注新一波動能。

時序適逢輝達下一代Blackwell平臺的部分AI伺服器產品進入備貨期,臺主要伺服器廠於近日開展的SC24美國超級運算大會中,紛紛端出與三大晶片廠輝達、超微及英特爾合作的伺服器新品,針對AI訓練/推論及HPC高效運算,發佈最新解決方案,同時也等同於揭示了各家明年將陸續出貨、或成爲主力產品的AI伺服器產品。

先前已亮相過的NVIDIA GB200 NV72,此回在技嘉、華碩、和碩及華擎、鴻海旗下鴻佰等臺廠的展位,都能看到或配置液冷對液冷、液冷對氣冷之散熱解方的完整機櫃式產品。

但各臺廠亦有更多針對GenAI訓練或邊緣推論需求的產品。如和碩端出可配置包括NVIDIA GH200、NVIDIA H200 NVL、NVIDIA L40S等AI GPU平臺的2U及4U型AI伺服器,微星則以採用NVIDIA MGX架構設計、支援NVIDIA H200 NVL GPU平臺,並結合雙路Intel Xeon 6處理器的4U型AI伺服器,還有搭載最新P-core和E-core Intel Xeon 6處理器的DC-MHS伺服器和伺服器主板產品。

技嘉旗下技鋼科技則除有NVIDIA HGX H200平臺、NVIDIA H200 NVL平臺的新品外,在NVIDIA MGX架構的AI伺服器系列產品,皆採用勤誠設計的機箱。同時在液冷解方部分,技嘉聯手CoolIT Systems、Motivair和nVent合作伙伴,推出搭載液冷技術的高密度伺服器暨解方。

華擎則另展示了採用氣冷的NVIDIA HGX B200平臺產品,仁寶則首發了兩款採用NVIDIA MGX架構、支援NVIDIA H200 NVL的AI伺服器新品。

廣達聚焦於支援新一代Intel Xeon 6系列E-Core與P-Core的通用型伺服器產品外,亦已有配置Intel Xeon系列處理器、並支援8-GPU的AI加速伺服器與機櫃級解方。同時在採用AMD EPYC處理器和AMD Instinct GPU的AI/HPC伺服器產品線,也有更完整的產品系列因應客戶的運算需求。