算力爲王 Grok 3助攻臺積供應鏈
馬斯克旗下xAI正式發表最新AI模型-Grok 3,得益於其Colossus超級電腦的強大算力。圖/美聯社
xAI Colossus超級資料中心
馬斯克旗下xAI正式發表最新AI模型-Grok 3,得益於其Colossus超級電腦的強大算力,該系統僅用8個月就完成建造,目前共計20萬張的Nvidia GPU,爲訓練提供2億GPU小時,相較前身Grok 2翻十倍,再次凸顯算力爲王重要性,加速模型迭代速度。法人指出,xAI在去年底完成60億美元的C輪融資後,未來將加入輝達B系列AI晶片、GB200機櫃等陣容,將帶動臺積電爲首之相關供應鏈營運持續火熱。
Grok 3已在推理、多模態處理與創造性任務上展現顯著突破,刷新數學、科學與編碼領域的各項基準測試成績,透過合成資料集與自我糾正機制,爲AI模型帶來自我成長。
除了大力吹捧自家Grok 3外,馬斯克率領的xAI團隊首揭算力中心打造過程。去年4月,馬斯克決心建立自己的數據中心,僅歷時122天時間,讓10萬張GPU上線運行,爲目前規模最大的H100運算叢集(Cluster),並順利在去年8月發表Grok 2。
但該團隊擴張並未停歇,立即決定再將規模擴大一倍,第二階段僅耗時92天就將數據中心容量翻倍,GPU更達到驚人的20萬張,並誕生目前Grok 3的成果。儘管未再提及下階段,但從xAI融資規模,未來算力軍備競賽將不會停歇,據悉馬斯克目標使用30萬顆B200 GPU,來滿足日益成長的運算需求。
供應鏈業者透露,xAI向輝達下單1,600臺GB200 NVL72伺服器機櫃,OEM業者今年在組裝良率持續拉昇下,將逐步滿足客戶需求;另臺積電作爲輝達GPU的獨家代工廠,產能直接影響AI晶片供應鏈的穩定性,據悉臺南地震導致臺積電晶圓報廢12~13萬片,影響部分晶片供給。
臺積電第一季營運將落於財測低標,不過公司也強調,正傾力補足生產損失,針對全年的財務展望維持不變。
Grok 3的推出不僅更加鞏固輝達在AI訓練市場的領導地位,更凸顯臺積電在先進製程的不可替代性。法人分析,後續訓練成本將爲觀察重點,不過特斯拉在智駕車、人型機器人都有高算力需求的想像空間,因此預計在晶片與伺服器採購量,對臺積電、輝達等需求仍有望延續。