從邊緣→雲端 聯發科的AI野心

聯發科副董事長暨執行長蔡力行。圖／本報資料照片

未來AI半導體需求分佈預估

聯發科執行長蔡力行將以「從邊緣AI到雲端AI的願景」爲題，於訂於5月20日舉辦的COMPUTEX 2025發表主題演講，甫於GTC大啖輝達執行長黃仁勳的外送鬆餅，外界期待輝達與聯發科將在臺灣迸出更多火花。

面對邊緣AI運算衝擊，聯發科資深處長樑伯嵩於27日AIA臺灣人工智慧學校春季論壇上指出，代理AI使推理運算需求急遽變高，約由85％的AI半導體需求來自推論應用，當中約有47％爲邊緣設備（Edge Device）。

作爲全球半導體技術與AI運算領導業者，聯發科在各式裝置、智慧家庭、車用電子、物聯網等持續推動創新。蔡力行將分享聯發科技從邊緣AI到雲端AI運算領域的願景，探討次世代通訊技術的革新。外界期待，與輝達日益緊密合作下，雙方將於COMPUTEX 2025再端出新菜，深化從邊緣到雲端AI的全產業鏈合作。

樑伯嵩指出，Reasoning（如DeepSeek R1）與Agentic AI強力帶動推理運算需求；DeepSeek推出不代表算力的縮減，低成本也是因爲僅以租賃GPU時數來計算，但是他觀察到，蒸餾後的模型將有可以放到手機、筆電中，而且會比半年前的雲端大語言模型能力更好。

而AI訓練漸趨成熟，更有助於推論應用，樑伯嵩表示，AI演進路徑開始產生變化，利用各種技術縮小模型運算消耗並維持相當算力，是AI普及化的轉折點。降低雲端AI伺服器運算消耗、並讓邊緣設備也能賦能人工智慧，另外，過往因爲機敏資訊，如醫療病例、工廠重要參數等應用場景，現在也能開始大規模導入。

樑伯嵩分析，未來AI半導體需求僅有15％用在AI訓練，推論應用高達85％、資料中心推論需求佔其中53％。根據黃仁勳喊出的2028年AI建設資本支出達1兆美元推算，屆時邊緣設備將有0.66兆美元的市場大餅。

以網際網路發展軌跡來推斷，樑伯嵩認爲AI還在早期科技發展階段，尚處於賣GPU、TPU等AI加速器階段；以大型語言模型爲例，ChatGPT每週使用人數約2億，如何使用商業模式創造正向經濟循環，甚至創造更多機會，纔是AI真正帶來價值的關鍵。