APMIC攜銓鍇國際 推AI算力解方

過去爲了實現高準確率的模型,通常需要昂貴的設備與訓練方法,透過「APMIC Toolbox s1」搭配 CKmates推出臺灣首創「AI CKompute」算力機櫃租賃服務,提供搭載24片的 H100 GPU高階伺服器,可整櫃直送客戶現場,用戶只需準備電力與網路,亦或是放在CKmates端以遠端連線方式使用,免去自行維運負擔。

此模式便能快速啓動資料訓練與進行高強度測試,不必排隊等雲端GPU資源,也可以免除將機密數據外移的隱憂。

「Test-Time Compute AI 算力」軟硬體整合解決方案,讓客戶完全能夠在地端實現「知識蒸餾(Knowledge Distillation)」透過大模型學習企業領域知識,然後縮小到32B~70B的模型上,讓推論成本可以節省比 ChatGPT高達98%以上,而且知識不外流。企業不再擔心要購買昂貴的設備,可依業務需求靈活調整「AI CKompute」租用方案,企業可依需求長期租用,甚至可租單一個月或幾天短期使用,皆能以合理的費用獲取強大算力支援,避免高昂的前期設備投資與維運負擔。租約到期後,客戶可選擇整機購買或直接歸還,是實踐「資本支出轉營運支出」的高彈性策略,讓企業無需投入鉅額資本支出,即可快速取得所需 AI 運算資源。