性能新突破！媲美國際水準！國產千卡智算集羣助力國產大模型訓推

以大模型爲代表的新一代人工智能技術是引領新一輪科技革命和產業變革的戰略性技術和重要驅動力量，隨着對算力需求的日益高漲，人工智能算力底座公司日益成爲新一波人工智能技術浪潮重要組成部分。

2024年5月，摩爾線程與智譜AI開展了新一輪GPU 大模型適配及性能測試，包括大模型推理以及基於誇娥（KUAE）千卡智算集羣的大模型預訓練。測試用相關大模型來自智譜AI基座大模型及其開源版本。

測試結果表明，在推理方面，摩爾線程自研全功能GPU顯著優於基準對比產品RTX 3090和RTX 4090，在全部測試用例中優於RTX 3090，在多batch下優於RTX 4090；在訓練方面，摩爾線程誇娥千卡智算集羣訓練精度與A100集羣誤差在1%以內，誇娥千卡智算集羣性能擴展係數超過90%，模型算力利用率（MFU）與A100集羣相當。

智譜AI致力於打造新一代認知智能大模型，專注於做大模型的中國創新。早在2022年8月，智譜AI開源了GLM-130B模型，2023 年，智譜 AI 推出千億基座對話模型ChatGLM，開源版本的 ChatGLM-6B 讓大模型開發者的本地微調和部署成爲可能，在開源社區受到廣泛歡迎。從自主開發的原創GLM預訓練框架搭建之初，智譜AI就十分注意算力利用率問題。通過國產算力適配，智譜AI已支持10餘種國產硬件生態，努力推動建設大模型軟硬件生態和與國產芯片企業的聯合創新與升級。

摩爾線程出色的測試結果對於更好建設中國大模型產品技術生態具有重要意義。

技術自主新突破：摩爾線程千卡智算集羣成功應用ChatGLM預訓練，標誌着摩爾線程全功能GPU算力底座有能力支撐行業領先的大模型全鏈條研發，有助於增強技術自主性，保障信息安全。大模型訓練與推理將能夠在全國產可控的算力底座上運行，在滿足信息安全的前提下服務於千行百業，成爲發展AI+新質生產力的核心力量。

助力打破算力瓶頸：Scaling laws（尺度定律）已經預示了AGI技術發展對算力日益增長的需求規律，同時也表明有限的算力供應可能成爲制約大模型發展的關鍵瓶頸。本次測試結果顯示，國產GPU算力底座有能力助力中國人工智能技術發展。摩爾線程作爲國產GPU的代表，將助力提高大模型迭代速度和自研水平，助推中國大模型更好發展。

開拓創新空間：算法、算力、數據是AGI技術的核心要素，摩爾線程與智譜AI卓有成效的適配與測試合作，有利於推動實現軟硬件的深度融合與協同創新，有利於助力中國大模型實現更好發展。

降低運營成本：摩爾線程憑藉自研國產全功能GPU，致力於構建先進的AGI算力底座，不僅能夠兼容適配全球主流AI軟件生態，節約軟件遷移成本，而且在單位算力總體擁有成本上擁有較爲明顯優勢，能夠有效降低大模型產品研發成本。

智譜AI硬件適配與測試負責人表示：“摩爾線程誇娥千卡智算集羣在計算精度和穩定性等方面的表現令人印象深刻，智譜AI將與包括摩爾線程在內的大模型產業生態合作伙伴攜手，共同推動大模型產業生態繁榮發展。”

雷峰網