聯發科擴大生成式AI生態圈 打造繁體中文大型語言模型
聯發科宣佈推出生成式AI服務平臺MediaTek DaVinci。 圖/聯合報系資料照
聯發科(2454)衝刺AI市場再出招,昨(9)日宣佈以輝達(NVIDIA)的超級電腦,搶進生成式AI服務,打造出當下地表最強的繁體中文大型語言模型,參數模型高達450億個,能力超越GPT-3.5,並廣發英雄帖加入,積極擴大生態圈夥伴,合力把餅做大。
迎接AI浪潮,聯發科除了使自家晶片支援生成式AI功能,也同時開啓另一扇門,提供企業開發與導入生成式AI服務的平臺。
聯發科昨天舉行生成式AI論壇,宣佈推出生成式AI服務平臺「MediaTek DaVinci」,也暱稱爲「聯發科技達哥」,同時讓其最新繁體中文大型語言模型MR BreeXe亮相。
聯發科催生的達哥平臺,簡言之就是當企業想把生成式AI導入到公司內部工作流程,或是對外部提供的服務中,此平臺提供可選擇方案與可插入的模組功能爲基礎,然後可匯入企業專有的數據資料,來共同組成爲企業量身訂做的生成式AI平臺方案。
聯發科表示,MediaTek DaVinci提供高整合度、高擴展性的開放平臺,讓開發者可爲各行業開發客製化生成式AI擴充外掛、助理等應用。
聯發科人工智慧暨數據工程處協理葉家順強調,MediaTek DaVinci可解決許多企業在採用生成式AI時的痛點,讓各行各業在確保資訊安全的環境下,可善用已有強大基礎的平臺開發專屬的生成式AI應用。隨着更多企業與開發者加入MediaTek DaVinci生態系,相信MediaTek DaVinci的能力將持續爆發性成長。
同時,MediaTek DaVinci 支援各類大語言模型,包含聯發科自家聯發創新基地最新釋出的繁體中文大語言模型MR BreeXe。
聯發科提到,MR BreeXe有節省運算資源、提升速度等優勢,再加上聯發創新基地的預訓練(pre-training)之後,不但在繁體中文測試項目超越GPT-3.5,並對臺灣常見的地端應用特別進行優化,提升產業界使用生成式AI 與檢索增強生成(RAG)的體驗。
聯發科舉例說,「母湯」這個用詞,其實是由「不可以」的臺語音譯而來,在其他模型可能難以理解,但MR BreeXe對於臺灣獨有用詞的運用,就勝過其他所有已知的模型。而且MR BreeXe的長內文功能,可以處理高達4萬個字。
聯發科並提到,MR BreeXe是在輝達的Taipei -1 GPU超級電腦DGX GH200上進行訓練,透過MediaTek DaVinci,支援全地端與部分地端的佈設場景,並可依需求進行多樣本學習,甚至微調客製化。
延伸閱讀
聯發科生成式AI服務平臺「達哥」有賣點 內銷轉外銷