臺智雲端臺版LLM新典範 助企業部署生成式AI應用

經TMMLU+實測,臺智雲FFM-Llama3-70B於繁中LLM中,表現首次超越GPT 4.0。

FFM模型家族中的FFM-Mixtral-8x7B、FFM-Mistral-7B、FFM-Llama2-v2和FFM-Llama3-8B,整體評分則超越GPT 3.5,確立臺智雲在繁中LLM模型的領導地位。

透過新增支援函式呼叫(Function Calling)功能,能快速串接如Google map、搜尋引擎、交通訂票、即時金融股價查詢等外部應用,讓開發者輕鬆強化模型能力,加速商業應用的全面開發,亦成爲唯一擁有此功能的繁中LLM。

AFS ModelSpace提供企業多種開源大語言模型、自動化工具和管理服務。最新釋出的FFM-Llama3(8B、70B)、FFM-Mistral、Code Llama、TAIDE等開源基礎模型,讓使用者簡化管理程序,可直接推論使用和快速切換模型。新增的「Public Mode」API計費模式,採token用量計費,大幅減少中低使用量企業的成本與時間。

臺智雲技術長陳忠誠於今日舉辦的臺智雲GenAI 線上技術論壇中分享,臺智雲聚焦提供企業所需的生成式AI,包含AIHPC高速運算力、可信賴的繁中大語言模型、No-code平臺,從雲端到地端,都能有效協助解決企業的各式成本、時間、人力、資安等多面向考量,並且會持續支援優秀的開源模型,提供企業最完整、最佳的解決方案。

秀傳醫療體系醫療資訊副院長劉立則分享臺智雲AFS服務指出,透過Function Calling功能,結構化輸出高品質病歷摘要和報告,再由GenAI進行推理分析,提供診斷建議參考,能有效減輕醫護工作量。