“打對摺”還提速!騰訊混元最新模型上線
“騰訊混元最新一代模型Turbo已上線,輸入和輸出價格只有前代模型的一半。”9月5日上午,在騰訊全球數字生態大會上,騰訊集團副總裁、雲與智慧產業事業羣COO兼騰訊雲總裁邱躍鵬透露了上述信息。
就在9月2日,根據業內SuperCLUE評測,騰訊混元Turbo總分位列國內第一,中文場景效果對標GPT-4o。
程序員做AI大模型是不是最終要將自己優化掉?
對此,邱躍鵬表示大模型的最快、最直接受益者其實是程序員自己。在騰訊內部,現在有一半的研發人員都在用騰訊雲AI代碼助手。在模型訓練階段,通過抓取核心上下文,把代碼生成率提升了5%左右。
大會上,騰訊雲還正式發佈AI infra品牌“騰訊雲智算”,一個集算存網一體的高性能智算底座。
邱躍鵬介紹,在穩定性和性能上,騰訊雲的集羣千卡單日故障數已經刷新到0.16,是行業水平的1/3;1分鐘就能完成萬卡checkpoint寫入,數據讀寫效率是業界10倍;千卡集羣的通信時間縮短到6%,是業界一半。
同時,通過整合軟硬件技術能力,騰訊雲智算集羣從機器上架到開始訓練可以做到只需1天,相比業界以月爲單位也大爲縮短。
例如,在與一家消費電子企業的合作中,騰訊雲將代碼生成率從最初學習代碼庫之後的15%提升到37%,代碼採納率也提高到了28%,讓研發效率大幅提升。
文、圖 記者 王丹陽