字節跳動大模型訓練被實習生攻擊,最新迴應

近日有消息稱,某頭部大廠的大模型訓練被實習生入侵,注入了破壞代碼,導致其訓練成果不可靠,可能需要重新訓練。據稱遭到入侵的代碼注入了8000多張卡,帶來的損失可能超過千萬美元。

傳言稱,該實習生利用了HF(huggingface)的漏洞,在公司的共享模型裡寫入破壞代碼,導致模型的訓練效果忽高忽低,無法產生預期的訓練效果。

知情人士告訴紅星資本局,該大廠爲字節跳動,“注入8000多張卡”“損失上千萬美元”等描述不實,太過誇大;受影響的業務也不是豆包大模型,而是商業化技術團隊的模型訓練任務,影響了廣告部門的一些業務進展,但不影響線上業務。目前,字節跳動已對該實習生採取了辭退處理,並將此事通報給相關行業聯盟和該實習生所在的學校。

據瞭解,此事發生在今年6月,起因是該實習生對團隊資源分配不滿,故使用攻擊代碼破壞團隊的模型訓練任務。

(紅星新聞)