蘋果(AAPL.US)使用谷歌(GOOG.US,GOOGL.US)TPU訓練AI模型 英偉達(NVDA.US)霸主地位面臨風險
智通財經APP獲悉,週一,蘋果(AAPL.US)表示,其人工智能系統Apple Intelligence所依賴的人工智能模型是通過谷歌(GOOG.US,GOOGL.US)設計的處理器進行預訓練的,這表明大型科技公司在培訓尖端AI時正在尋找英偉達(NVDA.US)的替代品。
蘋果在剛剛發佈的技術報告中詳細介紹了選擇谷歌自主開發的Tensor處理單元(TPU)進行訓練的情況。此外,蘋果還在週一爲部分設備發佈了Apple Intelligence的預覽版。
英偉達昂貴的圖形處理單元(GPU)在高端AI訓練芯片市場佔據主導地位,過去幾年需求量如此之高,以至於很難按所需數量採購。OpenAI、微軟(MSFT.US)和Anthropic都在使用英偉達的GPU來訓練他們的模型,而其他科技公司,包括谷歌、Meta(META.US)、甲骨文(ORCL.US)和特斯拉(TSLA.US),也在爭相購買這些GPU來建立他們的AI系統和產品。
Meta首席執行官扎克伯格和Alphabet首席執行官桑皮查伊上週都表示,他們的公司以及行業中的其他公司可能在AI基礎設施上過度投資,但也承認不這樣做的商業風險太高。
蘋果在其47頁的報告中沒有提到谷歌或英偉達,但指出其Apple Foundation Model(AFM)和AFM服務器是在“雲TPU集羣”上進行訓練的。這意味着蘋果租用了雲服務提供商的服務器來進行計算。蘋果在報告中表示:“這種系統使我們能夠高效且可擴展地訓練AFM模型,包括AFM設備端、AFM服務器和更大的模型。”
相比其同行在OpenAI於2022年末推出ChatGPT後迅速擁抱生成式AI,蘋果披露其AI計劃的時間較晚。週一,蘋果推出了Apple Intelligence。該系統包括多個新功能,如Siri的全新外觀、更好的自然語言處理和文本字段中的AI生成摘要。
在接下來的一年裡,蘋果計劃推出基於生成式AI的功能,包括圖像生成、表情符號生成以及能夠訪問用戶個人信息並在應用中執行操作的加強版Siri。
在週一的報告中,蘋果表示,設備端AFM是在一塊由2048個TPU v5p芯片組成的“切片”上進行訓練的。這是最先進的TPU,於去年12月首次推出。AFM服務器是在8192個TPU v4芯片上進行訓練的,這些芯片通過數據中心網絡被配置爲八個切片協同工作。
根據谷歌網站,最新的TPU在預訂三年時,每小時的使用成本不到2美元。谷歌於2015年首次推出TPU用於內部工作負載,並於2017年向公衆開放。它們現在是爲人工智能設計的最成熟的定製芯片之一。
儘管如此,谷歌仍是英偉達的主要客戶之一。它在訓練AI系統時使用了英偉達的GPU和自家的TPU,同時也在其雲上出售英偉達技術的使用權限。
蘋果此前表示,推理過程(即使用預訓練的AI模型生成內容或做出預測)將部分在其數據中心的自有芯片上進行。
這是蘋果關於其AI系統的第二篇技術論文,此前在六月發佈了一份更爲概括的版本。蘋果當時表示,在開發AI模型時使用了TPU。
蘋果計劃於週四交易結束後公佈季度業績。