不是NVIDIA!蘋果官宣AI模型訓練用的谷歌晶片

2024-07-30     驅動之家

快科技7月30日消息,蘋果公司在其技術論文中透露,其人工智慧系統Apple Intelligence所依賴的模型並非基於NVIDIA晶片,而是在谷歌設計的雲端晶片上進行預訓練的。

NVIDIA的GPU一直以高價位和高需求著稱,是許多大型科技公司AI訓練的首選。

然而,蘋果選擇了谷歌的張量處理單元(TPU),這可能預示著大型科技公司在AI基礎設施上的多樣化選擇。

蘋果在其論文中詳細介紹了使用TPU v4和TPU v5p晶片進行模型預訓練的過程。

據悉,蘋果的設備端AI模型是在2048個TPU v5p晶片上訓練的,而伺服器端模型則使用了8192個TPU v4晶片。

儘管蘋果初期使用了谷歌的硬體,但它已經部署基於自研Apple Silicon晶片的硬體來處理Apple Intelligence的查詢,並啟動了「Project ACDC」項目,以優化數據中心內的AI應用。

此外,蘋果還計劃在未來兩年內投入超過50億美元用於AI伺服器的升級,併購買數萬台AI伺服器,同時收購了專注於壓縮AI查詢數據的公司,以加速其在AI領域的競爭力。

文章來源: https://twgreatdaily.com/145ae02bce0f94939eb153358f8e2f5c.html