史無前例:向來封閉的蘋果開源了!

2023-09-12     51CTO

原標題:史無前例:向來封閉的蘋果開源了!

作者丨Vandana Nair

編譯丨諾亞

蘋果在AI上的推進向來謹慎得近乎保守。不過近來一些消息表明,蘋果也在悄悄干大事。

兩個月前,當蘋果公司研發生成式人工智慧工具和聊天機器人的消息傳出時,積極的市場情緒將蘋果公司的股價推至198.23美元的創紀錄高點,漲幅為2.3%。然而,除了蘋果公司在其LLM中使用Ajax以及員工內部將其命名為AppleGPT之外,沒有公布關於該模型的其他細節。

根據The Information最近的報告,蘋果正在訓練Ajax GPT,訓練參數超過2000億,傳聞中比GPT-3.5更強大。更令人驚奇的是,蘋果做了一件以前從未做過的事情——在GitHub上開源它的代碼!

1、史無前例的舉動

今年7月,蘋果在GitHub上謹慎地上傳了AXLearn的代碼,讓公眾可以使用它來訓練他們自己的大語言模型,而無需從頭開始。

AXLearn是蘋果公司在過去一年中為訓練Ajax GPT而開發的內部軟體,是一個機器學習框架。它可以作為快速訓練機器學習模型的預構建工具。Ajax是由Google研究人員創建的開源框架JAX衍生而來的,AXLearn的一些組件是專門為優化Google TPU而設計的。

雖然蘋果可能在創新解決方案方面遙遙領先,但它也有把公司的優先事項放在其他任何事情之前的糟糕一面。蘋果一直以培養封閉原始碼環境而臭名昭著。他們的技術和代碼都沒有向公眾開放。

當大型科技公司發布優秀的開源模型,如Meta的lama-2、Anthropic的Claude-2、Falcon、Vicuna等時,蘋果總是堅持他們傳統的保密路線,OpenAI也在遵循這一路線。蘋果的封閉原始碼做法受到科技界的批評,稱該公司受益於大型科技公司發布的研究成果,但從不給予任何回報。

蘋果決定將其培訓軟體AXLearn開源,這是跨出其保密策略的重要一步。此舉可以促進人工智慧研究界的合作和創新,並反映出人工智慧發展的更廣泛的開放趨勢。

雖然蘋果決定在GitHub上發布代碼的確切動機尚未披露,但很明顯,該公司每天在人工智慧開發上投入數百萬美元的巨額投資,反映了它在人工智慧競賽中積極參與競爭的決心。

有趣的是,上個月該公司在中國香港申請了「AXLearn」商標。

2、向谷歌文化看齊

蘋果的人工智慧負責人John Giannandrea和對話式AI Foundational Model團隊的負責人龐若鳴都曾在谷歌任職,他們都帶來了豐富的經驗。

Giannandrea帶來了他的願景,即讓蘋果變得像谷歌一樣,讓員工有更多的自由進行各種研究、發表論文和探索創新想法。蘋果之前在這些領域的限制阻礙了人才的增長和招聘。

據報道,蘋果還從谷歌和Meta的人工智慧平台團隊中挖了不少人才過來。在過去的兩年里,在GitHub上AXLearn的18位貢獻者中,至少有7位曾在谷歌或Meta工作過。蘋果可能已經調整了通過研究社區培養人才的方法,這使得開源成為正確的前進道路。

3、破譯線索

綜合現有信息來看,蘋果似乎已經組建了兩個新的團隊,來研究語言和圖像模型。蘋果最近的人工智慧研究報告暗示,將開發能夠生成圖像、視頻和3D場景的軟體,同時這也意味著其正在研究可以處理文本、圖像和視頻的多模態人工智慧。

然而,將LLM整合到蘋果產品中仍然存在不確定性。蘋果一直傾向於將其新軟體安裝在其設備上,但將一個需要更多存儲空間和計算能力的2000億參數LLM集成到iPhone上是不合理的。該公司可能會開發用於手機集成的較小型號,或者該型號將用於其他用途,其細節仍難以捉摸。

原文連結:

https://analyticsindiamag.com/apple-springs-a-surprise-embraces-open-source-training-method/

文章來源: https://twgreatdaily.com/zh-mo/b1138e3dabe3ea1e1fd6745530cfa755.html