美國國防部資助私密邊緣計算,與EnCharge AI開發超強邊緣計算晶片

2024-05-17   DeepTech深科技

由於人工智慧的蓬勃發展,晶片世界正在經歷一場巨大的轉型。

我們對能夠更快地訓練人工智慧模型的晶片,以及能夠在手機端運行模型的晶片的需求正在增加,後者使我們能夠在不泄露私人數據的情況下使用這些模型。

政府、科技巨頭和初創公司都想從不斷增長的半導體市場中分一杯羹。

以下是未來一年的四個趨勢,它們將定義未來的晶片是什麼樣子的,誰將製造它們,以及它們將解鎖哪些新技術。

(來源:AI 生成,圖文無關)

世界各地的晶片法案

在美國鳳凰城郊區,世界上最大的兩家晶片製造商,台積電和英特爾正在沙漠中建造工廠,它們希望這些園區能強化美國的晶片製造能力。

這些努力背後的共同點是資金。2024 年 3 月,美國總統拜登宣布,為英特爾在美國的擴張提供 85 億美元的聯邦資金和 110 億美元的貸款。幾周後,他又向台積電提供了 66 億美元。

這些資助只是美國向晶片行業提供補貼的一部分,依據是 2022 年簽署的 2800 億美元《晶片與科學法案》。

這筆龐大的資金意味著,任何涉足半導體生態系統的公司都在思考如何重組其供應鏈,然後從補助中受益。

雖然大部分資金旨在促進美國的晶片製造業發展,但無論是設備製造商,還是利基材料初創公司,都可以參與其中。

但美國並不是唯一一個試圖在本土打造(部分)晶片製造供應鏈的國家。日本在本國的晶片法案上撥款了 130 億美元,歐洲將拿出 470 多億美元。2024 年早些時候,印度也宣布投入 150 億美元建設晶片廠。

美國塔夫茨大學教授、《晶片戰爭》一書的作者克里斯·米勒(Chris Miller)說,這一趨勢的根源可以追溯到 2014 年。

他說:「這創造了一種動態,在這種動態中其它政府得出結論,它們別無選擇,只能提供激勵措施。」

這種不安感,加上人工智慧熱潮的興起,導致西方政府都在為替代方案提供資金。在接下來的一年裡,這可能會產生滾雪球效應,更多的國家會因為擔心落後而開展自己的晶片項目。

米勒說,這筆錢不太可能培養出全新的晶片競爭者,也不太可能從根本上動搖晶片製造行業。相反,它將主要鼓勵像台積電這樣的行業頭部企業在多個國家開枝散葉。

但僅靠資金還不足以迅速做到這一點,台積電在美國亞利桑那州建廠的努力陷入了泥潭,完工日期一再推遲,還遭遇了勞資糾紛,英特爾也同樣未能兌現此前承諾的完工期限。

目前尚不清楚這些工廠何時,甚至是否能開始運轉,以及它們的設備和員工能否與這些公司國外最先進的工廠保持相同的水平。

米勒說:「供應鏈只會在幾年,甚至幾十年內緩慢轉變。但情況正在發生變化。」

更關注邊緣人工智慧

目前,我們與 ChatGPT 等人工智慧模型的交互大多都是通過雲進行的。

這意味著,當你要 ChatGPT 挑選一套衣服(或成為你的男朋友)時,你的請求會被發送到 OpenAI 的伺服器,由伺服器上的模型對其進行處理,並在回覆你之前完成推理(就像是得出一個結論)。

依賴雲服務有一些缺點。例如,它需要聯網,這也意味著你的一些數據要與模型運營商共享。

這就是為什麼人們和資金對人工智慧的邊緣計算很感興趣。在邊緣計算中,人工智慧模型的調用和運算都在你的設備上,比如筆記本電腦或智慧型手機上。

該行業正在大力發展更加了解用戶的人工智慧模型。OpenAI 的 CEO 山姆·奧特曼(Sam Altman)曾向我描述了他眼中的殺手級人工智慧應用程式,它「完全了解我的一生,我的每一封電子郵件,每一次對話」。

因此,人們對更快的邊緣計算晶片有了需求,這種晶片可以在不共享私人數據的情況下運行模型。

這些晶片面臨著與數據中心晶片不同的限制,它們通常必須更小、更便宜、更節能。

美國國防部正在資助大量針對快速私密邊緣計算的研究。2024 年 3 月,其研究部門國防高級研究計劃局(DARPA,Defense Advanced Research Projects Agency )宣布與晶片製造商 EnCharge AI 合作,開發一種用於人工智慧推理的超強邊緣計算晶片。

EnCharge AI 正在努力製造一種能夠保護隱私的晶片,也可以在非常小的功率下運行。這將使其適用於衛星和離網監視設備等軍事應用。該公司預計將在 2025 年推出它們。

人工智慧模型的某些應用將始終依賴於雲,但對改進邊緣計算的新投資和興趣可能會為我們的日常設備帶來更快的晶片,從而帶來更多的人工智慧。

如果邊緣晶片足夠小、足夠便宜,我們很可能會在家裡和工作場所看到更多人工智慧驅動的智能設備。如今,人工智慧模型大多局限於數據中心。

EnCharge AI 聯合創始人納文·維爾瑪(Naveen Verma)表示:「我們在數據中心看到的許多挑戰都將被解決。我希望看到(行業)對邊緣的關注,我認為這對大規模部署人工智慧至關重要。」

科技巨頭進軍晶片製造

無論是快時尚、還是草坪護理,更行各業的公司都在支付高昂的計算成本,為其業務創建和訓練人工智慧模型。

目前的應用包括掃描和總結文檔的模型,以及面向外部的技術如虛擬代理,可以指導你如何修理冰箱。這意味著使用雲計算訓練這些模型的需求已經達到頂峰。

提供大部分雲計算服務的公司是亞馬遜、微軟和谷歌。多年來,這些科技巨頭一直希望通過在數據中心使用自主研發的晶片來提高利潤率,而不是從英偉達這樣的公司購買晶片。

英偉達幾乎壟斷了最先進的人工智慧訓練晶片,其市值超過了 183 個國家的 GDP。

亞馬遜於 2015 年收購了初創公司 Annapurna Labs,開啟了自主晶片研發的旅程。

谷歌在 2018 年推出了自己的 TPU 晶片。微軟在 2023 年推出了首款人工智慧晶片,Meta 則在 2024 年推出了新版人工智慧訓練晶片。

這一趨勢可能會影響英偉達的份額。但在大型科技公司眼中,英偉達除了扮演競爭對手的角色,還是必不可少的供應商。

無論它們自己的內部努力是否成功,雲計算巨頭的數據中心仍然需要它的晶片。

這是因為它們自己的晶片製造能力無法滿足所有需求,而且它們的客戶也希望自己能使用性能最好的英偉達晶片。

微軟 Azure 硬體部門負責人拉尼·博卡(Rani Borkar)表示:「這實際上是為了讓客戶有選擇權。」

她說,她無法想像微軟在其雲服務中全部使用自研晶片的未來:「我們將繼續維持強有力的合作夥伴關係,並部署與我們合作的所有夥伴的晶片。」

就在雲計算巨頭試圖從晶片製造商那裡搶走市場份額的同時,英偉達也在採取類似的行動。

2023 年,該公司推出了自己的雲服務,這樣客戶就可以繞過亞馬遜、谷歌和微軟,直接在英偉達晶片上訪問雲服務。

隨著這場爭奪市場份額的激烈鬥爭的展開,未來一年的問題將是,客戶如何看待大型科技公司的晶片,是與英偉達最先進的晶片旗鼓相當,還是更像它的備胎。

英偉達與創業公司作戰

儘管英偉達占據晶片行業的主導地位,但仍有一波投資流向初創公司,這些公司的目標是在未來晶片市場的某些領域擊敗英偉達。

這些初創公司都承諾加速人工智慧的訓練,從量子到光子,再到可逆計算,它們對這些新鮮的計算技術有著不同的想法。

28 歲的穆拉特·奧南(Murat Onen)是晶片初創公司 Eva 的創始人。這家公司是從他的麻省理工學院博士工作中誕生的,他描述了現在創辦一家晶片公司是什麼感覺。

「英偉達站在山的最高處,這就是我們生活的世界。」他說。

許多初創公司,如 SambaNova、Cerebras 和 Graphcore,正試圖改變晶片的底層架構。

想像一下,一個人工智慧加速器晶片不斷地在不同區域之間來回移動數據。

一條信息存儲在存儲區,但必須移動到處理區,在那裡進行計算,然後送回存儲區進行保管。所有這些活動都需要時間和能量。

提高這一過程的效率將為客戶提供更快、更便宜的人工智慧訓練條件,但前提是晶片製造商擁有足夠好的軟體,使人工智慧訓練公司能夠無縫過渡到新晶片。

如果軟體轉型過於笨拙,OpenAI、Anthropic 和 Mistral 等模型製造商可能會選擇大牌晶片製造商。

這意味著採用這種方法的公司如 SambaNova,不僅要在晶片設計上花費大量時間,還要在軟體設計上花費大量時間。

奧南提出了更深層次的變革。幾十年來,傳統的電晶體越來越小,效率越來越高,他使用了一種稱為質子門控電晶體(proton-gated transistor)的新組件。

他表示,Eva 公司專門為人工智慧訓練裡面的數學需求設計了這種組件。

它允許設備在同一個地方存儲和處理數據,節省時間和計算能耗。使用這種組件進行人工智慧推理的想法可以追溯到 20 世紀 60 年代,但當時的研究人員無法找到將其用於人工智慧訓練的方法。

部分原因是材料不夠先進,它需要一種能夠在室溫下精確控制電導率的材料。

奧南說,有一天在實驗室里,「通過優化這些數字,我們非常幸運地得到了我們想要的材料。突然之間,這個設備變得不一樣了,不再是科研項目了。」

這增加了大規模使用這種組件的可能性。經過數月的數據確認,他創立了 Eva。這項工作的相關論文發表在 Science 上。

但在一個許多創始人都承諾但未能推翻領先晶片製造商主導地位的行業,奧南坦率地承認,他還需要幾年的時間才能知道他的設計是否能按照預想工作,以及製造商是否會同意生產。

他說,領導一家公司度過這種不確定性,需要靈活性和頂住他人的懷疑。

他說:「我認為,有時人們太執著於自己的想法了,導致缺乏安全感。他們會想,如果這個想法失敗了,那就什麼都沒有了。我不這麼認為,我一直在尋找挑戰我們並說我們做錯了的人。」

支持:Ren

運營/排版:何晨龍