來源：極客公園（ID:geekpark）
作者 | 美漪
編輯 | 靖宇
脫胎自 RISC-V，能把推理訓練能效提高 1 萬倍。
OpenAI 的權力之爭才剛剛落幕，一場關鍵交易悄悄浮出了水面。
據外媒《連線》（Wired）報道，在 Sam Altman 擔任 OpenAI 的執行長期間，OpenAI 與 Rain AI 簽訂了一份價值 5100 萬美元的意向書，承諾會在 Rain AI 的晶片上市後購買晶片。
Rain AI 是一家 AI 晶片初創公司，旨在大幅降低 AI 算力的成本。通過研發一種模仿人腦的工作方式的 AI 晶片——NPU，從而為 OpenAI 和 Anthropic 等 AI 公司提供「低成本、高能效的硬體」。
該公司稱，「相比傳統的 GPU，NPU 將為 AI 開發者（如 OpenAI）提供潛在的 100 倍計算能力，並在訓練方面提供 10,000 倍的能效。」
鑒於，OpenAI 一直受困於算力短缺，也就不難理解，它會願意花費大量資金，來確保自己的 AI 項目所需的晶片供應。
Rain AI 研發的晶片有什麼特點呢？該公司又是如何顯露頭角的？這筆投資揭示了 Altman 和 OpenAI 在晶片領域怎樣的布局？
「類腦」AI 晶片
Rain AI 的核心產品是基於神經擬態（Neuromorphic）技術的「類腦」AI 晶片——NPU。晶片旨在實現低耗、高效地處理信息，從而滿足 AI 任務的苛刻計算需求。
它模仿了人腦的結構和功能，類似於大腦中的神經連接，建立在了人工突觸相互連接的網絡上。這種架構允許 NPU 以並行和分布式的方式處理信息，使其非常適合 AI 應用中的「計算密集型任務」。
而且，Rain AI 率先採用了數字內存計算（D-IMC）模式，進一步提升了 AI 處理、數據移動和數據存儲的效率。
Rain AI 的 NPU 旨在以低功耗高效處理信息，滿足 AI 任務的苛刻計算需求 |Rain AI 官網
此外，Rain 還為數字內存計算磁貼和軟體棧，提供了智慧財產權（IP）許可機會，該 IP 是專門為要求超低延遲和高能效的設備上的 AI 工作負載而定製的，涵蓋了長距離乙太網 (Long Reach Ethernet, LRE) 的一系列計算用例，包括智能汽車、智能手錶等。
針對自家產品，Rain 打出的 solgan 是「重新定義 AI 計算的極限」，並宣傳「我們的 AI 加速器在速度、功耗、面積、精度和成本之間實現了創紀錄的平衡」。
鑒於，Rain 所設計的「類腦」晶片（NPU）承諾具有高效和低耗的運行，這對於克服英偉達、AMD 等公司製造的重型晶片相關的「瓶頸」至關重要。
涵蓋了 LRE 一系列計算用例 | Rain AI 官網
Rain AI 的創始者之一，Gordon Wilson 更是在 LinkedIn 上直言，「NPU 晶片將定義新的 AI 晶片市場，並大幅顛覆現有市場。」
不過，值得注意的是，儘管 Rain AI 號稱自己相比於英偉達的 GPU 有更好的能效，但Rain 的初始晶片，其實是基於谷歌、高通和其他科技公司支持的傳統的 RISC-V 開源架構，旨在用於遠離數據中心的所謂邊緣設備，如手機、無人機、汽車和機器人等。
但是，當前的大多數邊緣晶片設計，如智慧型手機採用的晶片，都專注於神經網絡的推理階段。而 Rain 的目標是提供一種晶片，既能用於模型和算法的訓練，又能用於之後的推理運行。
目前，Rain AI 已經推出首個 AI 平台，可進行 AI 推理和訓練，還宣稱「類腦」晶片（NPU）將允許 AI 模型，根據周圍環境實時定製或微調。
對此，Sam Altman 還曾公開表示，「這種神經擬態方法能大幅降低 AI 開發成本，並有望為實現真正的 AGI 提供幫助。」
據悉，OpenAI 希望利用這些晶片來降低數據中心的成本，並將自己的模型部署在手機和手錶等設備中，那麼「類腦」晶片（NPU）更是無疑對 OpenAI 來說有著巨大的吸引力。
儘管如此，這些也都只是猜測。目前，OpenAI 將如何使用 Rain 晶片還是不得而知。
與 OpenAI 聯繫緊密
Rain AI 成立於 2017 年，旨在為為未來的 AI 構建「低成本」的計算平台。
Rain AI 有三位聯合創始人，分別是 Jack Kendall、Gordon Wilson、Juan Claudio Nino，他們在佛羅里達大學大學結識，此外，還聘請了 OpenAI 的軟體工程師 Scott Gray 擔任公司顧問。
目前，Rain AI 約有 40 名員工，包括 AI 算法開發和傳統晶片設計方面的專家。
Rain AI 的創始人團隊｜Rain AI
有趣的是，Rain AI 的總部也位於舊金山，與 OpenAI 相距不到一英里。
公司成立的次年，Rain AI 就在種子輪融資中，獲得了 500 萬美元的融資，投資者包括知名的創業孵化器 Y Combinator。
彼時，Altman 正在擔任 Y Combinator 的 CEO，同時還以個人名義向 Rain AI 投資了 100 萬美元。一年後，OpenAI 通過了這份價值 5100 萬美元的晶片購買協約。
截至 2022 年 4 月，經歷了由沙烏地阿拉伯附屬基金 Prosperity7 Ventures 領投的價值 2500 萬美元的一輪融資，Rain 的總融資額達到 3300 萬美元，估值也達到了 9000 萬美元。
今年年初，該公司向潛在投資者「夸炫」其進展，表示預計本月就可以推出「測試」晶片，這將意味著晶片設計已經完成，可以開始製造。
Rain AI 還表示最早於明年 10 月可向客戶提供第一批晶片，甚至向投資者強調，自己已經與谷歌、甲骨文、Meta、微軟和亞馬遜等科技巨頭進行了高級談判，以銷售系統給它們。但對此，微軟拒絕置評，其他公司沒有回應置評請求。
簡而言之，Rain AI 仍處於開發階段，目前尚不清楚何時才能投入商用。儘管該公司的「類腦」晶片（NPU）技術前景廣闊，支持者也備受矚目，但它仍面臨著許多挑戰。
Open AI 的野心
不管 Altman 投資 Rain AI 這番舉動有沒有私心在裡頭，晶片短缺確實是 OpenAI 面臨的一大難題。
事實上，一年前，ChatGPT 剛剛發布不到一周，Altman 就感覺到計算成本「慘不忍睹」。之後，更是不止一次公開抱怨 AI 晶片的「殘酷緊缺」和「令人瞠目」的成本。
今年 5 月份，Altman 更是無奈承認，「OpenAI 正在經歷嚴重的算力短缺，許多短期計劃都推遲了。」
眾所周知，OpenAI 利用其主要投資者微軟的強大雲服務，但由於硬體限制，經常關閉 ChatGPT 的某些功能。
對此，Altman 表示，「AI 的進展速度可能取決於新的晶片設計和供應鏈。」畢竟在當下，算力就是一切。
事實上，Altman 本人很早之前就對晶片進行了投資布局。除了 Rain AI，2021 年前後他還參與投資了 Cerabras，就是晶片像盤子一樣大，需要兩隻手捧著的那家 AI 公司。
像盤子一樣大的晶片 |Cerabras 官網
今年初「矽仙人」Jim Keller 與「矽神童」Sam Zeloof 成立的 Atomic Semi（通過簡化和縮小半導體工廠和集成電路原型，快速製造價格合理的晶片），Altman 也有關注，OpenAI Startup Fund 還參與了投資。
圖片來源：Analytics India Magazine
此外，就在 Altman 被 OpenAI 解僱的前幾周，還有消息稱他正在試圖籌集數十億美元，創辦一個新的晶片公司。
項目的詳情還不得而知，只知道代號為「Tigris」，旨在與英偉達在 AI 晶片領域展開競爭。
據悉，為了「Tigris」項目，Altman 曾在中東籌集資金。地點的「巧合」，不禁讓人懷疑這個項目和 Rain 是否有什麼關聯。
另外，Altman 還曾與包括晶片設計公司 Arm 在內的半導體高管進行過討論，商討如何儘早設計出新的晶片，為 OpenAI 這樣的大語言模型公司降低成本。
而且，不止 Altman，OpenAI 也正在尋找更低成本造大模型的可能，從而擺脫對英偉達的依賴。
除了尋找像 Rain AI 這樣的晶片供應商，對外投資之外，OpenAI 前段時間也開始嘗試自研晶片，評估潛在收購目標，並招聘硬體相關崗位。
圖片來源：OpenAI 官網
前不久，OpenAI 任命了前谷歌 TPU 的負責人，Richard Ho 為硬體主管，還聘請了不少編譯器和內核方面的專家，並且正在招聘「數據中心設施設計專家」。
Richard Ho 將領導 OpenAI 的新部門，並且幫助優化合作夥伴的，數據中心網絡、機架和建築。
但這些前瞻性的投資布局，還是很難解決眼前的 GPU 短缺的問題，目前，OpenAI 大規模使用的還是英偉達的晶片。
據觀察，OpenAI 正在動態的調整 ChatGPT 等產品的能力來節省算力。這也就不難理解，有網友最近發現 GPT-4 相比 GPT-3.5 更容易「偷懶」。
隨著大模型的出現，人們開始關注大型 AI 模型數據中心的耗電情況。Rain 和其他一些晶片初創公司，旨在重新配置數據處理方式，從而減少傳輸需求，降低功耗。
谷歌、微軟、AMD、英特爾、亞馬遜，以及 Cerabras、Sambanova，Rain 等初創公司相繼入局 AI 晶片未來，AI 算力供應的市場是否會有所變化？而 OpenAI 能否擺脫算力受制於人的局面？從晶片超長的周期來看，這些難題還將繼續存在相當長的一段時間。
*頭圖來源：Rain AI
本文經授權轉載自極客公園（ID:geekpark），如需二次轉載請聯繫原作者微信geekparkGO。歡迎轉發到朋友圈。