芯東西（公眾號：aichip001）
作者 | ZeR0
編輯 | 漠影
一邊手握OpenAI CEO的逾百萬美元投資，一邊被OpenAI四年前就預訂了5100萬美元（摺合超3.6億人民幣）訂單，還被美國政府以「國家安全」為由干涉融資交易，最近全球熱度最高的AI晶片創企可能非Rain AI莫屬了。
Rain AI辦公室，一張海報上寫著「從根本上降低AI成本」（圖源：Rain AI）
這家距離OpenAI舊金山總部不到1英里的晶片創企，根據投資者文件，預計最快本月流片新測試晶片，最早或於明年10月向客戶提供第一批硬體。
在聯合創始人的描述中，Rain AI可能是「世界上最雄心勃勃的AI晶片公司」，其前沿技術非常「深奧優雅」，能真正在基礎層面上解開人們對智能的理解。另據其官網介紹，Rain AI正在開發基於SRAM的數字存內計算晶片。
其投資陣容除了有熱度空前的OpenAI CEO外，還有百度風投及多位聲名赫赫的業界大牛。前聯電董事長兼CEO胡國強、存內計算領域專家Arijit Raychowdhury博士、OpenAI AI硬體專家斯科特·格雷，都是Rain AI的顧問。
Rain AI的顧問（圖源：Rain AI）
存算一體專家、千芯科技董事長陳巍博士告訴芯東西，Rain AI的晶片設計有3大亮點值得關註：1）數字存內邏輯架構，支持FP32精度；2）Block BF16格式，比標準BF16格式更高效、面積更小；3）（設計中）支持片上精調（Fine-tuning、LoRA），方便片上進行實時訓練。
另據美國科技雜誌《連線》報道，Rain AI的首款晶片基於RISC-V開源指令集架構，面向包括手機、無人機/機器人、汽車在內的邊緣計算設備，既能訓練算法，又能在部署時運行。
OpenAI計劃如何採用其晶片尚未可知。支持AI模型按需實時定製或「微調」的能力，可能是OpenAI對這款晶片感興趣的關鍵原因之一。The Information援引知情人士消息稱，OpenAI 對於使用這些功能來降低數據中心成本並將其模型部署在手機和手錶等設備中感到非常興奮。
在自身尚需大量輸血來維繫模型訓練和日常服務運營的情況下，OpenAI為何還願意花費大量資金來支持創新AI晶片的供應？這家創企到底什麼來頭？它加緊研發的AI晶片又將憑藉哪些核心技術來在日趨激烈的市場中競逐一席之地？
一、OpenAI CEO、百度風投參投，要大降AI模型構建成本
Rain AI成立於2017年，AI晶片設計理念受大腦啟發，其2022年11月發表在國際頂級學術期刊Nature子刊Nature Electronics的論文顯示，與GPU上的反向傳播相比，通過與憶阻器硬體結合的類腦新算法，其研究成果可將訓練神經網絡的能效提高至超過10000倍。
論文地址：https://www.nature.com/articles/s41928-022-00869-w
值得一提的是，這項研究成果是與斯坦利·威廉合作完成的，而世界上第一個憶阻器正是由威廉團隊於2008年在惠普製造出。
早在2018年，OpenAI聯合創始人兼CEO阿爾特曼就看好Rain走得模仿人腦研發晶片路線，以個人名義向Rain AI領投了一筆種子輪融資，注資超過100萬美元。
第二年，OpenAI簽署一項不具有約束力的協議，計劃等Rain AI的晶片上市後斥資5100萬美元採購這些晶片，不過至今尚未採取後續措施。
2021年，Rain AI推出可訓練的端到端模擬AI晶片的工作原型晶片。阿爾特曼評價其神經擬態方法「可以大大降低構建強大AI模型的成本，並希望有一天能夠幫助實現真正的通用人工智慧」。當時Rain AI提出的長期使命是為AI提供真正的類腦晶片。
除了阿爾特曼外，Rain AI還獲得了Facebook創始工程師傑夫·羅斯柴爾德、Cruise產品副總裁奧利弗·卡梅倫、Wayve AI創始人阿馬爾·沙阿、OpenAI研究工程師斯科特·格雷、Pioneer基金創始人丹尼爾·格羅斯等業界大牛的投資。據《連線》報道，百度風投也參與其小額種子輪投資。
Rain AI的部分投資方（圖源：Rain AI）
截至2022年2月，在獲得由沙特阿美旗下風投基金Prosperity7 Ventures領投的2500萬美元A輪融資後，Rain AI估值為9000萬美元，融資總額達3300萬美元。投資者透露說這足以維持其到2025年的運營。
不過在上周四，據外媒援引知情人士消息，美國海外投資委員會審查後，要求Prosperity7 Ventures出售Rain AI的股份，以避免中東悄悄獲取關鍵技術的更多信息。此前阿爾特曼被曝出為一家新的AI晶片企業奔走中東，擬籌資數十億美元，尚不清楚Rain AI是否參與其中。
二、兩位90後創始人，前聯電CEO當顧問
目前Rain AI擁有近40名員工，今年悄然更換了CEO，其網站已經將創始CEO戈登·威爾遜列為執行顧問，曾是前頂級律師事務所Freshfields Bruckhaus Deringer律師的威廉·帕索則從營運長晉升為執行長。
Rain AI的管理層（圖源：Rain AI）
威爾遜上周四在領英發文證實了自己的退出。他分享了一些Rain AI創立的細節。
威爾遜在領英發文證實不再擔任Rain AI的CEO（圖源：領英網）
Rain AI始於佛羅里達大學，在那裡，威爾遜遇到了另外兩位聯合創始人傑克·肯德爾（擔任CTO）和身為佛羅里達大學材料科學與工程教授的胡安·克勞迪奧·尼諾（擔任董事會成員）。
三位Rain AI聯合創始人（圖源：Rain AI）
當時肯德爾和威爾遜都只有25歲，沒有創辦公司的經驗。在將新型晶片推向市場的路上，他們受到了來自行業人士的質疑，最終在重重困難中堅持下來。
其願景是構建一個在結構和功能上都類似於大腦的晶片架構，為AI帶來新的可能，使數據中心具有可持續性，並使所有機器能獨立學習與適應。
根據威爾遜的描述，Rain AI的近期產品採用數字存內計算技術，將定義新的AI晶片市場，並擁有大規模顛覆現有市場的野心。
Rain AI的員工們紛紛在威爾遜這篇領英文章下留言，表達對威爾遜的欣賞和祝願。
部分Rain AI員工在威爾遜宣布卸任CEO的文章下評論（圖源：領英網）
威爾遜雖然退出了，但會繼續以執行顧問的身份儘可能幫助Rain AI，同時也將開展自己的新項目和冒險。
三、即將推出AI硬體，四大技術亮點拆解
從官網最新介紹來看，Rain AI的AI晶片旨在重新定義AI計算極限，「在速度、功率、面積、精度和成本之間提供了創紀錄的平衡」。
目前Rain AI可提供用於定製SoC的數字存儲計算tile和軟體棧的IP授權，即將推出硬體。
其晶片設計方法有4個技術亮點：
1、數字存內計算架構，支持FP32精度
與傳統存內計算設計不同，Rain AI專有的D-IMC（數字存內計算）核心可擴展到大批量生產，並支持訓練和推理。當與Rain AI的適當量化算法相結合時，其AI晶片可支持FP32精度。陳巍告訴芯東西，目前僅Rain AI、D-Matrix、千芯科技等少數存算一體晶片企業能做到這一點，多數存內計算架構僅能支持到INT8。
2、Block BF16格式，無精度損失
在硬體中獲得高精度、以AI為中心的數據是AI訓練和推理的核心挑戰。Rain AI的block brain浮點方案確保與FP32相比沒有精度損失，且比標準BF16格式更高效、面積更小。這在業界也很少見，千芯科技同樣在研相關技術。
數字格式在電路級與其D-IMC核心共同設計，利用優化的4位和8位矩陣乘法的巨大性能增益。其靈活的方法可確保在不同網絡上的廣泛適用性，為AI效率設定了新的標準。
3、開發RISC-V與D-IMC間專有互連
由於缺乏硬體支持，AI晶片經常無法編譯工作負載。Rain AI利用RISC-V指令集架構的功能，支持AI開發人員實現任何操作和編譯任何模型的靈活性。Rain AI開發了RISC-V和D-IMC核心之間的專有互連，通過平衡的流水線提供出色性能。
4、設計微調算法，實現片上實時訓練
由於訓練環境和部署環境不可避免的不匹配，AI模型經常在部署時失敗。微調解決了這個問題，但需要設備支持高性能訓練。Rain AI正在與硬體共同設計微調算法（例如LORA），以促進在晶片上進行高效的實時訓練。據陳巍解讀，這一方法可能是Rain AI獨有的。
四、去年還在主打類腦計算，今年已轉向AI+存內計算
有意思的是，往前回溯到2022年2月，Rain AI的名字簡稱還是Rain Neuromorphics，旨在設計模仿大腦工作方式的晶片，並在其新聞稿中將神經擬態（Neuromorphics）作為傳播重點。
早在2021年，Rain就在台積電180nm節點上流片了名為Cumulus的MN3測試晶片。該晶片採用CMOS架構，擁有10000個神經元，以ReRAM作為憶阻元件並結合借鑑NAND快閃記憶體工藝的3D製造技術，使ReRAM能擴展到多層存儲器結構。
當時Rain計劃其首批晶片將為視覺、語音、自然語言處理、推薦工作負載提供1.25億個INT8參數，功耗低於50W，預計將於2024年提供樣品，2025年將晶片投入商業發貨。
Rain神經擬態晶片的上層，ReRAM器件位於列和隨機連接的樹突之間的介面處（圖源：Rain AI）
在2022年A輪融資新聞稿中，Rain將其神經擬態處理單元（NPU）稱作是世界上第一個端到端模擬、可訓練的AI電路，是唯一結合了算法和硬體技術的根本性創新的AI模擬方法，在加快處理速度的同時能夠降低功耗。
根據該新聞稿，模擬算法的實施使NPU的能效相較當時最好的處理器高1000倍。NPU硬體架構利用憶阻器將內存和計算結合起來作為人工突觸，以稀疏模式覆蓋在神經元電路的頂部，複製大腦的稀疏連接性，允許數千萬個人工神經元在單個晶片上互連。
另據Y Combinator官網對投資創企的介紹，Rain研發了一種新型AI晶片憶阻納米線神經網絡（MN3，Memristive Nanowire Neural Network），該晶片每cm²可擁有超過1000萬個脈衝神經元，功耗遠低於傳統GPU和CPU。
MN3技術將實現模擬計算硬體大規模擴展，在同一晶片區域包含更多的神經元（圖源：Rain AI）
MN3是由Rain AI聯合創始人尼諾於2014年在佛羅里達大學發明的，旨在實現模擬計算硬體的擴展。
不過，如今的Rain AI官網，已經是「All in AI」。從公司簡稱到產品、設計方法、團隊的介紹，都只見「AI」、「存內計算」、「RISC-V」這些關鍵詞，除了官網最底部的小字外幾乎對「神經擬態」隻字未提了。
官網招聘信息自稱「Rain AI」（圖源：Rain AI）
結語：業界等待「英偉達替代者」
隨著生成式AI日趨火熱，稀缺的算力使得幾經熱潮與降溫的AI晶片賽道再度成為AI產業的焦點。而無論是科技大廠還是AI創業公司，雖然在訓練模型上都暫時離不開英偉達的晶片，但都在尋求與期待實現AI晶片多元化。
除了向Rain AI砸錢外，OpenAI CEO阿爾特曼還參與投資了赫赫有名的晶圓級晶片創企Cerebras和去年10月剛成立的晶片公司Atomic Semi。而Atomic Semi的聯合創始人之一正是叱吒半導體界的矽谷風雲人物「金坷垃」Jim Keller。
阿爾特曼參投的AI晶片創企Rain提供了一個有趣的案例，宣傳重心從基於ReRAM的類腦晶片悄然轉向基於SRAM的數字存內計算晶片，原CEO變顧問、律師成晶片企業掌門人，產品尚未問世卻因為「國家安全」的原因被美國政府要求讓中東股東撤資……一系列波折既給這家成立6年的AI晶片公司帶來了大量的關注度，也再度力證存算一體AI晶片的落地前景正被看好。
從圖形晶片演化而出的GPGPU，是當前AI訓練晶片市場的寵兒，但並非唯一解。在降低模型訓練與推理成本的道路上，業界還在持續探索實現高能效和高性能的晶片架構的更多可能。
參考信源：Rain AI官網、《連線》、EE Times