雲邊端AI晶片熱戰大模型!2023全球AI晶片峰會首日乾貨

2023-09-18     芯東西

原標題:雲邊端AI晶片熱戰大模型!2023全球AI晶片峰會首日乾貨

芯東西(公眾號:aichip001)

作者 | GACS

芯東西9月18日報道,9月14日-15日,2023全球AI晶片峰會(GACS 2023)在深圳市南山區圓滿舉行。開幕首日現場人氣十分火爆,不僅全場座無虛席,連會場大門都里三層外三層擠滿了熱情聆聽的觀眾,許多觀眾甚至站著聽完了全程。峰會全程啟動雲直播,全網觀看人數高達153萬人次。

這場高規格產業會議由智一科技旗下芯東西聯合智猩猩發起主辦,在南山區科技創新局的指導下以「AI大時代 逐鹿芯世界」為主題,設置七大板塊,主會場包括開幕式和AI晶片架構創新、AI大算力晶片和高能效AI晶片三大專場,並公布2023中國AI晶片企業「先鋒企業 TOP30」和「新銳企業 TOP10」評選結果;分會場包括首次增設的集成電路政策交流會、AI晶片分析師論壇、智算中心算力與網絡高峰論壇。

本屆峰會針對行業變化,圍繞AI晶片的學術研究、GPGPU、ASIC、Chiplet、存算一體、智算中心等方向設置議程,邀請46+位嘉賓暢談生成式AI與大模型算力需求、投融資機遇、架構創新、商用落地等AI晶片焦點議題。

在首日舉行的主會場上,清華大學教授、中國半導體行業協會副理事長、IEEE Fellow魏少軍進行主題報告《再談人工智慧晶片的發展》,來自英偉達、燧原科技、高通、億鑄科技、北極雄芯、AMD、奎芯科技、後摩智能、安謀科技、鯤雲科技、珠海芯動力、芯至科技、每刻深思等12家國內外頂尖AI晶片企業及新銳企業的創始人、技術決策者及高管分別發表主題演講,分享對AI晶片產業趨勢的前沿研判與最新實踐。

深圳市南⼭區科技創新局黨組書記、局長曹環代表深圳市南山區科創局,對峰會的召開表示熱烈祝賀,並為本屆峰會致辭。他表示,2023全球AI晶片峰會(GACS 2023)定位於集成電路與高科技產業政策的宣傳平台、全球AI晶片產業的集聚與交流的平台,嘉賓陣容強大,內容豐富,並專設深圳集成電路政策交流會,對推動深圳AI晶片產業高質量發展具有重要的意義。

深圳市南⼭區科技創新局黨組書記、局長曹環

智一科技聯合創始人、CEO龔倫常作為主辦方發表致辭,宣布智一科技深圳總部正式落戶南山區西麗湖國際科教城,智東西公開課品牌正式升級為「智猩猩」,深圳總部將承擔西麗湖國際科教城的智猩猩AI產業服務平台的建設,未來希望與大灣區的企業有更多的合作。智猩猩由智東西公開課全新升級而來,定位於新科技服務平台,聚焦人工智慧與新興科技,面向企業側和用戶側提供價值服務。

智一科技聯合創始人、CEO龔倫常

通過峰會首日的AI晶片峰會嘉賓分享和觀點碰撞,我們探討了生成式AI與大模型帶來的算力壓力與機遇,看到了產學界如何通過越來越廣泛的創新思路來繞過摩爾定律瀕臨極限的瓶頸,見證了存算一體、可重構計算、「算力統一場」等各路創新流派百家爭鳴。通過這場乾貨滿滿的AI晶片產業盛宴,我們總結了以下五大趨勢:

1、生成式AI和大模型正在主導AI應用,得算力者得天下,要求產業從晶片設計、通信、集群、軟體等多方面進行優化AI晶片研發和落地,以實現更高性能、更低時延、更低成本。

2、現實算力資源和理想的算力資源存在鴻溝。一方面AI晶片產業繼續追求大算力,另一方面則通過架構創新及軟體定義新方式突破算力瓶頸。

3、隨著晶片製程工藝觸碰天花板,架構創新有望迎來「黃金十年」。比如感存算一體架構有望通過破除「存儲牆」,降低海量數據搬運負擔;可重構計算架構通過提高晶片利用率,用設計換製程;Chiplet則通過拆分組合實現異構集成,提高晶片性能,這些領域都已湧現出創業先行者。

4、Transformer正通過統一的大模型構建一個「大樹型」的統一濃縮生態,解決過去多個「小樹苗」AI生態的碎片化痛點。因此AI晶片企業可以通過硬體、軟體、系統、方案多產業聯動促進AI晶片商業化落地。

5、從資本市場來看,一級市場的監管政策客觀上會促進AI晶片產業資源重新配置,IPO收縮或具有短期性;二級市場出現的「炒作」現象客觀上為一級市場吸引了投資。

一、魏少軍:大模型時代再談AI晶片發展,大算力不是最終挑戰

本屆峰會的開場主題報告嘉賓,是AI晶片學術研究的代表人物——清華大學教授、中國半導體行業協會副理事長、IEEE Fellow魏少軍。他引用2017年圖靈獎得主John L. Hennessy和David A. Patterson的金句「現在是計算機架構的新黃金年代」,談到步入泛在計算時代,計算無處不在,對智能計算的要求越來越緊迫。

經演變,人工智慧現在分成了兩大類別:類腦計算深度學習類腦計算,即模仿人腦的計算方式。沿著類似思路,漸有起色的是存算一體,比起傳統存算分離架構,可將能效提升10倍,但這種架構目前只能模仿到人腦機制的皮毛。另一個方向是深度學習,2018年獲得圖靈獎的「深度學習三巨頭」通過神經網絡不斷運算來達到計算目標,構成了深度神經網絡。這促使今天的人工智慧包含三要素:算法、數據、算力。算力的挑戰決定了我們需要找到新的計算架構。

清華大學教授、中國半導體行業協會副理事長、IEEE Fellow魏少軍

在參加GTIC 2019全球AI晶片創新峰會時,魏少軍教授曾分享過一張圖,將AI晶片(AI Chip)分為三個階段:0.5階段是利用已有晶片來實現,1.0階段開發面向應用的領域專用晶片,1.5階段更強調通用性、靈活性,2.0階段的最終結論是能不能真正實現智能。如今再看這張圖,他認為中間應該加個階段——AI Chip 1.7

在他看來,大算力可能是當前面臨的最大挑戰,但不是最終挑戰。1.7階段強調的是對通用性的理解,今天AI晶片的通用性已經被異化成大算力,計算能力成為追求目標,但它只是演進過程的中間階段。找到AI Chip 2.0階段的完全智能化,那才是我們的終極目標

通向這一目標,需要賦予晶片自學習和接受教育的能力,以不斷提升性能和效率。他提出要尋找到一個具備軟體和硬體雙可編程的體系,即軟體定義晶片,英偉達、英特爾及一些美國頂尖科研團隊都在研究這一技術。

「中國人在這方面做的是最快的,也是最好的,我們實現了晶片架構和功能的納秒級重啟。」魏教授說,基於可重構計算架構的軟體定義晶片,計算效率永遠是最高的,功耗和成本都大幅下降,實現了應用與晶片的最優整合。目前,其團隊已在在線編程、訓練方面實現了相當一部分這樣的功能。

二、ChatGPT催生算力新機遇,雲邊端AI晶片熱戰大模型

ChatGPT掀起生成式AI熱潮後,大算力晶片迎來前所未有的發展機遇,新的挑戰也接踵而來。

高通AI產品技術中國區負責人萬衛星分享了高通對生成式AI未來發展趨勢的觀察:隨著雲端處理生成式AI的成本不斷提升,未來雲經濟將難以支撐生成式AI的規模化發展。此外,基礎模型正在向多模態擴展,模型能力越來越強大,而垂直領域模型的參數量也正在變得越來越小。未來,豐富的生成式AI模型將在終端側運行,讓大眾享受到生成式AI帶給生活、工作、娛樂上的變革。

高通AI產品技術中國區負責人萬衛星

NVIDIA解決方案與架構技術總監張瑞華認為:「生成式AI和大模型是人工智慧目前最重要的領域,也是對算力資源需求最高的人工智慧應用。由於模型的訓練和推理的計算範式都發生了變革,所以現實算力資源和模型發展所需要的理想算力資源之間還有很大的差距。隨著用戶空間的巨量增長,還需考慮成本、實時性等問題。這是生成式AI和大模型時代所面臨的計算挑戰。」

接下來以大模型GPT-3 175B為例,她分享了存儲空間、計算、網絡通信和系統設計方面模型訓練的需求和計算特點,繼而提出在GPU設計、AI伺服器設計和AI集群設計方面需要關注的技術熱點,並分享了NVIDIA的參考架構。軟體生態更是AI計算中心的靈魂,NVIDIA NeMo框架為生成式AI和大模型訓練提供全生命周期的支持,TensorRT-LLM為新計算範式下的推理提供支持。張瑞華總結到:在生成式AI和大模型的時代,NVIDIA新的技術生態端到端地賦能用戶的AI旅程。

NVIDIA解決方案與架構技術總監張瑞華

晶片巨頭AMD在MI Instinct GPU方面擁有大量的技術積累以及基於CDNA3的架構創新。AMD人工智慧事業部高級總監王宏強談道,AMD在單個GPU能做到上千T的浮點算力規模,通過多節點橫向擴展,更是能達到每秒百億億次浮點計算能力(EFLOPS),並提供額外的超大內存容量及帶寬,可實現700億參數級大模型在單個GPU上的部署,並達到更高的TCO(總擁有成本)。

王宏強也特彆強調了易用AI軟體以及強大的開放軟體生態的重要性,它是釋放這些創新硬體性能的關鍵。AMD通過統一AI軟體實現跨平台AI部署,以開放和模塊化的方式構建軟體解決方案,從而擁抱更高層次的抽象,並與最重要的生態系統(PyTorch, ONNX, Triton HuggingFace等)合作對接推動開箱即用的用戶體驗。

AMD人工智慧事業部高級總監王宏強

雲端AI晶片獨角獸企業燧原科技也在積極備戰大模型算力需求。其創始人兼COO張亞林談道,參數量高達數千億的大模型,依賴分布式計算、更大的內存容量和帶寬、更高算力、更實惠的成本或性價比,對AI晶片生態提出更高要求。

他打了一個形象的比喻:Transformer正通過統一的大模型,濃縮出一個「大樹型」的AIGC平台生態,算力是「樹根」,大模型是「樹幹」,行業模型庫是「樹枝」,應用是「樹葉」。相比原來碎片化的CV、NLP中小模型,大模型的「大樹型」生態的算力需求更加明確和聚焦。對此,他倡導聯合生態夥伴,通過統一的大模型技術生態棧解決算力瓶頸問題。

燧原科技創始人兼COO張亞林

奎芯科技聯合創始人兼副總裁王曉陽談道,大模型推理的關鍵瓶頸在於內存帶寬,目前主流的AI大算力晶片均採用HBM作為內存首選,採用HBM離不開先進封裝,在散熱、工藝、產能等方面均受到一定限制。據他分享,採用基於UCle接口的AI大算力晶片架構可突破HBM的互聯的局限

作為存算一體AI大算力晶片企業的代表,億鑄科技的創始人、董事長兼CEO熊大鵬分享道,AI應用進入2.0時代, 一大突出問題是大模型帶來巨量數據搬運,大算力晶片的競爭核心會逐漸轉向破除「存儲牆」,存算一體超異構成為「換道超車」的可行路徑。

億鑄科技創始人、董事長兼CEO熊大鵬

端側和邊緣側的晶片企業同樣看到大模型的機遇與需求。面向日益增長的算力需求,在邊緣和中心側,鯤雲科技用可重構數據流技術路徑來解決大模型算力需求攀升的問題,通過晶片底層架構革新,將晶片利用率大幅提升,這種方法能滿足架構內海量數據的計算需求,提供高性能、高性價比、低延時的實時處理。

高通萬衛星談道,與雲端相比,終端側跑大模型擁有諸多優勢,包括成本、能耗、可靠性、時延和性能、隱私和安全,以及個性化等。而終端側AI與雲端AI相互配合的混合AI架構,是讓生成式AI實現全球規模化擴展的關鍵。「目前我們能夠支持參數超過10億的模型在終端上運行,未來幾個月內超過100億參數的模型將有望在終端側運行。」他分享說,高通不斷提升端側AI能力,從而提高終端支持大模型的參數閾值,讓更多雲端生成式AI用例向邊緣側和端側遷移,這將真正釋放生成式AI的潛力。

安謀科技產品總監楊磊也同意這一觀點,認為大模型AI的未來將在雲側和端側同時發展。「由於Tranformer計算結構趨於穩定,微架構廠商迎來大模型時代的創新契機。」安謀科技推出了本土自研AI處理器「周易」X2 NPU,不僅在算力、精度、靈活性等方面進行了大幅提升,還針對車載、邊緣計算等應用場景進行了專門優化。

安謀科技產品總監楊磊

端側場景更多是中小算力場景,最在乎能效比和低成本。對此,清華電子系科技成果轉化企業每刻深思的CEO鄒天琦相信「模擬計算」大有可為,基於新型存儲技術的模擬計算能夠更有效率地發揮優勢,降低Transformer大模型在端側完成推理的能耗。

芯至科技聯合創始人、首席晶片架構師兼副總裁尹文認為,AI大模型落地到推理側的新機會與RISC-V架構創新不謀而合,RISC-V不僅可以做標量通用計算,也可以做線程級並行的AI計算。Scaler小標量+SIMT大算力的指令集/微架構融合將是未來RISC-V發力的重點,能以相對低的成本,為AI推理側應用提供高效支持。

他提到WoW (Wafer on Wafer)混合鍵合在新型晶片工程技術領域有重大價值。WoW可將AI Die和Memory Die垂直堆疊,低於HBM一個量級的成本提供數倍於HBM的帶寬;對於大模型推理來說,4~6GB的Memory Die完全滿足Transformer一層網絡權重的存儲和層內高帶寬需求。

三、AI晶片繁榮與資本同頻共振,新型計算技術的局限性尚存

進入生成式AI時代,資深投資人們如何看待AI晶片產業的發展走向?智一科技聯合創始人、總編輯張國仁,與普華資本管理合伙人蔣純、和利資本合伙人王馥宇、華興資本集團華興證券董事總經理阮孝莉進行了一場以「AI晶片的繁榮與資本的同頻共振」為主題的圓桌對話。

圓桌對話環節,從左到右依次是智一科技聯合創始人、總編輯張國仁,普華資本管理合伙人蔣純,和利資本合伙人王馥宇,華興資本集團華興證券董事總經理阮孝莉

大模型參數規模激增,對算力提出巨大需求,三位投資人都談到提高晶片效率與架構創新的問題。阮孝莉談到資本投入已經跟不上算力需求,需要能夠提高「矽效率」的架構創新。蔣純和王馥宇均提及新型計算技術。王馥宇認為,可重構計算、存算一體、類腦神經擬態計算、光子計算、量子計算等新型計算技術的終點都會是很好的,都在結合各自應用場景的需求,一步一步解決當前工程性問題,朝前疊代與進步。

蔣純認為,美國的「小院高牆」既是中國AI晶片企業得以崛起的機會,也是中國AI晶片企業發展中最大的威脅。中國AI晶片企業還是要爭取走出「國芯國造」的路子,擺脫始終存在的仰人鼻息的風險。同時,「換道超車」也是必須考慮的路徑。以存內計算為代表的「本徵計算」、3D封裝和堆疊技術都是非常重要的換道超車手段。

普華資本管理合伙人蔣純

阮孝莉談道,以Fabless為例,其短期會形成帶有地方產業特色的形態,但遵循半導體產業特性來看,終局大機率是2-3家設計公司來服務國內市場。她認為國內在先進位程產線的突破對AI晶片有直接帶動作用,創新架構依賴於全產業鏈的成熟,有一個過程,先進位程階段性進展可以為大家獲得一些緩衝時間。

華興資本集團華興證券董事總經理阮孝莉

從資本市場來看,一定程度上AI晶片產業、還有創新創業在一級市場和二級市場已經形成比較好的同頻共振效應。蔣純和阮孝莉的觀點一致,表面來看,一級市場的AI晶片創新創業氛圍與二級市場的炒作脫節。蔣純談道,雖然二級市場不乏寒武紀這樣的優秀代表,但其就像冰山浮出海面的尖角,大量創新生態的企業都在二級市場水下,但是二級市場的炒作代表了全國上下的期望,可以起到「千金買馬骨」的作用。阮孝莉補充說,二級市場泡沫並不完全是壞事,蓬勃才能吸引更多資本來關注並投資。而從新的大模型背景下未來AI賽道的增長空間來看,估值繁榮也是一定程度上具有合理性

據王馥宇分享,和利資本不會花太多精力去關注二級市場,在做創投時,更多關注客戶需求、市場空間、產品力、團隊組織力和執行力、業績和利潤的成長情況等,因為滿足了客戶需求,才能真正創造價值。因此,和利資本做投資預判的參考點十分樸素——人的需求是什麼,能不能通過技術和產品來滿足人的需求,能不能提供更高的社會生產力

和利資本合伙人王馥宇

四、創新架構橫刀立馬,換道破解性能與功耗難題

面臨傳統馮·諾依曼體系帶來的內存牆、功耗牆、通信牆等挑戰,依靠工藝技術進步來實現晶片性能、能效、成本等方面的改善變得愈發困難,架構創新已是AI晶片面臨的一個不可迴避的課題。圍繞架構創新,國產AI晶片正從早期的百花齊放,向更深更多維的層面發展。

在峰會首日,主題演講分享的AI晶片架構創新思路主要集中在兩類,一是通過縮短計算單元與存儲單元、傳感器的距離,來減少晶片內不必要的數據傳輸所產生的時延和能耗;二是引入數據流驅動的可重構計算,將硬體資源更多集中在計算上,兼具靈活性與高能效。芯至科技則提出了一種將RISC-V開源指令架構、自研一致性總線、WoW 3DIC組合的架構創新思路。

1、感存算一體:為數據搬運減負,大幅降低功耗

在大模型時代,技術「剪刀差」越來越大:算力摩爾定律終結,但數據量越來越大,算法越來越複雜,一大核心的痛點就是「存儲牆」。由於存儲和計算分離架構,大模型開發的95%甚至更多時間花在數據搬運上,將導致能耗劇增和實際計算效率巨降。

億鑄科技熊大鵬認為,存算一體技術能夠從根本上解決「存儲牆」問題。面向數據中心、雲計算、自動駕駛等場景,2023年8月,億鑄科技成功點亮存算一體AI大算力核心技術驗證晶片,可基於成熟工藝製程,實現單卡突破P級算力的極強性能與極高能效比。

後摩智能則首先瞄準汽車場景,於2023年5月推出的存算一體智駕晶片後摩鴻途H30,預計在2024年推出第二代產品後摩鴻途H50晶片。後摩智能聯合創始人、研發副總裁陳亮稱,根據後摩實驗室及MLPerf公開測試結果,在ResNet50性能功耗對比上,採取12nm製程的H30相比某國際晶片巨頭的7nm同類晶片性能提升超2倍,功耗減少超50%

陳亮談道,H30背後是後摩智能自研的IPU架構,該架構設計遵循「中庸之道」。如果將集中式計算架構比作居住面積和擴展性有限的「中式庭院」,那麼分布式計算架構類似於「高層公寓」,容納性好但溝通性不足。後摩智能的IPU架構選擇在兩者之間尋求平衡點:在計算方面,通過多核、多硬體線程實現計算效率與算力靈活擴展;在存儲方面,通過多級數據緩存實現高效數據搬運與復用;在數據傳輸方面,通過雙環拓撲專用總線實現靈活數據傳輸與共享。

後摩智能聯合創始人、研發副總裁陳亮

與存算一體的思路類似,從清華電子系智能感知集成電路與系統實驗室孵化出的每刻深思,將計算部分與傳感器相連,直接用模擬數據做運算,省去ADC模數轉換過程,能夠大幅節省功耗。

每刻深思的智能感知晶片,基於創新的近傳感模擬計算架構,可落地智能駕駛、VR/AR等多類應用場景中。以汽車的哨兵模式應用場景為例,這是一種通過硬體幫助車主在遠離車輛時監控車輛安全的汽車模式,每刻深思的車載「感存算一體」協處理晶片能促進哨兵模式每晚耗電從5-8度下降到0.05度;待機功耗從原來的10W下降到14mW,從而大大提升用車體驗。

每刻深思CEO鄒天琦

2、數據流驅動可重構計算:顯著提升晶片利用率

可重構計算架構根據不同的應用或算法來配置硬體資源,讓數據在計算單元之間流轉,減少了傳統的解碼操作和對內存的訪問,能夠大幅提升效率和節省功耗。除了在這一技術路線上研發十餘年之久的魏少軍教授團隊外,一些AI晶片企業也已經開始探索這一技術路線的落地商用價值。

AMD基於XDNA AI引擎的架構創新,是數據流處理並行計算陣列的架構,用於提供高速的、低延時、低功耗的實時推理。基於XDNA AI引擎的架構構建的Chiplet,與CPU、FPGA等構建片上異構計算平台,可擴展至數據中心、端側(Ryzen AI)、邊緣/嵌入式等不同平台來滿足多樣化的AI推理需求。

可重構數據流架構能並行進行數據訪問和數據計算。鯤雲科技聯合創始人兼首席技術官蔡權雄提到一個公式:晶片的實測性能=晶片理論峰值算力x晶片利用率。而鯤雲科技的可重構數據流架構,便是從晶片利用率找到突破點,最大化利用片上計算資源,提升晶片實測性能。相比於晶片利用率不足35%的指令集架構,基於鯤雲可重構數據流架構的CAISA晶片最高可實現95.4%的晶片利用率。

鯤雲科技聯合創始人兼首席技術官蔡權雄

蔡權雄說:「鯤雲不追求先進位程,而是從架構側創新為行業提供極致性價比AI算力。」通過自研晶片架構CAISA 3.0和自研編譯器RainBuilder,據公開測試數據顯示,一顆28nm工藝的CAISA晶片相較於一顆16nm的GPU晶片,可實現最高4.12倍實測算力的提升。該晶片已實現量產和規模化落地,為10餘個行業提供算力、算法、平台一體化的AI視頻分析解決方案,成功落地1500多個智能化項目,覆蓋智慧安監、智慧能源、工業製造等多個領域。

珠海芯動力專攻兼具通用性、高性能的RPP(可重構並行處理器)架構路徑。芯動力創始人&CEO李原透露說,RPP架構是將PE陣列以流水線的方式排列,實測面積效率比可達到同類產品的7~10倍,能效比也超過3倍,也就是說,在相同算力下只需占用更小的晶片面積。

此外,RPP架構還具備全方位兼容CUDA的特性,這意味著開發者可以直接使用CUDA程式語言編寫程序,無需進行複雜的代碼轉換。目前,芯動力首款基於可重構架構的GPGPU晶片RPP-R8已經流片成功,實現小規模量產。

珠海芯動力創始人&CEO李原

3、重構計算體系結構:軟硬體全棧系統架構創新

進入AI新時代,芯至科技尹文認為,算力創新不再僅僅是單個處理器微架構和晶片工藝的創新,而需要軟硬體全棧的系統架構全面創新,未來的創新機會來自以下方面:開放的通用指令架構,高效的融合加速器,異構互聯總線和晶片工程,開源運算元庫、工具鏈和軟體

基於此,芯至科技圍繞RISC-V開源指令架構、自研一致性總線、WoW 3DIC的架構創新,可以帶來10倍性價比的大模型AI推理晶片。展望更長期的未來,尹文相信基於RISC-V開源指令同構和微架構異構,開源軟體工具鏈及自主一致性總線和晶片工程創新,未來有機會推進到算力統一場。算力統一場將更利於形成更大的自主可控軟體新生態,並符合計算架構的原始特徵,助力我國在計算體系方面換道超車。

芯至科技聯合創始人、首席晶片架構師兼副總裁尹文

五、為AI晶片錘鍊精兵銳器,Chiplet助攻大算力晶片破局

隨著摩爾定律越發難以維繫,如何在面臨逼近物理極限的情況下保持算力持續增長?基於先進封裝的Chiplet(芯粒)技術已成為後摩爾時代兼顧經濟效益和提升晶片性能的一大有效路徑。

Chiplet的優勢在於可以實現異構集成。這種技術方案通過先進封裝技術將採用不同工藝製程、不同功能的各種Chiplet模塊組合到一起,能夠大幅提高大型晶片的良率,並能降低設計和製造環節的成本,同時減輕對先進位程產能的依賴。AMD MI300、特斯拉D1、蘋果M1 Ultra等經典AI晶片產品均採用了先進的Chiplet架構。

珠海GPGPU創企芯動力也十分認同Chiplet技術在產業發展中的價值,計劃將Chiplet和I/O Die連接形成邊緣端適合的晶片,以及使用類似技術將多顆核心進行連接,提供更高計算能力。」

今年2月,北極雄芯發布了國內首款基於異構Chiplet集成的智能處理晶片「啟明930」。該晶片由11塊Chiplets通過高速接口拼接而成,採用12nm工藝、2.5D封裝、全國產基板材料,可獨立用於AI加速卡,亦可通過D2D擴展多種功能型Side Die進行集成。

其創始人、清華大學交叉信息研究院助理教授馬愷聲經常被問一個問題,能不能用兩個2N工藝的Wafer通過3D集成,做出N工藝的性能? 答案是可以,用2塊14nm晶片拼出一塊7nm晶片是可能的。

清華大學交叉信息研究院助理教授、北極雄芯創始人馬愷聲

他列數了4種可能的解決方案:1)用一層晶圓做供電網絡解決IR drop(電源電壓降)問題;2)多層邏輯;3)內存和邏輯混合;4)將內存、邏輯、互聯與存儲、供電耦合到一起

上海互聯IP產品及Chiplet產品供應商奎芯科技專注於高速接口IP,同時致力於用Chiplet破解內存牆與I/O牆。其副總裁王曉陽分享說,考慮到HBM的使用存在尺寸數量、對熱敏感、擺放方向和適配不靈活、工藝等限制,奎芯科技試圖將HBM HOST和SoC解耦,打造M2link互聯方案,將HBM和主SoC的距離拉到2.5厘米。採用這種方案,同等大小SoC可利用面積增大44%,內存容量帶寬增長33%,最大晶片尺寸擴大2倍

奎芯科技聯合創始人兼副總裁王曉陽

結語:產學研投前沿交鋒,全球AI晶片峰會沸騰深圳南山

從2018年舉辦第一屆開始,全球AI晶片峰會至今已連續舉辦五屆,成為國內極少數專注在AI晶片領域且具有較大影響力的行業峰會。每一屆,你都能聽到頂級AI晶片產學研用及投融資領域專家們的思想交鋒,多元的精彩觀點在這裡碰撞,迸發出更多技術或產品創新的靈感火花。

這也是全球AI晶片峰會連續第二年落地深圳南山。據深圳市南⼭區科技創新局黨組書記、局⻓曹環分享,今年5月,深圳市發布推動新型人工智慧高質量發展方案,提出要聚焦通用大模型、智能算力晶片等領域,實施人工智慧科技重大專項扶持計劃,推動AI產業高質量發展。

當前,南山區正大力推動集成電路產業高質量發展,已發布集成電路產業專項政策,在人才、研發、融資等方面大力支持晶片企業發展,先後落地了國家集成電路設計深圳產業化基地、粵港澳大灣區集成電路設計創新公共平台等創新載體,集聚了英特爾、江波龍、中微半導等一批行業龍頭企業,晶片領域上游設計能力突出,下游應用場景廣泛,成為了半導體精英企業聚集高地。

「接下來,南山區將認真做好服務,為更多業內企業、優秀人才提供更全面的政策指引和服務。」曹環談道,「我們也誠摯邀請廣大企業家、投資人和創業者朋友們,選擇南山、投資南山、紮根南山,在南山這片創新與創業的熱土,展現創新實力、開拓創新事業、實現創新夢想。」

9月15日,2023全球AI晶片峰會舉行的AI大算力晶片專場、高能效AI晶片專場,繼續帶來了更多攻克AI晶片技術壁壘和落地難關的思想碰撞,並公布2023年度「中國AI晶片企業」評選結果。芯東西將陸續輸出新鮮的乾貨圖文,並放送多個精彩主題演講的圖文速記整理,具體請關注芯東西與智東西公眾號推送內容。

文章來源: https://twgreatdaily.com/zh-cn/9e7cef54234a3c4efe7f5f16bfa65728.html