研報丨各原廠預期2024年第一季於NVIDIA完成HBM3e產品驗證;而HBM4預計2026年推出

2023-11-27     Trendforce集邦

原標題:研報丨各原廠預期2024年第一季於NVIDIA完成HBM3e產品驗證;而HBM4預計2026年推出

Nov.27 2023

產業洞察

據TrendForce集邦諮詢最新HBM市場研究顯示,為了更妥善且健全的供應鏈管理,NVIDIA也規劃加入更多的HBM供應商,其中三星(Samsung)的HBM3(24GB)預期於今年12月在NVIDIA完成驗證。而HBM3e進度依據時間軸排列如下表所示,美光(Micron)已於今年7月底提供8hi(24GB)NVIDIA樣品、SK海力士(SK hynix)已於今年8月中提供8hi(24GB)樣品、三星則於今年10月初提供8hi(24GB)樣品。

NVIDIA持續擴展AI晶片產品,在高端晶片市場擁最大優勢

展望2024年,觀察目前各AI晶片供應商的項目進度,NVIDIA 2023年的高端AI晶片(採用HBM)的既有產品為A100/A800以及H100/H800;2024年則將把產品組合(Product Portfolio)更細緻化的分類。除了原上述型號外,還將再推出使用6顆HBM3e的H200以及8顆HBM3e的B100,並同步整合NVIDIA自家基於Arm架構的 CPU與GPU,推出GH200以及GB200。

相比同時期的AMD與Intel產品規劃,AMD 2024年出貨主流為MI300系列,採用HBM3,下一代MI350將採用HBM3e,預計2024下半年開始進行HBM驗證,實際看到較明顯的產品放量(Ramp Up)時間預估應為2025年第一季。

以Intel Habana來看,2022下半年推出的Gaudi 2採用6顆HBM2e,2024年中預期在新型號Gaudi 3持續採取HBM2e,但將用量升級至8顆。因此,TrendForce集邦諮詢認為,NVIDIA在HBM規格、產品準備度(Readiness)及時間軸上,可望持續以領先的GPU規格,在AI晶片競局取得領先。

HBM4或將轉向客制化,擺脫Commodity DRAM產品框架

除了HBM3與HBM3e外,據TrendForce集邦諮詢了解, HBM4預計規劃於2026年推出,目前包含NVIDIA以及其他CSP(雲端業者)在未來的產品應用上,規格和效能將更優化。受到規格更往高速發展帶動,將首次看到HBM最底層的Logic die(又名Base die)採用12nm製程wafer,該部分將由晶圓代工廠提供,使得單顆HBM產品需要結合晶圓代工廠與存儲器廠的合作。

再者,隨著客戶對運算效能要求的提升,HBM4在堆棧的層數上,除了現有的12hi (12層)外,也將再往16hi (16層)發展,更高層數也預估帶動新堆棧方式hybrid bonding的需求。HBM4 12hi產品將於2026年推出;而16hi產品則預計於2027年問世。

最後,TrendForce集邦諮詢也觀察到,針對HBM4,各買方也開始啟動客制化要求,除了HBM可能不再僅是排列在SoC主晶片旁邊,亦有部分討論轉向堆棧在SoC主晶片之上。雖然目前所有選項仍在討論可行性中,並尚未定案,但TrendForce集邦諮詢認為,未來HBM產業將轉為更客制化的角度發展,相比其他DRAM產品,在定價及設計上,更加擺脫Commodity DRAM的框架,呈現特定化的生產。

PS:當您需要在報道中引用TrendForce集邦諮詢提供的研報內容或分析資料,請註明資料來源為TrendForce集邦諮詢。

活動報名 TrendForce

TrendForce集邦諮詢是一家橫跨存儲、集成電路與半導體、晶圓代工、光電顯示、LED、新能源、智能終端、5G與通訊網絡、汽車電子和人工智慧等領域的全球高科技產業研究機構。公司在行業研究、政府產業發展規劃、項目評估與可行性分析、企業諮詢與戰略規劃、品牌營銷等方面積累了多年的豐富經驗,是政企客戶在高科技領域進行產業分析、規劃評估、顧問諮詢、品牌宣傳的優質合作夥伴。

TrendForce is a global high-tech industry research institution. Its research scope covers memory, IC and semiconductors, foundry, optoelectronic display, LED, new energy, smart terminals, 5G and communication networks, automotive electronics, as well as AI. With rich experience in industry research, government industry development planning, project feasibility analysis, corporate consulting and brand marketing, TrendForce is a quality partner for government and enterprise clients to conduct industrial analysis, planning evaluation, consulting and brand promotion in high-tech field.

向上滑動查看

文章來源: https://twgreatdaily.com/e372c7c53978a0342a3f40787a34c949.html