Jun.28 2023
產業洞察
為解決高速運算下，存儲器傳輸速率受限於DDR SDRAM帶寬而無法同步成長的問題，高帶寬存儲器（High Bandwidth Memory，HBM）應運而生，其革命性傳輸效率是讓核心運算元件充分發揮效能的關鍵。據TrendForce集邦諮詢研究顯示，目前高端AI伺服器GPU搭載HBM已成主流，預估2023年全球HBM需求量將年增近六成，來到2.9億GB ，2024年將再成長三成。
TrendForce集邦諮詢預估到2025年，全球若以等同ChatGPT的超大型AIGC產品5款、Midjourney的中型AIGC產品有25款，以及 80款小型AIGC產品估算，上述所需的運算資源至少為145,600~233,700顆NVIDIA A100 GPU，再加上新興應用如超級計算機、8K影音串流、AR/VR等，也將同步提高雲端運算系統的負載，高速運算需求高漲。
由於HBM擁有比DDR SDRAM更高的帶寬和較低的耗能，無疑是建構高速運算平台的最佳解決方案，從2014與2020年分別發布的DDR4 SDRAM及DDR5 SDRAM便可究其原因，兩者頻寬僅相差兩倍，且不論是DDR5或未來DDR6，在追求更高傳輸效能的同時，耗電量將同步攀升，勢必拖累運算系統的效能表現。若進一步以HBM3與DDR5為例，前者的帶寬是後者的15倍，並且可以通過增加堆棧的顆粒數量來提升總帶寬。此外，HBM可以取代一部分的GDDR SDRAM或DDR SDRAM，從而更有效地控制耗能。
TrendForce集邦諮詢表示，目前主要由搭載NVIDIA A100、H100、AMD MI300，以及大型CSP業者如Google、AWS等自主研發ASIC的AI伺服器成長需求較為強勁，2023年AI伺服器出貨量（包含搭載GPU、FPGA、ASIC等）出貨量預估近120萬台，年增率近38%，AI晶片出貨量同步看漲，可望成長突破五成。
PS:當您需要在報道中引用TrendForce集邦諮詢提供的研報內容或分析資料，請註明資料來源為TrendForce集邦諮詢。
近期文章精選 TrendForce
第二季起全球筆電需求有望回溫，出貨量預估將季增11%
第二季DRAM均價跌幅收斂至10~15%，仍不見止跌訊號
預期第二季液晶監視器面板出貨量將季增15%，有望恢復疫情前水平
TrendForce集邦諮詢是一家橫跨存儲、集成電路與半導體、晶圓代工、光電顯示、LED、新能源、智能終端、5G與通訊網絡、汽車電子和人工智慧等領域的全球高科技產業研究機構。公司在行業研究、政府產業發展規劃、項目評估與可行性分析、企業諮詢與戰略規劃、品牌營銷等方面積累了多年的豐富經驗，是政企客戶在高科技領域進行產業分析、規劃評估、顧問諮詢、品牌宣傳的優質合作夥伴。
TrendForce is a global high-tech industry research institution. Its research scope covers memory, IC and semiconductors, foundry, optoelectronic display, LED, new energy, smart terminals, 5G and communication networks, automotive electronics, as well as AI. With rich experience in industry research, government industry development planning, project feasibility analysis, corporate consulting and brand marketing, TrendForce is a quality partner for government and enterprise clients to conduct industrial analysis, planning evaluation, consulting and brand promotion in high-tech field.
向上滑動查看