Jun.28 2023
产业洞察
为解决高速运算下，存储器传输速率受限于DDR SDRAM带宽而无法同步成长的问题，高带宽存储器（High Bandwidth Memory，HBM）应运而生，其革命性传输效率是让核心运算元件充分发挥效能的关键。据TrendForce集邦咨询研究显示，目前高端AI服务器GPU搭载HBM已成主流，预估2023年全球HBM需求量将年增近六成，来到2.9亿GB ，2024年将再成长三成。
TrendForce集邦咨询预估到2025年，全球若以等同ChatGPT的超大型AIGC产品5款、Midjourney的中型AIGC产品有25款，以及 80款小型AIGC产品估算，上述所需的运算资源至少为145,600~233,700颗NVIDIA A100 GPU，再加上新兴应用如超级计算机、8K影音串流、AR/VR等，也将同步提高云端运算系统的负载，高速运算需求高涨。
由于HBM拥有比DDR SDRAM更高的带宽和较低的耗能，无疑是建构高速运算平台的最佳解决方案，从2014与2020年分别发布的DDR4 SDRAM及DDR5 SDRAM便可究其原因，两者频宽仅相差两倍，且不论是DDR5或未来DDR6，在追求更高传输效能的同时，耗电量将同步攀升，势必拖累运算系统的效能表现。若进一步以HBM3与DDR5为例，前者的带宽是后者的15倍，并且可以通过增加堆栈的颗粒数量来提升总带宽。此外，HBM可以取代一部分的GDDR SDRAM或DDR SDRAM，从而更有效地控制耗能。
TrendForce集邦咨询表示，目前主要由搭载NVIDIA A100、H100、AMD MI300，以及大型CSP业者如Google、AWS等自主研发ASIC的AI服务器成长需求较为强劲，2023年AI服务器出货量（包含搭载GPU、FPGA、ASIC等）出货量预估近120万台，年增率近38%，AI芯片出货量同步看涨，可望成长突破五成。
PS:当您需要在报道中引用TrendForce集邦咨询提供的研报内容或分析资料，请注明资料来源为TrendForce集邦咨询。
近期文章精选 TrendForce
第二季起全球笔电需求有望回温，出货量预估将季增11%
第二季DRAM均价跌幅收敛至10~15%，仍不见止跌讯号
预期第二季液晶监视器面板出货量将季增15%，有望恢复疫情前水平
TrendForce集邦咨询是一家横跨存储、集成电路与半导体、晶圆代工、光电显示、LED、新能源、智能终端、5G与通讯网络、汽车电子和人工智能等领域的全球高科技产业研究机构。公司在行业研究、政府产业发展规划、项目评估与可行性分析、企业咨询与战略规划、品牌营销等方面积累了多年的丰富经验，是政企客户在高科技领域进行产业分析、规划评估、顾问咨询、品牌宣传的优质合作伙伴。
TrendForce is a global high-tech industry research institution. Its research scope covers memory, IC and semiconductors, foundry, optoelectronic display, LED, new energy, smart terminals, 5G and communication networks, automotive electronics, as well as AI. With rich experience in industry research, government industry development planning, project feasibility analysis, corporate consulting and brand marketing, TrendForce is a quality partner for government and enterprise clients to conduct industrial analysis, planning evaluation, consulting and brand promotion in high-tech field.
向上滑动查看