芯東西（公眾號：aichip001）
作者 | ZeR0
編輯 | 漠影
韓國存儲晶片巨頭們正在打一場翻身仗。
儘管從最新財報來看，存儲晶片復甦未見好轉，供應過剩導致營業利潤大幅下降，但這些存儲晶片巨頭們的股價均在上周上漲。力挽狂瀾的核心功臣，便是逐漸成為數據中心AI訓練必備組件的AI相關內存晶片——高帶寬內存（HBM）。
因生成式AI開發和商業化競爭加劇，第二季度對AI相關內存的需求大幅增加。HBM的受關注程度，在上周SK海力士和三星發布最新財報後舉行的電話會議期間可見一斑，分析師們就HBM相關進展和後續規劃密集發問。
自去年英偉達發布世界首款採用HBM3的GPU H100以來，HBM3及更先進HBM晶片的熱度一直居高不下。據英國《金融時報》援引兩位接近SK海力士的消息人士報道，英偉達和AMD要求SK海力士提供尚未量產的下一代HBM3E晶片的樣品。英偉達已要求SK海力士儘快供應HBM3E，並願意支付「溢價」。
英偉達GPU及其他AI晶片HBM採用情況（圖源：SemiAnaysis）
雖說今年縮減開支是重頭戲，但存儲晶片巨頭們在HBM方向的投資仍相當捨得——合計掌控著全球90%HBM晶片市場的兩家韓國大廠SK海力士和三星均表態，計劃明年將HBM晶片產量提高一倍，並為了更好應對HBM不斷增長的需求，而減少其他類別存儲晶片的投資。
一、 英偉達AMD微軟亞馬遜排隊，坐等用上HBM3E
高帶寬內存（HBM）屬於DRAM的一類分支，使用堆疊技術來提高圖形處理器（GPU）等計算晶片的帶寬和性能，相比傳統DRAM晶片產品具有尺寸更小、功耗更低、帶寬更高、處理數據速度更快等優勢。
2015年AMD介紹新型存儲晶片HBM（圖源：AMD）
HBM最初用於高端遊戲顯卡，目前在全球動態隨機存取存儲器（DRAM）市場中占有的市場份額較小，但潛力非常可觀。隨著雲計算及生成式AI服務的發展，全球大型科技公司將越來越多地使用HBM，來快速處理快速增長的數據。
據晶片行業諮詢公司SemiAnalysis披露，HBM的價格大約是標準DRAM晶片的5倍，利潤豐厚，預計到HBM占全球內存收入的比例將從目前的不到5%增長到2026年的20%以上。
自2013年開發全球首款HBM晶片以來，全球第二大存儲晶片巨頭SK海力士一直處於HBM領先地位。這也是SK海力士首次在內存技術競賽中領先於三星。隨後兩家韓企進入激烈的HBM搶位賽，爭相開始量產HBM2、HBM2E等晶片。
2022年6月，SK海力士宣布開始量產業界首款HBM3內存，與英偉達H100 GPU配合使用，預計將於2022年第三季度發貨。該內存將為H100提供高達819GB/s的內存帶寬。
歷代HBM性能演進（圖源：SK海力士和Rambus）
目前SK海力士是目前唯一一家批量出貨HBM3的供應商，擁有超過95%的市場份額。它正在為AMD MI300X和英偉達H100生產數據速率為5.6GT/s的12層24GB HBM3。
今年5月30日，SK海力士乘勝追擊推出最新的HBM3E，每個堆棧的帶寬從HBM3的819GB/s增加到1TB/s，將於明年上半年投入生產，據說英偉達、AMD、微軟、亞馬遜等晶片大廠正排隊搶貨。這驅動HBM價格進一步大幅上漲。
據行研機構TrendForce的數據，SK海力士2022年在全球HBM市場占有50%的份額，三星以40%的份額緊隨其後，美國存儲晶片巨頭對手美光以10%的份額排名第三。
SK海力士披露，生成式AI市場的擴張已迅速推高對AI伺服器內存的需求。在AI相關需求激增的驅動下，上周三，SK海力士報告其今年第二季度同比由盈轉虧，營業虧損為2.88萬億韓元，其股價上周卻上漲了12%。
過去半年SK海力士股價變化
次日，三星宣布第二季度營業利潤為6685億韓元，同比下降95%。受益於最新一代HBM3晶片在內的高端內存技術訂單激增，三星股價周四上漲了2.4%，然後又有所回落。
過去半年三星電子股價變化
TrendForce預測，2023年全球HBM晶片需求將增長60%，達到2.9億GB，明年將再增長30%，2025年整體市場有望達20億美元以上。預計明年SK海力士將占據HBM市場53%的份額，其次是三星（38%）和美光（9%）。
二、AI伺服器使用的內存，比傳統伺服器至少多出1~8倍
在財報電話會議上，SK海力士財務長Kim Woohyun說：「與傳統伺服器相比，AI伺服器使用的內存至少多出1~8倍，以實現更快的計算處理，並採用HBM等高性能內存產品，這不僅會推動需求，而且對盈利能力產生了積極影響。」
他談道，從今年年初開始，智慧型手機、個人電腦和伺服器的需求一直疲軟。但從第二季度開始，AI伺服器的需求急劇上升，抵消了其他產品需求的部分損失。自第二季度以來，生成式AI引發的對高端伺服器的需求迅速增加。相應地，高密度DDR5和HBM產品的需求也在快速增長。
三星內存業務執行副總裁Jaejune Kim在三星財報電話會議上談到第二季度在伺服器方面的內存需求，由於對生成式AI的強勁需求，數據中心領域的投資在有限的資本支出中集中在AI伺服器上，對通用伺服器和存儲的需求相對有限。
今年隨著企業投資水平的降低，存儲晶片客戶將重點放在昂貴的AI伺服器上的投資，對傳統伺服器的投資可能會暫時下降。不過，SK海力士分析預測，通用伺服器仍將廣泛用於AI服務的開發、部署和運營，因此從長遠來看也將刺激通用伺服器的需求增長。
據Kim Woohyun披露，SK海力士的圖形DRAM銷售額（包括HBM產品）此前僅占DRAM銷售額的個位數百分比。但自從去年第四季度達到DRAM銷售額的10%以來，這一比例迅速增長到第二季度超過20%。SK海力士用於AI伺服器的HBM和高密度DDR5模塊的銷量大幅增長。該公司預計今年HBM的銷量預計將比去年增長兩倍以上，並預計明年將進一步增長。
三、今明HBM需求預計陡峭增漲，兩家大廠披露HBM最新路線圖
業內專家表示，由於調整產能需要時間，未來兩年HBM供應預計仍將緊張，而快速增加HBM產量也很困難，因為它需要專門的生產線。
SK海力士和三星給出了相近的產業趨勢解讀：內存需求一直在從去年創紀錄的低增長水平中復甦，當前復甦尚不足以使全行業庫存水平恢復正常，上半年庫存水平仍較高，但庫存已經見頂，並預測隨著減產效果進一步顯現，下半年存儲晶片需求將較上半年有所改善。
為了進一步加速庫存正常化，兩家存儲晶片大廠都在選擇性地對DRAM和NAND的某些產品進行額外的生產調整，下半年重點抓盈利能力，專注於高附加值和高密度產品來優化其產品組合，特別是加強銷售組合中HBM、DDR5等高價值前沿產品的份額的增長，減少庫存水平較高、盈利能力不及DRAM的NAND的產量。
SK海力士在財報電話會議期間披露公司後續規劃，將支持高密度和HBM產品需求
SK海力士相信第三季度AI伺服器需求將持續增漲，特別是高密度DDR模塊和HBM，這兩款產品的收入有望在下半年比上半年增速更高，HBM的需求將在明年保持相當健康的增長。
近期，特別是隨著超大規模企業對生成式AI服務的競爭加劇，三星收到了來自此類客戶的大量需求，預計今年和明年HBM的需求可能會出現相當陡峭的增長。
目前SK海力士的首要任務是投資增加HBM的大規模生產。該公司剛剛對今年年初制定的有關技術產能組合的規划進行了調整，以應對對高密度DDR5和HBM不斷增長的需求。
對於HBM路線圖來說，重要的是與GPU的發布或領先加速器市場的公司的時間表保持一致。SK海力士預計將在2026年某個時候轉向HBM Gen 4，並正為此做準備。
根據其路線圖，明年下半年將是HBM3E量產期，也是HBM3E的供應擴大期。今年SK海力士的重點是增加HBM量產所需的1Z納米的比例，還準備增加1B納米產能和TSV產能，為明年上半年開始供貨的HBM3E做準備。
為了與市場增長預期保持一致，三星一直在擴展其HBM業務，產品方面擁有向主要客戶獨家供應HBM2的記錄，後續還就HBM2E開展業務，計劃2023年下半年開始大規模生產HBM3。三星HBM3正在接受具有行業頂級性能和密度或容量的客戶資格認證，已開始向主要的AI SoC公司和雲計算公司發貨8層16GB和12層24GB產品。具有更高性能和容量的三星下一代HBM3P晶片計劃於今年晚些時候發布。
三星HBM3介紹（圖源：SemiAnalysis）
三星還一直投資HBM生產能力，基於此已經預訂了大約10億或十億中值Gb級的客戶需求，大約是去年的兩倍，並正在通過提高生產力來進一步提高供應能力，到2024年計劃將HBM產能增加至少是2023年水平的兩倍。另據此前報道，三星擬投資1萬億韓元擴產HBM。
對於三星來說，它雖然在HBM競爭的反應比SK海力士慢半拍，但考慮到通常AI晶片與HBM存儲器一起集成到單個封裝中，三星擁有一個其他晶片企業所不具備的優勢——兼具先進GAA工藝技術、HBM技術和先進封裝技術。
如果未來三星能夠推出最大化發揮這三類關鍵技術協同效應的解決方案，這有望成為未來三星在AI算力市場競爭中的關鍵壁壘。
結語：存儲晶片巨頭打響HBM爭霸賽
隨著雲計算和生成式AI服務越來越受歡迎，對HBM等高性能內存晶片的需求與日俱增。在HBM價格不斷上漲的情況下，英偉達等晶片巨頭仍在預訂更多HBM產能來滿足其GPU需求，這導致HBM3晶片的供給更加緊俏。
在今年資本支出大幅下降的情況下，在HBM市場領先的SK海力士正通過提高生產力、加快設備交付時間和削減其他領域的投資等努力，確保HBM3的產能和投資。穩居全球存儲晶片第一的三星，自然不甘在HBM這一極具前景的細分市場屈居於SK海力士身後，亦加大馬力爭取新訂單並專注於HBM等高附加值產品的銷售。
全球排名第三的美國存儲晶片巨頭美光科技也在上周面向AI客戶發布了最新DRAM四年路線圖，包括用於AI和高性能計算應用的HBMNext。到2024年，美光科技HBM3E預計將在第三季度/第四季度開始出貨。
美光科技披露面向AI基礎設施需求的解決方案路線圖
存儲晶片巨頭們正在嚴陣以待，通過加大在先進技術突破和擴大產能方面的投資，為持續到來的HBM等支持大規模數據處理的高性能內存產品的需求激增做好準備。SK海力士能否在HBM技術和市場保持領先身位、長期掌握議價權，也是業界強烈關注的焦點。