三星HBM3已進入英偉達驗證，偌大的蛋糕不再一人獨食
高帶寬內存（HBM）是支持人工智能（Generative AI）的關鍵，隨著高帶寬內存（HBM）成為下一代內存半導體的主戰場，三星電子（Samsung Electronics）和美光（Micron）之間正在醞釀激烈的競爭，以搶奪目前由SK hynix壟斷的Nvidia訂單。
11 月 28 日，臺灣市場研究公司 TrendForce 預測，Nvidia 將在下個月完成對三星電子 HBM3 的驗證。業內人士認為，三星電子目前正在向 Nvidia 供應 HBM3 樣品，根據下個月的驗證結果，三星電子可能會與 Nvidia 簽訂正式合同。
Nvidia 的圖形處理器（GPU），尤其是高端的 H100 型號，是高價值產品，每個售價為 6000 萬韓元。這種高利潤率使 Nvidia 有可能改變存儲器半導體行業的游戲規則。作為 HBM 市場的領導者，SK hynix 從去年開始向 Nvidia 獨家供應 HBM3，領先于三星電子。此舉幫助 SK hynix 縮小了與 DRAM 市場領導者三星的市場份額差距 4.4 個百分點。受 HBM 和 DDR5 等高價值產品業績的提振，SK hynix 的 DRAM 業務在今年第三和第四季度扭虧為盈。
由于美國內存芯片制造商美光（Micron）將于明年量產第五代 HBM3E 產品，業界預計 HBM 領域將全面爆發 "三國殺"。預計這三家公司將展開激烈競爭，爭奪 Nvidia 即將推出的 H200 和 B100 人工智能半導體所需的 HBM3E 供貨。
據報道，隨著Nvidia計劃將其HBM供應商多元化，以提高供應鏈管理效率，SK hynix的單打獨斗可能會結束，迎來一個無限競爭的時代。根據TrendForce的數據，從7月份的美光開始，到8月份的SK hynix和10月份的三星電子，三家公司都提供了HBM3E樣品。考慮到 Nvidia 通常需要六個月左右的時間來驗證 HBM 樣品，預計供應量的輪廓將在明年出現。
AI巨頭擴大HBM采購
ChatGPT熱潮除將GPU等AI大算力芯片推向高峰之外，也極大帶動了市場對新一代內存芯片HBM的需求。7月26日SK海力士發布第二季度財務報告，盡管整體出現虧損，但HBM3和DDR5 DRAM等高端產品銷售增加，第二季度營業收入比第一季度增加44%，營業虧損減少15%。三星和美光也表示，HBM在銷售額中開始占據更大份額。
事實上，目前全球各大AI巨頭包括英偉達、AMD、微軟和亞馬遜等均已開始加大HBM采購，并將HBM3E作為其采購的重點。這一舉措被視為在新一輪AI大戰中搶占先機，以應對日益激烈的市場競爭。
英偉達作為全球領先的GPU制造商，其H100、A100已廣泛應用于AI服務器和數據中心。在面對AI應用日益增長的挑戰下，英偉達加大HBM3E的采購量，旨在為其GPU提供更高性能和更快的數據傳輸速率，以滿足AI計算的需求。
AMD最近發布下一代GPU MI300X。MI300X面向大語言模型（LLM）優化，可以支持400億個參數的Hugging Face AI 模型運行。在存儲方面，MI300X采用192GB的HBM3內存、5.2TB/秒的帶寬和896GB/秒的Infinity Fabric 帶寬。為了提高其GPU在AI應用中的競爭力，AMD將加大對HBM3E的采購量，以進一步提升其產品的性能和效率。
亞馬遜和微軟則是云服務領域的兩大巨頭。在大模型熱潮下，兩家公司也大幅增加投資，優先引入生成式AI技術。亞馬遜近期投資1億美元建立人工智能創新中心。微軟旗下的Azure云服務則擴大與ChatGPT開發商OpenAI的合作關系。
從發布的數據來看，HBM3E與HBM3相比，傳輸速度提升25%，從原來的6.4GT/s提升至8.0GT/s，從而將顯存的帶寬提升至1TB/s。SK 海力士將采用最新的10納米級（1b） 技術進行HBM3E的量產。各大AI巨頭積極向HBM供應商SK海力士以及三星訂購HBM3E，以滿足不斷增長的市場需求。
HBM需求暴漲
在人工智能浪潮下，市場需求持續激增，HBM 技術成為人們關注的焦點。全球市場研究公司集邦咨詢預計，2023 年 HBM 需求將同比增長 58%，2024 年可能進一步增長約 30%。
HBM 相比較傳統 DRAM 具有高帶寬、高容量、低延遲、低功耗等優勢，特別適合 ChatGPT 等高性能計算場景。目前在 HBM3 研發最前沿的是 SK 海力士和三星兩家公司，英偉達的 H100 / H800、AMD 的 MI300 系列 AI 加速卡均采用 HBM3。
SK 海力士和三星預計將在 2024 年第一季度提供 HBM3e 樣品。另一方面，美國內存公司美光正在繞過 HBM3，直接追求 HBM3e。
HBM3e 將采用 24Gb 單晶芯片堆棧，并采用 8 層 (8Hi) 配置，單個 HBM3e 芯片的容量將飆升至 24GB。HBM3e 預計將在 2025 年納入 NVIDIA 的 GB100，導致三大 OEM 計劃在 2024 年第一季度發布 HBM3e 樣品，并在下半年進入量產。
除了 HBM3 和 HBM3e 之外，最新的更新表明存儲巨頭正在計劃推出下一代 HBM——HBM4。
雖然 HBM4 有望取得重大突破，但仍有一段路要走，因此現在討論其實際應用和廣泛采用還為時過早。業內專家強調，目前 HBM 市場以 HBM2e 為主。然而，HBM3 和 HBM3e 有望在不久的將來占據領先地位。
集邦咨詢預計，2023 年主流需求將從 HBM2e 轉向 HBM3，預計需求占比分別約為 50% 和 39%。隨著更多基于 HBM3 的加速器芯片進入市場，需求將在 2024 年大幅轉向 HBM3，超過 HBM2e，預計占據 60% 的市場份額。
多國積極拓展，產業界仍需冷靜
隨著HBM技術的價值被發掘，目前各主要芯片制程廠商均在積極布局。其中臺積電正大舉擴充SolC系統整合單芯片產能，正向設備廠積極追單，預計今年底的月產能約1900片，明年將達到逾3000片，2027年有機會提升到7000片以上。值得注意的是，臺積電SolC是業界第一個高密度3D小芯片堆疊技術，公司擴產此舉主要意在應對AI等領域的旺盛需求。
此外據報道，SK海力士已開始招聘邏輯芯片 (如CPU、GPU) 設計人員，計劃將HBM4通過3D堆疊直接集成在芯片上。SK海力士正與英偉達等多家半導體公司討論這一新集成方式。據SK海力士預測，HBM市場到2027年將出現82%的復合年增長率。
截至2022年，HBM市場主要被全球前三大DRAM廠商占據，其中海力士HBM市占率為50%，三星的市占率約40%、美光的市占率約10%。
與此同時，國內相關廠商則主要處于HBM上游設備和材料供應環節。其中，華海誠科2023年8月投資者關系活動記錄顯示，公司的顆粒狀環氧塑封料(GMC)可以用于HBM的封裝，相關產品已通過客戶驗證，現處于送樣階段。截至11月20日，公司股價11月以來已經翻兩倍。
此外，聯瑞新材的部分客戶是全球知名的GMC供應商，他們需要使用顆粒封裝材料來提升封裝高度和滿足散熱需求。據海力士公開披露，球硅和球鋁是升級HBM的關鍵材料。而聯瑞新材也已開始配套生產HBM所用的球硅和球鋁。
因此，雖然眼下HBM的市場基本被海外巨頭所占據。但隨著ChatGPT的AI大模型問世，百度、阿里、科大訊飛、商湯、華為等科技巨頭紛紛要訓練自己的AI大模型，AI服務器的需求大幅度激增。這也意味著，芯片儲存的自主可控仍是當下產業發展的重要方向。所以在未來HBM國產化也將成為大的發展趨勢。
但值得注意的是，HBM 雖好但國內產業界仍需冷靜對待。這是因為HBM 現在依舊處于相對早期的階段，其未來還有很長的一段路要走。但可預見的是，隨著人工智能產業的迅速發展以及相關技術的頻繁迭代，內存產品設計的復雜性注定會快速上升，并對帶寬提出了更高的要求，進而不斷上升的寬帶需求將持續驅動 HBM 發展。
而對于該產業在二級市場的發展，中銀國際方面則表示，伴隨AI大模型訓練的不斷推進，HBM作為關鍵性技術，其增長確定性極高，相關投資機會有望集中在封裝設備材料及國產HBM配套供應。
