數月漲價500%！這些大客戶在掃貨該類芯片
存儲市場冰火兩重天，HBM價格暴漲5倍
實際上，自去年Q3以來，DRAM市場進入寒冬。今年以來時不時聽到存儲要觸底反彈的聲音，但目前市場仍未解凍。據TrendForce最新研究顯示，由于DRAM供應商減產速度不及需求走弱速度，DRAM產品Q2均價季度跌幅擴大至13~18% 。
在DRAM的整體頹勢之中，HBM卻在逆勢增長。據悉，2023年開年后三星、SK海力士兩家存儲大廠HBM訂單快速增加，HBM3規(guī)格DRAM價格上漲超過5倍。
一邊是DRAM整體跌幅仍在進一步擴大，另一邊是HBM價格卻暴漲5倍，冰火兩重天。不禁要問，HBM為什么會這么重要？主要用在什么地方？HBM逆勢增長的主要驅動原因是什么？
HBM：AI芯片的最佳搭檔 按照不同應用場景，JEDEC（固態(tài)技術協(xié)會）將DRAM分為三個類型：標準DDR、移動DDR以及圖形DDR。HBM屬于最后一種，即圖形DDR。 資料來源：新思官網，JEDEC官網，芯八哥整理 內存墻，指的是內存性能嚴重限制CPU性能發(fā)揮的現(xiàn)象。存儲器與處理器性能差異正隨時間發(fā)展逐漸擴大，當存儲器訪問速度跟不上處理器數據處理速度時，存儲與運算之間便筑起了一道“內存墻”。而隨著人工智能、高性能計算等應用市場興起，數據量指數級增長，“內存墻”問題也愈發(fā)突出。 圖形DDR中，先出現(xiàn)的是GDDR，它是為了設計高端顯卡而特別設計的高性能DDR存儲器，是打破“內存墻”的有效方案。隨著深度學習等 AI 算法的發(fā)展，AI 服務器對計算能力和內存帶寬的要求越來越高。GDDR 逐漸達到極限，每秒每增加1GB 的帶寬所需要的電量劇增，NVIDIA 和 AMD 等廠商逐漸開始使用 HBM。 HBM（High Bandwidth Memory）即高帶寬存儲器，其通過使用先進的封裝方法（如TSV硅通孔技術）垂直堆疊多個DRAM，并與GPU封裝在一起。HBM通過系統(tǒng)級封裝（SIP）和硅通孔（TSV）技術實現(xiàn)垂直堆疊，擁有多達1024個數據引腳，可顯著提升數據傳輸速度，因此成為AI芯片中存儲的主流技術方案。 HBM結構圖 資料來源：美光官網 相較而言，GDDR獨立封裝在PCB上圍繞在處理器的周圍，而HBM則排布在硅中階層上并和GPU封裝在一起，面積縮小，離GPU更近，數據傳輸也更快。HBM之所以可以做到這樣的布局，是因為采用了3D堆疊技術，其直接結果就是接口變得更寬。因此，與傳統(tǒng)內存技術相比，HBM具有更高帶寬、更多I/O數量、更低功耗、更小尺寸的特點。與 GDDR5 相比，在相同數量顯存下，HBM產品大小僅僅是 GDDR5 的 6%，并且每瓦帶寬是其 3 倍以上。
HBM與GDDR5對比 資料來源：AMD官網 在HBM技術加持之下，DRAM芯片從2D轉變?yōu)?D，可以在很小的物理空間里實現(xiàn)高容量、高帶寬、低延時與低功耗。自2014年首款硅通孔HBM產品問世至今，HBM技術已經發(fā)展至第四代，分別是：HBM（第一代）、HBM2（第二代）、HBM2E（第三代）、HBM3（第四代）。HBM朝著不斷提高存儲容量、帶寬，減小功耗和封裝尺寸方向不斷升級，從最初的1GB存儲容量和128GB/s 帶寬的HBM1發(fā)展到目前的24GB存儲容量和819GB/s帶寬。 數據來源：SK海力士官網、芯八哥整理 乘AI東風，HBM需求激增 今年 ChatGPT 引爆全球，AI 相關需求呈快速增長態(tài)勢。據Bloomberg Intelligence報告顯示，生成式 AI 市場規(guī)模有望爆發(fā)式增長，從 2022 年的 400 億美元高速擴大至 2032 年的 1.3 萬億美元，十年間復合增速高達 42%。而 AI 的快速發(fā)展，對數據量和算力的需求也有大幅拉動，將拉動相關半導體需求的持續(xù)提升。 TrendForce 最新報告預計，2023年AI服務器出貨量（含GPU、FPGA、ASIC等）預估在120萬臺，年增長率近38%。AI芯片出貨量同步看漲，預計今年將增長50%。報告稱，目前高端AI服務器GPU搭載HBM芯片已成主流，預計2023年全球HBM需求量將年增近六成，達到2.9億GB，2024年將再增長30%。 作為高性能GPU的核心組件，根據Omdia 數據，2020 年全球 HBM 市場規(guī)模為 4.58 億美元，預計 2025 年市場規(guī)模將達到 25 億美元，年復合增長率高達 40.38%。 數據來源：Omdia，芯八哥整理 在ChatGPT等AI浪潮的推動下，高端AI芯片紛紛選擇搭載HBM技術，推升了HBM存儲需求。根據TrendForce統(tǒng)計，NVIDIA、AMD、Intel等高端AI芯片中大多選擇搭載HBM。目前NVIDIA的A100及H100各搭載達80GB的HBM2e及HBM3，在其最新整合CPU及GPU的Grace Hopper芯片中，單顆芯片HBM搭載容量再提升20%，達96GB。AMD的MI300也搭配HBM3，其中，MI300A容量與前一代相同為128GB，更高端MI300X則達192GB，提升了50%。 數據來源：NVIDIA官網，AMD官網，芯八哥整理 DRAM原廠主導HBM市場，SK海力士稱王 HBM市場目前由三大DRAM原廠占據，SK海力士占據過半份額。根據TrendForce統(tǒng)計，2022年三大原廠HBM市占率分別為SK海力士50%、三星約40%、美光約10%，預計2023年SK海力士將受益新世代HBM3產品的量產，其市占率有望提升至53%。 數據來源：TrendForce，芯八哥整理 SK海力士是目前唯一量產HBM3的公司，并向英偉達大量供貨，配置在英偉達高性能GPU H100之中，持續(xù)鞏固其市場領先地位。今年4月SK海力士又推出24GB HBM3產品(HBM3E)，容量再度提升且采用更薄的DRAM芯片垂直堆疊，實現(xiàn)了與16GB產品相同的高度，正被頭部公司爭相申請樣片測試。據韓媒Korea Times報道，三星的HBM3產品預計23H2量產，屆時將追趕SK海力士的市場。美光科技則進展相對較慢，于2020年7月宣布大規(guī)模量產HBM2E，HBM3作為其產品線仍在持續(xù)研發(fā)之中。 2021年的時候，HBM占整體DRAM市場只有不到1%。主要是因為HBM高昂的成本以及當時服務器市場中搭載相關AI運算卡的比重仍小于1%，且多數存儲器仍使用GDDR5、GDDR6來支持其算力。 今年以來，AI的浪潮愈演愈烈。在ChatGPT帶動的AIGC（生成式AI）的熱潮下，大廠們紛紛開始推出自己的類ChatGPT的大模型。TrendForce預測，到2025年，全球如果等同于ChatGPT的超大型AIGC有5款，類似Midjourney的中型產品有25款，以及80款小型產品，在這個條件下，上述所需的運算資源至少包含145600~233700顆英偉達A100 GPU。作為高性能GPU的核心組件，HBM今后的存在感或許會越來越強。 最新HBM產品消息，BusinessKorea報道，包括英偉達、AMD、微軟、亞馬遜在內的全球科技巨擘，已依序向SK海力士要求HBM3E樣品。申請樣本是下單前的必要程序，目的是厘清存儲器與客戶的GPU、IC或云端系統(tǒng)是否兼容。據信，該公司正在為今年下半年準備 8Gbps HBM3E 產品樣品，并計劃在明年上半年實現(xiàn)量產。
