AI 晶片龍頭輝達 (NVDA-US) 周三 (11 日) 收高 2.7% 至每股 134.91 美元，連 4 個交易日走漲，市值站穩 3.23 兆美元，持續走漲的背後少不了兩大關鍵技術支援，分別是台積電(2330-TW) (TSM-US) 主導的 CoWoS 先進封裝，以及席捲當下的高頻寬記憶體 (HBM)。輝達最先進的 H200 晶片是首個採用 HBM3E 記憶體規格的 AI 加速器。
隨著 AI 興起，三星、SK 海力士與美光 (MU-US) 等記憶體巨頭紛紛將 HBM 視為重點生產產品之一。
HBM 的火熱給市場掀起巨大波瀾，也帶來三大影響。首先，HBM 成為力挽記憶體晶片產業下行的重要關鍵詞之一，另外也可能造成通用 DRAM 缺貨漲價，最後則是使得技術領域的爭奪戰日益激烈。
根據產品分類，DRAM 可以分為 DDR、LPDDR、GDDR、HBM。前三類產品主要用於傳統周期領域，HBM 則主要是 AI 市場的帶動，其中 DDR 主要用於消費電子、伺服器、PC 領域，LPDDR 主要用於行動裝置、手機及汽車領域，GDDR 主要用於圖像處理方面的 GPU 等。
HBM1 最早於 2014 年由超為與 SK 海力士共同推出，為 4 層 die 堆疊，提供 128GB/s 頻寬，4GB 記憶體，顯著優於同期產品 GDDR5。HBM2 於 2018 年正式推出，為 4 層 DRAMdie，現在多為 8 層 die 堆疊，提供 256GB/s 頻寬，2.4Gbps 傳輸速度，和 8GB 記憶體。
HBM3 則於前年正式推出，堆疊層數及管理通道數均有增加，提供 6.4Gbps 傳輸速度，傳送速率最高可達 819GB/s，和 16GB 記憶體。HBM3E 則是由 SK 海力士所發佈 HBM3 的增強版，提供高達 8Gbps 的傳送速率，24GB 容量，2024 年開始大規模量產。
根據 SK 海力士、三星與美光三巨頭表示，今年的 HBM 供應能力已全部耗盡，明年產能也已大部分售罄。
因此，上述三大廠商紛紛開啟產能衝刺競賽，SK 海力士正大幅擴產第 5 代 1b DRAM，以應對 HBM 與 DDR5 DRAM 的需求增加。按照晶圓投入量看，SK 海力士打算將 1b DRAM 月產能從今年首季的 1 萬片增加到今年底的 9 萬片，明年上半年則將進一步提升至 14 萬到 15 萬片，是今年首季產能的 14 到 15 倍。
三星在今年 3 月底也曾說，今年 HBM 產能料將增至去年的 2.9 倍，美光也正在美國建設先進的 HBM 測試生產線，並考慮首次在馬來西亞生產 HBM，以抓住 AI 熱潮帶來的更多需求。
在上述三巨頭的競爭中，由於 SK 海力士 HBM3 產品性能領先，率先拿下輝達訂單，成其主要供應商，三星則主攻一些雲端客戶的訂單，美光則直接跳過 HBM3，將主要精力放在 HBM3E 產品上。
三巨頭在擴大產能上均不留餘力，SK 海力士打算在 2028 年投資高達 748 億美元，其中 80% 將用於 HBM 的研發和生產，而且將下一代 HBM4 晶片的量產時間提前到明年。
根據專業機構分析，今明兩年 HBM 需求的動態缺口約為產能的 5.5% 和 3.5%，但海豚投研的數據顯示，HBM 有望從去年底的供不應求，到今年底變為「供大於求」。