半導體新聞網站《Tom's Hardware》近日報導，AI 晶片大廠輝達 (NVDA-US) 為了確保今年 GH200、H200 出貨順利，開出 13 億美元 (約 394 億台幣) 的預算，向美光(MU-US) 和 SK 海力士預訂部分新高頻寬記憶體 HBM3e 的產能。
對此專家認為，這一預算數字的可信度尚待確認，但即便不可能包下全球今年 HBM 產能，但可幫輝達搶下今年上半「壟斷算力」的商機，因為若產品先上市，就能先搶到市佔率。
SK 海力士、美光和三星今年代工產能總計會擴大到 75 萬顆晶片，按目前業內的數據，HBM3e 良率大概 9 成，每片晶圓約可切出 750 顆晶片，今年全球高頻寬記憶體 (HBM) 總產能大致為 5600 萬顆(12 層跟 8 層），但大規模產能集中在下半年開出，上半年比例略小。
專家指出，若基於今年 CoWoS 先進封裝產能推算，在 GPU-HBM 垂直封裝的產能方面，截至今年第四季，全球 CoWoS 封裝總產能推算約 30 萬片晶圓，其中包括台積電約 27 萬片，Amkor 約 4 萬片，但由於這些晶圓流片的工藝節點集中在 5 奈米和 3 奈米，當期良率約為 38%，保守設定單片晶圓可切成 30 顆 GPU 晶片，如此全球今年經由 CoWoS 封裝的 GPU 產品產能約為 900 萬顆。
按單顆 GPU 邏輯晶片搭配 6 顆 HBM 記憶體顆粒的標準計算，今年全球的 GPU 對 HBM 需求就在 5400 萬顆以上（12 層為主）。
目前，12 層 HBM 顆粒的管道單價約為每顆 250 美元以上，若 13 億美元預算的說法屬實，輝達僅能預訂 520 萬顆，僅佔 HBM 全年總產能的一成。
隨著 AI-HPC 產業對 HBM 的高度需求，該記憶體的受眾、價值和市場空間水漲船高，如今 HBM 單位售價是傳統 DRAM 數倍，是 DDR5 的大約 5 倍。
實際上，根據封裝數據推算，今年輝達預訂了超過 14 萬片晶圓的 CoWoS 產能，其中台積電拿下 12 萬片訂單，Amkor 分到 2 萬到 3 萬片，對應 GPU 總體產能接近 450 萬顆。按每顆 GPU 邏輯晶片和儲存顆粒 1：6 比例測算，即輝達今年全年需要約 2700 萬顆 HBM，基於單顆 250 美元的成本測算，輝達全年採購 HBM 晶片的費用將達 68 億美元，並非只有 13 億美元。
截至今年第四季，各家 GPU 超算產品對應 HBM 顆粒封裝的預定產能約 900 萬顆，加上明年 SK 海力士等三家記憶體廠擴產計畫則總計近 6000 萬顆 HBM（12 層為主，8 層略少），這兩份數據也說明今明兩年 CoWoS 和 HBM 產能是充足的。
不過雖然產能不缺，但是上述數據畢竟是年度計畫，很多產能要到第四季才會開出，各家預定的產能當然是越早越好，上半年初的機會視窗更重要，倘若下半年才開始投產，那麼產品進入管道就要等到隔年。