要想“拿捏”AI芯片，HBM很關鍵，企業巨頭之間開戰
隨著AI半導體競爭不斷加劇，芯片代工產業因需求停滯和產能過剩，面臨新挑戰。AI關鍵的高帶寬內存（HBM），也陷入主導地位爭奪戰。
韓媒Business Korea報道，三星已將泰勒廠運營時間從2024年底延至到2026年，可能考慮到代工市場而調整投資速度。今年全球芯片代工產業前景，臺積電總裁魏哲家表示，今年全球芯片代工產業增長從上次說明會20%，下修至14%-19%。
此外，EUV曝光設備市場需求也暴跌，從去年第四季的56億歐元降至今年第一季的6.56億歐元，降幅達88.4%。也因此，在需求降低的狀況下，明年新廠將激活，也使人們擔心產能過剩問題。
目前臺積電在美國亞利桑那州的兩座廠將分別于2025、2028年投產；日本熊本廠已于2月開業，第二間工廠將于2027年前投產。至于英特爾則計劃在美國、歐洲和以色列各地創建新的代工廠。
對AI半導體相當重要的HBM市場，三星與“SK海力士與臺積電聯盟”競爭逐漸加劇。目前三星電子2月成功開發業界首款最高容量的12層HBM3E，試圖重新奪回市場主導地位，第二季連同8層產品一起供貨英偉達（Nvidia），下一步目標是推出16層HBM4。
HBM：不惜一切為帶寬
考慮到現代類型內存的性能規格和功能，HBM 在帶寬需求大的應用程序中如此受歡迎的原因顯而易見。每個堆棧的速度約為 1.2 TB/s，任何傳統內存都無法在帶寬方面擊敗 HBM3E。但這種帶寬是有代價的，并且在容量和成本方面存在一些限制。
人工智能工程聯盟MLCommons的執行董事 David Kanter 表示：“HBM 不僅具有優越的帶寬，而且還具有功耗，因為距離很短。” “主要弱點是它需要先進的封裝，目前限制了供應并增加了成本。“但 HBM 幾乎肯定會永遠占有一席之地。”
HBM 的這些特性使得 DDR、GDDR 和 LPDDR 類型的內存也用于許多需要帶寬的應用，包括 AI、HPC、圖形和工作站。美光表示，這些容量優化和帶寬優化類型內存的開發正在迅速進行，因此人工智能硬件開發人員對它們有明確的需求。
美光計算和網絡業務部高級經理 Krishna Yalamanchi 表示：“HBM 是一項非常有前途的技術，其市場未來增長潛力巨大。” “目前應用主要集中在人工智能、高性能計算等需要高帶寬、高密度、低功耗的領域。隨著越來越多的處理器和平臺采用它，該市場預計將快速增長。”
有分析人士指出，自 2012 年以來，訓練模型以每年 10 倍的速度增長，而且看起來[增長]并沒有放緩。”
特別有趣的是，那些需要 HBM 的公司往往會在一夜之間采用該標準的最新版本。
為此Gartner預測，高帶寬內存的需求預計將從 2022 年的 1.23 億 GB 激增至 2027 年的 9.72 億 GB，這意味著 HBM 位需求預計將從 2022 年占 DRAM 整體的 0.5% 增加到 2027 年的 1.6%這一激增歸因于標準 AI 和生成 AI 應用中對 HBM 的需求不斷升級。
Gartner分析師認為，HBM收入將從2022年的11億美元增至2027年的52億美元，而HBM價格相對2022年的水平將下降40%。Gartner指出，由于技術進步和內存制造商的承諾不斷增加，HBM 堆棧的密度也將增加，從 2022 年的 16 GB 增加到 2027 年的 48 GB。與此同時，美光似乎更為樂觀，預計在 2026 年左右推出 64 GB HBMNext (HBM4) 堆棧。HBM3 和 HBM4 規范允許構建 16-Hi 堆棧，因此可以使用 16 個 32-Gb 器件構建 64 GB HBM 模塊，但這將要求內存制造商縮短內存 IC 之間的距離，其中包括使用新的生產技術。
鑒于 Nvidia 占據了計算 GPU 市場的最大份額，該公司很可能成為業界最大的 HBM 內存消費者，并且這種情況將持續一段時間。
但我們也不得不承認，HBM難度極大。
HBM供不應求，海力士、三星積極擴產
如今AI領域發展得如火如荼，HBM的市場規模也隨之水漲船高。
據悉，當下主流AI訓練芯片均使用HBM，一顆GPU配多顆HBM。其中，英偉達1顆H100配5顆HBM3、容量80GB，H200使用6顆HBM3E（全球首顆使用HBM3E的GPU）、容量達144GB。
3月18日，英偉達宣告稱，公司的B100和B200使用192GB（8個24GB8層HBM3E），HBM用量進一步提升。
此外，超威半導體（AMD.US）的MI300系列、谷歌的TPU系列均使用HBM。
在具體的市場規模方面，據了解，在AI沒有爆發之前，市場預測全球HBM將平穩增長至一個100億美元的市場。
而根據新的測算，2023年HBM市場規模為40億美元，預計2024年增長至150億美元，到2026年增長至接近250億美元，年復合增速高達80%以上。
值得注意的是，于2023年11月，海力士CEO稱，預計到2030年，海力士每年HBM出貨量將達到1億顆，隱含產值規模將接近300億美元，假設屆時海力士市場份額為50%，則整個市場空間將在500億美元左右。
在競爭格局方面，HBM的供應由SK海力士、三星電子和美光科技（MU.US）三大廠商壟斷，2022年三者的份額分別為50%、40%、10%。
其中，SK海力士是HBM先驅，HBM3全球領先，與英偉達強綁定、是英偉達主要HBM供應商，三星電子緊隨其后，美光科技則正在積極追趕中，HBM3E進度直逼SK海力士。
目前，當下的HBM市場處于供不應求狀態。
而三家大廠壟斷市場，彼此之間的競爭也比較激烈。其中，SK海力士和三星電子均計劃在2024年將HBM產能提升2倍以上。
另外，SK海力士已在今年3月宣布開始量產8層HBM3E，3月底開始發貨；美光科技則跳過HBM3直接做HBM3E，已于2月底宣布量產8層HBM3E；三星電子則在今年2月底發布12層HBM3E。
需要指出的是，近兩年芯片領域一片“寒意”，SK海力士、三星電子和美光科技一度遭遇業績暴降，甚至出現巨虧的情況。
據美光科技披露了2024財年第二財季（截至2月29日）的業績顯示，在美國公認會計準則下（GAAP），期內美光科技實現營收58.24億美元，同比增長57.70%；凈利潤為7.93億美元，同比、環比均實現扭虧；攤薄后每股收益為0.71美元；非公認會計準則凈收益為4.76億美元，攤薄后每股收益0.42美元。
美光科技CEO認為，在AI帶來的機遇中，美光是半導體行業最大的受益者之一。
之所以這么說，是因為美光科技于今年2月26日宣布開始量產HBM3E高帶寬內存（第五代HBM，是市場針對AI應用的最高規格DRAM產品）。
在第二財季電話會上，美光科技披露，公司新品HBM3E芯片今年的產能已全部賣光，明年的大部分產能也已經被預定。
而HBM3E將供給英偉達（NVDA.US）的AI芯片H200GPU。
美光科技還預計，2024財年，HBM系列產品將為公司帶來數億美元的營收，甚至有望比肩公司第二大業務—NAND業務。
美光科技的情況如此，SK海力士和三星電子也都受益于HBM產品的爆發。
工藝、設備、材料國內廠商不斷導入，國產自主可控進程加速
半導體先進封裝尤其是HBM CoWoS封裝核心增量來自Bumping、TSV、RDL等工藝，增量需求最大的設備主要為檢/量測、減薄、電鍍、鍵合、模塑機臺，并且先進封裝也為激光切割機、固晶機、回流爐、后道測試機/分選機/探針臺等傳統封裝設備帶來一定需求提升。
用于高端先進封裝的設備份額主要為海外廠商占據，例如先進封裝檢/量測領域的Camtek、ONTO；減薄領域的DISCO；電鍍領域的AMAT、ASMPT；鍵合領域的SUSS、EVG Group；塑封領域的TOWA、YAMADA等；芯片貼裝領域的BESI等。由于AI等領域需求旺盛，Camtek、BESI、SUSS等廠商面向先進封裝如HBM和異構集成、AI應用的訂單均創下歷史新高，并仍在持續增長；
用于高端先進封裝的材料品類繁多，且更為分散，主要包括IC封裝載板、ABF基板層介電材料、制造封裝基板核心層材料、環氧樹脂固態封裝材料、導線架、焊線材、底部填充劑等，市場份額大多被美國、日本、德國廠商占據，核心供應商包括日本住友化學、日本昭和電工、美國杜邦等。
AI對GPU高帶寬需求將催生HBM將近百億美金市場，以HBM為代表的先進封裝封測技術、設備和材料等需求有望持續提升。據前文預計，到2024年HBM有望營收至89億美元。以HBM為代表的先進封裝市場對封測技術、先進封裝設備及材料需求持續增長，同時國內先進封裝封測、設備、材料等產業鏈有望持續受益，國內廠商在相關領域不斷導入。
