SK海力士和三星之間要打價格戰？打下AI芯片成本是首件大事
據韓國媒體BusinessKorea近日報道，在人工智能芯片對于高帶寬內存HBM需求的推動下，自2023年以來，第三代的HBM3的報價已經上漲超過5倍。這對于英偉達等AI芯片大廠來說，所需的關鍵HBM價格大漲，勢必會影響其AI芯片的成本。
在此背景下，市場傳聞稱，英偉達似乎故意煽動三星電子、SK海力士彼此競爭，以便勢壓低HBM的價格。
4月25日，SK集團董事長崔泰源（Chey Tae-won）匆匆前往硅谷與英偉達CEO黃仁勛（Jensen Huang）會面，似乎跟這些策略有關。
雖然過去一個多月來，英偉達一直在測試三星領先業界開發出的12層堆疊的HBM3E，卻遲未下單采購。市場解讀，這是一種策略，目標是激勵三星與SK海力士進行價格競爭。
在最新的一季度財報會議上，三星表示，將繼續增加HBM供應，以滿足對生成人工智能不斷增長的需求。本月，三星已經開始量產8層堆疊的HBM3E ，并計劃在第二季度量產12層堆疊的HBM3E產品。
SK海力士社長郭魯正（Kwak Noh-Jung）也在一季度財報會議上表示，2025年的AI芯片組用的HBM幾乎全數售罄，2024年的供應也已全部訂光。他說，12層堆疊的HBM3E將在今年5月送樣，預計第三季開始量產。SK海力士正在與一些客戶就HBM的長期合同進行談判。
AI芯片制造成本也在不斷上升
近年來,隨著人工智能技術的快速發展,對HBM內存芯片的需求不斷攀升。HBM作為高性能計算領域不可或缺的關鍵部件,其價格在過去一年內已經上漲了5倍以上。
這一漲價趨勢的根源,主要在于HBM芯片的供給不足難以滿足日益增長的市場需求。目前,全球HBM芯片市場被三星和SK海力士兩家韓企所壟斷,他們掌握著超過90%的市場份額。
在產能有限的情況下,兩家韓企不得不順應市場行情,不斷提高HBM芯片的售價。這就給下游需求方,尤其是英偉達等關鍵客戶,帶來了極大的成本壓力。
金融服務公司 Raymond James 分析師曾預估過 B200 的成本。
英偉達每制造一顆 H100 的成本約為 3320 美元，售價為 2.5-3 萬美元之間，根據兩者的性能差異推算 B200 成本將比 H100 高出 50%~60%，大概是 6000 美元。
黃仁勛在發布會后接受 CNBC 專訪時透露，Blackwell GPU 的售價約為 3 萬~ 4 萬美元，整個新架構的研發大約花了 100 億美元。
我們必須發明一些新技術才能使其（新架構）成為可能。
按照以往的節奏，英偉達大約每兩年就會發布新一代 AI 芯片，最新的 Blackwell 相較于前幾代產品在算力性能和能耗控制上有了顯著的提升，更直觀的是， 結合了兩顆 GPU 的 Blackwell 比 Hooper 大了將近一倍。
高昂的成本不僅與芯片有關，還與設計數據中心和集成到其他公司的數據中心緊密相連，因為在黃仁勛看來，英偉達并不制造芯片，而是在建數據中心。
根據英偉達最新的財報顯示，第四財季營收達到創紀錄的 221 億美元，同比增長 265%。四季度凈利潤 123 億美元，同比暴增 765%。這當中最大的營收來源數據中心部門，達到創紀錄的 184 億美元，較第三季度增長 27%，較上年同期增長 409%。
研發成本很高，但以此搏來的正向回報更高。
英偉達目前正在構建的數據中心，包含全棧系統和所有軟件，是一套完整的體系，Blackwell 或者說 GPU，只是這當中的一環。
數據中心被分解成多個模塊，用戶能夠根據自身需求自由選擇相應的軟硬件服務，英偉達會根據不同的要求對網絡、存儲、控制平臺、安全性、管理進行調整，并有專門團隊來提供技術支持。
如此的全局視野和定制化服務到底好不好，數據可以說明一切：截至 3 月 5 日，英偉達的市值繼超越 Alphabet、亞馬遜等巨頭后，又超過沙特阿美，成為全球第三大公司，僅次于微軟和蘋果兩大科技巨頭，總市值達到 2.4 萬億美元。
目前，全球數據中心大約有 2000 億歐元（約合人民幣 7873 億）的市場，英偉達正是這當中的一部分，黃仁勛預測這個市場在未來極有可能增長到 1-2 萬億美元。
英偉達的"價格戰"策略
面對HBM芯片價格的飆升,英偉達顯然很難接受。作為全球最大的GPU芯片供應商,英偉達需要大量使用HBM內存來支撐其高性能計算產品。如果HBM芯片價格持續大漲,必將嚴重影響其產品的成本競爭力。
因此,英偉達開始采取了一些"價格戰"策略。一方面,他們一直在密切關注并測試三星的最新HBM3E芯片;另一方面,又主動去接觸SK海力士的高管,似乎想要通過"挑撥離間"的方式,引發韓企之間的內部競爭。
這種做法,無疑是想要利用三星和SK海力士之間的矛盾,讓他們在價格上展開惡性競爭,從而達到降低HBM芯片采購成本的目的。
降模型成本
2024年非常關鍵的事
今年以來，算力已經被公認為是大模型競爭的「軍火庫」。這不僅讓英偉達的市值超過英特爾，也讓其財報中的GPU收入超過了手機芯片之王高通。
但算力的另一面是GPU供應緊張、價格昂貴。成本壓力是會層層傳導的。
比如AWS首席執行官Adam Selipsky前不久在談到整個行業時曾直言：「我接觸過的很多客戶都對運行其中一些模型的成本感到不滿。」
在這個問題上，中美企業所面臨的挑戰并無不同。在同《降噪NoNoise》交流時，侯震宇提到他的一個判斷——預計2024年整體算力資源供應的不確定性或者說緊張程度仍然比較大，所以云計算廠商面臨的共性問題是如何更高效地使用算力資源。
其實不僅是算力資源昂貴，目前人力資源、數據資源（如數據標注），本身成本也很高。「確保大家用足夠少的錢能訓練出來想要的模型，以及用一個客戶可接受的成本使其真的把AI大模型用起來，這些會是2024年非常關鍵的事。」
目前，國內云計算廠商的思路大多是在保證同等效果前提下，通過推理優化、模型訓練工具鏈優化等，以縮短算力使用時間。
以百度智能云為例，其主要通過基礎設施層的異構計算平臺「百舸」、大模型平臺層的「千帆」互相打配合，以實現算力性價比。
追求算力性價比的方向無非兩個：一是提高GPU利用率，縮短使用時間。比如在大模型訓練環節，百度通過分布式并行訓練策略和微秒級互聯，讓萬卡規模集群訓練的加速比達到95%、萬卡集群有效訓練時間占比達到98%。
「百舸」升級到3.0版本后，訓練和推理場景的吞吐量據稱可提高30%-60%，這些意味著原來要用100天的訓練，現在可能只用70天，節約時間等于間接省錢。
二是適配成本更低的AI芯片，除英偉達外，千帆平臺還兼容昆侖芯、昇騰、海光DCU、英特爾等國內外主流AI芯片。畢竟不是所有訓練都需要動用H800這種頂格待遇。
通過組合選項，理論上客戶可以用最小的切換成本完成算力適配。這種屬于直接省錢。
不過再怎么省錢，前提還是要保證AI模型的效果。若達不到客戶的預期效果，云服務商對算力資源「算計」再多，也是沒有意義的。
