全球加快AI基礎建設,這類產品需求暴漲,市場仍被英偉達壟斷
近日,日本數字基礎設施服務供應商Sakura Internet宣布,已購買價值約200億日元(約合人民幣9.36億)的英偉達下一代B200 AI芯片,作為其加強日本人工智能(AI)計算能力投資的一部分。
此前,英偉達表示將在今年年底前發貨B200芯片,而日本方面也大力推動本土制造的AI發展。
日本經濟產業省近日宣布,為了在日本國內整備研發生成式AI所必需的超級電腦,將對Sakura等5家日本企業最高補助725億日元。
Sakura表示,獲得日本政府補助后,將強化生成式AI用云端服務“高火力”,計劃將“高火力”搭載的GPU數量擴增至原先計劃的5倍,將搭載約10,000顆GPU、其中包括了英偉達在3月發布的最新“NVIDIA HGX B200系統”。
事實上,當前在AI浪潮趨勢下,英偉達芯片在市場上可謂是掌握著絕對的話語權。3月19日,英偉達推出新一代AI芯片架構Blackwell,首款Blackwell芯片命名為GB200。
其中,亞馬遜網絡服務、戴爾、谷歌、Meta、微軟、OpenAI、甲骨文、特斯拉等在內的企業預計將采用Blackwell。此外,比亞迪、廣汽埃安、小鵬、理想汽車和極氪等中國車企也將合作。
科技巨頭加碼AI基建
為了追趕新浪潮,美國科技巨頭紛紛投入巨資,建設數據中心。
富國投資(Wells Fargo Investment Institute)在報告中指出,2025年Alphabet、亞馬遜、Meta、微軟總的資本支出預計將達2000億美元,大大超越幾大石油巨頭的資本支出。
2023年,BP、雪佛龍(Chevron)、埃克森美孚、殼牌四大石油公司的資本支出合計約為800億美元,而四大云計算公司的開支將達1400億美元。
在美國北弗吉尼亞、俄亥俄州哥倫布市和鹽湖城,現在最熱門的資產不是酒店、寫字樓,而是數據中心。不同以往,現在的數據中心主要是為AI服務的。
房地產公司Jones Lang LaSalle數據中心策略副總裁Sean Farney說:“所有一切都在圍著AI轉,要讓AI正常運轉,需要新的、龐大的托管服務,這是眼下最直接的影響。”
Sean Farney曾協助微軟在芝加哥建設120兆瓦數據中心,他說2022年年末ChatGPT的推出是一個轉折點。
CenterSquare投資管理公司組合經理Patrick Wilson說:“現在AI數據中心市場已經不再是細小市場。以前市場會盲目增加供應量,結果影響市場健康,現在不一樣了,在大流行的刺激下,數據中心所者擁有更多的定價權?!?/span>
最近幾年,科技企業紛紛前往北弗吉尼亞租賃數據中心,俄亥俄中部的二級市場需求也水漲船高,亞馬遜已經投資78億美元在俄亥俄中部建設數據中心。
Patrick Wilson稱,自2020年之后遠程辦公流行,大量資金流向數據中心、通信基礎設施、光纖、信號塔及相關科技產業。
資金來自哪里?主要還是“hyperscalers”集團,也就是在云計算和數據中心領域采用超大規模計算方法的公司??萍季揞^正在瘋狂擴建數據中心,年復合增長率達到20-30%。為了建設一個新數據中心,它們可以輕松投入10億美元。
穆迪經濟學家Ermengarde Jabir今年2月份曾談及AI和商業地產,他說:“對數據中心空間的爭奪相當激烈,在項目開發早期階段往往就已經被搶空了?!?/span>
GPU需求暴漲
行業欲擺脫英偉達
科技巨頭微軟公司正在開發一種新的網卡,用來提高其人工智能芯片Maia的性能,最終達到減少對英偉達產品依賴的目的。
報道援引了一位知情人士的話稱,微軟CEO薩提亞·納德拉已經任命通信設備巨頭瞻博網絡的聯合創始人Pradeep Sindhu領導網卡項目的工作。去年年初,微軟收購了Sindhu創辦的數據中心芯片初創公司Fungible。
據了解,Fungible的核心產品為DPU(中央處理器分散處理單元),是繼CPU、GPU之后,數據中心場景中的第三顆重要的算力芯片。Fungible稱其技術不僅能夠提高服務器效率,也能夠提高存儲基礎設施的效率并簡化日常服務器管理,降低數據中心成本。
Sindhu團隊本次目標打造的新網卡,類似于英偉達的ConnectX-7網卡,主要用于提高服務器的流量速度。報道稱,開發過程可能需要超過一年的時間,如果成功,將有望縮短OpenAI在微軟服務器上訓練模型所需的時間,并降低訓練過程的成本。
目前,AI芯片市場主要是由英偉達主導,H100也公認是訓練大語言模型最需要的GPU。公司常將ConnectX-7網卡與其GPU一起銷售。例如,融合加速器“H100 CNX”就是將H100與ConnectX-7相結合,可為I/O密集型應用提供強勁性能。
據英偉達官網的描述,ConnectX-7支持超低時延、400Gb/s吞吐量和創新的英偉達網絡計算加速引擎,實現額外加速,為超級計算機、人工智能和超大規模云數據中心提供所需的高可擴展性和功能豐富的技術。
但由于H100系統售價不菲,給英偉達公司和黃仁勛本人帶來巨額財富的同時,也讓OpenAI、Meta等AI開發商有了“另起爐灶”的想法。
