正面打不過英偉達就換條路走,三星押注的邊緣AI芯片前景如何?
說到AI芯片,人們第一個想到的可能是高通、聯發科、Intel,抑或是英偉達、AMD。另外三個核心玩家則總是在被忽視:蘋果、三星和華為,因為它們不專注于芯片而是橫跨消費電子、通信、存儲、云等業務,但事實上它們的芯片卻很強大。
比如三星,就是不容忽視的芯片玩家,它的exynos系列就是跟蘋果A系列同級的頂尖芯片。AI芯片,也是三星接下來的重中之重。
在第 55 屆年度股東大會上,三星電子宣布進軍人工智能處理器市場,將于 2025 年初推出 Mach-1 AI 加速芯片。但不同于英偉達是要攻占全球服務器市場,三星的目標在邊緣計算領域,包括手機、PC 等智能設備、自動駕駛機器人以及 IoT 設備。
不難理解。僅從今年 1 月 CES、2 月 MWC、3 月 AWE 三場科技行業大會就能看出,AI 已經開始了大規模對終端產品的「改造」。盡管大部分行業都還處在探索和嘗試的階段,但有一點是無論如何不會改變的:
AI 驅動離不開算力。
算力從哪來?底層無非是芯片。三星推出 Mach-1,就是希望在這個 AI 改造終端的過程中,成為各類終端的主要 AI 芯片供應商,成為邊緣計算領域的英偉達。
避英偉達鋒芒,三星AI芯片在邊緣側另辟蹊徑
三星 Mach-1 會成功嗎?這不是一個可以簡單回答的問題。
今天對于 AI 的應用正在大規模從云端(數據中心)轉向終端(智能設備、自動駕駛汽車等),市場對于面向邊緣計算 AI 芯片的需求自然水漲船高,這是三星AI芯片的機會。
然而,英偉達的高性能 GPU 實在是太強大了。在剛剛結束的英偉達GTC 2023上,老黃帶來了史上最強的AI芯片加速卡甚至是AI芯片:Blackwell GB200超級芯片系統,這是面向AI大模型時代而生的AI芯片,業界評論稱:英偉達掌握了AI時代的摩爾定律,也打破了傳統計算的摩爾定律。
不過,英偉達強在云端,“邊緣”并不是其擅長的計算場景,它的GPU當然能提供頂級的 AI 加速性能,但尺寸、功耗以及成本都大大限制了它在邊緣計算領域的應用范圍。英特爾和高通則都采用了混合架構(CPU+GPU+NPU)提供 AI 加速性能,大幅降低了功耗,更大的機會在于邊緣側。
三星 Mach-1 在理論上還能提供更低的功耗和成本。對于低性能的智能家居設備和 IoT 傳感器等,Mach-1 比起英偉達、英特爾和高通的解決方案無疑更有價值。
試想一下,總不能為了大模型驅動的 AI 應用,洗衣機也要搭載高通旗艦芯片吧。
不過就算面對手機、筆記本電腦乃至汽車車機等高性能終端,除了功耗上的優勢,考慮到低端產品搭載芯片的 AI 算力水準,三星 Mach-1 也同樣存在一定的價值。
以AI PC、AI手機、AI家電、AI汽車為代表的AI硬件正在重新定義傳統硬件生態,而AI硬件的計算形態一定是“云端融合”,既要云端訓練,也要邊緣端有一定的AI計算力來支持小模型部署以及終端側的基礎、實時和硬件層訓練、推理和生成。因此,邊緣側的AI芯片有巨大的空間,這是三星的機會。
當然,邊緣側AI芯片不能一概而論,有些終端對功耗要求高,有些終端對散熱要求高,有些終端對安全要求高,有些終端則對性能要求更高……因此,邊緣側的AI芯片也會形成分化。
簡而言之,在高性能 AI 賽道,英偉達占據了頂級的云端生態位,在高性能低功耗 的“邊緣側”“終端側”AI 賽道(如手機、筆記本電腦),英特爾和高通成為絕世雙雄;而三星,則有望拿下低功耗賽道的頂級生態位。當然,頭部品牌吃不完全部蛋糕,每一個AI芯片層都將容納大量的玩家。
邊緣計算與終端AI芯片市場穩步增長
隨著人工智能、5G和物聯網等領域的快速發展,邊緣計算和終端AI芯片市場呈現出巨大的增長潛力。邊緣計算是一種將計算資源從云端延伸至離用戶更近的邊緣設備的新興計算模式,可以提供更低延遲和更高效的數據處理和分析能力。而終端AI芯片作為支撐終端設備智能化的關鍵技術,具備低功耗和高性能的特點,已成為終端設備實現智能功能的關鍵驅動力。
據市場研究數據顯示,邊緣計算服務器市場正呈現穩步增長的態勢。市場研究機構TrendForce預測,邊緣計算產品和服務市場在2018年至2022年將以復合年增長率超過30%的速度增長,這一增速或有望打開千億級美元的市場空間。另據市場研究機構Gartner數據,到2025年有75%的數據將產生于邊緣,2023年底有50%以上的大型企業將至少部署6個以上的邊緣計算應用,主要用于物聯網或者沉浸式的邊緣計算體驗。邊緣計算的優勢在于將數據處理和存儲推至靠近數據源的邊緣設備,實現快速響應和實時決策,特別適用于物聯網、智能城市、智能制造等領域。
同時,終端AI芯片市場也面臨著廣闊的發展空間。根據Frost&Sullivan數據顯示,2021年全球人工智能芯片市場規模為255億美元。預計2021-2026年,全球人工智能芯片市場規模將以29.3%的復合增長率增長,2023年將達到490億美元。終端AI芯片通過將AI計算能力集成到終端設備中,實現設備智能化和邊緣計算的優化,為用戶提供更快速、更個性化的智能服務。
國產企業大力布局
邊緣端AI 芯片主要應用于嵌入式、移動終端等領域,如攝像頭、智能手機、邊緣服務器、工控設備等,此類芯片一般體積小、耗電低,性能要求略低,一般只需具備一兩種AI 能力。
當前應用領域由云端向邊緣側移動,終端催生大量芯片需求。
從功能上來看,AI芯片分為訓練芯片和推斷芯片兩種。由于功耗、算力等條件限制,目前邊緣端的AI芯片絕大部分為邊緣推斷芯片。從技術架構來看,它可分為四大類,分別為通用性芯片(GPU)、半定制化芯片(FPGA)、全定制化芯片(ASIC)。
在邊緣計算中,AI芯片會利用傳聲器陣列、攝像頭等傳感器采集到的數據按照已構建的模型進行推理并輸出相應的結果。
由于邊緣計算的應用場景眾多,對于硬件的算力、能耗等性能要求也不盡相同,因此催生出對AI芯片更加廣泛的需求。
不同邊緣場景對AI算力的需求:
國內海思、寒武紀、云天勵飛、國芯科技、海光信息等芯片廠商陸續推出高性價比的邊緣端AI芯片。
寒武紀“思元”220芯片是專門用于深度學習的邊緣加速芯片,采用臺積電16nm工藝,具備高算力(32Tops)、低功耗(10W)的特點。
云天勵飛DeepEye1000采用22nm工藝,集成雙核視覺DSP處理器,內置硬件加速運算子ACC,峰值算力可達2.0Tops,可支持4K@30fps視頻、4路高清視頻并行的實時分析。
邊緣算力前景廣闊
伴隨AI等場景的發展,數據中心及智能終端數據處理需求持續增長,邊緣計算將有效解決算力需求高增帶來的數據處理問題。
算力發展的解決方案將是云端和邊緣端同時發展,其中邊緣端算力的發展更值得期待。目前高算力設備仍占比較低,例如只有不到1%的電腦或主機可以在最低畫質下玩《微軟飛行模擬器》。而對算力要求更高的元宇宙,如果希望能納入盡可能多的終端和用戶,需要降低對設備配置的要求,云端渲染和視頻流是一個必然的思路。
根據IDC預測,實時數據的占比將在未來五年不斷增加,到2024年將達到數據產生總量的四分之一左右。實時數據的激增促進了邊緣基礎設施的發展,也使得邊緣計算能力變得越來越重要,人工智能應用也將更加依賴于處在邊緣的算力支撐。
到2023年,全球超過50%的新建基礎設施將部署在邊緣,將近20%用于支撐AI工作負載的服務器將部署在邊緣側。
此外,邊緣算力還在供零售/金融/遠程連接領域使用的“開箱即用云”、移動連接、通用用戶駐地設備(uCPE)、衛星通信(SATCOM)等環節起到重要作用。
總的來說,邊緣計算可以按需部署于無線接入云、邊緣云或者匯聚云。對于低時延場景,邊緣計算需要部署于靠近基站側的無線接入云甚至終端自身處(如安防攝像頭、智能汽車);對于高帶寬要求的大流量熱點地區,邊緣計算可以部署于邊緣云;對于海量連接的場景,邊緣計算可部署于位置更高一些的匯聚云,以便覆蓋更大區域的業務需求。
