ARM最強CPU路線圖再更新，邊緣AI才是未來主要收入市場

2022年9月，Arm正式宣布推出了全新的Neoverse V2平臺（代號“Demeter”）。Arm稱，該平臺可滿足大型互聯網和 HPC 客戶的需求，并在不增加功耗和面積的情況下，進一步推動云工作負載性能。

在不久前的Hot Chip 2023活動上，Arm披露了關于Neoverse V2的更多細節。目前英偉達（NVIDIA）應該是Neoverse V2平臺的第一個客戶。

Neoverse V2：IPC性能提升了13%，擁有4個128位SVE2矢量引擎

Arm 于 2020 年 9 月將其 Neoverse 核心和 CPU 設計分為三個系列，分別為V系列高性能核心（具有雙倍向量引擎）、N系列核心（專注于整數性能）、 E系列核心（入門級，重點關注能源效率和邊緣的芯片）。近幾年來，該路線圖已經擴展和更新了很多次，最新的路線圖（帶有 N2 平臺添加的 CSS 子系統變體）已在 Hot Chips 上展示：

Arm 院士兼首席 CPU 架構師 Magnus Bruce 在 Hot Chips 上介紹了 V2 平臺，談論了該架構以及與 V1 平臺相比的變化。下面這張圖表很好地總結了這一點：

“這個管道的基礎是一個預運行分支預測器，這個分支預測器充當指令預取器，它將提取與分支解耦。”Magnus Bruce 解釋道：“大型分支預測結構可以覆蓋非常大的實際服務器工作負載。我們使用在發布后讀取的物理寄存器文件，允許非常大的發射隊列，而無需存儲數據。這對于解鎖ILP（指令級并行性）是必要的。我們使用低延遲和專用L2緩存、具有最先進的預取算法的低延遲L1和專用L2高速緩存以及積極的存儲-加載轉發，以保持內核具有最小的氣泡和停滯。來自系統的動態反饋機制允許核心調節攻擊性并主動防止系統擁塞。這些基本概念使我們能夠提高機器的寬度和深度，同時保持快速預測失誤恢復所需的短管道。”

重要的是，V2是基于新的Armv9指令集的實現，旨在顛覆該架構，與十多年來定義Arm芯片的許多代Armv8架構相比，它帶來了性能、安全性和可擴展性的增強。

V2芯片的架構調整是微妙的，但顯然是有效的。但同樣明顯的是，其13%的性能改進與Arm早在2019年就設定的30%的每時鐘指令性能（IPC）改進目標相去甚遠。

借助 V2 內核，Arm 架構師又添加了兩個單周期算術邏輯單元 (ALU)，并增加了問題隊列的大小，并將謂詞運算符的帶寬加倍，這些調整加上其他一些調整，又增加了 3.3%核心性能在 2.8 GHz 主頻下歸一化。

與 V1 核心一樣，V2 核心有兩個加載/存儲管道和一個加載管道，但表后備緩沖區 (TLB) 上的條目增加了——從 40 個條目增加到 48 個條目——并且各種存儲和讀取隊列也增加了變得更大。

這一變化和其他變化使 V2 核心性能又增加了 3%。


除了英偉達之外，還有誰會采用Neoverse V2？

近年來，隨著云計算及人工智能技術的快速發展，頭部的大型服務器及云服務提供商都紛紛開始針對其工作負載大量定制或者設計各類處理器，但是設計一款好的處理器確實很困難，這也使得Arm面向云端的處理器IP大受歡迎。

據介紹，Neoverse V2 平臺（代號“Demeter”）配備最新的 V 系列核心和產業廣泛部署的 Arm CMN-700 mesh 互連技術。Neoverse V2 將為云和 HPC 工作負載提供市場領先的整型性能，并引入若干 Armv9 架構安全增強功能，是迄今為止 Arm 為服務器設計的最好的核心。

這也是為什么英偉達（NVIDIA）選擇了Arm Neoverse V2內核及其他組件打造的72核的名為“Grace”服務器CPU，它是英偉達系統架構中不可或缺的一部分，可支持傳統HPC仿真和建模工作負載的全CPU計算，并提供輔助內存和計算能力。憑借四個128位 SVE2 矢量引擎等，Demeter核心可以運行經典的 HPC 工作負載以及某些 AI 推理工作負載，甚至可能是在某些情況下重新訓練人工智能模型。如果設計中可能有 16 到 256 個內核，那么觸發器當然可以堆疊起來。

除了英偉達之外還有誰會在他們的服務器CPU設計中使用 Neoverse V2平臺？

AWS 很可能會在其未來的 Graviton4 服務器處理器中采用 Neoverse V2 ，并在其當前的 Graviton3 處理器中使用代號為“Zeus” 的Neoverse V1 內核。

目前尚不清楚谷歌在傳聞中正在開發的兩個定制 Arm 服務器芯片中使用了什么內核？傳聞其中一個是與 Marvell 合作，另一個是自己的團隊自研，很可能是使用了Neoverse V2內核。

Ampere Computing 已在其 192 核“Siryn”AmpereOne 芯片中從 Arm 的Neoverse N1 內核切換為自己的內核（我們稱之為 A1）。

印度高級計算發展中心 (C-DAC) 正在為 HPC 工作負載構建自己的“Aum”處理器，它基于Arm的Neoverse V1核心。

富士通、Arm 和日本 RIKEN 實驗室聯合為“Fugaku”超級計算機使用的48 核 A64FX 處理器打造的定制 Arm 內核中的 512 位向量可以被視為一種Neoverse V0 核心在于 SVE 設計最初是為 A64FX 創建的。

阿里巴巴正在其自主研發的 128 核倚天710處理器中使用 代號為“Perseus”的Neoverse N2 核心，如果它認為需要在標準服務器中支持更多向量和矩陣數學，則可以在后續倚天芯片中切換到Neoverse V2 核心鑒于人工智能算法的使用越來越多，這些算法對此類數學運算的要求很高。此外，華為海思在其 64 核鯤鵬920服務器芯片中也采用了Arm的 Neoverse“Ares”N1 內核，出于同樣的原因，它也對升級Neoverse V2核心有需求。


Arm發布第五代GPU架構

5月29日，Arm宣布推出了2023全面計算解決方案（TCS23）。該方案提供了一整套針對特定工作負載而設計與優化的最新IP，可作為一個完整系統無縫地協同工作，從而滿足日益增長的移動用戶體驗需求。

Arm高級副總裁兼終端事業部總經理 Chris Bergey介紹稱，TCS23包含了基于全新第五代GPU架構、可實現終極視覺體驗的全新Arm Immortalis GPU，助力 Arm面向下一代人工智能（AI）保持性能領先的全新Armv9 CPU 集群，以及可為數百萬Arm開發者提供更易訪問軟件的全新增強技術。

Arm今年推出的最新GPU產品采用了全新的第五代GPU架構，該架構是Arm迄今為止最高效的GPU架構，重新定義了部分圖形管道，以優化內存帶寬，從而讓總體系統效率與功耗優化高達14%，使下一代游戲和實時 3D 應用成為可能，同時帶來更順暢、并與 PC 端和游戲主機媲美的游戲體驗。

延遲頂點著色（Deferred Vertex Shading, DVS）是第五代 GPU 架構新引入的圖形功能，可重新定義數據流，有助于合作伙伴擴展核心數量，達到更高的性能水平。DVS 的優勢已經在包括《原神》和《堡壘之夜》等許多流行游戲中得到體現。

此次推出的首款基于第五代架構GPU——Immortalis-G720,則專為旗艦智能手機而設計。它與上一代產品相比，其性能和能效分別提高了15%，系統級效率更躍升了40%，從而帶來更高質量的圖形渲染，實現更身臨其境的視覺感受。

同時，Arm 也推出新的Arm Mali-G720 和 Mali-G620，旨在將高端移動圖形功能快速地推向更廣大的消費終端市場。


Arm的機會在邊緣？

總之，Arm在AI領域的未來業務收入，不太可能像英偉達一樣，來自訓練大數據模型所需的大量芯片。

與其相反，Arm更有可能成為邊緣AI領域的主要參與者，也就是在智能手機等設備上執行的AI過程，而不是在ChatGPT等云端執行AI。

為了實現這一點，智能設備需要采用低功耗但高性能的芯片，能夠執行AI應用所需的計算。Arm正在為用戶設計這些芯片架構。

Counterpoint Eesearch研究總監Peter Richardson說：“如果在智能手機或汽車上運行AI系統，需要優化AI模型以在本地運行，這些CPU幾乎肯定是基于Arm的架構。”

Arm在其IPO文件中表示，其設計的CPU可以運行AI工作負載，目前市場上的每款智能手機都能有效運行AI推理應用，例如語音識別、圖像識別等。

然而，Radio Free Mobile創始人Richard Windsor認為，Arm的收入不太可能在3-5年內從AI帶來的好處中受益。

他表示：“軟銀希望將Arm作為一家像英偉達一樣的AI公司對外推銷。我是在終端設備上運行AI的堅定支持者，從長遠來看，這對服務提供商來說具有非常大的經濟意義。但是目前，Arm還沒有獲得這些收入。”