AI芯片不是一味追求高性能，低能耗才是AI芯片的主流

5月16日，日本晶圓代工初創企業Rapidus宣布與美國RISC-V架構芯片設計企業Esperanto簽署了諒解備忘錄，雙方將就面向數據中心的人工智能（AI）半導體研發展開合作，共同開發低功耗AI芯片。

當前，盡管GPU缺貨問題逐漸緩解，但電力供應成為了AI浪潮發展過程中出現的又一瓶頸。

業內人士指出，CPU和GPU在促進人工智能市場的繁榮方面發揮了關鍵作用。然而，最新芯片不斷增加的功耗正在引發近期危機。例如，預計到2027年，生成式AI處理所消耗的能源將占美國數據中心總用電量的近80%。

數據中心是電力需求增長的重要驅動力。隨著以生成式AI為代表的人工智能時代到來，高性能計算芯片所需的功率不斷增加，推升數據中心的耗電量亦同步提升。

資料顯示，Esperanto是一家大規模并行、高性能、高能效計算解決方案設計企業，此前曾推出一款采用臺積電7nm制程打造的ET-SOC-1的RISC-V架構眾核AI/HPC加速芯片。而Rapidus一家成立于2022年8月的晶圓代工廠商，由豐田、Sony、NTT、NEC、軟銀、Denso、NAND Flash大廠鎧俠、三菱UFJ等8家日企共同出資設立。其位于北海道千歲市的第一座工廠“IIM-1”已于2023年9月動工，預計2025年4月開始運行試生產線，并引進EUV光刻機等設備。Rapidus的目標是在2027年量產2納米米以下最先進邏輯芯片。

而此次Rapidus與Esperanto合作的最初重點就是使未來的半導體設計人員能夠為數據中心和企業邊緣應用的人工智能推理和高性能計算工作負載開發更節能的解決方案。這將有助于緩解全球數據中心能源消耗的不可持續增長。


Meta推出超低功耗AI芯片"

Meta去年宣布推出了一款定制芯片，被稱為MTIA，旨在加快生成式AI模型的訓練。這是Meta首次推出的AI定制芯片，被列為加速AI訓練和推理工作負載的芯片“家族”之一。

MTIA，即Meta訓練和推理加速器，是一款ASIC芯片，采用開源芯片架構RISC-V。與主流芯片廠商的產品相比，MTIA芯片的功耗僅為25瓦，大幅降低了能耗。Meta稱，他們在2020年設計了第一代MTIA芯片，采用了7納米工藝。第一代芯片的目標是提高推薦模型的效率，這些模型用于廣告和其他新聞推送內容。在Meta設計的基準測試中，第一代MTIA芯片處理低等和中等復雜度的AI模型時，比GPU效率更高。

Meta的軟件工程師Joel Cohurn在介紹新芯片時表示，Meta最初使用圖形處理單元（GPU）執行推理任務，但發現GPU在這方面并不適合。雖然通過GPU可以對軟件進行優化，但在處理真實模型時效率較低，配置上也面臨困難和高成本的問題。因此，Meta推出了MTIA芯片。

Meta承認，在處理高復雜度的AI模型時，MTIA芯片還面臨一些問題，但指出在中低復雜度的模型處理方面，它比競爭對手的芯片更加高效。

Meta表示，目前MTIA芯片主要應用于Meta應用家族的推理，而非訓練任務。然而，Meta強調MTIA芯片大大提高了單位瓦特的推薦負載運行效率，使公司能夠運行更強大、更先進的AI工作負載。

雖然Meta在周四的公告中沒有透露配置新芯片的具體時間表，也沒有提到開發可能用于訓練模型的芯片的計劃，但同時Meta還宣布計劃重新設計其數據中心，針對以AI為核心的網絡和冷卻系統進行改進。據稱，今年將開始建設首個相關數據中心的設施，新設計的成本將降低31%，

建造速度也將是目前數據中心的兩倍。


英偉達新AI芯片高算力低能耗，明年成主流

英偉達（NVIDIA）在GTC大會推出Blackwell架構的AI芯片B100、B200及GB200等，不僅效能大幅提升，成本與能耗同步優化，市調機構TrendForce預期，B200等產品有望在2024年底陸續上市，并于2025年成為市場主流。

TrendForce 指出，Blackwell AI服務器架構平臺是今年GTC大會亮點產品，以第2代Transformer引擎與第5代NVLink技術，可支持高達10兆參數模型的AI訓練與即時大型語言（LLM）推理。

據英偉達表示，Blackwell架構繪圖處理器（GPU）配備2080億個電晶體，采用臺積電定制化4納米制程制造，透過每秒10TB的芯片到芯片互連連接成單個GPU，利用4位浮點AI推論能力支持加倍地運算。

英偉達指出，最新版本的NVLink提供每個GPU每秒8TB的雙向吞吐量，確保在復雜的大型語言模型中，實現576個GPU間無縫高速溝通。

英偉達表示，GB200 NVL72系統串聯72個BlackwellGPU和36個Grace中央處理器（CPU），相較于H100Tensor Core GPU，GB200 NVL72可提供30倍的大型語言模型推論工作負載效能，并大幅降低成本和能源消耗。


光芯片開啟低耗高速計算

來自美國賓夕法尼亞大學、諾基亞貝爾實驗的研究團隊提出了一種新型 AI 芯片——利用光波進行復雜數學運算，從而提升計算機處理速度并降低能耗。這一研究成果有望為解決當前芯片能耗問題帶來新的可能。

相關研究論文以“Inverse-designed low-index-contrast structures on silicon photonics platform for vector-matrix multiplication”為題，已發表在 Nature 子刊 Nature Photonics 上。

該論文的通訊作者、本杰明·富蘭克林獎章獲得者、賓夕法尼亞大學 H. Nedwill Ramsey 教授 Nader Engheta 表示，由于生產芯片的商業代工廠的限制，這種設計已經可以用于商業應用，并有可能被改裝用于圖形處理器（GPU）。“它們可以采用硅光子公司的平臺作為附加組件，這樣就可以加快訓練和分類的速度。”

此外，Engheta 教授也表示，除了速度更快、能耗更低之外，這種硅光子芯片還具有隱私方面的優勢：由于許多計算可以同時進行，因此無需在計算機的工作內存中存儲敏感信息，這使得未來采用這種技術的計算機幾乎無法被黑客攻擊。


低功耗已成新型芯片必備特點

近年來，為應對 AI 算法的快速發展和應用需求，學界、業界在 AI 芯片領域已經取得了一些重要進展，主要集中在提升計算性能、降低能耗、增強硬件智能等方面。

1. 基于 GPU 的加速器：GPU 加速器已成為 AI 計算的主流選擇之一。通過利用 GPU 的并行計算能力，可以大幅提升 AI 算法的運行速度。近年來，為滿足人工智能應用的需求，NVIDIA 等公司不斷推出性能更強大、功耗更低的 GPU 產品。

2. ASIC 芯片的發展：ASIC（專用集成電路）芯片是針對特定應用場景進行定制設計的芯片，具有性能高、功耗低的特點。近年來，一些公司推出了針對 AI 算法優化的 ASIC 芯片，如 Google 的 TPU（Tensor Processing Unit）和 NVIDIA 的 Tesla 系列。這些芯片在深度學習算法的訓練和推理等方面表現出色，在性能上取得了顯著的提升。

3. FPGA 芯片的應用：FPGA（現場可編程門陣列）芯片具有靈活性高、功耗低的特點，適合用于加速 AI 算法的運行。一些研究團隊正在探索如何利用 FPGA 芯片實現深度學習算法的加速。通過對算法進行硬件優化和并行化設計，可以在 FPGA 芯片上實現較高的性能和能效比。

4. 神經形態芯片的研究：神經形態芯片是一種模仿生物神經網絡結構和工作原理的新型芯片。它具有并行性強、能耗低的特點，適合用于實現智能感知和學習功能。一些研究機構和公司正在開展神經形態芯片的研究，試圖實現更加智能化的 AI 計算設備。

然而，新型芯片從誕生到成熟應用，還有很長的路要走。

未來，新型芯片仍需要進一步提升其計算性能和能耗效率，實現更高效的數據處理和智能計算。此外，加強新型芯片與現有計算平臺和設備的兼容性，實現系統級集成。而且，新型芯片也需要與各個領域融合，包括自動駕駛、醫療健康、智能制造等。