4月9日，英特爾推出了其最新的人工智能芯片Gaudi 3。這家芯片制造商急于生產可以訓練和部署大型AI模型的半導體，例如支持OpenAI的ChatGPT的模型。

新的 Gaudi 3 芯片的能效是英偉達前一代產品H100 GPU的兩倍多，并且可以比H100 GPU 快一倍半。同時Gaudi 3 還有不同的配置，例如在一塊主板上捆綁八個 Gaudi 3 芯片或可以插入現有系統的卡。

英特爾在Meta 的開源 Llama 和阿布扎比支持的 Falcon 等模型上測試了該芯片。Gaudi 3可以幫助訓練或部署模型，包括Stable Diffusion或OpenAI的Whisper語音識別模型。

英特爾表示，其芯片使用的功率低于英偉達的芯片。

據估計，英偉達擁有80%的AI芯片市場，其圖形處理器（GPU）在過去一年中一直是AI構建者的首選高端芯片。

新的Gaudi 3芯片將在第三季度向客戶提供，包括惠普、超微等在內的公司將使用這些芯片構建系統。但是英特爾沒有提供 Gaudi 3 的價格范圍。

運行生成式 AI 和購買 Nvidia GPU 可能很昂貴，不少公司正在尋找其他供應商來幫助降低成本。除了性能、功耗外，Gaudi 3具有競爭力的價格、獨特的開放式集成片上網絡，正在使用行業標準的以太網。通過超級以太網聯盟 （UEC），英特爾正在引領面向 AI 架構的開放式以太網網絡。該公司推出了一系列人工智能優化的以太網解決方案，包括AI NIC（網絡接口卡）和人工智能連接小芯片。

隨著云提供商和企業建立基礎設施來部署人工智能軟件，數據中心人工智能市場也有望增長，這表明即使英偉達繼續制造絕大多數人工智能芯片，其他競爭對手仍有發展空間。

為減少對英偉達依賴，谷歌推出ARM服務器芯片

與微軟、亞馬遜一樣，谷歌也推出了多款自研芯片，以減少對英偉達GPU芯片的依賴。

美東時間4月9日周二，谷歌在今年的年度云計算大會Cloud Next 2024上宣布推出一款基于Arm架構的數據中心芯片Google Axion，以及更新TPU v5p芯片。

谷歌表示表示，Google Axion處理器基于Arm Neoverse V2 CPU構建，以Titanium為基礎，性能比通用ARM芯片高30%，而且比英特爾生產的當前一代 x86芯片高50%。預計Axion用于多種谷歌服務，并在“今年晚些時候”向公眾開放。

谷歌云副總裁兼計算和機器學習基礎設施總經理 Mark Lohmeyer 表示：“我們正在讓客戶輕松地將現有工作負載轉移到 ARM。Axion 建立在開放基礎之上，在任何地方使用ARM的客戶都可以輕松采用 Axion，而無需重新架構或重新編寫應用程序。”

“谷歌推出的新型 Axion CPU 標志著交付定制芯片的一個重要里程碑，該芯片針對谷歌的基礎設施進行了優化，并構建在我們的高性能 Arm Neoverse V2 平臺上。數十年的生態系統投資，再加上 Google 的持續創新和開源軟件貢獻，確保為在各地運行 Arm 的客戶最重要的工作負載提供最佳體驗。”Arm 首席執行官 Rene Haas表示。

事實上，Axion 只是眾多定制發一份芯片中的最新產品。自2015年以來，谷歌已經發布了五代張量處理單元（TPU）；同時，2018年，谷歌發布了第一個視頻編碼單元 (VCU)，視頻轉碼效率提高了33 倍；另外，2021年，谷歌通過投資“片上系統”(SoC) 設計，加大了定制計算的投入，并發布了用于移動設備的三代Tensor芯片中的第一款。

如今，谷歌推出新的芯片意味著，該公司正在追趕亞馬遜和微軟這些云領域競爭對手的步伐。亞馬遜和微軟2021年就已經推出Arm架構的CPU，作為提供差異化計算服務的一種方式。而谷歌之前為YouTube、AI及其智能手機推出過定制芯片，但還沒有打造過CPU。

具體來說，Axion將適用于一系列任務，包括支持谷歌的搜索引擎和 AI 相關的工作。谷歌表示，該芯片可以通過幫助處理大量數據并為數十億用戶部署服務，在AI領域發揮重要的支持作用。同時，未來谷歌逐步轉移到基于Arm云服務器用例上使用，Datadog、Elastic、OpenX 和 Snap都計劃采用 Axion。

除了Axion之外，谷歌還宣布全面推出 TPU v5p，用于訓練和推理的最強大、可擴展且靈活的 AI 加速器，其計算能力是上一代的 4 倍（400%）。

谷歌CEO桑達爾·皮查伊表示，生成式 AI的進步需要強大的底層基礎設施。谷歌 AI 超級計算機結合了我們的 TPU、GPU、AI 軟件等，為訓練和服務模型提供性能和成本優勢。如今，領先 AI 公司和 Google Cloud 客戶（例如 Anthropic、AI21 Labs、Contextual AI、Essential AI 和 Mistral AI）正在使用其基礎設施。

數據顯示，雖然廣告依然是谷歌最大收入源，但云計算的增長更快，在谷歌的收入中占比不斷提高，已接近占公司總收入的11%。據Gartner估算，2022 年，谷歌占云基礎設施市場 7.5% 的份額，而亞馬遜和微軟合計控制著 62% 左右的份額。

谷歌表示，現在已經有超過 90% 的 AI 獨角獸企業在使用谷歌的計算資源、模型和開發環境。

如今，谷歌成為繼微軟和亞馬遜之后，第三家用ARM架構推出數據中心CPU的科技巨頭，這顯示了新的趨勢。而且，谷歌還利用TPU優勢，全面提供服務器和數據中心閉環服務，降低英偉達、英特爾、AMD芯片的依賴。

有評論稱，谷歌開發新芯片是在 AI 競賽白熱化之際減少對外部廠商的依賴。不過，谷歌的官員并沒有將芯片新品視為一種競爭之舉。谷歌負責自研芯片業務的副總Amin Vahdat說：“我覺得這是做大蛋糕的基礎。”


大規模AI計算已經進入系統競賽

在Intel Vision大會上，“生成式AI”這一主題可以說是貫穿全程，從數據中心的大規模AI訓練與推理，到AI PC改變端側生產力，英特爾正竭力展示自己作為先進芯片技術領導者的競爭力。

如今談到大模型訓練芯片，英偉達當仁不讓是首選供應商，但這棵搖錢樹早已被其他芯片大廠和創業新秀盯上，英特爾便是其中之一。英特爾正通過推出更具性價比的可擴展系統來打破這種一家獨大的局面，這將為市場帶來另一種選擇。

大規模AI計算已經進入系統競賽，無論是守擂者英偉達，還是英特爾、AMD、Cerebras、Groq等追擊者，都明顯加大對先進Chiplet封裝、先進存儲、先進互連技術的重視，通過從超越制程和reticle極限的芯片內部設計優化，到擴展至大型集群系統的技術升級，為整個數據中心的AI計算提供更高性能和能效的加速。

除了Gaudi 3，英特爾還在Intel Vision大會上分享了數據中心至強處理器和AI PC的進展，并現場連線遠在英特爾晶圓廠的同事，演示如何在AI PC上用先進AI技術輔助芯片檢測。

英特爾宣布面向數據中心、云和邊緣的下一代處理器進行品牌煥新，即英特爾至強6。配備能效核的至強6（此前代號為Sierra Forest）將于2024年第二季度推出，配備性能核的至強6（此前代號為Granite Rapids）將緊隨其后推出。

配備性能核的英特爾至強6包含了對MXFP4數據格式的軟件支持，與使用FP16的第四代至強處理器相比，可將下一個token的延遲時間縮短至原來的15%，能運行700億參數Llama-2模型。

英特爾預計將于今年出貨4000萬臺AI PC，以及超過230種的設計，覆蓋輕薄PC和游戲掌機設備。新一代英特爾酷睿Ultra客戶端處理器家族（代號Lunar Lake）將于今年推出，具備超過100 TOPS平臺算力，NPU算力超過46TOPS。

英偉達的“鐵王座”還能做多久？

AI浪潮已經勢不可擋，AI芯片作為其發展的底層基石也迎來了前所未有的機遇。據Gartner最新預測，到2024年AI芯片市場規模將較上一年增長25.6%，達671億美元。預計到2027年，AI芯片市場規模將是2023年規模的兩倍以上，達到1194億美元。

在這樣的背景下，“算力霸主”英偉達被捧上神壇，以高達80%的占有率幾乎壟斷了市場，賺得盆滿缽滿。英偉達數據中心業務的營收再創新高，帶動2024年財年Q4季度總營收狂漲265%。由于這份遠超預期的財報數據，英偉達一夜漲出2770億美金市值，相當于：一夜漲出阿里巴巴+百度+京東。

英偉達的“狂飆”也引來了眾多挑戰者。亞馬遜、谷歌、微軟、華為、百度等巨頭積極推動自研芯片，寒武紀、摩爾線程、燧原科技等新銳力量崛起。據外媒報道，英偉達在提交給美國證券交易委員會的文件中，其中包含AI芯片等多個類別里，首度將華為認定為“最大競爭對手”。

理想與狂熱交織下，人們不免好奇：英偉達的“鐵王座”還能坐多久？