英偉達近日發布2024財年第四財季及全年財報后，英偉達創始人、總裁兼首席執行官黃仁勛在回答分析師提問時表示，AI芯片供不應求的狀況將貫穿全年。

黃仁勛稱，總的來說我們的供應正在改善，供應鏈伙伴對英偉達的支持非常大，從晶圓，包裝，存儲，電源調節器，到收發器，網絡和電纜等。

大家理解的英偉達GPU就是一個芯片，但其實Hopper架構GPU中有35000個零件，是非常復雜的東西，所以人們稱它為人工智能超級計算機是有充分理由的。

我們預計供不應求的情況還將持續，并貫穿全年，但我們將盡最大努力緩解短缺問題。每當我們推出新產品的時候，是從零增長到非常大數字的過程，不可能在一夜之間做到這一點，增長是持續爬坡式的，不會一步到位，黃仁勛稱。

目前我們正在努力實現H200的擴產，但不可能在短期內跟上需求，我們也在實現Spectrum-X的擴產，這款接入全球以太網的全新產品需求非常不錯。


全新AI芯片橫空出世

響應速度比英偉達快十倍以上

就在全世界還沉浸在Sora帶來的視覺震撼時，AI圈又出了一個“王炸”產品，這一次是在芯片領域。

自從AI賽道大熱以來，人們的關注點主要在各種大模型的競爭，OpenAI、谷歌、Meta等巨頭和各種初創企業在軟件層面“爭奇斗艷”。而在硬件層面，似乎英偉達已經“一騎絕塵”，該公司生產的GPU芯片“一片難求”，全球AI廠商都爭相求購。

不過就在當地時間20日，初創芯片企業Groq開放了免費試用，其芯片響應速度震撼了業界。搭載Groq芯片的大模型回復用戶的速度極快，達到普通人打字速度的75倍，比英偉達芯片的響應速度快10倍以上。對于習慣了ChatGPT等AI產品“一個字一個字蹦出答案”的用戶來說，如今看到AI模型生成文章的速度比“眨眼睛還快”，其震撼程度可想而知。

Groq在20日宣布對AI云服務平臺進行免費開放體驗，該公司官方賬號還在社媒發文，鼓勵粉絲積極參與互動。這次Groq在服務器上運行了Meta公司開發的Llama二代大模型等產品，因為和ChatGPT等閉源產品不同，Llama等模型是開源產品，允許其他廠商使用。

很快，體驗了“無卡頓”狀態的用戶們對Groq發出了驚嘆和贊美，“刷屏”了整個AI圈。比如，一位市場營銷行業的用戶截屏說明了自己的體驗：Groq云服務平臺針對他提出的專業領域問題，僅用4秒鐘就生成了上千個英文單詞的回答，而且這一回答真實可信，并附有注釋和資料來源。

還有人用實驗證明，Groq云服務平臺搭配Llama2-70B模型，可以在7分鐘之內打出和莎士比亞名篇《哈姆雷特》同樣多單詞量的文章，這一速度至少是普通人打字速度的75倍。有業界人士評論稱，Groq芯片在響應速度上完全秒殺英偉達，給那些“喜歡低延遲體驗”的用戶帶來了極大的驚喜。

在此之前，用戶們已經普遍習慣了由英偉達芯片驅動下的AI大模型十分緩慢的答復速度，“就像看著對面打字的人一個字一個字地往外蹦出答案”。而在Groq云服務平臺，用戶可謂“目不暇接”，AI生成答案的速度遠遠超過肉眼閱讀的速度。

專業測評顯示，Groq芯片搭配Llama二代模型可以達到每秒近500個token，如果搭配其他小廠商的模型甚至能達到每秒700token的文字處理速度。而根據公開數據測算，英偉達旗下芯片驅動的GPT大模型的文字生成速度大約為每秒40個token。

眾多科技巨頭布局AI芯片

最近，全球最高市值的科技巨頭微軟宣布計劃設計一款新的網卡芯片，意圖替代英偉達在市場上的主流產品。外媒The information報道，微軟的網卡芯片與英偉達的ConnectX-7卡類似，將其與GPU和 AI 芯片“捆綁”銷售。

然而，微軟并不是唯一一家自研AI芯片的科技巨頭。亞馬遜旗下的云計算部門AWS和社交媒體巨頭Meta也在積極研發自家的AI芯片。

AWS推出的基于ARM架構的高性能計算服務器CPU芯片Graviton 3E和第五代Nitro網絡芯片硬件，無疑是在增強其在云計算領域的競爭力。而Meta計劃部署的第二代自研AI芯片Artemis，則顯示了其在AI領域的野心。

此外，英偉達的另外一個重量級競爭對手華為，不僅積極部署AI芯片領域，而且還搶占了部分英偉達市場。英偉達CEO黃仁勛都表示，華為是英偉達AI芯片最大的競爭對手之一。

這些科技巨頭紛紛入局AI芯片市場，無疑給英偉達帶來了巨大的壓力，這也引發了業界的廣泛關注。

那么，面對如此多的競爭對手，英偉達的AI市場地位真的危險了嗎？

當然，答案并非如此簡單。英偉達在AI芯片領域的技術積累和市場份額仍然具有較大優勢。其推出的DPU芯片和BlueField-3 SuperNIC等產品，在性能和功能上都有著不俗的表現。

而且，英偉達也在不斷推出新的技術和產品，以滿足市場需求并保持技術領先地位。此外，英偉達還擁有一批忠實的客戶和合作伙伴，這些客戶和合作伙伴對英偉達產品的信任和支持，也是英偉達在市場競爭中的重要優勢。

然而，面對競爭對手的挑戰和市場的變化，英偉達也需要不斷調整自己的戰略和產品線，以適應市場的需求和變化。


國內8家AI芯片廠商進展

近年在AI大勢與國產替代東風下，國內AI芯片廠商抓住機遇加速發展，不僅百度、阿里巴巴、騰訊和華為等大廠加速自研AI芯片，而且AI芯片公司不斷涌現，并深受資本市場青睞。

以下將盤點國內8家AI芯片廠商進展：


百度昆侖芯

百度對AI芯片的布局最早可以追溯到2011年，經過七年發展，2018年百度自研AI芯片——昆侖1正式亮相，采用14nm工藝與自研XPU架構，于2020年量產，主要應用于百度搜索引擎、小度等業務。2021年3月，百度昆侖芯片完成獨立融資，同年8月，百度宣布第2代自研AI芯片——昆侖2正式量產，采用7nm制程，搭載自研的第二代XPU架構，相比1代性能提升2-3倍，通用性、易用性方面顯著增強。

百度昆侖芯前兩代的產品已有數萬片部署，第三代產品有望在2024年4月舉辦的百度Create AI開發者大會上亮相。


阿里平頭哥

阿里平頭哥于2018年9月成立，是阿里巴巴全資半導體芯片業務主體，擁有端云一體全棧產品系列，涵蓋數據中心芯片、IoT芯片、處理器IP授權等，實現芯片端到端設計鏈路全覆蓋。

AI芯片布局上，阿里平頭哥2019年9月推出了其首款高性能人工智能推理芯片——含光800，基于12nm工藝與自研架構，集成了170億晶體管，性能峰值算力達820 TOPS。在業界標準的ResNet-50測試中，推理性能達到78563 IPS，能效比達500 IPS/W。

2023年8月，阿里平頭哥發布了首個自研RISC-V AI平臺，支持運行170余個主流AI模型，推動RISC-V進入高性能AI應用時代。同時，平頭哥宣布玄鐵處理器C920全新升級，C920執行GEMM（矩陣的矩陣乘法)計算較Vector方案可提速15倍。

2023年11月，阿里平頭哥玄鐵RISC-V上新了三款基于軟硬協同新范式的處理器（C920、C907、R910），大幅提升了加速計算能力、安全性及實時性，有望加速推動RISC-V在自動駕駛、人工智能、企業級SSD、網絡通信等場景和領域的大規模商用落地。

騰訊

2021年11月，騰訊宣布在三款芯片上已有實質性進展，分別為針對AI計算的紫霄、用于視頻處理的滄海以及面向高性能網絡的玄靈，其中紫霄已經流片成功并點亮。

據悉，紫霄采用自研存算架構和自研加速模塊，可以提供高達3倍的計算加速性能和超過45%的整體成本節省。紫霄芯片為騰訊內部使用，不對外銷售，騰訊通過其云服務出租算力獲利。

近期，媒體報道知情人士稱騰訊正考慮將紫霄V1作為英偉達A10芯片的替代品，用于AI圖像和語音識別應用。此外，騰訊還將推出針對AI訓練優化的紫霄V2 Pro芯片，以在未來取代英偉達L40S芯片。


華為

華為在2018全聯接大會上提出了華為AI戰略和全棧全場景AI解決方案，并發布了2顆全新的AI芯片：昇騰910（Ascend 910）和昇騰310（Ascend 310）。

兩款AI芯片均基于華為自研達芬奇架構，其中Ascend 910（用于訓練）采用7nm工藝，半精度達256TFOPs，功耗為350W，運算密度超越了英偉達Tesla V100和谷歌TPU v3。昇騰310屬于Ascend-mini系列第一顆華為商用AI SoC芯片，面向邊緣計算等低功耗領域。

基于昇騰910、昇騰310 AI芯片，華為還推出了Atlas AI計算解決方案。華為昇騰社區顯示，目前 Atlas 300T 產品有三個型號，分別對應昇騰 910A、910B、910 Pro B，最大 300W 功耗，前兩者 AI 算力均為 256 TFLOPS，而 910 Pro B 可達 280 TFLOPS（FP16）。據悉，華為昇騰芯片910B在2023年已經獲得了大客戶至少5000套的訂單，預計會在2024年交付。業界認為，華為昇騰910B能力已經基本做到可對標英偉達A100。

由于國內對于華為昇騰910B等國產AI芯片的需求激增，路透社近期報道華為計劃優先生產昇騰910B，而這可能將會影響到Mate 60系列所搭載的麒麟9000s芯片的產能。


寒武紀

寒武紀成立于2016年，專注于人工智能芯片產品的研發與技術創新，提供云邊端一體、軟硬件協同、訓練推理融合、具備統一生態的系列化智能芯片產品和平臺化基礎系統軟件，產品廣泛應用于服務器廠商和產業公司。

成立以后，寒武紀推出多款芯片產品，覆蓋終端、云端與邊緣領域。其中終端芯片包括寒武紀1A、寒武紀1H、寒武紀1M 系列智能處理器；云端智能加速卡包括思元100、思元270、思元 290芯片和思元370；邊緣智能加速卡包括思元220芯片。

其中，思元290智能芯片是寒武紀的首顆訓練芯片，采用臺積電7nm先進制程工藝，集成460億個晶體管，支持MLUv02擴展架構，全面支持AI訓練、推理或混合型人工智能計算加速任務。思元370則為該公司的主力產品，采用是7nm制程工藝，同時支持推理和訓練任務。此外，思元370也是寒武紀首款采用chiplet(芯粒)技術的AI芯片，集成了390億個晶體管，最大算力高達256TOPS(INT8)。


璧仞科技

壁仞科技創立于2019年，發展路徑上，壁仞科技將首先聚焦云端通用智能計算，逐步在人工智能訓練和推理、圖形渲染等多個領域趕超現有解決方案，實現國產高端通用智能計算芯片的突破。壁仞科技已完成B輪融資，總融資額超50億元人民幣，是國內成長勢頭最為迅猛的“獨角獸”企業之一。

2021年，壁仞科技首款通用GPU芯片BR100系列正式交付開始流片，2022年3月BR100成功點亮，同年8月BR100正式發布。

據悉，BR100系列基于壁仞科技自主原創的芯片架構開發，采用成熟的7納米工藝制程，集成770億晶體管，16位浮點算力達到1000T以上、8位定點算力達到2000T以上，單芯片峰值算力達到PFLOPS級別。同時，BR100結合了包括Chiplet（芯粒技術）等在內的多項業內前沿芯片設計、制造與封裝技術，具有高算力、高能效、高通用性等優勢。


地平線

地平線是國內高效能智能駕駛計算方案提供商，于2015年7月成立，經過幾年發展，陸續推出多款AI芯片，產品主要包含旭日與征程系列，其中旭日系列面向AIOT市場，征程系列面向智能駕駛領域。

目前旭日系列已經發展至第三代，旭日3M和旭日3E，分別對應高端和低端市場。性能方面，只需在 2.5W 的功耗下，旭日3能夠達到等效 5TOPS 的標準算力，較前一代大幅升級。

征程系列目前已經迭代至第五代，征程5芯片于2021年發布，2022年9月全球首發量產，單顆芯片AI算力最高可達128 TOPS，支持16路攝像頭，可滿足車廠高級別自動駕駛的量產需求。

2023年11月，地平線宣布征程6系列將于2024年4月正式發布，并于2024年第四季度完成首批量產車型交付。據悉，已有多家車企與地平線達成意向合作，包括比亞迪、廣汽集團、大眾汽車集團旗下軟件公司CARIAD、博世等汽車領域頭部企業。


燧原科技

燧原科技于2018年3月成立，專注人工智能領域云端和邊緣算力，成立5年多已建成云端訓練和云端推理兩條產品線，并開發出云燧?T10、云燧?T20/T21訓練產品以及云燧?i10、云燧?i20等推理產品。

燧原科技已于2023年9月宣布完成D輪融資20億元人民幣，由上海國際集團旗下子公司及產業基金，包括國際資管、國鑫創投、國方創新、金浦投資旗下上海金融科技基金、國和投資聯合領投，騰訊、美圖公司、武岳峰科創、允泰資本、弘卓資本、紅點中國、廣發乾和、達泰資本、浦東投控等多家新老股東跟投。

另據媒體報道，燧原科技第三代AI芯片產品將于2024年初上市。