GPU Utils 發(fā)布了一份關(guān)于英偉達(dá)GPU——主要是H100的研究報(bào)告，試圖梳理有關(guān)GPU供應(yīng)和需求的相關(guān)問(wèn)題。在這篇主要針對(duì)美國(guó)市場(chǎng)的報(bào)告中，我們看到了目前阻礙大模型和人工智能發(fā)展的關(guān)鍵瓶頸GPU短缺是如何形成和發(fā)展的。

總的來(lái)說(shuō)，GPU瓶頸的出現(xiàn)原因是多方面的，環(huán)環(huán)相扣的復(fù)雜工藝制造流程，半導(dǎo)體周期，對(duì)稀缺資源的搶占與恐慌乃至未曾預(yù)料到的人工智能的突然爆發(fā)，都讓GPU算力變得無(wú)比緊張。

樂(lè)觀地看，2024年這一瓶頸或許會(huì)有所緩解。

數(shù)十萬(wàn)張缺口，一百五十億需求

每個(gè)想要在人工智能爆發(fā)中分一杯羹的人都需要GPU。準(zhǔn)確地說(shuō)，是英偉達(dá)的A100和H100，它們?cè)谟?xùn)練和推理大模型中扮演關(guān)鍵角色。如果要想要從頭訓(xùn)練大模型，至少需要上千張A100或H100，而推理和微調(diào)大模型也至少需要儲(chǔ)存100張。

具體到每家的數(shù)量上，報(bào)告匯總了一些數(shù)據(jù)：GPT4在1萬(wàn)到2.5萬(wàn)塊A100上訓(xùn)練，Meta有2.1萬(wàn)塊A100，特斯拉有7000塊，Stability AI有5000塊，谷歌云大概有2.5萬(wàn)塊H100，微軟Azure 有1萬(wàn)到4萬(wàn)塊，甲骨文可能也有同樣多的H100。值得一提的是，Azure的GPU基本都用來(lái)供應(yīng)OpenAI的訓(xùn)練了。

而根據(jù)馬斯克的說(shuō)法，GPT5的訓(xùn)練可能會(huì)用到3萬(wàn)到5萬(wàn)張H100，因此對(duì)未來(lái)的估計(jì)上，報(bào)告指出OpenAI可能需要5萬(wàn)張H100，Meta至少需要2.5萬(wàn)張（也有人說(shuō)實(shí)際上需要10萬(wàn)乃至更多），所有的云服務(wù)廠商，微軟、谷歌云和亞馬遜云以及甲骨文各需要3萬(wàn)張，私有云服務(wù)商，比如剛剛?cè)谫Y的CoreWeave等總需求是10萬(wàn)張，而像Claude的開(kāi)發(fā)者Anthropic這樣的初創(chuàng)公司也都至少需要1萬(wàn)張GPU。

另外，一些金融公司比如JP Morgan等也在部署A100或H100，因此總體上看，對(duì)H100的需求超過(guò)了43萬(wàn)張。

這還是不算中國(guó)市場(chǎng)的情況，由于制裁原因，字節(jié)跳動(dòng)、百度、騰訊和阿里巴巴只能大量購(gòu)買(mǎi)A100和H100的替代產(chǎn)品A800與H800，這一部分的需求沒(méi)有列入其中，根據(jù)《金融時(shí)報(bào)》的說(shuō)法，其總額高達(dá)50億美金。

如果將這些數(shù)字相加，這就是目前英偉達(dá)面對(duì)的，總計(jì)規(guī)模高達(dá)200億美元的GPU需求。


GPU 短缺阻礙ChatGPT進(jìn)步速度

據(jù)《財(cái)富》雜志報(bào)道，OpenAI 公司 CEO 山姆奧特曼在一場(chǎng)非公開(kāi)會(huì)議上透露，GPU 的嚴(yán)重短缺阻礙了 ChatGPT 的進(jìn)步。

報(bào)道稱(chēng)，奧特曼于 5 月會(huì)見(jiàn)了多位 App 開(kāi)發(fā)者和初創(chuàng)公司的管理者。倫敦 AI 初創(chuàng)公司 Humanloop 的 CEO 拉扎哈比卜在一則推文中稱(chēng)，奧特曼認(rèn)為 OpenAI 缺少足夠的 GPU，這導(dǎo)致許多優(yōu)化 ChatGPT 的工作被迫推遲。

哈比卜的會(huì)議記錄顯示，客戶(hù)對(duì) ChatGPT 最大的抱怨是 API 界面的速度和可靠性。奧特曼對(duì)此表示理解，并解釋稱(chēng)主要原因是 GPU 嚴(yán)重不足。

會(huì)議記錄公開(kāi)后不久，OpenAI 聯(lián)系了哈比卜，表示該活動(dòng)不便公開(kāi)發(fā)布。隨后哈比卜刪除了這則推文。據(jù)介紹，奧特曼抱怨了 GPU 短缺導(dǎo)致算力不足，OpenAI 無(wú)法擴(kuò)大 ChatGPT 的對(duì)話框列表。這影響了 ChatGPT 在回答用戶(hù)問(wèn)題時(shí)可以處理的信息量，限制了 ChatGPT 的“記憶力”，如過(guò)往提問(wèn)記錄等。此外，ChatGPT 由于算力不足也無(wú)法完成更繁瑣的任務(wù)，例如寫(xiě)出復(fù)雜的程序代碼等。

算力租賃正在興起

近期各AI廠商紛紛拿出大模型“秀肌肉”之時(shí)，多位觀察人士告訴財(cái)聯(lián)社記者，大數(shù)據(jù)、人工智能等領(lǐng)域的快速發(fā)展推動(dòng)算力需求（特別是大模型和行業(yè)應(yīng)用等方面）迅速增長(zhǎng)。據(jù)了解，GPU需求旺盛并已陷入供應(yīng)短缺。

“不像消費(fèi)顯卡，很多商家會(huì)有庫(kù)存，它本來(lái)存貨就很少，整個(gè)供應(yīng)鏈上的貨不超過(guò)三四千片，GPT熱度起來(lái)以后就被互聯(lián)網(wǎng)大廠全部鎖完了，今年3月后市場(chǎng)上基本沒(méi)有存貨了，部分大廠開(kāi)始直接從國(guó)外渠道找一些貨回來(lái)，現(xiàn)在50%以上的訂單基本都是互聯(lián)網(wǎng)大廠下的。”張亞洲在接受財(cái)聯(lián)社記者采訪時(shí)表示。

張亞洲告訴記者，包括微軟、英特爾等海外大廠一邊自研、一邊也在對(duì)外采購(gòu)，他們前期訂的一部分（GPU訂單），可能用于大規(guī)模訓(xùn)練，對(duì)于推理還是不夠的。基本上廠商低于一個(gè)億的訂單，也許渠道商都不愿搭理，發(fā)郵件都不回。”GPU的火爆程度由此可見(jiàn)一斑。

而從價(jià)格層面看，多款GPU價(jià)格從3、4月至今漲幅接近50%。張亞洲稱(chēng)，“4月份的時(shí)候（訂單）大概還能排到10月份，現(xiàn)在已經(jīng)到明年上半年了。”

鯨平臺(tái)專(zhuān)家、鑒片工場(chǎng)創(chuàng)始人張力卜告訴財(cái)聯(lián)社記者，“很多企業(yè)和個(gè)人都需要用到高性能的GPU來(lái)進(jìn)行深度學(xué)習(xí)的訓(xùn)練和應(yīng)用，但自己購(gòu)買(mǎi)服務(wù)器建設(shè)數(shù)據(jù)中心的成本又很高，所以選擇租賃云算力平臺(tái)是比較劃算和靈活的方式。”基于這一邏輯，租用計(jì)算資源的算力租賃模式當(dāng)前正在興起。


國(guó)內(nèi)GPU應(yīng)用三大市場(chǎng)

GPU應(yīng)用場(chǎng)景不斷擴(kuò)大拉動(dòng)GPU市場(chǎng)空間迅猛增長(zhǎng)，根據(jù)VerifiedMarket Research預(yù)測(cè)，2027年中國(guó)GPU市場(chǎng)規(guī)模將會(huì)增長(zhǎng)至345.57億美元。

GPU市場(chǎng)主要應(yīng)用場(chǎng)景可概括為：AI&數(shù)據(jù)中心、智能汽車(chē)、游戲。

I&數(shù)據(jù)中心：新一輪AI對(duì)算力需求遠(yuǎn)超以往：ChatGPT類(lèi)語(yǔ)言大模型底層是2017年出現(xiàn)的Transformer架構(gòu)，該架構(gòu)相比傳統(tǒng)的CNN/RNN為基礎(chǔ)的AI模型，參數(shù)量達(dá)到數(shù)千億，對(duì)算力消耗巨大，對(duì)算力硬件有大量需求。隨著對(duì)商業(yè)數(shù)據(jù)和大數(shù)據(jù)處理要求算力的不斷提高，GPU的通用計(jì)算能力正在越來(lái)越廣泛地被應(yīng)用與數(shù)據(jù)中心和國(guó)家超算中心的建設(shè)。

智能汽車(chē)：智能汽車(chē)方興未艾，自動(dòng)駕駛和智慧座艙是智能汽車(chē)發(fā)展的主要方向，均需大量使用GPU。

游戲：游戲業(yè)務(wù)是GPU應(yīng)用的傳統(tǒng)領(lǐng)域，對(duì)游戲畫(huà)面進(jìn)行3D渲染，英偉達(dá)的游戲業(yè)務(wù)穩(wěn)中有進(jìn)。

1、AI：數(shù)據(jù)中心和終端場(chǎng)景不斷落地對(duì)計(jì)算芯片提出更多更高需求

依據(jù)部署位置劃分，AI芯片可以細(xì)分為終端芯片和云端芯片，云端芯片市場(chǎng)空間越為終端芯片的2-3倍。

云端芯片：云端芯片應(yīng)用于云端服務(wù)器，可以進(jìn)一步細(xì)分為推理芯片和訓(xùn)練芯片。根據(jù)甲子光年數(shù)據(jù)，2018年中國(guó)云端芯片市場(chǎng)約46.1億元，該機(jī)構(gòu)預(yù)計(jì)2023年增長(zhǎng)至384.6億元。

終端芯片：應(yīng)用于嵌入式、移動(dòng)終端、智能制造、智能家居等領(lǐng)域的AI芯片，終端芯片需要低功耗和更高的能效比，但是對(duì)算力的需求也相對(duì)較低，主要應(yīng)用與AI推理。根據(jù)甲子光年數(shù)據(jù)，2018年中國(guó)終端芯片市場(chǎng)約15億元，該機(jī)構(gòu)預(yù)計(jì)2023年增長(zhǎng)至173億元。

AI芯片總市場(chǎng)232億元，其中云端芯片市場(chǎng)空間更大，預(yù)計(jì)終端芯片將隨著AI在多行業(yè)落地將進(jìn)一步放量。甲子光年預(yù)測(cè)，中國(guó)AI芯片市場(chǎng)規(guī)模將從2021年232億元增長(zhǎng)至2023年的500億元左右，對(duì)應(yīng)中國(guó)云端芯片市場(chǎng)的復(fù)合增長(zhǎng)率為52.8%；終端芯片市場(chǎng)規(guī)模相對(duì)較小，但由于人工智能在汽車(chē)、安防、智能家居等行業(yè)滲透，屆時(shí)市場(chǎng)規(guī)模增長(zhǎng)率達(dá)到62.2%。


2、汽車(chē)智能化浪潮下汽車(chē)GPU市場(chǎng)前景廣闊


自動(dòng)駕駛

汽車(chē)智能化浪潮下，自動(dòng)駕駛和智能座艙是最具有發(fā)展前景的兩個(gè)方向，GPU應(yīng)用于二者的域控制器，智能汽車(chē)主流的域控制器采用SoC與MCU結(jié)合的方案，SoC（片上系統(tǒng)）由GPU、CPU、AI引擎、DPU等組成。GPU在自動(dòng)駕駛中的作用表現(xiàn)在圖形處理和并行計(jì)算，ADAS平臺(tái)可以利用GPU的并行計(jì)算能力實(shí)時(shí)分析來(lái)自激光雷達(dá)、雷達(dá)和紅外攝像頭的傳感器數(shù)據(jù)。

蓋世汽車(chē)預(yù)計(jì)到2025年中國(guó)自動(dòng)駕駛域控制器出貨量達(dá)到432萬(wàn)臺(tái)，自動(dòng)駕駛域控制器與SoC之比在1:1到1:4之間，市場(chǎng)份額較高的SoC通常搭載一片GPU。


智能座艙

GPU虛擬化技術(shù)助力智能座艙一芯多屏化發(fā)展，智能座艙芯片主要為SoC（片上系統(tǒng)），SoC由GPU、CPU、AI引擎、DPU等組成。智能座艙向著一芯多屏的形態(tài)發(fā)展，這對(duì)芯片并行計(jì)算的要求不斷提高，GPU硬件虛擬化技術(shù)在智能座艙中有著無(wú)可替代的優(yōu)勢(shì)。在智能座艙屏幕、儀表盤(pán)、車(chē)載與各系統(tǒng)中均需要使用GPU。

蓋世汽車(chē)預(yù)計(jì)2025年中國(guó)智能座艙域控制器出貨量達(dá)到528萬(wàn)臺(tái)，智能座艙一臺(tái)域控制器內(nèi)置一個(gè)SoC，位于汽車(chē)的中央顯示屏內(nèi)，一個(gè)SoC通常搭載一片GPU。


3、游戲玩家人數(shù)持續(xù)增長(zhǎng)，游戲GPU市場(chǎng)規(guī)模穩(wěn)中有升

游戲市場(chǎng)是傳統(tǒng)意義上GPU最關(guān)鍵的市場(chǎng)，隨著千禧一代游戲需求的進(jìn)一步提升，全球游戲玩家數(shù)量穩(wěn)增，相應(yīng)地?cái)U(kuò)展了游戲GPU市場(chǎng)規(guī)模。NewzooExpert預(yù)計(jì)2020-2025年全球游戲玩家人數(shù)復(fù)合年增率為4.2%。

游戲GPU的主要分類(lèi)：根據(jù)現(xiàn)行市場(chǎng)上的主要產(chǎn)品可劃分為四類(lèi)：1）游戲機(jī)、2）PC端主機(jī)游戲、3）控制臺(tái)、4）VR&AR。根據(jù)JonPeddie Research統(tǒng)計(jì)，2021年Q4全球PCGPU出貨量（包括集成和獨(dú)立顯卡）高達(dá)11000萬(wàn)片。受到俄烏沖突、天然氣供應(yīng)等沖擊性全球事件影響，2022年Q1、Q2，全球PCGPU出貨量略有下降。

由于PC正常運(yùn)行必須要求硬件上同時(shí)具備CPU和GPU，因此每臺(tái)PC至少需要一張集成顯卡或獨(dú)立顯卡，此外，根據(jù)需求可再增購(gòu)獨(dú)立顯卡。根據(jù)JPR統(tǒng)計(jì)，全球GPU與PC配售比在2022Q1達(dá)到了129%。