成為AI服務(wù)器標(biāo)配，趨勢(shì)和需求已明確

HBM的作用類似于數(shù)據(jù)的[中轉(zhuǎn)站]，就是將使用的每一幀，每一幅圖像等圖像數(shù)據(jù)保存到幀緩存區(qū)中，等待GPU調(diào)用。 

HBM促使DRAM從傳統(tǒng)2D加速走向立體3D，充分利用空間，契合行業(yè)小型化、集成化的發(fā)展趨勢(shì)。 

AIGC技術(shù)應(yīng)用呈現(xiàn)爆發(fā)式增長(zhǎng)，大模型處理數(shù)據(jù)的吞吐量更是呈指數(shù)級(jí)增長(zhǎng)。 

ChatGPT已成為史上最快達(dá)到1億月活躍用戶的應(yīng)用，預(yù)計(jì)至2025年生成式AI所創(chuàng)造的數(shù)據(jù)可占到已生產(chǎn)數(shù)據(jù)的10%。 

近期英偉達(dá)發(fā)布最新一代GH200 Grace Hopper，搭載了全球第一款HBM3e，達(dá)到141GB，將不再配備今年春季版本的96GB HBM3。 

HBM價(jià)值量的顯著提升也可以體現(xiàn)出當(dāng)前對(duì)存力需求的迫切。 

未來(lái)3年的超算算力需求提升將超過10倍，萬(wàn)億級(jí)別的參數(shù)量使HBM（高帶寬內(nèi)存）成為AI服務(wù)器的標(biāo)配。 

此外，HBM的高帶寬相當(dāng)于把漏斗中間的通道打得更開，讓數(shù)據(jù)可以快速流通，面對(duì)AI大模型這種動(dòng)不動(dòng)千億、萬(wàn)億的參數(shù)，服務(wù)器中負(fù)責(zé)計(jì)算的GPU幾乎必須搭載HBM。

翻倍增長(zhǎng)勢(shì)態(tài)良好，HBM4是未來(lái)共同方向

從HBM的發(fā)展趨勢(shì)來(lái)看，其芯片密度更大，堆疊層數(shù)更多，進(jìn)而帶來(lái)容量、帶寬以及連接速率翻倍增長(zhǎng)的良好態(tài)勢(shì)。 

據(jù)集邦咨詢預(yù)測(cè)，2023年HBM需求將同比增長(zhǎng)58%，2024年可能進(jìn)一步增長(zhǎng)約30%，未來(lái)這個(gè)市場(chǎng)規(guī)模將達(dá)到數(shù)十億美元。 

2023年主流需求自HBM2e轉(zhuǎn)往HBM3，需求比重分別預(yù)估約是50%及39%。 

隨著使用HBM3的加速芯片陸續(xù)放量，2024年市場(chǎng)需求將大幅轉(zhuǎn)往HBM3，而2024年將直接超越HBM2e，比重預(yù)估達(dá)60%。 

全球市場(chǎng)研究機(jī)構(gòu)TrendForce集邦咨詢預(yù)測(cè)，2023年HBM需求量將年增58%，2024年有望再成長(zhǎng)約30%。 

雖然目前還沒有關(guān)于HBM4的正式規(guī)范，但臺(tái)積電在2023 OIP論壇阿姆斯特丹廠上給出了部分制定中的標(biāo)準(zhǔn)。 

臺(tái)積電稱，未來(lái)HBM4內(nèi)存的接口位寬將實(shí)現(xiàn)翻倍，達(dá)到2048 bit。 

按照計(jì)劃，這將使HBM4在多種技術(shù)層面上實(shí)現(xiàn)重大飛躍。

 

為數(shù)不多的看好，大廠積極推動(dòng)HBM技術(shù)迭代

·SK海力士：今年5月，SK海力士帶來(lái)第五代HBM 3e，預(yù)計(jì)今年年底前供應(yīng)樣品，2024年量產(chǎn)，下一代產(chǎn)品HBM4生產(chǎn)時(shí)間定在2026年。 

該廠商將把下一代后處理技術(shù)[混合鍵合]應(yīng)用于HBM4產(chǎn)品。 

與現(xiàn)有的[非導(dǎo)電膜]工藝相比，它提高了散熱效率并減少了布線長(zhǎng)度，從而實(shí)現(xiàn)了更高的輸入/輸出密度。 

三星：為了掌握快速成長(zhǎng)的HBM市場(chǎng)，將大幅革新新一代產(chǎn)品制程技術(shù)，預(yù)計(jì)2026年量產(chǎn)新一代HBM產(chǎn)品HBM4。

 

預(yù)計(jì)2024年接口速度可以提高到7.2Gbps的HBM3p，傳輸速率再提升10%，從而將總帶寬提升到5TB/s以上。 

已開發(fā)出9.8Gbps的HBM3E，計(jì)劃開始向客戶提供樣品。同時(shí)，三星正在開發(fā)HBM4，目標(biāo)2025年供貨。 

并已關(guān)注存內(nèi)計(jì)算HBM-PIM，在HBM內(nèi)存中直接集成計(jì)算單元，HBM3-PIM預(yù)計(jì)在2024年完成開發(fā)。 

目前正開發(fā)針對(duì)高溫?zé)崽匦詢?yōu)化的非導(dǎo)電粘合膜（NCF）組裝技與混合鍵合（HCB）等技術(shù)，以應(yīng)用于HBM4產(chǎn)品。 

美光最新的HBM3 Gen 2內(nèi)存正在向客戶提供樣品，具有1.2 TB/s的聚合帶寬和最高容量的8高堆棧24GB容量，采用1β工藝制造。 

美光在今年5月宣布，已經(jīng)開始研發(fā)第四代HBM，并且計(jì)劃在2024年下半年開始量產(chǎn)。 

其HBM4可以支持16個(gè)存儲(chǔ)堆棧，每個(gè)堆棧有4096位的接口，數(shù)據(jù)傳輸速率可達(dá)12Gbps，從而實(shí)現(xiàn)3TB/s的總帶寬。

結(jié)尾： 

盡管各大廠商都在努力擴(kuò)大HBM的產(chǎn)能，但根據(jù)預(yù)期的供需情況，供應(yīng)量的增長(zhǎng)速度相對(duì)需求的增長(zhǎng)略顯緩慢。 

據(jù)相關(guān)研究機(jī)構(gòu)的評(píng)估，2023年和2024年的HBM供需比分別為-13%和-15%。這表明，在未來(lái)近兩年的時(shí)間里，HBM市場(chǎng)可能仍將處于供不應(yīng)求的狀態(tài)。