在晶圓代工領(lǐng)域，三星與臺(tái)積電是純粹的競爭關(guān)系，但在存儲(chǔ)芯片市場，作為行業(yè)霸主，三星卻不得不尋求與臺(tái)積電深入合作，這都是英偉達(dá)惹的禍。

據(jù) DigiTimes 報(bào)道，三星 HBM3E 內(nèi)存尚未通過英偉達(dá)的測試，仍需要進(jìn)一步驗(yàn)證，這是因?yàn)榭ㄔ诹伺_(tái)積電的審批環(huán)節(jié)。作為英偉達(dá) AI GPU 芯片的制造和封裝廠，臺(tái)積電是英偉達(dá)驗(yàn)證環(huán)節(jié)的重要參與者。據(jù)悉，臺(tái)積電采用的是基于 SK 海力士 HBM3E 產(chǎn)品設(shè)定的檢測標(biāo)準(zhǔn)，而三星的 HBM3E 產(chǎn)品在制造工藝上有些差異，例如，SK 海力士芯片封裝環(huán)節(jié)采用了 MR-MUF 材料技術(shù)，三星則是基于 TC-NCF 技術(shù)，這會(huì)對一些參數(shù)產(chǎn)生影響。

三星在 4 月表示，其 8 層垂直堆疊的 HBM3E 已經(jīng)在 4 月量產(chǎn)，并計(jì)劃在今年第二季度量產(chǎn) 12 層堆疊的 HBM3E，比原計(jì)劃提前了一個(gè)季度。按照三星的說法，為了更好地應(yīng)對生成式 AI 日益增長的需求，該公司加快了新款 HBM 產(chǎn)品的項(xiàng)目進(jìn)度。

自從 HBM 問世并量產(chǎn)以來，SK 海力士一直是英偉達(dá)為其 AI GPU 配備該類內(nèi)存的獨(dú)家供應(yīng)商，發(fā)展到 HBM3E 版本，依然如此，只是從 2024 年第二季度開始，另外兩家內(nèi)存大廠才開始加入英偉達(dá) HBM 供應(yīng)鏈。因此，SK 海力士是行業(yè)霸主，市場份額超過 80%。

2022 年，SK 海力士專為英偉達(dá)的 H100 設(shè)計(jì)了 HBM3，其性能令人驚訝，且 HBM 在經(jīng)濟(jì)上是可行的，并一舉確立了行業(yè)地位。在這種情況下，三星和美光準(zhǔn)備花費(fèi)數(shù)十億美元來擴(kuò)大芯片生產(chǎn)能力。最近，三星推出了其 12 層堆疊的 HBM3E，旨在將其與 SK 海力士和美光的 8 層堆疊產(chǎn)品區(qū)分開來。

在不久前舉行的年度股東大會(huì)上，SK 海力士非常享受它的勝利成果，這家韓國內(nèi)存制造商表示，HBM 必須為客戶「定制和專業(yè)化」，這是在強(qiáng)調(diào)其與英偉達(dá)的深厚關(guān)系。

同期，三星也宣布了其 HBM 產(chǎn)量的增長計(jì)劃，一位高管表示，該公司計(jì)劃今年將芯片產(chǎn)量增加兩倍。英偉達(dá)首席執(zhí)行官黃仁勛（Jensen Huang）在 Blackwell 產(chǎn)品發(fā)布會(huì)上表示，正在對三星的 HBM3E 進(jìn)行資格認(rèn)證，黃仁勛這是在側(cè)面敲打 SK 海力士，以避免供應(yīng)商一家獨(dú)大，出現(xiàn)客大欺店的情況。

相對于三星和 SK 海力士，美光（Micron）晚一年才推出 HBM 產(chǎn)品，但憑借其在 HBM3E 版本產(chǎn)品上的「彎道超車」表現(xiàn)，特別是其 3D 堆疊技術(shù)，使 HBM3E 在有限的空間中，滿足高帶寬與大容量的需求，有望在 HBM 競賽中扳回一城。美光的 HBM3E 瞄向了英偉達(dá)新推出的 DGX GH200。

01 、三巨頭排隊(duì)驗(yàn)證 HBM3E

作為 AI 服務(wù)器芯片行業(yè)霸主，英偉達(dá)具有很強(qiáng)的話語權(quán)，這使得內(nèi)存行業(yè)廠商不得不順應(yīng)該公司的標(biāo)準(zhǔn)和驗(yàn)證要求。而為了實(shí)現(xiàn)供應(yīng)鏈多元化，英偉達(dá)將更多 HBM 內(nèi)存廠商納入了其供應(yīng)鏈，作為新進(jìn)入者，三星的 HBM3E 正在等待驗(yàn)證通過，而美光和 SK 海力士已經(jīng)在 2023 下半年向英偉達(dá)提供了 8 層垂直堆疊的 HBM3E（24GB）樣品，并在 2024 年初通過了英偉達(dá)的驗(yàn)證，并獲得了訂單。

現(xiàn)在，只有三星一家在焦急地等待，因?yàn)檫@三大原廠的 HBM3E 驗(yàn)證結(jié)果，將決定英偉達(dá) 2024 全年 HBM 供應(yīng)商的采購權(quán)重分配。

2023 年，英偉達(dá)的高端 AI 芯片（采用 HBM 內(nèi)存）是 A100/A800 和 H100/H800，2024 年，其產(chǎn)品組合更多了，除了上述型號(hào)，還將再推出使用 6 個(gè) HBM3E 的 H200 和 8 個(gè) HBM3E 的 B100，并整合該公司自研的 Arm 架構(gòu) CPU，推出 GH200 和 GB200。

除了英偉達(dá)，另外兩大處理器廠商也在加緊拓展 AI 服務(wù)器市場，這將進(jìn)一步推動(dòng) HBM 內(nèi)存市場的繁榮。

2024 年，AMD 出貨的主力產(chǎn)品是 MI300 系列，采用 HBM3 內(nèi)存，下一代 MI350 將采用 HBM3E，預(yù)計(jì) 2024 下半年開始進(jìn)行 HBM 驗(yàn)證，大批量上市將在 2025 年第一季度。英特爾方面，2022 下半年推出的 Gaudi 2 采用了 6 個(gè) HBM2E，2024 年，預(yù)計(jì)其新型號(hào) Gaudi 3 仍將采用 HBM2E，但用量升至 8 個(gè)。

未來，除了英偉達(dá)，AMD 和英特爾會(huì)使用越來越多的 HBM 產(chǎn)品，這會(huì)給三大內(nèi)存原廠提供更多商機(jī)。

02 、驗(yàn)證的卡點(diǎn)

據(jù)分析師和行業(yè)觀察人士稱，在 HBM 產(chǎn)品驗(yàn)證方面，三星落后的原因之一是其堅(jiān)持使用被稱為熱壓非導(dǎo)電膜（TC-NCF）的技術(shù)，這導(dǎo)致了一些生產(chǎn)問題，而 SK 海力士則一直采用大規(guī)模回流模制底部填充（MR-MUF）技術(shù)，可以克服 NCF 的弱點(diǎn)。

TC-NCF 技術(shù)已被芯片制造商廣泛使用，用于將多層芯片堆疊在緊湊的高帶寬存儲(chǔ)芯片組中，因?yàn)槭褂脽釅嚎s薄膜有助于最大限度地減少堆疊芯片之間的空間。但是，隨著層數(shù)不斷增加，制造變得越來越復(fù)雜，因此，經(jīng)常存在與粘合劑材料相關(guān)的問題，芯片制造商一直在尋找替代方案來解決這些問題。MR-MUF 是一種環(huán)氧樹脂模塑化合物，被認(rèn)為在避免晶圓翹曲方面更有優(yōu)勢。

SK 海力士率先成功轉(zhuǎn)向 MR-MUF 技術(shù)，并成為第一家向英偉達(dá)供應(yīng) HBM3 內(nèi)存的供應(yīng)商。

在 SK 海力士成功將 MR-MUF 應(yīng)用于 HBM2E 生產(chǎn)后，受到了芯片行業(yè)的關(guān)注。SK 海力士使用的這種化合物是與 Namics 合作生產(chǎn)的。

MR-MUF 用于 HBM 封裝，它對 HBM 芯片的外部結(jié)構(gòu)有顯著影響。SK 海力士在創(chuàng)建 12 層 HBM3 時(shí)，將一個(gè)產(chǎn)品中堆疊的 DRAM 數(shù)量從 8 個(gè)（16GB）增加到 12 個(gè)，從而將容量提高了 50%。

通過這種方式，SK 海力士實(shí)現(xiàn)了 24GB 的容量。為了在保持芯片厚度的同時(shí)增加容量（堆疊層數(shù)），必須將 DRAM 芯片逐個(gè)向上堆疊，這會(huì)導(dǎo)致較薄的芯片產(chǎn)生彎曲，MR-MUF 封裝對于防止這種情況并保持芯片的厚度是有益的。

不久前，有消息人士說，三星發(fā)布了旨在處理 MR-MUF 技術(shù)的芯片制造設(shè)備的采購訂單。消息人士稱，三星與包括日本長瀨在內(nèi)的材料制造商進(jìn)行談判，以采購 MUF 材料，使用 MUF 的高端芯片的大規(guī)模生產(chǎn)最早可能要到 2025 年才能準(zhǔn)備就緒，因?yàn)槿切枰M(jìn)行更多的測試。

據(jù)悉，三星對其 HBM 內(nèi)存進(jìn)行了大規(guī)模的 MR-MUF 工藝測試，結(jié)果顯示與現(xiàn)有的 TC-NCF 相比，吞吐量有所提高，但物理特性有所下降。

三星芯片制造部門的一位高級(jí)主管在 2023 年下令對 MUF 技術(shù)進(jìn)行測試，得出的結(jié)論是 MUF 不適用于 HBM 產(chǎn)品，最為合適的對象是 3D 堆疊 RDIMM。一般情況下，3D 堆疊 RDIMM 采用硅通孔（TSV）技術(shù)制造，主要用于服務(wù)器。硅通孔技術(shù)是在 Wafer 或者 Die 上穿出數(shù)千個(gè)小孔，實(shí)現(xiàn)硅片堆疊的垂直互連通道，而 MUF 則是上下連接，縮小相互之間間隙的材料，有助于緊密凝固和結(jié)合各種垂直堆疊的半導(dǎo)體材料。

據(jù)悉，三星計(jì)劃與 SDI 合作開發(fā)自己的 MUF 化合物材料，而且已經(jīng)從日本訂購了 MUF 所需要的相關(guān)設(shè)備，看起來要推進(jìn)到下一階段，以實(shí)現(xiàn)更先進(jìn)的封裝工藝，并提高生產(chǎn)效率。

消息人士表示，三星計(jì)劃在其最新的 HBM 芯片上同時(shí)使用 NCF 和 MUF 材料。

但三星并未承認(rèn)，該公司表示，其內(nèi)部開發(fā)的 NCF 技術(shù)是 HBM 產(chǎn)品的「最佳解決方案」，將用于其新的 HBM3E 芯片。「我們正在按計(jì)劃開展 HBM3E 產(chǎn)品業(yè)務(wù)」，三星表示。

如果三星使用 MUF 為真的話，則突顯了該公司在 AI 芯片競賽中面臨的越來越大的壓力。

據(jù)悉，另一家內(nèi)存大廠美光也打算使用 MUF 材料。

03 、發(fā)展 HBM4，依然要過臺(tái)積電這一關(guān)

HBM3E 的下一個(gè)版本，就是 HBM4，三星正在加快研發(fā)腳步，爭取縮小與 SK 海力士的差距。

不久前，三星公布了 HBM 路線圖，預(yù)計(jì) 2026 年的 HBM 出貨量是 2023 年的 13.8 倍，該公司表示，到 2028 年，HBM 內(nèi)存的年產(chǎn)量將進(jìn)一步上升至 2023 年的 23.1 倍。

在代號(hào)為「Snowbolt」的第六代 HBM 芯片 HBM4 方面，三星計(jì)劃將緩沖芯片應(yīng)用于堆疊內(nèi)存的底層以提高效率。除此之外，還沒有更多關(guān)于三星 HBM4 的技術(shù)細(xì)節(jié)流出。

SK 海力士方面，在擴(kuò)充 HBM3E 生產(chǎn)能力的同時(shí)，該公司還與臺(tái)積電簽署了諒解備忘錄（MOU），雙方就下一代 HBM 產(chǎn)品生產(chǎn)和加強(qiáng)整合 HBM 與邏輯層的先進(jìn)封裝技術(shù)密切合作，以開發(fā)出新一代的 HBM4 產(chǎn)品。

雖然距離 HBM4 投產(chǎn)還有兩年的時(shí)間，SK 海力士已經(jīng)在加速推進(jìn)第七代 HBM 產(chǎn)品（HBM4E）的開發(fā)工作了，據(jù) etnews 報(bào)道，該公司的 HBM 先進(jìn)技術(shù)團(tuán)隊(duì)負(fù)責(zé)人 Kim Kwi-wook 在近日舉行的「IMW 2024」活動(dòng)上分享了下一代 HBM 的發(fā)展方向，表示當(dāng)前 HBM 技術(shù)已達(dá)到新的水平，同時(shí)，代際更迭周期也在縮短，從 HBM3E 開始，由以往的兩年變成了一年。

面對競爭，SK 海力士的 HBM 項(xiàng)目正在提速，預(yù)計(jì)首批 12 層堆疊的 HBM4 最快會(huì)在 2025 下半年到來，到 2026 年還會(huì)有 16 層堆疊的產(chǎn)品，會(huì)向更加定制化的方向發(fā)展，而 HBM4E 最早會(huì)在 2026 年投產(chǎn)。這是 SK 海力士首次提及 HBM4E，確認(rèn)了新標(biāo)準(zhǔn)的存在，據(jù)悉，其帶寬將是上一代產(chǎn)品的 1.4 倍。

5 月中旬，在 2024 年歐洲技術(shù)研討會(huì)上，臺(tái)積電表示，將使用其 12FFC+（12nm 級(jí)）和 N5（5nm 級(jí)）制程工藝制造 HBM4 芯片。

臺(tái)積電設(shè)計(jì)與技術(shù)平臺(tái)高級(jí)總監(jiān)表示：「我們正在與主要的 HBM 內(nèi)存合作伙伴（美光、三星、SK 海力士）合作，開發(fā) HBM4 全棧集成的先進(jìn)制程，N5 制程可以使 HBM4 以更低的功耗提供更多的邏輯功能?！?/span>

N5 制程允許將更多的邏輯功能封裝到 HBM4 中，并實(shí)現(xiàn)非常精細(xì)的互連間距，這對于邏輯芯片上的直接鍵合至關(guān)重要，可以提高 AI 和 HPC 處理器的內(nèi)存性能。

相對于 N5，臺(tái)積電的 12FFC+工藝（源自該公司的 16nm FinFET 技術(shù)）更加經(jīng)濟(jì)，制造的基礎(chǔ)芯片能構(gòu)建 12 層和 16 層的 HBM4 內(nèi)存堆棧，分別提供 48GB 和 64GB 的容量。

臺(tái)積電還在優(yōu)化封裝技術(shù)，特別是 CoWoS-L 和 CoWoS-R，以支持 HBM4 集成。這些先進(jìn)的封裝技術(shù)有助于組裝多達(dá) 12 層的 HBM4 內(nèi)存堆棧。新的轉(zhuǎn)接板能確保 2000 多個(gè)互連的高效路由，同時(shí)保持信號(hào)完整性。據(jù)臺(tái)積電介紹，到目前為止，實(shí)驗(yàn)性 HBM4 內(nèi)存在 14mA 時(shí)的數(shù)據(jù)傳輸速率已達(dá)到 6 GT/s。

臺(tái)積電還在與 Cadence、Synopsys 和 Ansys 等 EDA 公司合作，對 HBM4 通道信號(hào)完整性、IR/EM 和熱精度進(jìn)行認(rèn)證。

04 、三星尋求與臺(tái)積電合作

由于英偉達(dá)在 AI 服務(wù)器芯片市場處于霸主地位，而該公司的高性能 GPU 都是由臺(tái)積電代工生產(chǎn)的，因此，在對 HBM 內(nèi)存大廠的產(chǎn)品進(jìn)行驗(yàn)證時(shí)，臺(tái)積電扮演著重要的角色。此時(shí)，雖然是晶圓代工領(lǐng)域的競爭對手，但要在 HBM 內(nèi)存市場拓展出更多空間，在進(jìn)行產(chǎn)品驗(yàn)證時(shí)，三星必須面對臺(tái)積電。

今年 4 月，三星電子共同執(zhí)行長慶桂顯低調(diào)訪臺(tái)，傳拜訪了臺(tái)積電，消息人士透露，慶桂顯此行的任務(wù)中，最主要是推廣三星最新的 HBM 內(nèi)存。

之前，臺(tái)積電與 SK 海力士聯(lián)手，組成名為「One Team」的戰(zhàn)略同盟，共同開發(fā)下一代 HBM4 內(nèi)存，目標(biāo)是通過匯集臺(tái)積電與 SK 海力士在新一代 AI 半導(dǎo)體封裝上的技術(shù)優(yōu)勢，鞏固雙方在 AI 市場的地位。

慶桂顯此行，對于三星 HBM3E 產(chǎn)品盡快通過英偉達(dá)驗(yàn)證有積極作用，同時(shí)，三星也希望臺(tái)積電能夠?qū)⑵?HBM 內(nèi)存推薦給客戶，以實(shí)現(xiàn)將三星產(chǎn)品整合進(jìn)更多 AI 芯片和服務(wù)器系統(tǒng)。