從礦卡到算卡,這家成立僅4年的公司如何獨得英偉達“恩寵”?
制約 AI 人工智能發展最大的桎梏是什么?如在幾年前,這個答案可能五花八門。但在大模型盛行的當下,這個問題只有一個答案——算力不夠!
或者,換句話說,英偉達專用的 AI 算力芯片不夠。
誰控制了英偉達的 AI 芯片,誰就控制了 AI 的未來。
現在,有這么一家公司,手中掌握了成千上萬塊英偉達的 AI「算卡」,客戶涵蓋了 OpenAI、微軟等眾多 AI 巨頭。
作為「AI 算力黃牛」,這家名為 CoreWeave 的公司,在 4 年時間就將公司估值做到了 80 億美元。拿到英偉達的獨家投資之外,CoreWeave 還以手中的英偉達芯片做抵押,從黑石 Blackstone、Coatue 等頂級機構獲得了 23 億美元的債務融資。
沒什么能阻擋 CoreWeave 的瘋狂擴張,它到底是怎么搞定英偉達、從一家加密幣「挖礦」公司,搖身一變成為 AI「算力基建」巨頭的?
從「礦卡」到「算卡」
CoreWeave 的初創團隊由三人組成,分別是 Michael Intrator,Brian Venturo 和 Brannin McBee,三人最初在金融領域工作,經營過對沖基金、家族辦公室。
當年他們還在紐約管理基金時,加密貨幣挖礦熱潮還未消退,最初只是為了賺取額外收入,他們購買了第一塊 GPU,隨后越買越多,華爾街的辦公桌上堆滿了 GPU。
「2016 年,我們購買了我們的第一塊 GPU,插上電源,將其放在了俯瞰東河的曼哈頓下城辦公室的臺球桌上,然后挖掘了以太坊網絡上的第一個區塊。」CoreWeave 首席執行官 Michael Intrator,在一篇 2021 年的博客文章中如此回憶道。
很快,在 2017 年,他們將副業正式變成了一家公司,公司名字最初與加密貨幣相關,后來才改名叫 CoreWeave。在選擇告別華爾街時,如同硅谷大佬都喜歡在車庫里創業那樣,他們將 GPU 硬件搬進了一個車庫,不過這個車庫不在西海岸的硅谷,而是在東海岸的新澤西郊區,屬于其中一名創始人的祖父。
在過去十年中,GPU 是加密貨幣、人工智能技術熱潮的重要引擎。在 2018 年底,CoreWeave成為北美最大的以太坊礦工之一,手握超過五萬塊 GPU,占以太坊網絡的 1% 以上。
期間,幾人也開始了解到其他公司對 GPU 資源的渴求。他們同時認識到,在加密貨幣領域并無持久競爭優勢,因為市場競爭激烈,受電力價格影響大。
當 2018 年和 2019 年加密貨幣價格暴跌時,他們決定多元化經營,進入其他領域,這些領域比較穩定,但也需要大量 GPU 計算。他們關注人工智能、媒體娛樂和生命科學三大領域,并從 2019 年起,專注于購買企業級 GPU 芯片組,構建專門的云基礎設施,圍繞英偉達的芯片調整業務。
隨著新業務步入正軌,以太坊挖礦業務漸漸邊緣化。轉型的決定證明是正確且幸運的,幾個創始人都沒有料想到即將到來的 AI 浪潮之熱,讓 CoreWeave 逐漸從一個小辦公室擴張成遍布全國的數據中心,以對應不斷膨脹的 AI 市場需求。
據其中一名創始人披露,2022 年,CoreWeave 收入約有 3 千萬美元,預計 2023 年將超過 5 億美元,增長超 10 倍,并且已經簽署了近 20 億美元的合同。今年宣布在德州投資 16 億美元建數據中心,并計劃在年底前擴展至 14 個數據中心。
把英偉達芯片作為抵押物,CoreWeave 獲得 23 億美元融資
要論讓 CoreWeave 迅速火起來的事件,必然是 ChatGPT 和大量生成式 AI 工具的落地,后者推動了整個行業對 GPU 的高需求,這也讓 CoreWeave 成為很多公司眼中的”香餑餑“,因為 GPU 并行執行許多計算的能力使其非常適合訓練當今最強大的模型。
與此同時,就 CoreWeave 公司自身而言,其提供了包括原生 Kubernetes 編排、對頂級 GPU 加速器的支持以及存儲和網絡功能,它完全可以滿足包括 Inflection AI 在內的大型語言模型(LLM)公司的需求。
根據 Venturebeat 報道, 突然之間,所有人都在談論 CoreWeave,這也為其帶來了一場投資的“潮流轉變”。
在今年 4 月,CoreWeave 獲得了 2.21 億美元的 B 輪融資,其中包括來自英偉達的投資。此舉讓 CoreWeave 公司估值達到了 20 億美元。
5 月,CoreWeave 又獲得了 2 億美元。
8 月初,也就是在幾天前,CoreWeave 再次獲得了 23 億美元的債務融資。
據路透社報道,和其他次融資有所不同的是,CoreWeave 是通過使用 NVIDIA 需求量很大的 H100 GPU 作為抵押品,才成功獲得了 23 億美元的融資。
此次是由現有投資者 Blackstone 和 Magnetar Capital 領投,Coatue、DigitalBridge Credit 以及 Pimco 和 Carlyle 管理的基金和賬戶參投了這筆信貸融資。
英偉達與微軟的加持
令人感到十分驚奇的是,NVIDIA 的 H100 AI GPU 被用作“抵押”資產,這顯示了這些 GPU 的重要性和價值。要知道,價值 23 億美元的 H100 GPU 并不容易獲得。
因此,CoreWeave 得以在 AI GPU 這條路”橫行“的一個主要原因要歸功于英偉達的支持,包括 H100 GPU 和 HGX H100 超級計算機。
據悉,CoreWeave 已經獲得英偉達在提供最先進且供應短缺的芯片方面的"獨家"支持。
外媒 Venturebeat 透露,盡管供應緊張,英偉達還是將其最新的 AI 服務器芯片大量分配給 CoreWeave,而不是 AWS 等頂級云提供商。這是因為后者那些大廠公司正在開發自己的 AI 芯片,試圖減少對英偉達的依賴。
不過,在很多人看來,高度依賴某一家半導體公司,會有很強的風險存在。然而,CoreWeave 創始人之一的 McBee 則認為,「不自己研發芯片肯定不是劣勢。我可以想象,這肯定有助于我們不斷努力從英偉達獲得更多 GPU,而犧牲我們同行的利益。」
同時,McBee 還指出,隨著時間的推移,將會有一種由不同類型基礎設施構成的矩陣,支撐不同類型的 AI 模型。不過,他認為 GPU 仍將是支持最前沿、計算密集型模型開發的基礎設施——GPU 供應短缺的情況至少還需要兩年甚至三年才能開始緩解。
所以,此時他們依賴于英偉達的 GPU 也是明智之舉。
CoreWeave 聯合創始人兼首席執行官 Michael Intrator 也分享了他的看法,其表示,債務融資將提供 "財務余地和靈活性",以實現 CoreWeave 在今年年底前建成 14 個數據中心的目標。
"[我們將把融資]全部用于購買和支付已與客戶簽訂合同的硬件,并繼續聘用業內最優秀的人才。沒有人預料到對 GPU 計算的需求會達到如此高的水平,但我們為提高產能而進行的戰略投資繼續得到回報——我們正在提供其他公司無法提供的服務“, Intrator 說道。
值得慶賀的是,CoreWeave 與英偉達合作打造的世界上最快的人工智能超級計算機在上個月推出了。
除了有英偉達的加持之外,據 CNBC 在 6 月報道稱,微軟已同意在未來幾年內向初創公司 CoreWeave 投資數十億美元用于云計算基礎設施,以確保運營 ChatGPT 聊天機器人的 OpenAI 未來擁有足夠的計算能力。
英偉達才是人生贏家
英偉達成為生成性人工智能爆發式崛起的大贏家,這項技術有可能重塑各個行業,產生巨大的生產力收益,并取代數百萬的工作崗位。
H100將加速這一技術飛躍,這種芯片基于被稱為 Hopper "的新的Nvidia芯片架構,以美國編程先驅格雷斯·霍普的名字命名,成了硅谷最熱門的商品。
"這整個事情就在我們開始生產Hopper的時候起飛了,"黃說,英偉達在ChatGPT首次亮相的幾周前,就開始了大規模的生產。黃對未來收益的信心,部分源于能夠與芯片制造商臺積電合作,擴大H100的生產規模,以滿足微軟、亞馬遜和谷歌等云供應商、Meta等互聯網集團和企業客戶的爆炸性需求。
H100被證明特別受微軟和亞馬遜等大型科技公司的歡迎,這些公司正在建立以人工智能工作負載為中心的整個數據中心,以及OpenAI、Anthropic、Stability AI和Inflection AI等生成性人工智能初創公司。這種芯片有更高的性能,可以加速產品的推出或隨著時間的推移降低培訓成本。
雖然H100的推出時機非常理想,但Nvidia在人工智能方面的突破,可以追溯到近二十年前的軟件創新,而不是硅。
英偉達的Cuda軟件創建于2006年,允許GPU作為加速器被重新用于圖形以外的其他類型的工作負載。然后在2012年左右,巴克解釋說,"人工智能找到了我們"。
加拿大研究人員意識到,GPU非常適合創建神經網絡,這是一種受人腦中神經元互動方式啟發的人工智能形式,當時正成為人工智能發展的一個新焦點。巴克說:"我們花了近20年時間才達到今天的水平。"
英偉達現在擁有比硬件工程師更多的軟件工程師,能夠支持隨后幾年出現的許多不同種類的人工智能框架,并使芯片在訓練人工智能模型所需的統計計算方面更加高效。
Hopper是第一個針對“Transformer模型”進行優化的架構,這種方法是OpenAI的“生成式預訓練變換(generative pre-trained transforme)”聊天機器人的基礎。
英偉達與AI研究人員的緊密合作,使其能夠在2017年發現Transformer模型的出現,并開始相應地調整其軟件。"
"Transformers"在這里指的是一種機器學習模型,特別是在自然語言處理領域中廣泛使用的模型。這種模型基于"注意力機制"(Attention Mechanism)工作,能夠捕捉輸入數據(如文本)中的復雜模式和依賴關系。
"英偉達可以說比其他人更早地看到了未來,他們的支點是使GPU可編程,"AI初創企業的投資者Air Street Capital的普通合伙人內森·貝奈奇說。"發現了一個機會,并下了大賭注,而且一直超過了競爭對手。"
貝奈奇估計,英偉達比競爭對手有兩年的領先優勢,但他也說:"英偉達的地位在硬件和軟件方面都遠非不可撼動。"
Stability AI的莫斯塔克也同意,"谷歌、英特爾和其他公司的下一代芯片正在迎頭趕上,隨著軟件的標準化,即使是Cuda也變得不再是一道護城河。"
對人工智能行業的一些人來說,華爾街本周的熱情看起來過于樂觀了。然而,芯片咨詢公司D2D咨詢公司的創始人杰伊·戈德堡說,"就目前而言,還在半路上的人工智能市場,看起來仍將是屬于英偉達的贏家通吃市場。"
