AI推理初創企業悄然自研採購晶片

有一批快速崛起的初創公司，商業模式是向雲廠商租賃算力、再轉售給客戶，此前一分錢都沒有投入自有 AI 晶片。如今它們走到了十字路口：越來越難拿到足夠算力服務客戶，一部分企業開始自行採購晶片，這很可能徹底改寫它們的商業成本結構。

算力供給緊張，也迫使這類初創企業轉向數十家規模更小的新雲廠商（neocloud） 尋找資源。相比微軟 Azure、AWS、谷歌雲這類超大規模雲廠商，新雲廠商通常還有更多富餘算力。知名推理服務商 Fireworks 遭遇黑客攻擊一事，也凸顯了這條路線暗藏的風險。{#quote_GOOG}

知情人士稱，這次黑客攻擊，根源是 Fireworks 所使用的一家小型雲廠商安全防護薄弱。攻擊事件發生後，Fireworks 的部分客戶開始考慮更換服務商。

Fireworks 這類公司被稱為推理服務商：它們面向需要晶片運行 AI 模型的客戶提供服務，這個運行過程就叫推理。它們原本不持有晶片、不運營數據中心，重心放在開發軟體，幫助客戶優化 AI 模型的運行效率。

這類企業增長極快。Fireworks 稱，公司 7 月年化營收突破 10 億美元，同比一年前增長 5 倍。The Information 在 9 月報導，Fal 等同行的營收增速短短幾個月就實現翻倍。Fireworks 最新估值 175 億美元，在這批推理服務商中估值最高。

但算力越來越難獲取，可能拖累整個賽道的高速增長。

部分雲廠商已經不太願意把算力租給競爭對手。知情人士透露，CoreWeave 今年早些時候決定停止向 Baseten 出售算力。消息稱，CoreWeave 在今年 3 月推出了自家推理服務，不願把算力資源供給競品。但一名接近 Baseten 的人士否認 CoreWeave 削減了對 Baseten 的算力供給。

CoreWeave 發言人表示："我們和各家推理服務商保持良好合作，不少都是我們的合作夥伴。只要適配它們的商業模式，就會採購 CoreWeave 的服務，我們也樂於支持。"

雲廠商 digtalOcean 的 CEO Paddy Srinivasan 說，他會優先服務有真實終端需求的客戶，而不是轉手倒賣算力的公司："老實說，有大量客戶基於我們的平台開發軟體，需求旺盛。"digtalOcean 運營自有數據中心。

一些推理服務商的應對方案是廣泛對接大量小型雲廠商。Modal 的 CEO Erik Bernhardsson 在採訪中介紹，公司成立前四年，合作方主要是各大超大規模雲廠商和少數新雲；後來無法從大廠拿到想要數量、價格的英偉達 Blackwell 晶片，於是過去一年新增了 30 家新雲合作夥伴。Modal 依然和超大規模雲廠商合作，但通常從它們那裡採購其他型號晶片。

部分雲計算行業高管認為，如果算力需求回落、或是大廠切斷供給，沒有自有硬體的推理服務商就會陷入被動。

Iren 公司首席商務官 Kent Draper（Iren 自建數據中心）評價："推理服務商就像是 GPU 世界裡的 WeWork。WeWork 簽下長期辦公場地租約，再短期轉租。行情好的時候一切順暢，一旦需求枯竭或者融資斷流，模式就難以為繼。大家現在看到了垂直整合的價值。"{#quote_WEWKQ}

別無選擇

部分推理服務商認為，只能投入資金自建硬體。Fal 主打視頻、圖像 AI 模型托管，今年 7 月入職、負責搭建數據中心戰略的 Raghu Rao 表示，Fal 近期已經開始採購英偉達晶片，部署在租賃的數據中心內。Fal 本月早些時候完成 16.5 億美元融資，這筆資金將用來擴充算力，包括採購 GPU、向 AWS 租用機房資源。Rao 稱 Fal 還在擴招數據中心相關團隊。Fal 採購硬體的計劃此前未曾對外報導。

"隨著業務規模暴漲，我們既需要租賃算力，也必須持有自有硬體。"Rao 說。

知情人士透露，Fal 還向投資人表示，有意通過舉貸來支撐硬體採購。Rao 拒絕對債務融資的可能性置評。

近幾個月，多家推理服務商已經和貸款機構、中介洽談借款，用來和新雲廠商簽訂算力採購合同。知情人士稱，這些企業希望使用債權資金，而不是消耗風投股權融資款，來鎖定算力資源。

另一邊，Together 從去年就開始採購自有硬體，The Information 在 3 月報導，計劃 2026 年底擁有 250 兆瓦自有數據中心容量。知情人士稱，Baseten 也計劃採購英偉達 GPU，部署在由自己運營管理的數據中心。

CoreWeave 自身也經歷了類似轉型：此前大多運營別人名下的數據中心，去年官宣自建園區，認為這是掌控硬體資源最好的方式。

不過，並非所有推理服務商都認為必須持有硬體。知情人士稱，Fireworks 管理層向投資人表示，採購實體晶片、建設運營數據中心屬於同質化大宗商品業務；Fireworks 的護城河是開發可以高速運行模型的軟體，這一點更難複製。另一位知情人士稱，Fireworks 目前沒有採購硬體的計劃。

知情人士表示，Modal 也向投資人表達意向，計劃採購更多自有硬體投入數據中心。Bernhardsson 在採訪中說，公司會想盡一切辦法拿到所需算力，但他並不認為差異化來自持有硬體 ------ 這一點和 Iren 等硬體自建方對 Modal 這類推理服務商的批評一致。

"硬體層並不是創造大量價值的地方。說到底，你只是買晶片再轉手提供算力。"Bernhardsson 說，"所以我們聚焦軟體層，這才是我們持續創造最大價值的地方。"