大厂为何花350亿转购工作站GPU?买的是一场“合规可得”的推理算力

源自159位全网作者

09:08

中国大厂买的不是显卡,而是在出口管制规则下仍然合法可买、且面向推理场景的最强英伟达芯片,以及下一轮算力分配的优先席位。10月20日,路透社报道字节跳动、阿里巴巴、腾讯合计订购超过300万块英伟达RTX PRO 5500工作站GPU,按每块约1.14万美元的标价计算,潜在订单总值超过350亿美元,约合人民币2300多亿元,主要用于AI推理。一张过去用于渲染、仿真的工作站卡,如今成了中国买家还能买到的性能最强的英伟达GPU之一。集微网

订单数字同样超出供给端的承受能力。据报道,中国客户对这款卡的总订单已经超过600万块,而英伟达告诉合作伙伴,2027年这款卡的全球产量可能不超过300万块。字母榜

就算这些产量全部供给中国,也只够报单量的一半。英伟达已向合作伙伴打过招呼,最终可能只能满足所订数量的5%至10%。接近英伟达的算力服务从业者向雷峰网透露,英伟达每季度向中国市场的供应上限实际上只有50万张。字母榜雷峰网

能合法买到高端卡的窗口只剩工作站这一条

大厂转向这张卡,第一层原因是数据中心级产品全被挡在管制之外。美国对高端芯片出口限制比较紧,英伟达基于Blackwell架构的B300数据中心芯片不能卖给中国,Hopper架构的H200也要逐案审批,而“工作站卡”正好卡在管制清单的边缘。字母榜

国内这一侧同样有流程门槛。9月底,工信部要求部分企业上报RTX PRO 5500的采购计划和用途,并告知其中一些企业拟批准采购。字母榜

这张卡是照着推理需求裁出来的

硬件取舍说明了一切:RTX PRO 5500和面向游戏的RTX 5090使用同一款GB202芯片,CUDA核心数量同为21760个,却把显存从32GB堆到了84GB;另一头,显存带宽从5090的约1792GB/s降到1398GB/s——通过砍带宽,换显存容量。这种配置的去处很明确:它没有NVLink和HBM,天生无法满足大模型的训练场景,但凭借单卡84GB显存和ECC纠错,特别适合大模型推理。它还支持MIG多实例技术,一张卡能切成两个42GB的独立实例,两路推理任务在同一张卡上互不干扰地跑。字母榜知乎雷峰网

算力也不弱。在FP4、FP8等常用精度下,它的理论算力较上一代中国特供卡RTX PRO 6000D提升约一倍。这个取舍背后的账很好懂:模型训练是一次性投入,推理是每回答一次就要烧一次钱,回答效果全看显存。大厂买不起也买不到的训练卡可以先放一放,但每天海量用户问答的推理算力缺口,必须用能到手的芯片填上。雷峰网字母榜

价格是最后一块拼图。目前市面上这张卡的预期交付报价集中在8万至12万元,大厂采购报价约8.5万元。雷峰网

作为对比,配置更高的RTX PRO 6000服务器版渠道价已从年初的6万至7万元涨到18万至19万元,上一代特供卡6000D也从年中约5万元的报价回升至7万元左右的水平。同样一笔预算,能合规买到的最大推理显存只有84GB这一档,这笔账不难算。雷峰网

明知拿不到货,为什么还要报出600万张

因为在这轮供需里,订单不只是订单。600万张的需求对应不到300万张的计划产量,英伟达要决定有限的芯片先供给谁,先下需求才能争取供货量,再安排部署——订单在这里更像拍卖场上的举牌,明知道拿不全,也得把数字报上去。何况这张卡的产能与RTX 5090、RTX PRO 6000共用同一颗GB202芯片,海外社媒还传出5090可能因产能转向而面临停产,晚一步,连选择的余地都更小。字母榜

抢购已经外溢到相邻市场。RTX 5090的渠道价格不断走高,突破了5万元,已有厂商通过改装5090或定制服务器提供AI算力。字母榜

350亿美元目前还只是报价单上的数字

这条消息止步于“下单”,而非“成交”:英伟达明确表示无法保证全数履约,卡也尚未批量交付。外媒报道英伟达计划最早从今年12月底开始向中国交付,多位受访从业者判断正式批量交付要等到明年一季度。卡本身的表现同样未经检验:它今年9月才挂上英伟达官网,实际推理性能尚无规模化数据;官方公布的显存参数也还有疑点——416-bit位宽、84GB容量与1398GB/s带宽在数学上难以同时成立,官方至今未作说明。接下来值得盯住的信号有三个:12月底起的实际到货节奏、大厂规模化部署后的推理成本数据,以及美国出口规则与国内采购审批口径的变动——任何一边收紧,这350亿美元都可能进一步缩回纸面。雷峰网知乎

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
最新文章 热门文章