11月4日,Kimi K3.1 Pro完整权重放出;同一天,昇腾基于vLLM Ascend和SGLang完成0Day推理适配,覆盖Atlas 800 A3、Atlas 900 A3 SuperPod和昇腾950超节点。华为中国
这不是K3.1 Pro第一次露面。模型10月24日发布,当时开放的是API和产品。 两个日期差了11天,也差了一件事:昇腾这次接住的不是“用上Kimi”,而是“把Kimi搬进机房”。雷峰网
搬进机房并不轻松。K3.1 Pro总参数2.8万亿、激活104B,69层走KDA,另外24层换成Gated DSA,Top-K为2048,上下文1,048,576 token。知乎
稀疏注意力和百万上下文是这次适配的重点。适配覆盖历史信息筛选、稀疏注意力计算、预处理与残差,还叠加分布式缓存支撑长上下文。 这些不是换个推理框架就能自动完成的,得在K3时期攒下的KDA与MoE底子上继续补算子、调框架。OLIVE JOURNAL
对要私有化部署的企业,这省下的不是几天安装时间,而是一轮漫长的联调和试错。
但“能跑”和“好用”之间,还隔着机房。K3.1 Pro的MXFP4权重有96个分片、合计1.561TB,光装进显存就需要机柜级集群。知乎
官方点名的落地产品是Atlas 800 A3、900 A3 SuperPod和950超节点,都是面向机房的设备。这次明确说的是推理适配,训练和微调没有提。
有人按阿里云M890超节点算过账:本地部署最低约800万元起步,推荐配置约3000万元。 这不是昇腾的报价,但量级说明了一件事:它服务的是有算力预算的机构,不是想在工位上本地跑模型的个人。知乎
华为的公开表述停在“完成推理适配”和“支持用户在模型发布首日开展部署与应用验证”,没有给出吞吐、时延或单token成本。 截至发稿,公开渠道里也还没看到第三方在昇腾上的实测;能确认的是“跑得起来”,不能确认的是“跑得划算”。华为中国
阿里云也宣布灵骏真武M890超节点完成Day0适配,并在vLLM与SGLang上跑通全链路验证。知乎
当“0Day”开始成为国产算力厂商的入场券,真正的比赛才刚开始:不是谁先发海报,而是谁能在同样的卡上,把百万上下文和长程智能体任务跑出更低的成本。
对大多数开发者,继续调API仍是更现实的选择。对有机房、有合规要求的企业,这次适配值得排一次POC;但看完“0Day”三个字就下单,还太早。

登录
当前文章无评论,是时候发表评论了