DeepSeek“单卡时薪38美元”刷屏:这38美元其实是这么算的

源自45位全网作者

00:24

10月20日,DeepSeek 开源了内部使用的大规模云服务推理框架 DeepInfer 和生产级 Token 编解码组件 deepseek-recipe,并同步发布技术报告。热榜词条"DeepSeek单卡时薪38美元"出自报告中的一句话:“目前单一集群的服务吞吐是 155 万亿 Tokens/天,整体收入是每卡每小时 38 美金(按谷价)。” #DeepSeek披露每卡每小时收入38美元# 的话题当天登上微博热榜,"时薪"的说法也随之流传。DeepSeek官方微博

先把这个数字的口径说清楚:这 38 美元是收入,不是利润;是整个集群的平均值,不是某一款卡的报价;按谷价计算,是官方刻意保守的一档。技术报告只公开了收入端,没有披露成本、电费和折旧,所以它不能读成毛利或净利;分母上的"每卡"涵盖混合部署的集群,不等于任何单卡的时薪;括号里的"按谷价"指 API 峰谷定价中较低的夜间档,高峰时段收入更高,但官方没有给出加权后的均值。

38 美元是什么概念

智东西当场换算过:按时薪 38 美金计,每卡每小时约合人民币 253.81 元,单卡 24 小时满负荷一天进账 6000 多元。更直观的参照来自科技媒体人阳淼在微博的观察:即便按谷价算,这一时薪也远超公有云、AI 云上英伟达卡集群每张每小时 3 到 7 美金的市场租金。两种生意不能直接相减算利润——出租卡只交付算力,DeepSeek 卖的是成品推理服务——但量级本身足以说明:同一个机位、同一小时,按 Token 计价卖出的收益是"租卡"的好几倍。有知乎用户按 1 亿 Token 综合售价 8 元粗算,155 万亿 Token 一天的吞吐对应约 1240 万元/天的收入。社区估算不是官方账本,但它指向同一个事实:推理收入已经足以支撑 DeepSeek 持续扩集群。智东西微博知乎

这些收入的来路:96% 的输入不用重算

这份收入站得住,前提是每个 Token 的成本被压得足够低。线上统计显示,平均每个请求输入 77K Token,首字平均 400 毫秒返回,生成速度每秒 230 个 Token,写代码时可达 300 个。而支撑成本的核心是缓存:Block KVCache 存放在约 100 PiB 的 3FS 分布式存储集群里,agent 流量的缓存保留 3 天、聊天流量保留 7 天,后续请求命中即可复用此前的计算结果。36氪DeepSeek官方

在这套体系里,平均 96% 的输入 Token 命中缓存、无需重算;常见的 8 卡机器承担 Prefill,64 至 128 卡超节点承担 Decode,官方给出的高效部署起步单元是 64 卡 Prefill 加 64 卡 Decode。换句话说,"每卡每小时 38 美元"不是靠卡贵卖得贵,而是靠极高的复用率把同一份算力卖出了更多次。36氪

账本摊开了一半

此次放出的 DeepInfer 覆盖推理引擎本体,deepseek-recipe 对齐官方 API 的处理逻辑,第三方部署可以获得与官方一致的 API 体验,硬件名单同时包括英伟达与华为昇腾平台。但边界同样明确:KVCache 管理与负载均衡组件因与内部基础设施深度耦合,暂时未完整开源。DeepSeek官方

官方同时承诺,未来新模型的推理代码及后续性能优化都将在 DeepInfer 中持续开源。对普通用户来说,这份账本的意义不在 DeepSeek 赚了多少钱,而在两件事:其一,推理成本被缓存复用和调度优化持续压低,API 价格战有了继续下探的空间;其二,也是最要紧的——扛起每天 155 万亿 Token 流量的缓存管理与负载均衡模块尚未开源,自己买卡部署的收益不会自动对齐这份官方账本。接下来值得盯的,是开源部分与线上系统的差距能被社区追平到什么程度。智东西

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
最新文章 热门文章