登录
上周阿里云阿姆斯特丹云栖大会的幻灯片上，出现了「Qwen4 Series Coming Soon」，Max、Plus、Flash、27B 四款型号都列了出来。日期没定，官方没确认，「下周发」只是参会者转述的现场说法。哔哩哔哩
但架构已经开源了。 8 月底发布的 Qwen3.8-Flash-Next，官方定位就是 Qwen4 架构的早期预览，有人扒了 config.json，架构标识写的就是 Qwen4。换句话说，Qwen4 Flash 这一档的门槛，现在就能算出来，不用干等。哔哩哔哩
先泼盆冷水：这一档，本地玩家基本够不着。
Flash-Next 主模型 125B，每个 token 只激活 6B，听着很省；它旁边还挂着一张 510 亿参数的 N-gram 嵌入表，好处是几乎不吃算力，能塞进主机内存。真跑起来，NVFP4 量化下权重主体约 85GB，加上 KV cache 和各种开销，96GB 显存理论上够用但会很紧张，128GB 才算宽裕。这是 Mac Studio、Strix Halo、DGX Spark 那类大统一内存机器的场子。知乎
真正跟大多数人有关的，是 27B 这一档。
一张 RTX 5060 Ti 16G，跑 27B 的 UD-Q3_K_XL 量化，4 万 token 上下文出词 49 t/s，日常够用。上下文开到 4.8 万还能用，5.6 万直接塌到 2.6——不是慢一点，是慢了 19 倍。知乎
最坑的地方在于，显存读数不报错。5.6 万那一档的显存占用，比 4 万时还低，日志也一切正常。真实原因是 KV cache 装不下时，系统会把数据悄悄挪进内存，推理每一步都要走 PCIe 取回来，速度就这么崩的。所以判断你那张卡能开多大上下文，唯一靠谱的办法是按你真实要灌的深度跑一次，看出词速度；盯着显存读数和日志，都会被骗。
算账的时候还有个固定支出：模型里的线性状态要占约 2.3GB 显存，跟上下文长短无关，很多人估显存时都会把它漏掉。粗估公式：可用上下文 ≈（总显存 − 权重 − 固定状态 − 计算缓冲）÷ 每 token 的 KV 占用。
8G 卡玩家的账更扎心。27B 的 IQ4 量化在 8G 卡上只有 1 token/s，跑 Agent 等不起；降到 IQ2 能写小说，思维链说断就断。能跑起来和能干活，在这张卡上是两回事。哔哩哔哩
那要不要趁现在升级？我的看法是：发布之前，别为显卡掏一分钱。
16G 卡：27B 这个级别大概率接着够用，先把上下文档位调明白，安心等新权重。
8G 卡：等 Qwen4-27B 出来看架构。如果走小激活 MoE 路线，8G 卡加 32G 内存已经能跑 35B 这类模型拿到 40 多 t/s，别急着买卡。哔哩哔哩
内存和固态比显卡更该补：Strata 这类把专家权重放内存的引擎，吃的就是内存和 SSD，显卡反而不是第一瓶颈。
96G 以上统一内存：才轮到你考虑 Flash 档。
工具侧也不用担心掉队。光 10 月底这几天，Strata 就连发了 0.2.7 到 0.2.9 三个版本，各家引擎更新的速度，一直比新模型发布还快。哔哩哔哩哔哩哔哩
Qwen4 发布那天，别看别人的跑分表。拿你自己的上下文深度跑一次，那个数才是你机器的数。
