登录
上周PCWorld一组测试，让不少装机党挠头：同一个本地AI任务，1200亿参数的gpt-oss模型，生成47万个token。华硕ProArt P16笔记本33分13秒跑完，对面搭载RTX 5090的高端台式机用了52分51秒，慢了将近20分钟。知乎
5090是消费级显卡的天花板，怎么就输给了一台笔记本？
答案藏在配置表里。笔记本是128GB统一内存，其中约96GB能直接分给GPU用；5090台式机这边，32GB显存加96GB内存条，"总内存"差不多，但GPU能直接吃到的只有32GB。模型装不进去，数据就得在显存和内存之间来回搬，GPU算得再快，也得干等饭来。知乎
当然，这不是严格控制变量的对比，两台机器架构、带宽、软件栈都不同，不能就此宣判统一内存全面获胜。但它戳破了一个幻觉：本地大模型时代，"内存多大"不重要，"GPU能直接用多少"才重要。给台式机插满内存条，只是喂饱了CPU，5090的32GB显存一克都不会多。知乎
显存账：权重只是入场券
那这个双11想装台能跑本地大模型的台式机，该怎么配？先把三笔账算明白。
第一笔，装得下吗？模型体积=参数量×每参数字节数。27B模型做Q4量化，文件16GB出头，跑起来显存加内存要吃掉20GB左右；同一份权重换FP16直接54GB。KV缓存最容易被漏算，长上下文时能占到权重的一半以上——"权重装得下"和"能跑长文本"完全是两码事。知乎
第二笔，跑得多快？模型每吐一个字，都要把参与计算的权重从显存完整读一遍，速度上限=带宽÷要读的字节数，跟浮点算力关系不大。504GB/s带宽的12GB卡跑7B量化模型，理论120 token/s，实际打个三五折，40-60的出字速度写稿够用。知乎
但装不下、要卸载到内存就惨了：PCIe 4.0通道只有约25GB/s，仅为显存带宽的十几分之一，速度按溢出比例线性掉。有实测把上下文开到32k，KV缓存把模型层顶出显存，出字速度从40多直接掉到个位数。知乎
第三笔，值吗？泼盆冷水：只有四种人适合本地部署——数据不能出内网、必须离线、调用量大到API费用超过设备投入、纯为学习研究。其余大概率是负收益，维护环境、排查报错的时间成本没人替你算。一句话，本地部署买的是"数据不出门"，不是"更便宜"。知乎知乎
偏偏今年双11，AI装机撞在最痛的点上
更尴尬的是行情。AI装机这条路，恰好踩中今年涨得最凶的两样东西：大显存卡和大内存。
5090如今6500美元以上也有价无市，英伟达已把它划入RTX Pro产品线。内存这边，有去年双11记录的140款内存，没有一款比去年便宜，整体价格比历史最低高出94%。而"用大内存换显存"的卸载方案偏偏需要128GB大内存——今年CPU是配件里唯一的好价，内存却是重灾区，这条路等于顶着最贵的逆风走。知乎知乎
所以建议很简单：
主力打游戏：老逻辑依然成立，任务装得进显存时5090还是王者；32GB显存的卡跑27B量化模型（约20GB）也绰绰有余。
真要本地跑大模型：先定模型和量化档位，倒推显存需求，再选卡——别看跑分天梯图。闲聊摘要INT4就够，代码用INT8更稳，数学推理尽量不量化。
只想尝鲜AI：云端API比任何配置单都省钱，真的。
这个双11，别再用"卡越强机器越快"的老经验挑AI主机。配置表上最该追问的是：这些内存，GPU到底能吃到几口？
