迷你主机能跑多大的大模型？从16G到192G给你答案

源自155位全网作者

08:35

今年双11，迷你主机的卖点变了。以前卷"半价替代台式机"，现在集体卷"本地AI工作站"。AMD官方刚发布锐龙AI Halo开发者平台，至高192GB统一内存，官方称可支持4bit量化的3000亿参数及更大模型，官方价格6799美元。国内极摩客EVO-X5 Pro、FEVM FAEX2也已杀到，同样的锐龙AI Max+ PRO 495、同样的192GB内存，定价都在四万多。知乎知乎哔哩哔哩

声量很大，争议也不小：有人觉得这是年度玩具，有人觉得是收割韭菜。真相在哪？最近一个月的实测数据，其实已经把话说透了。

跑不跑得动，看内存不看算力

本地大模型这件事，内存既是门票也是限速器。B站UP主AIPC煜森把各档内存的机器挨个实测了一遍，结论相当扎心：

16GB：系统和核显先咬掉一口，只够8B级小模型（4bit量化约5GB），14B直接加载报错。哔哩哔哩
32GB：甜点档来了。35B的MoE模型（每次只激活3B参数）能跑58字/秒，比你阅读速度还快；换成26B稠密模型，只剩18字/秒。哔哩哔哩
64GB：标称64GB，实际可用只有约47GB，能跑通270亿参数的模型。哔哩哔哩
128GB：塞得下70B稠密模型，但速度惨烈——实测Llama-3.3-70B只有3.4字/秒，gpt-oss-120B这种MoE能到14.7字/秒。哔哩哔哩
192GB：284B、320B的4bit量化模型，终于"装得下"了。

司波图对极摩客EVO-X5 Pro的实测也印证了这点：DeepSeek V4 Flash（284B）和GLM-5.3-Flash（320B）装进去后，日常问答、写代码、生成HTML动画都能跑通；换成Qwen3.8 Flash Next，百万token上下文还能保持约60 token/s。但注意，192GB在Windows下实际能给模型用的约176GB。哔哩哔哩

你买的是"装得下"，不是"跑得快"

统一内存有个容易被忽略的特点：容量大、带宽小。Strix Halo整机的内存带宽约273GB/s，一张RTX PRO 6000显存卡则是1792GB/s，快六倍多。所以4万6的192GB整机，价值在装下显卡装不下的模型：11万元的RTX PRO 6000（96GB显存），塞不进压到最小也要122.4GB的DeepSeek V4.1 Flash，这台小盒子装得下——只是慢。AIPC煜森还算过一笔更直接的账：128G加钱换192G，多掏的是2.3万。而每秒搬运的数据只从256涨到273，多6.6%。掏钱前先问自己一句：你真需要装下那么大的模型吗？哔哩哔哩哔哩哔哩

装得下，也不等于好用

再泼三盆冷水。第一，读长文档时，395的机器塞一份7万字文档，第一个字要等251秒"阅读"。第二，内存还在涨价，DDR5现货10月单月涨了8%，等降价可能等来涨价。第三，生态还在补课，vLLM针对Strix Halo的专用FP8加速内核10月底才出现，还处在草稿状态等待合并主线。尝鲜，需要耐心。哔哩哔哩哔哩哔哩知乎

双11到底该怎么买

只想体验本地AI：32GB内存的主流核显机就够，选激活参数小的MoE模型（35B-A3B级），体验流畅、学费最低。
认真做本地AI：128GB的Strix Halo（锐龙AI Max+ 395）是甜点，阿迈奇M1A PRO+这类机型最高能分96GB给GPU。双11期间可留意国补叠加。知乎
开发者、企业：192GB的495机型和AMD官方AI Halo，溢价买的是多智能体并发的生产力，个人用户不必硬上。
只想聊天问AI：云端会员比以上全部划算。