整理自抡锤者论坛(lcz.me)多篇热帖的真实装机分享与配置咨询。同一件事——"跑本地大模型 + 视频工作流"——在不同预算下会长出完全不同的主机,这篇把几档典型配置摆出来,帮你按预算定方向。
一、洋垃圾老平台档(省钱,但要会折腾)
典型配置:X99 / CD3 系列主板 + E5 2666 级别 CPU + 128G DDR3 + AMD AI Pro R9700
- 思路:二手服务器老平台(便宜、内存便宜)+ 一张现代专业卡,专卡跑推理
- 关键约束:必须能开 ReBAR + Above 4G(否则 GPU 认不全显存地址),CSM 关
- 风险:主板 VRM / 供电老化、二手板接触问题、掉卡多为链路 / 供电而非 CPU 老
- 适合:预算紧、能接受折腾、主要跑单卡推理的人
多卡变体:X99 双路 + 双 7900 XTX——机箱可能放不下双卡,需考虑外置显卡 / riser 方案(论坛里有人专门求外置方案)
二、中端工作站档(平衡,省心些)
典型配置:技嘉 Z890 主板 + 256G DDR5 + 2 张 RTX Pro 6000 96G
- 用途:跑 cpp Qwen 27B BF16(不量化,精度全)+ 同时挂双 ComfyUI 工作流出长视频
- 思路:消费级最新平台 + 大显存 Pro 卡,BF16 全精度跑 27B 不量化,还能同时压两条视频工作流
- 适合:要"BF16 不量化 + 视频工作流"、不想碰洋垃圾风险的人
三、高端 / 选购参考档
- 4 卡 R9700:论坛有"从采购到调试"的完整记录,适合要多卡大并发 / 多模型常驻的人(注意主板必须支持多卡 P2P,见我们的 P2P 实战篇)
- RTX Pro 4000 24G(Blackwell,约 1 万 RMB):社区反复咨询"值不值"——24G 显存 + Blackwell 新架构,适合"单卡、要新架构、预算在 1 万级"的场景;是否值得取决于你要跑的模型尺寸与是否 BF16
- Intel Arc Pro B70:社区有专项讨论,纸面规格可观但软件栈成熟度是变数(跨厂商组多卡无可用互连,别指望多卡)
四、按预算定方向的一句话
- 预算紧、能折腾:洋垃圾老平台 + 一张专业卡,先确认 ReBAR/Above 4G 能开
- 要省心 + BF16 + 视频流:中端工作站(Z890 + 大内存 + Pro 卡)
- 要大并发 / 多模型常驻:多卡 R9700,但主板 P2P 链路是前提
- 单卡要新架构 24G:RTX Pro 4000 档,按模型尺寸判断值不值
核心提醒:装机的第一约束永远是"显存够不够装下你要跑的量化模型",其次是"卡间 / 卡到主机的通信链路",最后才是 CPU。把这两条想清楚,再选主板和 CPU,能省掉一大半返工。