
10 月 4 日,Strata 以 881 分登上 Hacker News 榜首——125B 模型跑在普通游戏 PC 上这件事,第一次进了大众视野。
事件
开源推理引擎 Strata(GitHub,MIT 协议,star 数 10/04 冲到 1.3 万)让 Qwen3.8-Flash-Next(125B 参数)在普通游戏 PC 上一键运行:
- 硬件门槛:NVIDIA / AMD 均可,12GB+ 显存,Windows / Linux 都支持
- 用法:一键部署,本地起 OpenAI / Anthropic 兼容 API,可选图像输入
- 实测:RTX 5070 上 Q2_0 量化写入约 94 tok/s
- 热度:10-04 以 881 分 登上 HN 榜首
为什么这条新闻重要
- 仓库 9 月 24 日创建,10 天内从 0 冲到 HN 榜首——"大模型下沉到消费级"这条线第一次有了出圈的事件
- AMD 支持从实验性质转正(此前 RX 9070 XT 基线一直标 TODO),消费级 AMD 卡跑大模型有了可复现路径
- 对 32G 显存卡(R9700 这一档)意味着:125B MoE 本地跑通后,显存富余可以全部用来扩上下文
参考
- GitHub(一手):https://github.com/Niko1221/Strata
- HN 热帖(2026-10-04,881 分)