文章

FEATURED · 精选文章

双卡 5070 Ti 跑 125B MoE：最高 140 t/s

双卡 RTX 5070 Ti 16G + Threadripper + Strata 跑 125B MoE（IQ3_XXS）：prefill 3200 t/s，decode 最高 140 t/s，256K 全程可用。