FEATURED · 精选文章
模型评测MTP / DFlash2 / MXFP4 加速矩阵:N 卡 vs A 卡支持情况 + R9700 实测
同一个 27B 模型,N 卡开 MTP 快 2.5 倍,R9700 上 MTP 反而比 DFlash2 慢 2.8 倍。MTP、DFlash2、MXFP4/NVFP4 量化、FP8 KV、前缀缓存在 CUDA 线与 ROCm 线的版本级支持矩阵 + R9700 一手实测数据 + 踩坑清单。
KNOWLEDGE & PRACTICE
从部署教程、模型评测到行业观察,把复杂问题整理成可执行的路径。
FEATURED · 精选文章
模型评测同一个 27B 模型,N 卡开 MTP 快 2.5 倍,R9700 上 MTP 反而比 DFlash2 慢 2.8 倍。MTP、DFlash2、MXFP4/NVFP4 量化、FP8 KV、前缀缓存在 CUDA 线与 ROCm 线的版本级支持矩阵 + R9700 一手实测数据 + 踩坑清单。
LATEST ARTICLES · 其余文章