KNOWLEDGE & PRACTICE

文章

从部署教程、模型评测到行业观察,把复杂问题整理成可执行的路径。

51
篇文章
4
内容板块

LATEST ARTICLES · 其余文章

50RAG 知识库实战:给本地商家搭一个能查能答的 AI 助理一个真实落地方向:把商家文档、产品资料做成 RAG 知识库,本地模型 + 向量检索,让 AI 基于自己的资料回答。51R9700 32GB 本地推理定位:32B 全量 + 长上下文的甜点用法与调优要点RDNA4 架构 32GB 工作站的本地 AI 推理定位:32B Q4 全量 GPU + 8K-16K 上下文是最舒服用法,70B 只能 offload。本文整理 ROCm 部署路径、A 卡通用调优五要点,以及与 V100 32G / 5090 / L20 的 32GB 档对比和跨厂商多卡警告。