AMD 显卡本地部署大模型完全指南(ROCm 实战)
基于你的 AMD 显卡,从零完成大模型本地部署的实战指南:ROCm 环境搭建、Ollama 与 vLLM 两种方案、27B 量化模型实测速度与显存占用,以及驱动、镜像、量化三大常见坑。
AI TOOL DIRECTORY · CURATED FOR REAL WORK
从日常问答到创意生产,按场景整理实用的 AI 工具,帮你快速选对。
LOCAL AI · DATA STAYS WITH YOU
不依赖云端 API,数据留在自己的设备上。从环境搭建到模型运行,沿着真实文章和工具开始部署。
AMD 显卡本地部署大模型完全指南(ROCm 实战)部署教程 ·大模型部署工具
wwhisper.cpp纯 C/C++ 本地语音识别引擎LLangchain-Chatchat基于 LangChain 的本地知识库 AI 应用LLlamaFactory统一高效微调 100+ 大模型UUnsloth本地训练/微调 LLM 与扩散模型的工具XXinference一站式 LLM 推理引擎,替换 GPT 只需一行LLocalAI本地运行任意 AI 模型的开源引擎vvLLM高吞吐、显存高效的 LLM 推理引擎LLM Studio本地 LLM 桌面应用:下载、运行、微调一站式lllama.cpp纯 C/C++ 的 LLM 本地推理引擎OOllama本地一条命令运行 LLM 的命令行工具 查看本地部署全部工具INSIGHTS
基于你的 AMD 显卡,从零完成大模型本地部署的实战指南:ROCm 环境搭建、Ollama 与 vLLM 两种方案、27B 量化模型实测速度与显存占用,以及驱动、镜像、量化三大常见坑。
FEATURED SCENES
NEW ARRIVALS
Prompt 工程指南、论文与资源
学习教育HHello Agents《从零开始构建智能体》教程
学习教育LLLMs from Scratch从零用 PyTorch 实现 ChatGPT 级 LLM
学习教育LLLM CourseLLM 入门课程与路线图
学习教育GGraphify把代码库/文档/SQL 变成可查询知识库
AI 办公PPaddleOCR把 PDF/图片文档转成结构化数据
AI 办公RRAGFlow领先的开源 RAG 引擎
AI 办公VVoiceStudio完全本地的 ElevenLabs 替代品
AI 音频WWhisper大规模弱监督训练的鲁棒语音识别
AI 音频OOpenVoiceMIT 与 MyShell 的即时语音克隆
AI 音频VVoxCPM无 tokenizer 的多语言 TTS
AI 音频CChatTTS面向日常对话的语音生成模型
AI 音频CCoqui TTS经过实战检验的 TTS 深度学习工具包
AI 音频GGPT-SoVITS一分钟语音即可克隆的 TTS 模型
AI 音频LLangChainAgent 工程平台
AI 助手AAnythingLLM全功能本地 LLM 应用套件
AI 助手OOpen WebUI友好的本地 AI 对话界面
AI 助手CCrawl4AI面向 LLM 与 agent 的网页爬虫
AI 自动化FFirecrawl给 AI agent 提供网页数据
AI 自动化HHuginn替你监控与行动的自托管 agent
AI 自动化nn8n带原生 AI 的工作流自动化平台
AI 自动化DDeer Flow字节开源长程 SuperAgent
AI 智能体BBrowser Use会用浏览器的 AI 智能体
AI 智能体OOpenHandsAI 驱动的开发智能体
AI 智能体DDifyAgentic 工作流 + RAG 平台
AI 智能体MMetaGPT多智能体协作框架
AI 智能体AAutoGPT让 AI 自主完成目标的智能体
AI 智能体DDuix-Avatar真正开源的 AI 数字人工具
AI 视频LLivePortrait让照片动起来的人像动画
AI 视频CCogVideo文生视频 / 图生视频模型
AI 视频HHunyuanVideo腾讯混元视频生成模型
AI 视频WWan2.2开源大规模视频生成模型
AI 视频PPixelle-VideoAI 全自动短视频引擎
AI 视频OOpenMontage开源 agentic 视频制作系统
AI 视频MMoneyPrinterTurbo按主题一键生成高清短视频
AI 视频DDiffusers扩散模型官方库
AI 绘画IIOPaintSOTA AI 图像修补工具
AI 绘画IInvokeAIStable Diffusion 专业创作引擎
AI 绘画CComfyUI模块化扩散模型工作流 GUI
AI 绘画SStable Diffusion WebUIStable Diffusion 图形界面(WebUI)
AI 绘画DDeepSeek-Reasonix面向复杂软件工程的可靠编码智能体
AI 编程SSerena面向编码的 MCP 工具包
AI 编程KKilo Code一体化 agentic 工程平台
AI 编程QQwen Code开源终端编码智能体
AI 编程AAider终端里的 AI 结对编程工具
AI 编程wwhisper.cpp纯 C/C++ 本地语音识别引擎
大模型部署LLangchain-Chatchat基于 LangChain 的本地知识库 AI 应用
大模型部署LLlamaFactory统一高效微调 100+ 大模型
大模型部署UUnsloth本地训练/微调 LLM 与扩散模型的工具
大模型部署XXinference一站式 LLM 推理引擎,替换 GPT 只需一行
大模型部署LLocalAI本地运行任意 AI 模型的开源引擎
大模型部署vvLLM高吞吐、显存高效的 LLM 推理引擎
大模型部署LLM Studio本地 LLM 桌面应用:下载、运行、微调一站式
大模型部署lllama.cpp纯 C/C++ 的 LLM 本地推理引擎
大模型部署OOllama本地一条命令运行 LLM 的命令行工具
大模型部署POPULAR NOW
COMMUNITY CURATED