Unsloth 是一套面向本地训练与微调的工具集,支持 LLM 与扩散模型,兼容 GGUF、MLX 以及 Qwen 等主流模型。它通过量化与内核优化大幅降低了微调所需的显存与训练时间,让消费级显卡也能承担模型微调任务,是个人和小团队做模型定制的实用工具。工具完全开源,源代码公开,可自由部署与二次开发,团队能根据自身需求深度定制,无需向第三方厂商支付授权费用,长期使用成本极低。项目社区活跃,文档齐全,迭代频繁,遇到问题通常能在官方仓库或社区找到现成解答,学习与维护的门槛都比较低。
大模型部署
Unsloth
本地训练/微调 LLM 与扩散模型的工具
免费开源