大模型部署

llmfit

一条命令找出本地硬件能跑哪些大模型

免费开源支持中文

llmfit 是 Rust 编写的本地大模型适配命令行工具,内置数百个模型与提供商的数据,一条命令即可列出当前硬件能流畅运行的大模型清单,帮助开发者在购买显卡或选择模型时做有依据的决策,而不是靠猜。项目发布在 crates.io,跨平台支持,文档提供英文、中文、日文三种语言,适合个人与团队在部署前做硬件兼容性检查。工具完全开源,源代码公开,可自由部署与二次开发,团队能根据自身需求深度定制,无需向第三方厂商支付授权费用,长期使用成本极低。

该分类的更多工具正在整理中。探索其他分类