llmfit
SHA-256一个终端工具,自动检测你的硬件(内存、显卡、CPU),并从数百个LLM模型中推荐哪些能在你的机器上流畅运行。不用猜,不用下载,一条命令搞定。
扫硬件,推荐能跑的AI模型,一条命令搞定
核心功能
- 自动检测系统硬件(RAM、VRAM、CPU、GPU后端),无需手动配置
- 为数百个模型提供四个维度评分:内存适配度、速度、质量、上下文长度
- 支持多GPU、混合专家(MoE)架构(如Mixtral、DeepSeek-V3)及主流本地运行框架(Ollama、llama.cpp、MLX)
- 交互式TUI界面(默认模式)和CLI模式,满足不同使用场景
- 内建基准测试功能,可测量真实token/s,并一键将结果贡献回社区
避坑指南
- •速度估算基于内存带宽模型,实际性能受系统负载、散热等因素影响,可运行`llmfit bench`获取真实数据
- •模型目录默认来自内置数据库,若需添加自定义模型请参考custom-models文档
- •首次运行TUI时可能需要安装字体或依赖(如kitty终端),建议使用现代终端模拟器
适用场景
- 想在自己的笔记本上跑开源LLM但不知道选哪个模型,用llmfit一键扫描并获取推荐排名
- 开发AI应用时需要为不同硬件配置选择合适的模型,用CLI模式批量生成推荐JSON
详细介绍
llmfit 是一个跨平台终端工具,能够自动扫描你的硬件配置(内存、显存、CPU、GPU后端),然后从数百个大型语言模型(LLM)中筛选出哪些能真正在你的机器上流畅运行。它从四个维度给每个模型打分:内存适配度、估算速度、质量和上下文长度。你不需要盲目下载几十GB的模型文件,运行一条命令就能看到按适配度排序的推荐列表。相比同类工具(例如llm-checker),llmfit 有两个独特优势:一是它的速度估算基于内存带宽模型和真实社区测量数据,比纯理论计算更准;二是它正确支持混合专家(MoE)架构,而llm-checker将所有模型视为密集模型,会高估内存需求。llmfit 还允许你在本地测试真实的token/s速度,并将结果通过PR贡献回社区,让所有人的估算越来越准确。它内置了交互式TUI(默认模式)和传统CLI模式,方便脚本自动化。
标签
快速上手
安装软件
双击下载的安装程序,按提示完成安装
安装:Windows使用`scoop install llmfit`,macOS/Linux使用`brew install AlexsJones/llmfit/llmfit`或curl脚本
运行:在终端输入`llmfit`启动交互式TUI界面,自动显示硬件信息和模型排名
进阶:使用`llmfit bench`测试真实速度,或`llmfit recommend --json`获取JSON输出供脚本使用
- 安装:Windows使用`scoop install llmfit`,macOS/Linux使用`brew install AlexsJones/llmfit/llmfit`或curl脚本
- 运行:在终端输入`llmfit`启动交互式TUI界面,自动显示硬件信息和模型排名
- 进阶:使用`llmfit bench`测试真实速度,或`llmfit recommend --json`获取JSON输出供脚本使用
已提供 SHA-256 校验码,下载后可自行核对文件完整性
该校验码提取自 GitHub 官方 Release 页面
SHA256 校验码
1e09232a128455596a2d348ab5893741d04b94aa6d924f1253462dc13304f7c6该校验码提取自 GitHub Release 页面,下载后请自行核对文件完整性
本平台所有 SHA-256 校验码均提取自项目在 GitHub 官方 Release 页面发布的文件,未做任何修改。你可以通过 GitHub Releases 页面自行验证。
开源透明
查看 GitHub 源码卸载说明
卸载方法取决于安装方式:Scoop用户执行`scoop uninstall llmfit`,Homebrew用户执行`brew uninstall llmfit`,手动安装则删除可执行文件和`~/.local/bin/llmfit`。
无额外依赖
下载后即可直接使用,无需安装其他运行环境