OpenSource-Hub
L

llmfit

SHA-256
30.3k stars·开发工具·已提供 SHA-256 校验码,下载后可自行核对文件完整性

一个终端工具,自动检测你的硬件(内存、显卡、CPU),并从数百个LLM模型中推荐哪些能在你的机器上流畅运行。不用猜,不用下载,一条命令搞定。

智能下载

下载 Download 版本

v1.1.6 · 6.1 MB

扫硬件,推荐能跑的AI模型,一条命令搞定

核心功能

  • 自动检测系统硬件(RAM、VRAM、CPU、GPU后端),无需手动配置
  • 为数百个模型提供四个维度评分:内存适配度、速度、质量、上下文长度
  • 支持多GPU、混合专家(MoE)架构(如Mixtral、DeepSeek-V3)及主流本地运行框架(Ollama、llama.cpp、MLX)
  • 交互式TUI界面(默认模式)和CLI模式,满足不同使用场景
  • 内建基准测试功能,可测量真实token/s,并一键将结果贡献回社区

避坑指南

  • 速度估算基于内存带宽模型,实际性能受系统负载、散热等因素影响,可运行`llmfit bench`获取真实数据
  • 模型目录默认来自内置数据库,若需添加自定义模型请参考custom-models文档
  • 首次运行TUI时可能需要安装字体或依赖(如kitty终端),建议使用现代终端模拟器

适用场景

  • 想在自己的笔记本上跑开源LLM但不知道选哪个模型,用llmfit一键扫描并获取推荐排名
  • 开发AI应用时需要为不同硬件配置选择合适的模型,用CLI模式批量生成推荐JSON

详细介绍

llmfit 是一个跨平台终端工具,能够自动扫描你的硬件配置(内存、显存、CPU、GPU后端),然后从数百个大型语言模型(LLM)中筛选出哪些能真正在你的机器上流畅运行。它从四个维度给每个模型打分:内存适配度、估算速度、质量和上下文长度。你不需要盲目下载几十GB的模型文件,运行一条命令就能看到按适配度排序的推荐列表。相比同类工具(例如llm-checker),llmfit 有两个独特优势:一是它的速度估算基于内存带宽模型和真实社区测量数据,比纯理论计算更准;二是它正确支持混合专家(MoE)架构,而llm-checker将所有模型视为密集模型,会高估内存需求。llmfit 还允许你在本地测试真实的token/s速度,并将结果通过PR贡献回社区,让所有人的估算越来越准确。它内置了交互式TUI(默认模式)和传统CLI模式,方便脚本自动化。

标签

LLMmodel selectionhardware compatibilityAI toolterminalbenchmarking

快速上手

1

下载安装包

点击上方按钮下载对应系统的安装包

2

安装软件

双击下载的安装程序,按提示完成安装

3

安装:Windows使用`scoop install llmfit`,macOS/Linux使用`brew install AlexsJones/llmfit/llmfit`或curl脚本

4

运行:在终端输入`llmfit`启动交互式TUI界面,自动显示硬件信息和模型排名

5

进阶:使用`llmfit bench`测试真实速度,或`llmfit recommend --json`获取JSON输出供脚本使用

安装指引
  1. 安装:Windows使用`scoop install llmfit`,macOS/Linux使用`brew install AlexsJones/llmfit/llmfit`或curl脚本
  2. 运行:在终端输入`llmfit`启动交互式TUI界面,自动显示硬件信息和模型排名
  3. 进阶:使用`llmfit bench`测试真实速度,或`llmfit recommend --json`获取JSON输出供脚本使用
文件完整性

已提供 SHA-256 校验码,下载后可自行核对文件完整性

该校验码提取自 GitHub 官方 Release 页面

SHA256 校验码

1e09232a128455596a2d348ab5893741d04b94aa6d924f1253462dc13304f7c6

该校验码提取自 GitHub Release 页面,下载后请自行核对文件完整性

本平台所有 SHA-256 校验码均提取自项目在 GitHub 官方 Release 页面发布的文件,未做任何修改。你可以通过 GitHub Releases 页面自行验证。

运维指引

卸载说明

卸载方法取决于安装方式:Scoop用户执行`scoop uninstall llmfit`,Homebrew用户执行`brew uninstall llmfit`,手动安装则删除可执行文件和`~/.local/bin/llmfit`。

无额外依赖

下载后即可直接使用,无需安装其他运行环境

项目信息
开源协议MIT
最后更新2026-07-22T05:25:24Z
GitHub 仓库官方网站

相似推荐