llmfit
SHA-256ターミナルツールで、ハードウェア（メモリ、GPU、CPU）を自動検出し、数百ものLLMモデルの中から、あなたのマシンでスムーズに動作するものを推薦します。推測する必要も、ダウンロードする必要もなく、1つのコマンドで完了します。
スマートダウンロード
Download 版をダウンロード
v1.1.6 · 6.1 MB
ハードウェアをスキャンし、実行可能なAIモデルを推奨、1つのコマンドで完了。
主な機能
- 自動検出システムハードウェア（RAM、VRAM、CPU、GPUバックエンド）、手動設定不要
- 数百モデルに対して4次元スコアを提供：メモリ適合度、速度、品質、コンテキスト長
- マルチGPU、混合エキスパート（MoE）アーキテクチャ（例：Mixtral、DeepSeek-V3）および主要ローカル実行フレームワーク（Ollama、llama.cpp、MLX）をサポート
- インタラクティブTUIインターフェース（デフォルトモード）とCLIモード、異なる使用シーンに対応
- 内蔵ベンチマーク機能により実際のtoken/sを測定可能、ワンクリックで結果をコミュニティに貢献
できないこと
- •速度推定はメモリ帯域幅モデルに基づいていますが、実際のパフォーマンスはシステム負荷や冷却などの影響を受けます。`llmfit bench`を実行して実際のデータを取得してください。
- •モデルディレクトリはデフォルトで内蔵データベースから取得されます。カスタムモデルを追加する場合は、custom-modelsドキュメントを参照してください。
- •初めてTUIを実行する際には、フォントや依存関係（kitty端末など）のインストールが必要な場合があります。最新の端末エミュレータを使用することをお勧めします。
使用例
- 自分のノートパソコンでオープンソースLLMを動かしたいが、どのモデルを選べばいいかわからない場合、llmfitを使ってワンクリックでスキャンし、おすすめのランキングを取得できる
- AIアプリケーションを開発する際に、異なるハードウェア構成に適したモデルを選択する必要がある場合、CLIモードでバッチ生成し、推奨JSONを出力できる
詳細説明
llmfitはクロスプラットフォームのターミナルツールであり、ハードウェア構成（メモリ、VRAM、CPU、GPUバックエンド）を自動的にスキャンし、数百の大規模言語モデル（LLM）の中から、実際にあなたのマシンでスムーズに動作するものを選別します。各モデルに対して、メモリ適合度、推定速度、品質、コンテキスト長の4つの次元でスコアを付けます。数十GBのモデルファイルを盲目的にダウンロードする必要はなく、1つのコマンドを実行するだけで、適合度順に並べられた推奨リストが表示されます。類似ツール（例：llm-checker）と比較して、llmfitには2つの独自の利点があります。1つ目は、速度推定がメモリ帯域幅モデルと実際のコミュニティ測定データに基づいており、純粋な理論計算よりも正確であること。2つ目は、混合専門家（MoE）アーキテクチャを正しくサポートしていることです。llm-checkerはすべてのモデルを高密度モデルとして扱うため、メモリ要件を過大評価します。llmfitでは、実際のtoken/s速度をローカルでテストし、その結果をPRを通じてコミュニティに貢献することで、全員の推定が徐々に正確になります。また、対話型TUI（デフォルトモード）と従来のCLIモードを内蔵しており、スクリプトの自動化にも便利です。
タグ
はじめ方
ソフトウェアをインストール
ダウンロードしたインストーラをダブルクリックし、指示に従ってください
インストール：Windowsは`scoop install llmfit`、macOS/Linuxは`brew install AlexsJones/llmfit/llmfit`またはcurlスクリプトを使用します
実行：ターミナルで`llmfit`と入力しインタラクティブTUIを起動、ハードウェア情報とモデルランキングが自動表示されます
発展：`llmfit bench`で実際の速度をテスト、または`llmfit recommend --json`でJSON出力を取得してスクリプトで利用できます
- インストール：Windowsは`scoop install llmfit`、macOS/Linuxは`brew install AlexsJones/llmfit/llmfit`またはcurlスクリプトを使用します
- 実行：ターミナルで`llmfit`と入力しインタラクティブTUIを起動、ハードウェア情報とモデルランキングが自動表示されます
- 発展：`llmfit bench`で実際の速度をテスト、または`llmfit recommend --json`でJSON出力を取得してスクリプトで利用できます
SHA-256 チェックサム確認済み
GitHub 公式 Release ページから抽出されたチェックサム
SHA256 チェックサム
1e09232a128455596a2d348ab5893741d04b94aa6d924f1253462dc13304f7c6このチェックサムは GitHub Release ページから抽出されたものです。ダウンロード後にファイルの整合性を確認してください。
本プラットフォーム上のすべての SHA-256 チェックサムは、プロジェクトの公式 GitHub Release ページから抽出されたもので、一切の改変はありません。GitHub Releases ページで独自に検証できます。
オープンソースの透明性
GitHub ソースを見るアンインストール情報
アンインストール方法はインストール方法によって異なります。Scoopユーザーは `scoop uninstall llmfit` を実行し、Homebrewユーザーは `brew uninstall llmfit` を実行します。手動インストールの場合は、実行ファイルと `~/.local/bin/llmfit` を削除してください。
追加の依存関係なし
ダウンロード後すぐに使用可能。追加のランタイムは不要です。