LocalAI
SHA-256ローカルでAIモデルを実行するオープンソースエンジン。GPU不要で、OpenAI APIと互換性があり、さまざまなハードウェアとモデルタイプをサポート。
スマートダウンロード
Download 版をダウンロード
v4.2.2 · 130.5 MB
AIモデルをローカルで実行できる神ツール。GPU不要で各種APIと互換性があり、ユーザー管理機能も搭載している。
主な機能
- GPU不要：CPU、Apple Silicon、各種グラフィックスカードでも動作可能
- プラグアンドプレイ：OpenAI、Anthropic、ElevenLabs APIと完全互換、コードの変更は不要
- 36+のバックエンド：llama.cpp、vLLM、transformers、whisper、diffusersなどの主要フレームワークに対応
- マルチユーザー管理：API Key認証、使用量クォータ、ロール権限で、チームでの利用に最適
- AIエージェント内蔵：ツール呼び出し、RAG検索、MCPプロトコルをサポートし、自律的なエージェントを構築可能
できないこと
- •macOS 版 DMG は Apple の公証を受けていないため、初回実行時に隔離属性を手動で削除する必要があります。Docker モードで GPU アクセラレーションを使用するには、対応するドライバーを正しくインストールし、デバイスマッピングを設定する必要があります。モデルファイルはサイズが大きい（数 GB）ため、ダウンロード時には安定したネットワーク接続を使用することをお勧めします。一部のバックエンド（vLLM など）は、比較的新しいハードウェアのサポートが必要です。
使用例
- 個人または企業が LLM チャットボットをローカルにデプロイし、OpenAI サービスを置き換える
- エッジデバイス（Raspberry Pi、ノートパソコンなど）で音声認識や画像生成を実行する
- チーム内にユーザー権限付きの AI プラットフォームを構築し、部門ごとに異なるモデルを利用できるようにする
- 開発者がローカルで AI 機能をテストでき、インターネット接続が不要で、API 費用を節約できる
LocalAI は、GPU なしでローカルハードウェア上で大規模言語モデル、画像生成、音声アシスタントなどのさまざまな AI モデルを実行できる、無料のオープンソース AI エンジンです。OpenAI API と完全に互換性があり、コードを一切書くことなくクラウド AI サービスからローカルデプロイへ切り替えることができます。llama.cpp、vLLM、transformers、whisper、diffusers、MLX など 36 種類以上のバックエンドをサポートし、NVIDIA、AMD、Intel、Apple Silicon、Vulkan、さらには CPU のみの環境にも対応しています。マルチユーザー認証、ロールベースの権限制御、ツール呼び出し・RAG・MCP をサポートする AI エージェントを内蔵しており、エンタープライズレベルの利用に適しています。すべてのデータはお客様のインフラストラクチャ内に保持され、プライバシーの安全が確保されます。
タグ
はじめ方
ソフトウェアをインストール
ディストリビューションに合ったパッケージをインストール（dpkg / rpm / AppImage）
macOS：DMG インストーラーをダウンロードして Applications フォルダーにドラッグします。初回実行時に sudo xattr -d com.apple.quarantine /Applications/LocalAI.app を実行する必要がある場合があります
Docker（CPU）：docker run -ti --name local-ai -p 8080:8080 localai/localai:latest を実行します
Docker（NVIDIA GPU）：--gpus all パラメーターを追加します。例：docker run -ti --name local-ai -p 8080:8080 --gpus all localai/localai:latest-gpu-nvidia-cuda-12
- macOS：DMG インストーラーをダウンロードして Applications フォルダーにドラッグします。初回実行時に sudo xattr -d com.apple.quarantine /Applications/LocalAI.app を実行する必要がある場合があります
- Docker（CPU）：docker run -ti --name local-ai -p 8080:8080 localai/localai:latest を実行します
- Docker（NVIDIA GPU）：--gpus all パラメーターを追加します。例：docker run -ti --name local-ai -p 8080:8080 --gpus all localai/localai:latest-gpu-nvidia-cuda-12
SHA-256 チェックサム確認済み
GitHub 公式 Release ページから抽出されたチェックサム
SHA256 チェックサム
544eb221c2a5ec84467c1eb92851d98348c5e8eec9bf0346bd942e302faad73bこのチェックサムは GitHub Release ページから抽出されたものです。ダウンロード後にファイルの整合性を確認してください。
本プラットフォーム上のすべての SHA-256 チェックサムは、プロジェクトの公式 GitHub Release ページから抽出されたもので、一切の改変はありません。GitHub Releases ページで独自に検証できます。
オープンソースの透明性
GitHub ソースを見るアンインストール情報
macOS：LocalAI.app をゴミ箱にドラッグし、ゴミ箱を空にします。Docker：まず docker stop local-ai、次に docker rm local-ai を実行し、最後に docker rmi localai/localai:latest でイメージと関連タグを削除します。
追加の依存関係なし
ダウンロード後すぐに使用可能。追加のランタイムは不要です。
問題が発生？以下のFAQを確認
5 FAQs
類似プロジェクト
ragflow
RAGFlowはオープンソースのRAGエンジンであり、深いドキュメント理解とAgentワークフローを組み合わせ、根拠のある正確な回答を提供します。LangChainのDIY方式と比較して、RAGFlowは視覚化された、すぐに使えるエンタープライズ級プラットフォームを提供し、テンプレート化されたチャンク分割により幻覚と設定コストを大幅に削減します。
unsloth
Unsloth は無料・オープンソースのローカル AI デスクトップアプリで、大規模言語モデルと拡散モデルの実行とトレーニングが可能です。ファインチューニング速度が 2 倍向上し、VRAM 使用量が 70% 削減されます。
ollama
ローカルで大規模言語モデル（LLM）をワンクリックで実行・管理するオープンソースツール。複数のプラットフォームと豊富なモデルに対応しています。