LocalAI
SHA-256本地运行 AI 模型的开源引擎，无需 GPU，兼容 OpenAI API，支持多种硬件和模型类型。
スマートダウンロード
Download 版をダウンロード
v4.2.2 · 130.5 MB
一个能让你在本地运行 AI 模型的神器，不吃显卡、兼容各种 API，还带用户管理。
主な機能
- 无需 GPU：CPU、Apple Silicon、各类显卡都能跑
- 即插即用：完全兼容 OpenAI、Anthropic、ElevenLabs API，代码零改动
- 36+ 后端：覆盖 llama.cpp、vLLM、transformers、whisper、diffusers 等主流框架
- 多用户管理：API Key 认证、用量配额、角色权限，适合团队使用
- 内置 AI 代理：支持工具调用、RAG 检索、MCP 协议，可搭建自主智能体
できないこと
- •macOS 版 DMG 未经过 Apple 公证，首次运行需手动移除隔离属性；Docker 模式下 GPU 加速需要正确安装对应驱动并配置设备映射；模型文件较大（数 GB），建议下载时使用稳定的网络连接；部分后端（如 vLLM）需要较新硬件支持。
使用例
- 个人或企业本地部署 LLM 聊天机器人，替换 OpenAI 服务
- 在边缘设备（如树莓派、笔记本电脑）上运行语音识别或图像生成
- 团队内部搭建带用户权限的 AI 平台，供不同部门使用不同模型
- 开发者本地测试 AI 功能，无需连接互联网，节省 API 费用
詳細説明
LocalAI 是一款免费开源的人工智能引擎，让你无需 GPU 就能在本地硬件上运行各种大语言模型、图像生成、语音助手等 AI 模型。它完全兼容 OpenAI API，你可以零代码将云端 AI 服务切换到本地部署。支持 36 种以上后端（llama.cpp、vLLM、transformers、whisper、diffusers、MLX 等），兼容 NVIDIA、AMD、Intel、Apple Silicon、Vulkan 乃至纯 CPU。内置多用户认证、角色权限控制以及支持工具调用、RAG、MCP 的 AI 代理，适合企业级使用。所有数据留在你的基础设施内，确保隐私安全。
トラブルシューティング & FAQ (2)
トラブル対応'reasoning_effort=none' が LocalAI 4.3.4 で動作しない問題を修正する方法
これは、LocalAI バージョン 4.0.0 以降における既知のリグレッションです（issue #10072）。パラメータ reasoning_effort=none は、モデルが推論トークンを生成するのを防ぎ、応答を高速化するためのものですが、新しいバージョンのバグにより無視されます。一時的な回避策として、llama-cpp バックエンドモデル（Qwen3 など）でこの機能が正しく動作すると報告されている LocalAI v4.0.0 または v3.12.1 にダウングレードしてください。ダウングレードが不可能な場合は、top_p=0 と temperature=0 を設定してモデルに推論をスキップさせるか、レイテンシが重要なタスクには非推論モデルを使用することも試せます。恒久的な修正としては、GitHub issue #10072 を監視し、パッチがリリースされたらアップグレードしてください。モデル設定ファイルで reasoning_effort オプションがバックエンドパラメータに正しくマッピングされていることを確認してください（例：llama-cpp では --reasoning-effort none にマッピングされる必要があります）。
トラブル対応なぜ一部のLocalAI v4.3.2 DockerイメージがDocker Hubから欠落しているのですか？
CIビルドの失敗により、いくつかのv4.3.2タグの公開が妨げられました。影響を受けて欠落しているタグ: v4.3.2, v4.3.2-gpu-nvidia-cuda-12, v4.3.2-gpu-nvidia-cuda-13, v4.3.2-gpu-vulkan, v4.3.2-gpu-intel。正常に公開されたタグ: v4.3.2-gpu-hipblas, v4.3.2-nvidia-l4t-arm64, v4.3.2-nvidia-l4t-arm64-cuda-13。回避策として、localai/localai:masterイメージを使用してください。
タグ
はじめ方
ソフトウェアをインストール
ディストリビューションに合ったパッケージをインストール（dpkg / rpm / AppImage）
macOS：下载 DMG 安装包并拖入 Applications 文件夹，首次运行可能需执行 sudo xattr -d com.apple.quarantine /Applications/LocalAI.app
Docker（CPU）：执行 docker run -ti --name local-ai -p 8080:8080 localai/localai:latest
Docker（NVIDIA GPU）：加上 --gpus all 参数，例如 docker run -ti --name local-ai -p 8080:8080 --gpus all localai/localai:latest-gpu-nvidia-cuda-12
- macOS：下载 DMG 安装包并拖入 Applications 文件夹，首次运行可能需执行 sudo xattr -d com.apple.quarantine /Applications/LocalAI.app
- Docker（CPU）：执行 docker run -ti --name local-ai -p 8080:8080 localai/localai:latest
- Docker（NVIDIA GPU）：加上 --gpus all 参数，例如 docker run -ti --name local-ai -p 8080:8080 --gpus all localai/localai:latest-gpu-nvidia-cuda-12
SHA-256 チェックサム確認済み
GitHub 公式 Release ページから抽出されたチェックサム
SHA256 チェックサム
544eb221c2a5ec84467c1eb92851d98348c5e8eec9bf0346bd942e302faad73bこのチェックサムは GitHub Release ページから抽出されたものです。ダウンロード後にファイルの整合性を確認してください。
本プラットフォーム上のすべての SHA-256 チェックサムは、プロジェクトの公式 GitHub Release ページから抽出されたもので、一切の改変はありません。GitHub Releases ページで独自に検証できます。
オープンソースの透明性
GitHub ソースを見るアンインストール情報
macOS：将 LocalAI.app 拖入废纸篓并清空。Docker：先 docker stop local-ai，然后 docker rm local-ai，最后删除镜像 docker rmi localai/localai:latest 及相关标签。
追加の依存関係なし
ダウンロード後すぐに使用可能。追加のランタイムは不要です。
問題が発生？以下のFAQを確認
2 FAQs