unsloth
SHA-256Unsloth 是免费开源的本地 AI 桌面应用，可运行和训练大语言模型与扩散模型，微调速度提升 2 倍、显存减少 70%。
本地跑模型、训练模型的全能 AI 桌面应用，速度快还省显存。
核心功能
- 支持运行和训练 LLM、扩散模型、音频、嵌入等多种模型
- 训练速度比常规方法快 2 倍，显存占用减少 70%
- 支持 LoRA、QLoRA、全量微调、强化学习（RL、GRPO、DPO）
- 可接入 Claude Code、Codex 等 Agent 工具，支持私有搜索和 RAG
- 支持 CPU、NVIDIA、AMD、Intel、macOS 及多 GPU 环境
避坑指南
- •虽然训练速度很快，但大规模训练仍需要足够的内存和显存，建议先查看官方硬件要求
- •首次安装可能需要下载模型文件，需保证网络稳定
- •Vulkan 后端仅支持 GGUF 推理，训练仍需 PyTorch 或 MLX 后端
适用场景
- 在本地快速微调开源模型（如 Qwen、DeepSeek、Llama）用于特定任务
- 离线运行大模型并接入开发工具，实现代码助手、私有知识库等场景
详细介绍
Unsloth 是首个可以在本地运行和训练 AI 模型的桌面应用。它支持包括 Qwen3.8、Kimi K3、MiniMax-H3、Gemma 4、DeepSeek-V4、FLUX 在内的多种模型。与大多数只专注于推理的本地模型工具不同，Unsloth 内置了完整的训练能力：微调 LLM、扩散模型、TTS 和嵌入模型的速度是常规方法的 2 倍，且显存占用减少 70%。它还支持 LoRA、QLoRA、强化学习（RL、GRPO、DPO）以及 FP8 精度。应用内置了 Agents 与工具集成（如 Claude Code、Codex、MCP），支持私有搜索、RAG、图像/视频扩散模型和音频处理。硬件上支持 CPU、NVIDIA、AMD、Intel、macOS 以及多 GPU 环境，并可通过 Cloudflare 进行安全的远程访问。此外，它支持导出为 GGUF、NVFP4、FP8 等格式，并提供 OpenAI 兼容 API，方便部署。
标签
快速上手
安装软件
根据你的发行版安装对应的包（dpkg / rpm / AppImage）
下载适合你的操作系统（Windows/macOS/Linux）的安装包
双击安装包并按照安装向导完成安装
启动 Unsloth 桌面应用，选择或下载模型即可开始使用
- 下载适合你的操作系统（Windows/macOS/Linux）的安装包
- 双击安装包并按照安装向导完成安装
- 启动 Unsloth 桌面应用，选择或下载模型即可开始使用
已提供 SHA-256 校验码，下载后可自行核对文件完整性
该校验码提取自 GitHub 官方 Release 页面
SHA256 校验码
3f9fe4489d724d746909e082693a067f6b7e7803d99c5c95efe1ff604edf88e5该校验码提取自 GitHub Release 页面，下载后请自行核对文件完整性
本平台所有 SHA-256 校验码均提取自项目在 GitHub 官方 Release 页面发布的文件，未做任何修改。你可以通过 GitHub Releases 页面自行验证。
开源透明
查看 GitHub 源码卸载说明
在 Windows 中通过“设置 > 应用”卸载；macOS 中将应用拖入废纸篓；Linux 使用安装时对应的包管理器卸载（如 apt remove unsloth）。
无额外依赖
下载后即可直接使用，无需安装其他运行环境