freellmapi
SHA-256将 16+ 个 LLM 免费层聚合为一个 OpenAI 兼容端点的代理，支持智能路由、自动故障转移和密钥加密。仅供个人实验。
一个端点访问所有免费大模型，自动切换不超限。
核心功能
- 聚合 16 个 LLM 提供商的免费层，月可用约 17 亿 tokens
- 完全兼容 OpenAI API，支持 Chat、Responses、Embeddings、图像生成等
- 智能路由与自动故障转移：遇限流自动换下一个模型，支持 20 次重试
- 对话粘性：30 分钟内同一对话固定使用同一模型，避免切换导致幻觉
- 密钥加密存储（AES-256-GCM），统一 API 令牌，不暴露上游密钥
避坑指南
- •此工具仅供个人实验，不可用于生产环境或商业服务。免费层有严格速率限制，超额可能导致请求失败或被提供商封禁。模型切换后上下文可能有轻微偏差，建议开启 Context Handoff 功能缓解。确保遵守各提供商的服务条款（ToS）。不要存储敏感数据，因为日志可能包含请求内容。
适用场景
- 想免费尝试多个大模型（如 Gemini、Claude、DeepSeek）的开发者
- 在本地或边缘设备运行个人 AI 助手，避免为每个 API 单独注册和计费
详细介绍
FreeLLMAPI 是一个开源代理，将 Google、Groq、Cerebras、NVIDIA、Mistral、OpenRouter、GitHub Models、Cohere、Cloudflare、HuggingFace、智谱、Ollama 等 16+ 个 LLM 提供商的免费层聚合到一个 OpenAI 兼容的端点。它自动处理速率限制、故障转移和每个密钥的使用跟踪——你只需将任何 OpenAI SDK 或客户端（如 LangChain、Continue、Claude Code）指向本地服务器即可。相比手动管理多个 SDK 或使用单独的提供商封装，FreeLLMAPI 提供了一个统一的管理界面来管理密钥、配置回退链和查看使用分析，同时密钥在存储时加密。非常适合想免费尝试多种模型的开发者。注意：仅供个人实验，不可用于生产环境。
标签
快速上手
安装软件
打开下载的 dmg 文件，将应用拖入 Applications 文件夹
访问 freellmapi.co 获取安装脚本，或从 Releases 下载桌面安装包（Windows .exe）
运行安装脚本（Docker 环境）或双击安装程序，按提示完成初始化设置
在浏览器中打开 http://localhost:3001 设置账号和 API 密钥，即可开始使用
- 访问 freellmapi.co 获取安装脚本，或从 Releases 下载桌面安装包（Windows .exe）
- 运行安装脚本（Docker 环境）或双击安装程序，按提示完成初始化设置
- 在浏览器中打开 http://localhost:3001 设置账号和 API 密钥，即可开始使用
已提供 SHA-256 校验码，下载后可自行核对文件完整性
该校验码提取自 GitHub 官方 Release 页面
SHA256 校验码
1af7a3b5515a875c68ebe5d50fba86c0b57b6b71b270a4e1282fc36790d59be6该校验码提取自 GitHub Release 页面，下载后请自行核对文件完整性
本平台所有 SHA-256 校验码均提取自项目在 GitHub 官方 Release 页面发布的文件，未做任何修改。你可以通过 GitHub Releases 页面自行验证。
开源透明
查看 GitHub 源码卸载说明
删除 ~/freellmapi 目录（包含 SQLite 数据库和配置文件），如果使用 Docker 则停止并移除容器，同时删除持久化数据卷。
无额外依赖
下载后即可直接使用，无需安装其他运行环境