22 open source tools found
一条命令在本地跑大模型，简单到离谱。
在本地一键运行和管理大语言模型的开源工具，支持多种平台和丰富模型。
本地运行大语言模型的最轻量引擎，不用装 PyTorch，省内存！
纯 C/C++ 的高性能大模型推理引擎，支持低比特量化与多种硬件（Apple Silicon、CUDA、Vulkan 等），轻量可嵌入。
给一个主题，AI 自动帮你生成一条完整的高清短视频。
利用 AI 大模型，一键生成高清短视频。只需提供主题或关键词，自动完成文案、素材、配音、字幕和背景音乐合成。
一个能让你在本地运行 AI 模型的神器，不吃显卡、兼容各种 API，还带用户管理。
本地运行 AI 模型的开源引擎，无需 GPU，兼容 OpenAI API，支持多种硬件和模型类型。
一个能管API还能管AI流量的全能网关，插件多、性能好。
云原生、平台无关的 API 网关，内置 AI/LLM 和 MCP 流量管理，通过插件高度可扩展。
桌面万能 AI 聊天客户端，多模型切换，数据存本地，隐私又便捷。
一个开源的桌面 AI 助手，聚合 ChatGPT、Claude、Gemini 等大模型，本地存储隐私安全，跨平台可用。
用AI自动分析股票，每天推送结论到微信/飞书/Telegram，不用服务器。
基于AI大模型的A股/港股/美股智能分析系统，自动生成决策仪表盘并通过多渠道推送，零成本定时运行。
说句话就能自动生成专业图表，支持 draw.io 格式。
一个集成 AI 能力的 draw.io 图表工具，通过自然语言即可创建、修改和增强图表。
扫硬件，推荐能跑的AI模型，一条命令搞定
一个终端工具，自动检测你的硬件（内存、显卡、CPU），并从数百个LLM模型中推荐哪些能在你的机器上流畅运行。不用猜，不用下载，一条命令搞定。
终端里的 AI 编程搭档，自动选模型、边想边输出。
基于终端的 DeepSeek 编码智能体，支持自动模式、流式推理和完整工具集。
一站式开源工具，搞定 LLM 应用的调试、评估和监控。
开源 AI 可观测性、评估与优化平台，追踪 LLM 调用、运行实验、监控生产环境，内置护栏功能自动优化提示词。
一句话统一调用多家大模型，还自带 Agent 框架和桌面助手。
aisuite 是一个轻量级 Python 库，为多个 AI 提供商（OpenAI、Anthropic、Google 等）提供统一的 Chat Completions API，以及带工具包和 MCP 支持的 Agents API。同时驱动桌面 AI 助手 OpenCoworker。
Mac上本地跑大模型的最顺手工具，菜单栏控制，缓存智能。
专为 Mac 优化的 LLM 推理引擎，支持连续批处理和智能缓存，菜单栏一键管理。
3000行代码的AI助手，越用越聪明，省Token又省钱。
极简自演化自主代理框架，仅 3000 行种子代码，9 个原子工具，每次任务自动生成技能树，Token 消耗仅为同类工具的 1/6。
轻量级 PDF 解析神器，本地运行，秒转 Markdown 和 JSON。
一个快速、开源的文档解析器，专注 PDF 提取，支持 Markdown/JSON/文本输出，内置 OCR，完全本地运行，无需云服务。
阿里自用两年的 AI 代码审查工具，更准、更省、更稳定。
阿里巴巴开源的 AI 代码审查 CLI 工具。混合架构（确定性管道 + LLM agent），提供精确行级评论，内置微调规则集（NPE、XSS、SQL注入），兼容 OpenAI/Anthropic，token 消耗仅为通用 agent 的 1/9。
一个端点访问所有免费大模型，自动切换不超限。
将 16+ 个 LLM 免费层聚合为一个 OpenAI 兼容端点的代理，支持智能路由、自动故障转移和密钥加密。仅供个人实验。
把 LLM 的 KV 缓存变为可持久、可跨引擎复用的“AI 知识”，加速推理。
一个与引擎无关的 KV 缓存管理层，让大模型推理更快、更省资源，支持持久化缓存跨会话复用。
给 AI 代理省 Token 的神器，压缩率惊人，答案不变。
在 AI 代理读取前压缩工具输出、日志、RAG 块和文件，减少 60-95% Token 且答案不变。提供库、代理和 MCP 服务器。
AI 模型中间商，自动选最便宜的模型，省 70% 成本。
一个智能模型路由器，通过自动选择最佳模型，帮 AI 应用节省最高 70% 的调用成本。
一句话启动完整本地LLM栈，省去手动配置烦恼。
一键搭建本地大模型全家桶，命令行加图形界面，零配置开箱即用。
用AI假服务钓鱼攻击者，自动收集攻击手法，比传统蜜罐更智能。
一款利用大语言模型驱动的开源欺骗框架，部署多种协议伪装服务，主动引诱攻击者并收集威胁情报。