22 open source tools found
一条命令在本地跑大模型,简单到离谱。
在本地一键运行和管理大语言模型的开源工具,支持多种平台和丰富模型。
ローカルで大規模言語モデルを実行するための最も軽量なエンジン、PyTorchをインストールする必要はなく、メモリも節約!
純粋なC/C++による高性能大規模モデル推論エンジン。低ビット量子化および多種ハードウェア(Apple Silicon、CUDA、Vulkanなど)をサポート。軽量で組込み可能。
テーマを与えると、AIが自動的に完全な高画質の短い動画を生成してくれます。
AI大モデルを利用して、ワンクリックで高画質のショート動画を生成します。テーマやキーワードを提供するだけで、自動的に文案、素材、ナレーション、字幕、背景音楽を合成します。
一个能让你在本地运行 AI 模型的神器,不吃显卡、兼容各种 API,还带用户管理。
本地运行 AI 模型的开源引擎,无需 GPU,兼容 OpenAI API,支持多种硬件和模型类型。
一个能管API还能管AI流量的全能网关,插件多、性能好。
云原生、平台无关的 API 网关,内置 AI/LLM 和 MCP 流量管理,通过插件高度可扩展。
桌面万能 AI 聊天客户端,多模型切换,数据存本地,隐私又便捷。
一个开源的桌面 AI 助手,聚合 ChatGPT、Claude、Gemini 等大模型,本地存储隐私安全,跨平台可用。
AIで株式を自動分析し、毎日結論をWeChat/Feishu/Telegramにプッシュ配信、サーバー不要。
AI大モデルを基盤としたA株/香港株/米株のスマート分析システムにより、意思決定ダッシュボードを自動生成し、マルチチャネルでプッシュ配信。ゼロコストで定期実行が可能。
話すだけで自動的にプロフェッショナルなチャートを生成、draw.io 形式に対応。
AI機能を統合したdraw.io図表ツールで、自然言語を使って図表の作成、修正、拡張が可能です。
ハードウェアをスキャンし、実行可能なAIモデルを推奨、1つのコマンドで完了。
ターミナルツールで、ハードウェア(メモリ、GPU、CPU)を自動検出し、数百ものLLMモデルの中から、あなたのマシンでスムーズに動作するものを推薦します。推測する必要も、ダウンロードする必要もなく、1つのコマンドで完了します。
终端里的 AI 编程搭档,自动选模型、边想边输出。
基于终端的 DeepSeek 编码智能体,支持自动模式、流式推理和完整工具集。
一站式开源工具,搞定 LLM 应用的调试、评估和监控。
开源 AI 可观测性、评估与优化平台,追踪 LLM 调用、运行实验、监控生产环境,内置护栏功能自动优化提示词。
一つの文で複数の大規模モデルを統一的に呼び出し、さらにAgentフレームワークとデスクトップアシスタントを内蔵しています。
aisuiteは軽量なPythonライブラリであり、複数のAIプロバイダ(OpenAI、Anthropic、Googleなど)に対して統一されたChat Completions APIを提供し、さらにツールキットとMCPをサポートするAgents APIも備えています。同時に、デスクトップAIアシスタントOpenCoworkerを駆動します。
Mac上本地跑大模型的最顺手工具,菜单栏控制,缓存智能。
专为 Mac 优化的 LLM 推理引擎,支持连续批处理和智能缓存,菜单栏一键管理。
3000行のコードで作られたAIアシスタント、使えば使うほど賢くなり、Tokenも節約できて、コストも削減できる。
ミニマルな自己進化型自律エージェントフレームワーク、わずか3000行のシードコード、9つのアトミックツール、タスクごとに自動でスキルツリーを生成、トークン消費は同種ツールのわずか1/6
軽量級PDF解析の神ツール、ローカル実行、瞬時にMarkdownとJSONに変換。
高速でオープンソースのドキュメントパーサー。PDF抽出に特化し、Markdown/JSON/テキスト出力をサポート。OCR機能を内蔵し、完全にローカルで動作。クラウドサービス不要。
アリババが2年間社内で使用しているAIコードレビューツール、より正確で、より効率的で、より安定しています。
阿里巴巴がオープンソース化したAIコードレビューCLIツール。ハイブリッドアーキテクチャ(決定論的パイプライン + LLM agent)により、正確な行単位のコメントを提供。内蔵の微調整済みルールセット(NPE、XSS、SQL注入)を搭載。OpenAI/Anthropicと互換性があり、トークン消費量は汎用agentの1/9。
ひとつのエンドポイントで全ての無料大規模モデルにアクセス可能、自動的に切り替え制限を超えない。
16+ の LLM 無料層を統合して OpenAI 互換のエンドポイントを提供するプロキシ。スマートルーティング、自動フェイルオーバー、鍵暗号化をサポート。個人実験専用。
LLMのKVキャッシュを永続化可能で、エンジンを跨いで再利用可能な「AI知識」に変え、推論を高速化する。
エンジン非依存のKVキャッシュ管理層により、大規模モデルの推論をより高速かつリソース効率よくし、永続化キャッシュのセッション間再利用をサポートします。
AIエージェントのトークンを節約する神ツール、圧縮率は驚異的で、答えは変わらない。
AIエージェントが読み取る前にツール出力、ログ、RAGチャンク、ファイルを圧縮し、トークンを60〜95%削減しつつ回答はそのまま維持。ライブラリ、エージェント、MCPサーバーを提供。
AI 模型中间商,自动选最便宜的模型,省 70% 成本。
一个智能模型路由器,通过自动选择最佳模型,帮 AI 应用节省最高 70% 的调用成本。
一句话启动完整本地LLM栈,省去手动配置烦恼。
一键搭建本地大模型全家桶,命令行加图形界面,零配置开箱即用。
用AI假服务钓鱼攻击者,自动收集攻击手法,比传统蜜罐更智能。
一款利用大语言模型驱动的开源欺骗框架,部署多种协议伪装服务,主动引诱攻击者并收集威胁情报。