OpenSource-Hub
F

forge

SHA-256
2.2k stars·AI 生産性·SHA-256 チェックサム確認済み

自托管 LLM 工具调用可靠性层，让本地小模型表现媲美大模型，支持代理模式，兼容 OpenAI 和 Anthropic。

スマートダウンロード

Download 版をダウンロード

v0.9.2 · 19.4 MB

让大模型工具调用更稳，实测提升巨大，还能当代理用。

主な機能

  • 三种使用方式：代理服务器、WorkflowRunner、中间件，灵活适配现有项目
  • 内置护栏机制，自动修复模型输出的格式错误并重试，无需额外配置
  • 兼容 OpenAI 和 Anthropic API，可直接对接 opencode、Claude Code 等现有工具
  • 支持 Ollama、llama.cpp、vLLM 等多种本地推理后端，并可自动管理后端进程

できないこと

  • •Forge 不是智能体编排器，不适合构建多智能体协作或 DAG 任务流，专注单个循环内的可靠性
  • •不是编程工具，如果要开发 coding agent 请用专业框架，Forge 可作代理层增强它们
  • •Anthropic 的实测数据来自早前版本，最新版本未重新跑，因为成本较高
  • •本地小模型效果取决于硬件和模型选择，推荐使用 Ministral-3-8B 并参考模型指南

使用例

  • 给现有 Claude Code 或 opencode 等工具接入本地模型，同时获得可靠的工具调用能力
  • 开发自定义智能体工作流，需要稳定的多步工具调用和上下文管理

詳細説明

Forge 是一个 Python 框架，专注于让自托管 LLM 的工具调用和多步智能体工作流变得可靠。你只需提供一组工具，模型可以自由选择调用顺序；如需约束，可通过 required_steps、prerequisites 和 terminal_tool 可选开启。其护栏机制（救援解析、重试提示、响应验证）即使不设置任何必需步骤也能生效。Forge 不是智能体编排器，也不是编码工具，而是嵌入单个智能体循环内，让工具调用稳定可靠。它支持三种使用方式：作为代理服务器（兼容 OpenAI 和 Anthropic 协议）直接为现有工具（如 opencode、Claude Code）增强能力；作为 WorkflowRunner 构建流程；或作为中间件集成到自有循环中。相比通用智能体框架，Forge 专注可靠性，实测可将 8B 本地模型准确率提升至 84%，甚至把 Claude Sonnet 4.6 从 85% 提升到 98%，且无需重写现有代码。

タグ

LLMtool-callingagentguardrailsproxyself-hosted

はじめ方

1

インストーラをダウンロード

上のボタンをクリックして、お使いのシステム用のインストーラをダウンロード

Windows· 19.4 MBmacOS· 19.2 MB
2

ソフトウェアをインストール

ダウンロードしたインストーラをダブルクリックし、指示に従ってください

3

使用 pip 安装 Python 包：pip install forge-guardrails

4

启动本地模型后端（如 llama-server 或 Ollama）

5

将客户端 API 地址指向代理端口 8081，运行 python -m forge.proxy

インストールガイド
  1. 使用 pip 安装 Python 包：pip install forge-guardrails
  2. 启动本地模型后端（如 llama-server 或 Ollama）
  3. 将客户端 API 地址指向代理端口 8081，运行 python -m forge.proxy
ファイルの整合性

SHA-256 チェックサム確認済み

GitHub 公式 Release ページから抽出されたチェックサム

SHA256 チェックサム

c49654ccac62c51335e501f3a491d8f39007c8c25790b7a85ce0f251a5a1d252

このチェックサムは GitHub Release ページから抽出されたものです。ダウンロード後にファイルの整合性を確認してください。

本プラットフォーム上のすべての SHA-256 チェックサムは、プロジェクトの公式 GitHub Release ページから抽出されたもので、一切の改変はありません。GitHub Releases ページで独自に検証できます。

オープンソースの透明性

GitHub ソースを見る
環境ガイド

アンインストール情報

若通过 pip 安装，执行 pip uninstall forge-guardrails 即可。若使用独立代理，请删除安装脚本生成的二进制文件和配置目录（如 ~/.forge-proxy）。

追加の依存関係なし

ダウンロード後すぐに使用可能。追加のランタイムは不要です。

プロジェクト情報
ライセンスMIT
最終更新2026-08-20T13:06:39Z
GitHub リポジトリ公式サイト

類似プロジェクト

R

ragflow

RAGFlowはオープンソースのRAGエンジンであり、深いドキュメント理解とAgentワークフローを組み合わせ、根拠のある正確な回答を提供します。LangChainのDIY方式と比較して、RAGFlowは視覚化された、すぐに使えるエンタープライズ級プラットフォームを提供し、テンプレート化されたチャンク分割により幻覚と設定コストを大幅に削減します。

U

unsloth

Unsloth は無料・オープンソースのローカル AI デスクトップアプリで、大規模言語モデルと拡散モデルの実行とトレーニングが可能です。ファインチューニング速度が 2 倍向上し、VRAM 使用量が 70% 削減されます。

L

LocalAI

本地运行 AI 模型的开源引擎，无需 GPU，兼容 OpenAI API，支持多种硬件和模型类型。