OpenSource-Hub
F

forge

SHA-256
2.2k stars·AI 생산성·SHA-256 체크섬 확인됨

자체 호스팅 LLM 도구 호출 신뢰성 레이어로, 로컬 소형 모델이 대형 모델에 버금가는 성능을 발휘할 수 있게 하며, 프록시 모드를 지원하고 OpenAI 및 Anthropic과 호환됩니다.

스마트 다운로드

Download 버전 다운로드

v0.9.2 · 19.4 MB

대형 모델의 도구 호출을 더욱 안정적으로 만들고, 실측 결과 큰 향상을 보였으며, 에이전트로도 사용할 수 있습니다.

주요 기능

  • 세 가지 사용 방식: 프록시 서버, WorkflowRunner, 미들웨어로 기존 프로젝트에 유연하게 적용 가능
  • 내장 가드레일 메커니즘으로 모델 출력의 형식 오류를 자동 수정하고 재시도하며, 추가 구성이 필요 없음
  • OpenAI 및 Anthropic API와 호환되어 opencode, Claude Code 등 기존 도구에 직접 연결 가능
  • Ollama, llama.cpp, vLLM 등 다양한 로컬 추론 백엔드를 지원하며 백엔드 프로세스를 자동으로 관리 가능

할 수 없는 것

  • Forge는 에이전트 오케스트레이터가 아니며, 다중 에이전트 협업이나 DAG 태스크 플로우 구축에 적합하지 않습니다. 단일 루프 내의 안정성에 집중합니다.
  • 프로그래밍 도구가 아닙니다. coding agent를 개발하려면 전문 프레임워크를 사용하십시오. Forge는 프록시 계층으로서 이를 강화할 수 있습니다.
  • Anthropic의 실측 데이터는 이전 버전에서 얻은 것이며, 최신 버전은 비용이 높아 다시 실행하지 않았습니다.
  • 로컬 소형 모델의 성능은 하드웨어와 모델 선택에 따라 달라집니다. Ministral-3-8B 사용을 권장하며 모델 가이드를 참조하십시오.

사용 사례

  • 기존 Claude Code 또는 opencode 등 도구에 로컬 모델을 통합하고, 동시에 신뢰할 수 있는 도구 호출 기능을 확보합니다.
  • 사용자 정의 에이전트 워크플로우를 개발하려면 안정적인 다단계 도구 호출과 컨텍스트 관리가 필요합니다.

상세 설명

Forge는 자체 호스팅 LLM의 도구 호출과 다단계 에이전트 워크플로우를 안정적으로 만드는 데 초점을 맞춘 Python 프레임워크입니다. 도구 세트만 제공하면 모델이 호출 순서를 자유롭게 선택할 수 있으며, 제약이 필요할 경우 required_steps, prerequisites, terminal_tool을 통해 선택적으로 활성화할 수 있습니다. 그 가드레일 메커니즘(구문 분석 구조, 재시도 프롬프트, 응답 검증)은 필수 단계를 설정하지 않아도 작동합니다. Forge는 에이전트 오케스트레이터도 아니고 코딩 도구도 아니며, 단일 에이전트 루프에 내장되어 도구 호출을 안정적으로 만듭니다. 세 가지 사용 방식을 지원합니다: 프록시 서버(OpenAI 및 Anthropic 프로토콜 호환)로 작동하여 opencode, Claude Code와 같은 기존 도구의 기능을 직접 강화하거나, WorkflowRunner로 프로세스를 구축하거나, 미들웨어로 자체 루프에 통합할 수 있습니다. 범용 에이전트 프레임워크와 달리 Forge는 안정성에 집중하며, 실제 측정 결과 8B 로컬 모델의 정확도를 84%까지 끌어올렸고, Claude Sonnet 4.6도 85%에서 98%로 향상시켰으며, 기존 코드를 다시 작성할 필요가 없습니다.

태그

LLMtool-callingagentguardrailsproxyself-hosted

시작하기

1

설치 프로그램 다운로드

위 버튼을 클릭하여 시스템에 맞는 설치 프로그램을 다운로드

2

소프트웨어 설치

다운로드한 설치 프로그램을 더블 클릭하고 안내에 따르세요

3

pip로 Python 패키지 설치: pip install forge-guardrails

4

로컬 모델 백엔드 시작 (예: llama-server 또는 Ollama)

5

클라이언트 API 주소를 프록시 포트 8081로 설정하고 python -m forge.proxy 실행

설치 가이드
  1. pip로 Python 패키지 설치: pip install forge-guardrails
  2. 로컬 모델 백엔드 시작 (예: llama-server 또는 Ollama)
  3. 클라이언트 API 주소를 프록시 포트 8081로 설정하고 python -m forge.proxy 실행
파일 무결성

SHA-256 체크섬 확인됨

GitHub 공식 Release 페이지에서 추출된 체크섬

SHA256 체크섬

c49654ccac62c51335e501f3a491d8f39007c8c25790b7a85ce0f251a5a1d252

이 체크섬은 GitHub Release 페이지에서 추출되었습니다. 다운로드 후 파일 무결성을 확인하세요.

이 플랫폼의 모든 SHA-256 체크섬은 프로젝트의 공식 GitHub Release 페이지에서 추출되었으며, 어떠한 변경도 없습니다. GitHub Releases 페이지에서 직접 검증할 수 있습니다.

오픈소스 투명성

GitHub 소스 보기
환경 가이드

제거 정보

pip로 설치한 경우 pip uninstall forge-guardrails를 실행하면 됩니다. 독립 프록시를 사용하는 경우 설치 스크립트가 생성한 바이너리 파일과 구성 디렉터리(예: ~/.forge-proxy)를 삭제하세요.

추가 의존성 없음

다운로드 후 바로 사용 가능. 추가 런타임이 필요하지 않습니다.

프로젝트 정보
라이선스MIT
마지막 업데이트2026-08-20T13:06:39Z
GitHub 저장소공식 웹사이트

유사한 프로젝트