forge
SHA-256자체 호스팅 LLM 도구 호출 신뢰성 레이어로, 로컬 소형 모델이 대형 모델에 버금가는 성능을 발휘할 수 있게 하며, 프록시 모드를 지원하고 OpenAI 및 Anthropic과 호환됩니다.
스마트 다운로드
Download 버전 다운로드
v0.9.2 · 19.4 MB
대형 모델의 도구 호출을 더욱 안정적으로 만들고, 실측 결과 큰 향상을 보였으며, 에이전트로도 사용할 수 있습니다.
주요 기능
- 세 가지 사용 방식: 프록시 서버, WorkflowRunner, 미들웨어로 기존 프로젝트에 유연하게 적용 가능
- 내장 가드레일 메커니즘으로 모델 출력의 형식 오류를 자동 수정하고 재시도하며, 추가 구성이 필요 없음
- OpenAI 및 Anthropic API와 호환되어 opencode, Claude Code 등 기존 도구에 직접 연결 가능
- Ollama, llama.cpp, vLLM 등 다양한 로컬 추론 백엔드를 지원하며 백엔드 프로세스를 자동으로 관리 가능
할 수 없는 것
- •Forge는 에이전트 오케스트레이터가 아니며, 다중 에이전트 협업이나 DAG 태스크 플로우 구축에 적합하지 않습니다. 단일 루프 내의 안정성에 집중합니다.
- •프로그래밍 도구가 아닙니다. coding agent를 개발하려면 전문 프레임워크를 사용하십시오. Forge는 프록시 계층으로서 이를 강화할 수 있습니다.
- •Anthropic의 실측 데이터는 이전 버전에서 얻은 것이며, 최신 버전은 비용이 높아 다시 실행하지 않았습니다.
- •로컬 소형 모델의 성능은 하드웨어와 모델 선택에 따라 달라집니다. Ministral-3-8B 사용을 권장하며 모델 가이드를 참조하십시오.
사용 사례
- 기존 Claude Code 또는 opencode 등 도구에 로컬 모델을 통합하고, 동시에 신뢰할 수 있는 도구 호출 기능을 확보합니다.
- 사용자 정의 에이전트 워크플로우를 개발하려면 안정적인 다단계 도구 호출과 컨텍스트 관리가 필요합니다.
상세 설명
Forge는 자체 호스팅 LLM의 도구 호출과 다단계 에이전트 워크플로우를 안정적으로 만드는 데 초점을 맞춘 Python 프레임워크입니다. 도구 세트만 제공하면 모델이 호출 순서를 자유롭게 선택할 수 있으며, 제약이 필요할 경우 required_steps, prerequisites, terminal_tool을 통해 선택적으로 활성화할 수 있습니다. 그 가드레일 메커니즘(구문 분석 구조, 재시도 프롬프트, 응답 검증)은 필수 단계를 설정하지 않아도 작동합니다. Forge는 에이전트 오케스트레이터도 아니고 코딩 도구도 아니며, 단일 에이전트 루프에 내장되어 도구 호출을 안정적으로 만듭니다. 세 가지 사용 방식을 지원합니다: 프록시 서버(OpenAI 및 Anthropic 프로토콜 호환)로 작동하여 opencode, Claude Code와 같은 기존 도구의 기능을 직접 강화하거나, WorkflowRunner로 프로세스를 구축하거나, 미들웨어로 자체 루프에 통합할 수 있습니다. 범용 에이전트 프레임워크와 달리 Forge는 안정성에 집중하며, 실제 측정 결과 8B 로컬 모델의 정확도를 84%까지 끌어올렸고, Claude Sonnet 4.6도 85%에서 98%로 향상시켰으며, 기존 코드를 다시 작성할 필요가 없습니다.
태그
시작하기
소프트웨어 설치
다운로드한 설치 프로그램을 더블 클릭하고 안내에 따르세요
pip로 Python 패키지 설치: pip install forge-guardrails
로컬 모델 백엔드 시작 (예: llama-server 또는 Ollama)
클라이언트 API 주소를 프록시 포트 8081로 설정하고 python -m forge.proxy 실행
- pip로 Python 패키지 설치: pip install forge-guardrails
- 로컬 모델 백엔드 시작 (예: llama-server 또는 Ollama)
- 클라이언트 API 주소를 프록시 포트 8081로 설정하고 python -m forge.proxy 실행
SHA-256 체크섬 확인됨
GitHub 공식 Release 페이지에서 추출된 체크섬
SHA256 체크섬
c49654ccac62c51335e501f3a491d8f39007c8c25790b7a85ce0f251a5a1d252이 체크섬은 GitHub Release 페이지에서 추출되었습니다. 다운로드 후 파일 무결성을 확인하세요.
이 플랫폼의 모든 SHA-256 체크섬은 프로젝트의 공식 GitHub Release 페이지에서 추출되었으며, 어떠한 변경도 없습니다. GitHub Releases 페이지에서 직접 검증할 수 있습니다.
오픈소스 투명성
GitHub 소스 보기제거 정보
pip로 설치한 경우 pip uninstall forge-guardrails를 실행하면 됩니다. 독립 프록시를 사용하는 경우 설치 스크립트가 생성한 바이너리 파일과 구성 디렉터리(예: ~/.forge-proxy)를 삭제하세요.
추가 의존성 없음
다운로드 후 바로 사용 가능. 추가 런타임이 필요하지 않습니다.
유사한 프로젝트
ragflow
RAGFlow는 오픈소스 RAG 엔진으로, 심층 문서 이해와 Agent 워크플로우를 결합하여 근거가 명확한 정확한 답변을 제공합니다. LangChain의 DIY 방식에 비해 RAGFlow는 시각적이고 바로 사용 가능한 엔터프라이즈급 플랫폼을 제공하며, 템플릿화된 슬라이싱으로 환각 현상과 구성 비용을 크게 줄입니다.
unsloth
Unsloth는 무료 오픈소스 로컬 AI 데스크톱 애플리케이션으로, 대규모 언어 모델과 확산 모델을 실행하고 학습할 수 있으며, 미세 조정 속도가 2배 향상되고 GPU 메모리가 70% 감소합니다.
LocalAI
本地运行 AI 模型的开源引擎,无需 GPU,兼容 OpenAI API,支持多种硬件和模型类型。