freellmapi

SHA-256

11.4k stars·AI 생산성·SHA-256 체크섬 확인됨

16개 이상의 LLM 무료 계층을 하나의 OpenAI 호환 엔드포인트 프록시로 통합하며, 스마트 라우팅, 자동 장애 조치 및 키 암호화를 지원합니다. 개인 실험 전용입니다.

스마트 다운로드

Download 버전 다운로드

v0.4.1 · 101 MB

하나의 엔드포인트로 모든 무료 대형 모델에 접근, 자동 전환으로 한도 초과 없음.

주요 기능

16개 LLM 제공업체의 무료 티어를 통합하여 월 약 17억 토큰 사용 가능
OpenAI API와 완벽 호환되며 Chat, Responses, Embeddings, 이미지 생성 등을 지원
지능형 라우팅 및 자동 장애 조치: 제한 초과 시 자동으로 다음 모델로 전환, 20회 재시도 지원
대화 고정성: 30분 내 동일 대화에서 동일 모델 사용, 전환으로 인한 환각 방지
키 암호화 저장(AES-256-GCM), 통합 API 토큰, 상위 키 노출 방지

할 수 없는 것

•이 도구는 개인 실험용으로만 제공되며, 프로덕션 환경이나 상업 서비스에는 사용할 수 없습니다. 무료 티어에는 엄격한 속도 제한이 있으며, 초과 시 요청이 실패하거나 제공자에 의해 차단될 수 있습니다. 모델 전환 후 컨텍스트에 약간의 편차가 있을 수 있으므로 Context Handoff 기능을 활성화하여 완화하는 것이 좋습니다. 각 제공자의 서비스 약관(ToS)을 준수해야 합니다. 로그에 요청 내용이 포함될 수 있으므로 민감한 데이터를 저장하지 마십시오.

사용 사례

여러 대형 모델(예: Gemini, Claude, DeepSeek)을 무료로 시도해보고 싶은 개발자
로컬 또는 엣지 디바이스에서 개인 AI 어시스턴트를 실행하여 각 API에 대해 개별적으로 등록하고 요금을 지불하지 않도록 함

상세 설명

FreeLLMAPI는 Google, Groq, Cerebras, NVIDIA, Mistral, OpenRouter, GitHub Models, Cohere, Cloudflare, HuggingFace, Zhipu, Ollama 등 16개 이상의 LLM 제공업체의 무료 티어를 하나의 OpenAI 호환 엔드포인트로 통합하는 오픈소스 프록시입니다. 자동으로 속도 제한, 장애 조치 및 키별 사용량 추적을 처리하므로, LangChain, Continue, Claude Code 등 어떤 OpenAI SDK나 클라이언트든 로컬 서버에 연결하기만 하면 됩니다. 여러 SDK를 수동으로 관리하거나 개별 제공업체 래퍼를 사용하는 것과 달리, FreeLLMAPI는 키 관리, 폴백 체인 구성, 사용 분석 확인을 위한 통합 관리 인터페이스를 제공하며, 키는 저장 시 암호화됩니다. 다양한 모델을 무료로 시도하려는 개발자에게 적합합니다. 참고: 개인 실험용으로만 사용 가능하며, 프로덕션 환경에서는 사용할 수 없습니다.

시작하기

설치 프로그램 다운로드

위 버튼을 클릭하여 시스템에 맞는 설치 프로그램을 다운로드

macOS· 101 MB Windows· 88.4 MB

소프트웨어 설치

다운로드한 dmg 파일을 열고 앱을 Applications로 드래그

freellmapi.co에 접속하여 설치 스크립트를 다운로드하거나, Releases에서 데스크톱 설치 패키지(Windows .exe)를 다운로드하세요.

설치 스크립트(Docker 환경)를 실행하거나 설치 프로그램을 더블 클릭한 후, 안내에 따라 초기 설정을 완료하세요.

브라우저에서 http://localhost:3001을 열고 계정과 API 키를 설정하면 바로 사용할 수 있습니다.

설치 가이드

freellmapi.co에 접속하여 설치 스크립트를 다운로드하거나, Releases에서 데스크톱 설치 패키지(Windows .exe)를 다운로드하세요.
설치 스크립트(Docker 환경)를 실행하거나 설치 프로그램을 더블 클릭한 후, 안내에 따라 초기 설정을 완료하세요.
브라우저에서 http://localhost:3001을 열고 계정과 API 키를 설정하면 바로 사용할 수 있습니다.

파일 무결성

SHA-256 체크섬 확인됨

GitHub 공식 Release 페이지에서 추출된 체크섬

SHA256 체크섬

1af7a3b5515a875c68ebe5d50fba86c0b57b6b71b270a4e1282fc36790d59be6

이 체크섬은 GitHub Release 페이지에서 추출되었습니다. 다운로드 후 파일 무결성을 확인하세요.

이 플랫폼의 모든 SHA-256 체크섬은 프로젝트의 공식 GitHub Release 페이지에서 추출되었으며, 어떠한 변경도 없습니다. GitHub Releases 페이지에서 직접 검증할 수 있습니다.

오픈소스 투명성

GitHub 소스 보기

환경 가이드

제거 정보

~/freellmapi 디렉토리(SQLite 데이터베이스 및 설정 파일 포함)를 삭제하고, Docker를 사용하는 경우 컨테이너를 중지 및 제거하며, 영구 데이터 볼륨도 삭제합니다.

추가 의존성 없음

다운로드 후 바로 사용 가능. 추가 런타임이 필요하지 않습니다.

프로젝트 정보

라이선스MIT

마지막 업데이트2026-06-22T07:44:44Z

GitHub 저장소 공식 웹사이트

유사한 프로젝트

LocalAI

本地运行 AI 模型的开源引擎，无需 GPU，兼容 OpenAI API，支持多种硬件和模型类型。

daily_stock_analysis

AI 대형 모델을 기반으로 한 A/Hongqing/USD 스마트 분석 시스템은 자동으로 의사 결정을 내리고 다중 채널을 통해 제로 비용과 타이밍을 실행합니다.

ollama

在本地一键运行和管理大语言模型的开源工具，支持多种平台和丰富模型。