freellmapi

SHA-256

11.4k stars·AI 생산성·SHA-256 체크섬 확인됨

16+개의 LLM 무료 계층을 하나의 OpenAI 호환 엔드포인트로 집계하는 프록시로, 스마트 라우팅, 자동 장애 조치(failover), 키 암호화를 지원합니다. 개인 실험용으로만 사용하십시오.

스마트 다운로드

Download 버전 다운로드

v0.4.1 · 101 MB

하나의 엔드포인트로 모든 무료 대형 모델에 액세스하고, 자동 전환하여 제한을 초과하지 않습니다.

주요 기능

16개 LLM 제공업체의 무료 계층을 집계하여 월 약 17억 토큰 사용 가능
OpenAI API와 완전 호환되며 Chat, Responses, Embeddings, 이미지 생성 등을 지원
스마트 라우팅 및 자동 장애 조치: 속도 제한 시 자동으로 다음 모델로 전환, 최대 20회 재시도 지원
대화 지속성: 30분 내 동일 대화에서 동일 모델 고정 사용, 전환으로 인한 환각 방지
키 암호화 저장(AES-256-GCM), 통합 API 토큰, 상위 키 노출 없음

할 수 없는 것

•이 도구는 개인 실험용으로만 제공되며, 프로덕션 환경이나 상업 서비스에 사용할 수 없습니다. 무료 계층에는 엄격한 속도 제한이 적용되며, 초과 시 요청이 실패하거나 제공업체로부터 차단될 수 있습니다. 모델 전환 후 컨텍스트에 약간의 오차가 발생할 수 있으므로 Context Handoff 기능을 활성화하여 완화하는 것이 좋습니다. 각 제공업체의 서비스 이용 약관(ToS)을 반드시 준수하십시오. 로그에 요청 내용이 포함될 수 있으므로 민감한 데이터를 저장하지 마십시오.

사용 사례

여러 대형 언어 모델(예: Gemini, Claude, DeepSeek)을 무료로 체험하고 싶은 개발자
로컬 또는 엣지 디바이스에서 개인 AI 어시스턴트를 실행하여 각 API마다 별도로 등록하고 비용을 지불하는 것을 피하고 싶은 경우

상세 설명

FreeLLMAPI는 Google, Groq, Cerebras, NVIDIA, Mistral, OpenRouter, GitHub Models, Cohere, Cloudflare, HuggingFace, 智谱, Ollama 등 16개 이상의 LLM 제공업체의 무료 티어를 OpenAI 호환 엔드포인트에 통합하는 오픈 소스 프록시입니다. 속도 제한, 장애 조치 및 키별 사용량 추적을 자동으로 처리하므로, LangChain, Continue, Claude Code와 같은 OpenAI SDK나 클라이언트를 로컬 서버에 연결하기만 하면 됩니다. 여러 SDK를 수동으로 관리하거나 개별 제공업체 래퍼를 사용하는 것과 달리, FreeLLMAPI는 키 관리, 폴백 체인 구성 및 사용량 분석을 위한 통합 관리 인터페이스를 제공하며, 키는 저장 시 암호화됩니다. 다양한 모델을 무료로 체험해보고 싶은 개발자에게 적합합니다. 참고: 개인 실험용으로만 사용 가능하며, 프로덕션 환경에서는 사용할 수 없습니다.

시작하기

설치 프로그램 다운로드

위 버튼을 클릭하여 시스템에 맞는 설치 프로그램을 다운로드

macOS· 101 MB Windows· 88.4 MB

소프트웨어 설치

다운로드한 dmg 파일을 열고 앱을 Applications로 드래그

freellmapi.co에 접속하여 설치 스크립트를 가져오거나, Releases에서 데스크톱 설치 패키지(Windows .exe)를 다운로드하세요.

설치 스크립트(Docker 환경)를 실행하거나 설치 프로그램을 더블 클릭한 후, 안내에 따라 초기 설정을 완료하세요.

브라우저에서 http://localhost:3001을 열고 계정과 API 키를 설정한 후 사용을 시작하세요.

설치 가이드

freellmapi.co에 접속하여 설치 스크립트를 가져오거나, Releases에서 데스크톱 설치 패키지(Windows .exe)를 다운로드하세요.
설치 스크립트(Docker 환경)를 실행하거나 설치 프로그램을 더블 클릭한 후, 안내에 따라 초기 설정을 완료하세요.
브라우저에서 http://localhost:3001을 열고 계정과 API 키를 설정한 후 사용을 시작하세요.

파일 무결성

SHA-256 체크섬 확인됨

GitHub 공식 Release 페이지에서 추출된 체크섬

SHA256 체크섬

1af7a3b5515a875c68ebe5d50fba86c0b57b6b71b270a4e1282fc36790d59be6

이 체크섬은 GitHub Release 페이지에서 추출되었습니다. 다운로드 후 파일 무결성을 확인하세요.

이 플랫폼의 모든 SHA-256 체크섬은 프로젝트의 공식 GitHub Release 페이지에서 추출되었으며, 어떠한 변경도 없습니다. GitHub Releases 페이지에서 직접 검증할 수 있습니다.

오픈소스 투명성

GitHub 소스 보기

환경 가이드

제거 정보

~/freellmapi 디렉터리(SQLite 데이터베이스 및 설정 파일 포함)를 삭제합니다. Docker를 사용하는 경우 컨테이너를 중지 및 제거하고, 영구 데이터 볼륨도 삭제합니다.

추가 의존성 없음

다운로드 후 바로 사용 가능. 추가 런타임이 필요하지 않습니다.

프로젝트 정보

라이선스MIT

마지막 업데이트2026-06-22T07:44:44Z

GitHub 저장소 공식 웹사이트

유사한 프로젝트

last30days-skill

하나의 AI 에이전트 스킬로, Reddit, X, YouTube, HN, Polymarket 등 플랫폼을 동시에 검색하고 실제 인기도(좋아요, 투표, 베팅)를 기준으로 평가한 후, 최종적으로 출처가 포함된 종합 요약을 제공합니다.

LocalAI

本地运行 AI 模型的开源引擎，无需 GPU，兼容 OpenAI API，支持多种硬件和模型类型。

daily_stock_analysis

AI 대모델 기반의 A주/홍콩주/미국주 지능형 분석 시스템, 자동으로 의사 결정 대시보드를 생성하고 다중 채널을 통해 푸시하며, 제로 비용으로 정기적으로 실행됩니다.