Magnitude
SHA-256Magnitude는 오픈소스 로컬 추론 서버로, 사용자의 하드웨어를 자동으로 분석하여 가장 적합한 로컬 모델을 추천하고 실행하며, 사용 중인 AI 에이전트(Pi, OpenCode, Claude Code 등)에 연결하여 완전히 무료이고 프라이빗하며 오프라인인 AI 경험을 실현합니다.
기존 AI 에이전트를 로컬 모델에서 직접 실행할 수 있어, 무료로 사용하고 오프라인으로 작동하며 하드웨어에 자동으로 적응합니다.
주요 기능
- 하드웨어 자동 감지 및 모델 추천: 칩, 메모리, 대역폭을 분석하여 초당 token 수를 추정해 맹목적인 선택을 방지합니다.
- 즉시 사용 가능한 에이전트 연동: Pi, OpenCode, Hermes, OpenClaw, Codex, Claude Code, Oh My Pi, Cline을 지원합니다.
- 온디맨드 로딩 및 자동 해제: 모델은 사용 시에만 로드되고, 유휴 상태이거나 메모리가 부족하면 자동으로 언로드됩니다.
- 완전한 프라이버시 및 오프라인 지원: 프롬프트, 파일, 모델이 모두 로컬에 유지되어 네트워크 연결이 필요 없습니다.
- 엔드투엔드 튜닝: 추측 디코딩과 동시성 최적화를 자동으로 활성화해 에이전트 워크로드에 맞게 튜닝합니다.
할 수 없는 것
- •Windows 네이티브 환경을 지원하지 않으며, WSL(Linux 하위 시스템)을 사용해야 합니다.
- •고정된 최소 하드웨어 요구 사항은 없지만, 메모리가 클수록 더 큰 모델을 실행할 수 있습니다. 충분한 통합 메모리 또는 VRAM을 갖춘 컴퓨터를 권장합니다.
- •오프라인 사용을 지원하지만, 최초 설치 및 모델 다운로드 시에는 여전히 인터넷 연결이 필요합니다.
- •모델 수와 생태계는 Ollama만큼 풍부하지 않지만, GGUF 형식의 Hugging Face 모델이면 어떤 것이든 보완에 사용할 수 있습니다.
- •프로젝트 업데이트가 빠르고 API와 CLI가 변경될 수 있으므로, 최신 버전을 추적하는 데 적합합니다.
사용 사례
- 로컬 모델로 폐쇄형 API를 대체하고 프라이버시를 보호하며 token 비용을 피하려는 개인 개발자
- Pi, Codex, Claude Code 등의 에이전트를 이미 보유했지만 워크플로우를 수정하지 않고 로컬 모델로 바로 전환하려는 사용자
Magnitude는 하드웨어에 따라 가장 적합한 로컬 모델을 자동으로 선택하고 실행하며, 현재 사용 중인 AI 에이전트(Pi, OpenCode, Hermes, OpenClaw, Codex, Claude Code, Oh My Pi 및 Cline 지원)에 직접 연결되는 오픈소스 추론 서버입니다. 모델을 단순히 실행만 하는 Ollama 등의 도구와 달리 Magnitude는 추측에 의존하지 않습니다. 먼저 칩, 메모리 및 대역폭을 평가한 후 적합한 모델을 추천하고 초당 토큰 수를 예측하며, 그다음 자동으로 다운로드하고 추측 디코딩 및 동시성 설정을 포함한 튜닝을 수행한 뒤 에이전트 부하에 맞게 최적화합니다. 모델은 필요 시에만 로드되며, 유휴 상태이거나 메모리가 부족하면 자동으로 언로드됩니다. 모든 프롬프트와 파일은 로컬에 유지되므로 완전히 오프라인으로 실행할 수 있습니다. 설정이 매우 간편합니다. 에이전트에게 CLI를 설치하고 `magnitude docs onboarding`을 실행하라고 지시하기만 하면 전체 구성을 안내해 줍니다. macOS, Linux 및 WSL을 통한 Windows를 지원합니다. 오픈소스 라이선스는 Apache 2.0입니다.
태그
시작하기
소프트웨어 설치
다운로드한 설치 프로그램을 더블 클릭하고 안내에 따르세요
Magnitude CLI 설치: 터미널에서 `npm i -g @magnitudedev/cli` 실행 (macOS/Linux, Windows는 WSL 사용)
시작 가이드: `magnitude setup`을 실행하여 대화형 구성을 시작하거나, README의 프롬프트를 에이전트에 직접 보내 자동으로 작업을 수행하게 하세요.
모델 선택 및 연결: 하드웨어 권장사항에 따라 모델을 선택하면, Magnitude가 자동으로 다운로드 및 튜닝을 수행하고 에이전트(예: Claude Code)를 해당 로컬 모델로 전환합니다.
- Magnitude CLI 설치: 터미널에서 `npm i -g @magnitudedev/cli` 실행 (macOS/Linux, Windows는 WSL 사용)
- 시작 가이드: `magnitude setup`을 실행하여 대화형 구성을 시작하거나, README의 프롬프트를 에이전트에 직접 보내 자동으로 작업을 수행하게 하세요.
- 모델 선택 및 연결: 하드웨어 권장사항에 따라 모델을 선택하면, Magnitude가 자동으로 다운로드 및 튜닝을 수행하고 에이전트(예: Claude Code)를 해당 로컬 모델로 전환합니다.
SHA-256 체크섬 확인됨
GitHub 공식 Release 페이지에서 추출된 체크섬
SHA256 체크섬
98f2a0afd5b1adf464fbfd093372899eed9cca48361514d73c49922fbf82ecd9이 체크섬은 GitHub Release 페이지에서 추출되었습니다. 다운로드 후 파일 무결성을 확인하세요.
이 플랫폼의 모든 SHA-256 체크섬은 프로젝트의 공식 GitHub Release 페이지에서 추출되었으며, 어떠한 변경도 없습니다. GitHub Releases 페이지에서 직접 검증할 수 있습니다.
오픈소스 투명성
GitHub 소스 보기제거 정보
`npm uninstall -g @magnitudedev/cli`를 실행하여 명령줄 도구를 제거하세요. 모델 캐시를 완전히 삭제하려면 Magnitude 데이터 디렉터리(보통 ~/.magnitude)를 삭제하고, 에이전트 구성에서 Magnitude를 가리키는 백엔드 설정도 제거하세요.
추가 의존성 없음
다운로드 후 바로 사용 가능. 추가 런타임이 필요하지 않습니다.
문제 발생? 아래 FAQ 확인
5 FAQs
유사한 프로젝트
unsloth
Unsloth는 무료 오픈소스 로컬 AI 데스크톱 애플리케이션으로, 대규모 언어 모델과 확산 모델을 실행하고 학습할 수 있으며, 미세 조정 속도가 2배 향상되고 GPU 메모리가 70% 감소합니다.
ragflow
RAGFlow는 오픈소스 RAG 엔진으로, 심층 문서 이해와 Agent 워크플로우를 결합하여 근거가 명확한 정확한 답변을 제공합니다. LangChain의 DIY 방식에 비해 RAGFlow는 시각적이고 바로 사용 가능한 엔터프라이즈급 플랫폼을 제공하며, 템플릿화된 슬라이싱으로 환각 현상과 구성 비용을 크게 줄입니다.
ollama
로컬에서 대규모 언어 모델을 원클릭으로 실행하고 관리할 수 있는 오픈소스 도구로, 다양한 플랫폼과 풍부한 모델을 지원합니다.