4 open source tools found
一条命令在本地跑大模型，简单到离谱。
在本地一键运行和管理大语言模型的开源工具，支持多种平台和丰富模型。
로컬에서 대규모 언어 모델을 실행하는 가장 가벼운 엔진, PyTorch 설치 필요 없음, 메모리 절약!
순수 C/C++ 기반의 고성능 대규모 모델 추론 엔진으로, 저비트 양자화 및 다양한 하드웨어(Apple Silicon, CUDA, Vulkan 등)를 지원하며, 경량화되어 임베딩이 가능합니다.
완전 오프라인 AI 회의록 도구, 데이터는 오직 당신의 PC에만 저장됩니다.
프라이버시 우선 AI 회의 비서, 로컬 실시간 전사 및 요약, 오프라인 사용 가능, Ollama, Whisper 등 모델 지원.
一句话启动完整本地LLM栈，省去手动配置烦恼。
一键搭建本地大模型全家桶，命令行加图形界面，零配置开箱即用。