4 open source tools found
一条命令在本地跑大模型，简单到离谱。
在本地一键运行和管理大语言模型的开源工具，支持多种平台和丰富模型。
ローカルで大規模言語モデルを実行するための最も軽量なエンジン、PyTorchをインストールする必要はなく、メモリも節約！
純粋なC/C++による高性能大規模モデル推論エンジン。低ビット量子化および多種ハードウェア（Apple Silicon、CUDA、Vulkanなど）をサポート。軽量で組込み可能。
完全オフラインのAI会議録作成ツール。データはあなたのパソコンだけに残ります。
プライバシー最優先のAI会議アシスタント、ローカルでのリアルタイム文字起こしと要約、インターネット接続不要、Ollama、Whisperなどのモデルに対応。
一句话启动完整本地LLM栈，省去手动配置烦恼。
一键搭建本地大模型全家桶，命令行加图形界面，零配置开箱即用。