Mac

omlx

Mac上本地跑大模型的最顺手工具，菜单栏控制，缓存智能。

专为 Mac 优化的 LLM 推理引擎，支持连续批处理和智能缓存，菜单栏一键管理。