vMLX for Mac 版
在苹果芯片上运行本地 AI 模型
vMLX 是什么
vMLX 是一个面向 Apple Silicon 的原生 macOS 应用,把 vMLX 推理服务器封装成了开箱即用的图形界面。它基于 Apple 的 MLX 框架做 GPU 加速推理,模型完全跑在用户自己的机器上,不需要 Python 环境、终端或配置文件。
核心能力覆盖得比较全:多轮对话支持流式输出、Markdown 渲染和代码高亮;可以把图片发给 Qwen-VL、LLaVA、Pixtral 等多模态模型;原生支持 DeepSeek-R1、QwQ、GLM-Z1 这类推理模型;支持函数调用,方便搭 agent 工作流;还能做文生图、Kokoro 语音合成和 Whisper 语音转写。应用内置 Hugging Face 模型浏览与下载,会话用 SQLite 持久化保存。对开发者,它提供模型检查、转换、量化和诊断工具,并支持 JANG 混合精度量化格式。
本地 HTTP 服务兼容 OpenAI API,任何兼容客户端都能接入;菜单栏模式则方便随手调用。引擎层面用连续批处理加 PagedAttention 管理显存,配合投机解码、KV Cache 量化和前缀缓存提升速度、撑大上下文,也支持 Mamba/SSM 与 Transformer 的混合架构。
适合希望在 Mac 上本地跑大模型、又不想折腾命令行环境的开发者和研究者。
核心能力覆盖得比较全:多轮对话支持流式输出、Markdown 渲染和代码高亮;可以把图片发给 Qwen-VL、LLaVA、Pixtral 等多模态模型;原生支持 DeepSeek-R1、QwQ、GLM-Z1 这类推理模型;支持函数调用,方便搭 agent 工作流;还能做文生图、Kokoro 语音合成和 Whisper 语音转写。应用内置 Hugging Face 模型浏览与下载,会话用 SQLite 持久化保存。对开发者,它提供模型检查、转换、量化和诊断工具,并支持 JANG 混合精度量化格式。
本地 HTTP 服务兼容 OpenAI API,任何兼容客户端都能接入;菜单栏模式则方便随手调用。引擎层面用连续批处理加 PagedAttention 管理显存,配合投机解码、KV Cache 量化和前缀缓存提升速度、撑大上下文,也支持 Mamba/SSM 与 Transformer 的混合架构。
适合希望在 Mac 上本地跑大模型、又不想折腾命令行环境的开发者和研究者。
如何安装 vMLX
- 打开 终端(按 ⌘ + 空格,输入“终端”)。
- 如果还没安装 Homebrew,先运行下面这条安装命令。
- 运行下面这条命令:
最近 10 个版本记录
最近一次更新为 2026-11-07,当前版本 v1.6.84,共记录最近 10 个版本。
| 版本 | 发布日期 | 类型 | 大小 | macOS | Windows | Linux |
|---|---|---|---|---|---|---|
| v1.6.84 | 2026-11-07 | 稳定版 | 555.9 MB | 下载 | — | — |
| v1.6.83 | 2026-11-02 | 稳定版 | 555.0 MB | 下载 | — | — |
| v1.6.82 | 2026-10-27 | 稳定版 | 552.2 MB | 下载 | — | — |
| v1.6.81 | 2026-10-21 | 稳定版 | 552.0 MB | 下载 | — | — |
| v1.6.80 | 2026-10-18 | 稳定版 | 551.1 MB | 下载 | — | — |
| v1.6.79 | 2026-10-14 | 稳定版 | 550.6 MB | 下载 | — | — |
| v1.6.78 | 2026-10-13 | 稳定版 | 551.4 MB | 下载 | — | — |
| v1.6.77 | 2026-10-08 | 稳定版 | 546.5 MB | 下载 | — | — |
| v1.6.76 | 2026-10-07 | 稳定版 | 546.3 MB | 下载 | — | — |
| v1.6.75 | 2026-10-06 | 稳定版 | 546.5 MB | 下载 | — | — |
数据来自 GitHub Releases,稳定版优先,同类按发布时间排序。
支持的系统
- macOS 27(Golden Gate)(仅 Apple 芯片)
- macOS 26 Tahoe(仅 Apple 芯片)
- macOS 15 Sequoia(仅 Apple 芯片)
- macOS 14 Sonoma(仅 Apple 芯片)
与同类应用对比
只对比公开元数据,不做主观推荐;需要逐项对比时见对比页。
| 应用 | 版本 | 许可证 | 架构 | 近 30 天安装 |
|---|---|---|---|---|
| vMLX | v1.6.84 | — | 仅 Apple 芯片 | 89 |
| Msty Studio | 2.9.12 | — | 通用二进制 | 85 |
| Ollamac | v3.0.3 | — | 通用二进制 | 112 |
| Lemonade Server | v2026.46.2 | — | 仅 Apple 芯片 | 76 |