☰ 菜单
应用 89 次安装/月 上升 1.75×

vMLX for Mac 版

vMLX

在苹果芯片上运行本地 AI 模型

vMLX 是什么

vMLX 是一个面向 Apple Silicon 的原生 macOS 应用,把 vMLX 推理服务器封装成了开箱即用的图形界面。它基于 Apple 的 MLX 框架做 GPU 加速推理,模型完全跑在用户自己的机器上,不需要 Python 环境、终端或配置文件。

核心能力覆盖得比较全:多轮对话支持流式输出、Markdown 渲染和代码高亮;可以把图片发给 Qwen-VL、LLaVA、Pixtral 等多模态模型;原生支持 DeepSeek-R1、QwQ、GLM-Z1 这类推理模型;支持函数调用,方便搭 agent 工作流;还能做文生图、Kokoro 语音合成和 Whisper 语音转写。应用内置 Hugging Face 模型浏览与下载,会话用 SQLite 持久化保存。对开发者,它提供模型检查、转换、量化和诊断工具,并支持 JANG 混合精度量化格式。

本地 HTTP 服务兼容 OpenAI API,任何兼容客户端都能接入;菜单栏模式则方便随手调用。引擎层面用连续批处理加 PagedAttention 管理显存,配合投机解码、KV Cache 量化和前缀缓存提升速度、撑大上下文,也支持 Mamba/SSM 与 Transformer 的混合架构。

适合希望在 Mac 上本地跑大模型、又不想折腾命令行环境的开发者和研究者。

如何安装 vMLX

  1. 打开 终端(按 ⌘ + 空格,输入“终端”)。
  2. 如果还没安装 Homebrew,先运行下面这条安装命令。
  3. 运行下面这条命令:

最近 10 个版本记录

最近一次更新为 2026-11-07,当前版本 v1.6.84,共记录最近 10 个版本。

版本发布日期类型大小macOSWindowsLinux
v1.6.842026-11-07稳定版555.9 MB下载——
v1.6.832026-11-02稳定版555.0 MB下载——
v1.6.822026-10-27稳定版552.2 MB下载——
v1.6.812026-10-21稳定版552.0 MB下载——
v1.6.802026-10-18稳定版551.1 MB下载——
v1.6.792026-10-14稳定版550.6 MB下载——
v1.6.782026-10-13稳定版551.4 MB下载——
v1.6.772026-10-08稳定版546.5 MB下载——
v1.6.762026-10-07稳定版546.3 MB下载——
v1.6.752026-10-06稳定版546.5 MB下载——

数据来自 GitHub Releases,稳定版优先,同类按发布时间排序。

支持的系统

  • macOS 27(Golden Gate)(仅 Apple 芯片)
  • macOS 26 Tahoe(仅 Apple 芯片)
  • macOS 15 Sequoia(仅 Apple 芯片)
  • macOS 14 Sonoma(仅 Apple 芯片)

与同类应用对比

只对比公开元数据,不做主观推荐;需要逐项对比时见对比页。

与同类应用对比
应用版本许可证架构近 30 天安装
vMLXv1.6.84—仅 Apple 芯片89
Msty Studio2.9.12—通用二进制85
Ollamacv3.0.3—通用二进制112
Lemonade Serverv2026.46.2—仅 Apple 芯片76

AI 与机器学习中的类似应用

发表评论

电子邮件地址不会被公开。必填项已用 * 标注。