☰ 菜单
命令行 开源 1,592 次安装/月 上升 3.21×

mlx-lm for Mac 版

mlx-lm

使用 MLX 运行大语言模型

mlx-lm 是什么

mlx-lm 是一个 Python 包,用于在 Apple 芯片上借助 MLX 框架生成文本并微调大语言模型。它打通了 Hugging Face Hub,只需一条命令就能调用数千个模型,也支持将量化后的模型上传回 Hub。微调方面,既支持低秩微调也支持全模型微调,并且能对量化模型直接操作。此外,它还通过 mx.distributed 提供分布式推理与微调能力。使用时,命令行工具可指定模型、采样参数等,默认模型是 mlx-community/Llama-3.2-3B-Instruct-4bit,也可以换成任何 MLX 兼容模型。除了命令行,mlx-lm 也能作为 Python 模块调用,提供 generate、stream_generate 等接口,支持流式生成和自定义采样器。它适合在 Mac 上本地跑大模型、做推理或微调的开发者和研究者。

如何安装 mlx-lm

  1. 打开 终端(按 ⌘ + 空格,输入“终端”)。
  2. 如果还没安装 Homebrew,先运行下面这条安装命令。
  3. 运行下面这条命令:

最近 10 个版本记录

最近一次更新为 2026-10-16,当前版本 v0.32.2,共记录最近 10 个版本。

版本发布日期类型大小macOSWindowsLinux
v0.32.22026-10-16稳定版————
v0.32.12026-10-15稳定版————
v0.32.02026-10-15稳定版————
v0.31.32026-04-22稳定版————
v0.31.22026-04-07稳定版————
v0.31.02026-03-07稳定版————
v0.30.72026-02-12稳定版————
v0.30.62026-02-04稳定版————
v0.30.52026-01-25稳定版————
v0.30.42026-01-19稳定版————

数据来自 GitHub Releases,稳定版优先,同类按发布时间排序。

二进制包支持平台

Homebrew 官方提供的预编译包(bottle)覆盖:

  • Apple 芯片 · 最新 macOS
  • Apple 芯片 · macOS 26 Tahoe
  • Apple 芯片 · macOS 15 Sequoia

⚠️ 未提供 Intel Mac 的预编译包,Intel 机型需要通过 brew install --build-from-source 从源码编译。

与同类应用对比

只对比公开元数据,不做主观推荐;需要逐项对比时见对比页。

与同类应用对比
应用版本许可证架构近 30 天安装
mlx-lmv0.32.2MIT命令行1,592
actv0.2.97MIT命令行10,511
entr5.9ISC命令行1,565
logcliv3.6.20AGPL-3.0-only命令行1,368

命令行工具中的类似应用

发表评论

电子邮件地址不会被公开。必填项已用 * 标注。