xgrammar for Mac 版
用于大型语言模型的结构化生成与推理引擎
xgrammar 是什么
XGrammar 是一个开源的结构化生成库,通过约束解码确保输出在结构上 100% 正确。它支持通用的上下文无关文法,能覆盖 JSON、正则表达式、自定义文法等多种结构,让模型生成的内容严格符合预期格式。
在性能方面,XGrammar 做了针对性优化,结构化生成的开销极低——生成 JSON 时几乎接近零开销,是目前速度最快的结构化生成引擎之一。它的另一大特点是部署范围广:支持 Linux、macOS 和 Windows,覆盖 CPU、NVIDIA/AMD GPU、Apple Silicon、TPU 等硬件,提供 Python、C++、JavaScript 和 Swift 接口,兼容 Qwen、Llama、DeepSeek、Phi、Gemma 等模型。
对 LLM 推理引擎开发者来说,XGrammar 很容易集成,目前已是 vLLM、SGLang、TensorRT-LLM、MLC-LLM 等主流引擎的默认结构化生成后端,也被多家公司采用。需要保证模型输出格式可靠、又不愿牺牲生成速度的团队和开发者,可以直接使用或接入 XGrammar。
在性能方面,XGrammar 做了针对性优化,结构化生成的开销极低——生成 JSON 时几乎接近零开销,是目前速度最快的结构化生成引擎之一。它的另一大特点是部署范围广:支持 Linux、macOS 和 Windows,覆盖 CPU、NVIDIA/AMD GPU、Apple Silicon、TPU 等硬件,提供 Python、C++、JavaScript 和 Swift 接口,兼容 Qwen、Llama、DeepSeek、Phi、Gemma 等模型。
对 LLM 推理引擎开发者来说,XGrammar 很容易集成,目前已是 vLLM、SGLang、TensorRT-LLM、MLC-LLM 等主流引擎的默认结构化生成后端,也被多家公司采用。需要保证模型输出格式可靠、又不愿牺牲生成速度的团队和开发者,可以直接使用或接入 XGrammar。
如何安装 xgrammar
- 打开 终端(按 ⌘ + 空格,输入“终端”)。
- 如果还没安装 Homebrew,先运行下面这条安装命令。
- 运行下面这条命令:
最近 10 个版本记录
最近一次更新为 2026-11-09,当前版本 v0.2.9,共记录最近 10 个版本。
| 版本 | 发布日期 | 类型 | 大小 | macOS | Windows | Linux |
|---|---|---|---|---|---|---|
| v0.2.9 | 2026-11-09 | 稳定版 | — | — | — | — |
| v0.2.8 | 2026-09-24 | 稳定版 | — | — | — | — |
| v0.2.7 | 2026-09-15 | 稳定版 | — | — | — | — |
| v0.2.6 | 2026-09-09 | 稳定版 | — | — | — | — |
| v0.2.5.post1 | 2026-09-03 | 稳定版 | — | — | — | — |
| v0.2.5 | 2026-07-22 | 稳定版 | — | — | — | — |
| v0.2.4 | 2026-07-18 | 稳定版 | — | — | — | — |
| v0.2.3 | 2026-06-27 | 稳定版 | — | — | — | — |
| v0.2.6rc2 | 2026-08-29 | 预发布 | — | — | — | — |
| v0.2.6rc1 | 2026-08-15 | 预发布 | 2.6 MB | — | — | — |
数据来自 GitHub Releases,稳定版优先,同类按发布时间排序。
二进制包支持平台
Homebrew 官方提供的预编译包(bottle)覆盖:
- Apple 芯片 · 最新 macOS
- Apple 芯片 · macOS 26 Tahoe
- Apple 芯片 · macOS 15 Sequoia
- Linux · ARM64
- Linux · x86_64
⚠️ 未提供 Intel Mac 的预编译包,Intel 机型需要通过 brew install --build-from-source 从源码编译。
与同类应用对比
只对比公开元数据,不做主观推荐;需要逐项对比时见对比页。
| 应用 | 版本 | 许可证 | 架构 | 近 30 天安装 |
|---|---|---|---|---|
| xgrammar | v0.2.9 | Apache-2.0 | 命令行 | 18 |
| flowpipe | v1.2.3 | AGPL-3.0-only | 命令行 | 7 |
| tenere | v0.11.3 | GPL-3.0-or-later | 命令行 | 7 |
| duktape | v2.7.0 | MIT | 命令行 | 7 |
命令行工具中的类似应用
flowpipe
Flowpipe 是一个面向 DevOps 的工作流自动化工具,用来把云服务与人、系统和数据连接起来。tenere
tenere 是一个面向大语言模型的终端界面(TUI)工具,让用户直接在终端里与 LLM 对话。duktape
Duktape 是一个可嵌入的 JavaScript 引擎,主打可移植性和紧凑体积。permify
Permify 是一个开源的细粒度授权服务,灵感来自 Google 的全局授权系统 Zanzibar,目标是让开发者用几分钟到几天的时间,而不是几个月,搭建…netmask
netmask 是一个用于生成简洁网络掩码的小工具,支持在多种常见格式之间相互转换。rure
rure 是一个 Rust 正则表达式库,用于在字符串中搜索匹配项。它支持的语法与其他正则引擎类似,但有意舍弃了 look-around 和反向引用等难以高…所属分类:命令行工具