NVIDIA Personal AI Router for Mac 版
适用于一组兼容计算机的本地推理路由器
NVIDIA Personal AI Router 是什么
NVIDIA Personal AI Router(安装后显示为 NVIDIA PAIR)是一个面向局域网内多台兼容计算机的本地推理路由器。它能自动发现参与节点、管理受支持的推理引擎,并对外提供兼容 Ollama、OpenAI 和 Anthropic Messages API 的本地代理端点。每个独立请求会根据引擎可用性、模型可用性和当前负载,被分发到合适的节点上执行。
它主要解决本地并发推理场景下的调度问题,比如多智能体应用同时发起请求时,PAIR 能把各个请求分配到不同机器,避免全部压在一台设备上。当客户端、模型来源、引擎和节点都在本地时,提示词和响应会留在局域网内。需要注意的是,PAIR 只是把每个请求路由到单个节点,并不合并 GPU 显存、不把多台机器拼成一块更大的逻辑 GPU,也不把一个模型切分到多台机器或拆分正在进行的推理请求。
PAIR 本身可运行在 Windows、Linux 和 macOS 上,但具体引擎和模型能否工作,取决于各引擎对操作系统、GPU 和驱动的要求以及模型所需内存。它适合需要在本地网络中调度多台机器做并发推理的开发者和小团队。
它主要解决本地并发推理场景下的调度问题,比如多智能体应用同时发起请求时,PAIR 能把各个请求分配到不同机器,避免全部压在一台设备上。当客户端、模型来源、引擎和节点都在本地时,提示词和响应会留在局域网内。需要注意的是,PAIR 只是把每个请求路由到单个节点,并不合并 GPU 显存、不把多台机器拼成一块更大的逻辑 GPU,也不把一个模型切分到多台机器或拆分正在进行的推理请求。
PAIR 本身可运行在 Windows、Linux 和 macOS 上,但具体引擎和模型能否工作,取决于各引擎对操作系统、GPU 和驱动的要求以及模型所需内存。它适合需要在本地网络中调度多台机器做并发推理的开发者和小团队。
如何安装 NVIDIA Personal AI Router
- 打开 终端(按 ⌘ + 空格,输入“终端”)。
- 如果还没安装 Homebrew,先运行下面这条安装命令。
- 运行下面这条命令:
最近 10 个版本记录
最近一次更新为 2026-10-13,当前版本 v1.0.0,共记录最近 3 个版本。
| 版本 | 发布日期 | 类型 | 大小 | macOS | Windows | Linux |
|---|---|---|---|---|---|---|
| v1.0.0 | 2026-10-13 | 稳定版 | 167.6 MB | 下载 | 下载 | 下载 |
| v0.1.1 | 2026-08-28 | 稳定版 | 167.7 MB | 下载 | 下载 | 下载 |
| v0.1.0 | 2026-08-26 | 稳定版 | 167.7 MB | 下载 | 下载 | 下载 |
数据来自 GitHub Releases,稳定版优先,同类按发布时间排序。
支持的系统
- macOS 27(Golden Gate)(Apple 芯片 + Intel)
- macOS 26 Tahoe(Apple 芯片 + Intel)
- macOS 15 Sequoia(Apple 芯片 + Intel)
- macOS 14 Sonoma(Apple 芯片 + Intel)
- macOS 13 Ventura(Apple 芯片 + Intel)
与同类应用对比
只对比公开元数据,不做主观推荐;需要逐项对比时见对比页。
| 应用 | 版本 | 许可证 | 架构 | 近 30 天安装 |
|---|---|---|---|---|
| NVIDIA Personal AI Router | v1.0.0 | — | 通用二进制 | 29 |
| Stability Matrix | v2.16.5 | — | 仅 Apple 芯片 | 33 |
| shimmy | v2.6.7 | Apache-2.0 | 命令行 | 52 |
| ncnn | 20261020 | BSD-3-Clause | 命令行 | 39 |
AI 与机器学习中的类似应用
Stability Matrix
Stability Matrix 是一个面向 Stable Diffusion 的多平台包管理器与推理界面。shimmy
Shimmy 是一个本地推理服务器兼命令行工具,底层引擎为 Airframe。它用 Rust 和 WGSL 编写,目标是让用户在本地 GPU 上跑模型推理…ncnn
TranscribeX
TranscribeX 是一款在 Mac 上本地运行的 AI 转录工具,主要用来把会议和录音整理成文字。text-embeddings-inference
Text Embeddings Inference(TEI)是一个用于部署和提供开源文本嵌入与序列分类模型服务的工具包,主打高性能推理。Lemonade Server
Lemonade Server 是一个本地 AI 服务端,目标是让本地部署拥有和云 API 一样的能力,同时完全免费且数据留在本机。所属分类:AI 与机器学习