☰ 菜单
首页›AI 与机器学习›NVIDIA Personal AI Router
应用 开源 23 次安装/月 上升 38.46×

NVIDIA Personal AI Router for Mac 版

NVIDIA Personal AI Router

适用于一组兼容计算机的本地推理路由器

NVIDIA Personal AI Router 是什么

NVIDIA Personal AI Router(安装后显示为 NVIDIA PAIR)是一个面向局域网内多台兼容计算机的本地推理路由器。它能自动发现参与节点、管理受支持的推理引擎,并对外提供兼容 Ollama、OpenAI 和 Anthropic Messages API 的本地代理端点。每个独立请求会根据引擎可用性、模型可用性和当前负载,被分发到合适的节点上执行。

它主要解决本地并发推理场景下的调度问题,比如多智能体应用同时发起请求时,PAIR 能把各个请求分配到不同机器,避免全部压在一台设备上。当客户端、模型来源、引擎和节点都在本地时,提示词和响应会留在局域网内。需要注意的是,PAIR 只是把每个请求路由到单个节点,并不合并 GPU 显存、不把多台机器拼成一块更大的逻辑 GPU,也不把一个模型切分到多台机器或拆分正在进行的推理请求。

PAIR 本身可运行在 Windows、Linux 和 macOS 上,但具体引擎和模型能否工作,取决于各引擎对操作系统、GPU 和驱动的要求以及模型所需内存。它适合需要在本地网络中调度多台机器做并发推理的开发者和小团队。

如何安装 NVIDIA Personal AI Router

  1. 打开 终端(按 ⌘ + 空格,输入“终端”)。
  2. 如果还没安装 Homebrew,先运行下面这条安装命令。
  3. 运行下面这条命令:

最近 10 个版本记录

最近一次更新为 2026-10-13,当前版本 v1.0.0,共记录最近 3 个版本。

版本发布日期类型大小macOSWindowsLinux
v1.0.02026-10-13稳定版167.6 MB下载下载下载
v0.1.12026-08-28稳定版167.7 MB下载下载下载
v0.1.02026-08-26稳定版167.7 MB下载下载下载

数据来自 GitHub Releases,稳定版优先,同类按发布时间排序。

支持的系统

  • macOS 27(Golden Gate)(Apple 芯片 + Intel)
  • macOS 26 Tahoe(Apple 芯片 + Intel)
  • macOS 15 Sequoia(Apple 芯片 + Intel)
  • macOS 14 Sonoma(Apple 芯片 + Intel)
  • macOS 13 Ventura(Apple 芯片 + Intel)

与同类应用对比

只对比公开元数据,不做主观推荐;需要逐项对比时见对比页。

与同类应用对比
应用版本许可证架构近 30 天安装
NVIDIA Personal AI Routerv1.0.0—通用二进制23
Stability Matrixv2.16.5—仅 Apple 芯片45
shimmyv2.6.7Apache-2.0命令行54
ncnn20261020BSD-3-Clause命令行42

AI 与机器学习中的类似应用

发表评论

电子邮件地址不会被公开。必填项已用 * 标注。