☰ 菜单
首页›命令行工具›djl-serving
命令行 开源

djl-serving for Mac 版

djl-serving

该模块包含一个通用的模型服务实现

djl-serving 是什么

DJL Serving 是一个基于 DJL 构建的高性能通用模型服务方案,能把单个深度学习模型、多个模型或工作流通过 HTTP 端点对外提供。开箱即用支持 PyTorch TorchScript、TensorFlow SavedModel、ONNX(CPU)和 Python 脚本模型,安装扩展后还可支持 XGBoost、LightGBM、Sentencepiece 和 fastText/BlazingText。

它的核心卖点在于性能与易用性兼顾:在单个 JVM 内多线程推理,官方基准显示吞吐量高于市面上多数 C++ 模型服务器;同时提供自动扩缩工作线程、动态批处理、单端点多版本模型加载以及多引擎同时服务等能力。插件机制让自定义扩展变得简单,RESTful API 则把推理和管理(增删模型、扩缩容)分开,默认监听 8080 端口且仅限本地访问。

它适合需要快速把模型变成 HTTP 服务、又不想被特定框架绑死的算法工程师和平台团队,尤其是对吞吐有要求、希望在同一服务里混用不同引擎或多版本模型的场景。

如何安装 djl-serving

  1. 打开 终端(按 ⌘ + 空格,输入“终端”)。
  2. 如果还没安装 Homebrew,先运行下面这条安装命令。
  3. 运行下面这条命令:

最近 10 个版本记录

最近一次更新为 2026-03-12,当前版本 v0.36.0,共记录最近 10 个版本。

版本发布日期类型大小macOSWindowsLinux
v0.36.02026-03-12稳定版————
v0.29.02024-08-16稳定版————
v0.28.02024-06-19稳定版————
v0.27.02024-04-15稳定版————
v0.26.02024-02-27稳定版————
v0.25.02023-12-20稳定版————
v0.24.02023-10-17稳定版————
v0.23.02023-07-18稳定版————
v0.22.12023-04-25稳定版————
v0.23.0-alpha2023-06-14预发布————

数据来自 GitHub Releases,稳定版优先,同类按发布时间排序。

二进制包支持平台

Homebrew 官方提供的预编译包(bottle)覆盖:

  • all

⚠️ 未提供 Intel Mac 的预编译包,Intel 机型需要通过 brew install --build-from-source 从源码编译。

与同类应用对比

只对比公开元数据,不做主观推荐;需要逐项对比时见对比页。

与同类应用对比
应用版本许可证架构近 30 天安装
djl-servingv0.36.0Apache-2.0命令行0
ctags-lspv0.11.0MIT命令行1
iguana1.2.0Apache-2.0命令行4
libdom0.4.2MIT命令行1

命令行工具中的类似应用

发表评论

电子邮件地址不会被公开。必填项已用 * 标注。