llmfit for Mac 版
查找哪些模型可以在你的硬件上运行
llmfit 是什么
llmfit 是一个帮你判断本地硬件究竟能跑哪些开源大模型的工具。它会自动检测 CPU 核心数、系统内存、独立或集成 GPU、显存以及统一内存架构(覆盖 NVIDIA CUDA、Apple Silicon、AMD ROCm、Intel OneAPI),再结合模型的参数量、上下文长度和量化格式(GGUF、AWQ、GPTQ、EXL2)推算内存占用与每秒 token 数,从质量、速度、匹配度、上下文四个维度给每个模型打分,直接告诉你哪些模型能在你的机器上跑得动、跑得好。
它提供交互式 TUI(默认)和经典 CLI 两种用法,也有 Web 仪表盘和 REST API(/api/v1/system、/api/v1/models),方便接入编排器或自动化部署流程。支持多 GPU、MoE 架构、动态量化选择和本地运行时(Ollama、llama.cpp、MLX、Docker Model Runner、LM Studio),覆盖 macOS、Linux 和 Windows。
此外还带基准测试功能:下载并 serve 一个模型,实测本机 tok/s,结果先存本地并替换估算值,也可作为 PR 回传项目,让相同硬件的用户直接看到实测数据。适合想在本地部署 LLM、又不想反复试错的开发者和爱好者。
它提供交互式 TUI(默认)和经典 CLI 两种用法,也有 Web 仪表盘和 REST API(/api/v1/system、/api/v1/models),方便接入编排器或自动化部署流程。支持多 GPU、MoE 架构、动态量化选择和本地运行时(Ollama、llama.cpp、MLX、Docker Model Runner、LM Studio),覆盖 macOS、Linux 和 Windows。
此外还带基准测试功能:下载并 serve 一个模型,实测本机 tok/s,结果先存本地并替换估算值,也可作为 PR 回传项目,让相同硬件的用户直接看到实测数据。适合想在本地部署 LLM、又不想反复试错的开发者和爱好者。
如何安装 llmfit
- 打开 终端(按 ⌘ + 空格,输入“终端”)。
- 如果还没安装 Homebrew,先运行下面这条安装命令。
- 运行下面这条命令:
最近 10 个版本记录
最近一次更新为 2026-11-03,当前版本 v1.1.20,共记录最近 10 个版本。
| 版本 | 发布日期 | 类型 | 大小 | macOS | Windows | Linux |
|---|---|---|---|---|---|---|
| v1.1.20 | 2026-11-03 | 稳定版 | 7.0 MB | 下载 | 下载 | 下载 |
| v1.1.19 | 2026-11-03 | 稳定版 | 7.0 MB | 下载 | 下载 | 下载 |
| v1.1.18 | 2026-10-28 | 稳定版 | 6.6 MB | 下载 | 下载 | 下载 |
| v1.1.17 | 2026-10-08 | 稳定版 | 6.3 MB | 下载 | 下载 | 下载 |
| v1.1.16 | 2026-09-19 | 稳定版 | 6.1 MB | 下载 | 下载 | 下载 |
| v1.1.15 | 2026-09-10 | 稳定版 | 5.8 MB | 下载 | 下载 | 下载 |
| v1.1.14 | 2026-09-03 | 稳定版 | 5.8 MB | 下载 | 下载 | 下载 |
| v1.1.13 | 2026-09-03 | 稳定版 | 5.8 MB | 下载 | 下载 | 下载 |
| v1.1.12 | 2026-08-28 | 稳定版 | 5.6 MB | 下载 | 下载 | 下载 |
| v1.1.11 | 2026-08-25 | 稳定版 | 5.6 MB | 下载 | 下载 | 下载 |
数据来自 GitHub Releases,稳定版优先,同类按发布时间排序。
二进制包支持平台
Homebrew 官方提供的预编译包(bottle)覆盖:
- Apple 芯片 · 最新 macOS
- Apple 芯片 · macOS 26 Tahoe
- Apple 芯片 · macOS 15 Sequoia
- Linux · ARM64
- Linux · x86_64
⚠️ 未提供 Intel Mac 的预编译包,Intel 机型需要通过 brew install --build-from-source 从源码编译。
与同类应用对比
只对比公开元数据,不做主观推荐;需要逐项对比时见对比页。
| 应用 | 版本 | 许可证 | 架构 | 近 30 天安装 |
|---|---|---|---|---|
| llmfit | v1.1.20 | MIT | 命令行 | 4,828 |
| container | 1.7.1 | Apache-2.0 | 命令行 | 6,252 |
| act | v0.2.97 | MIT | 命令行 | 10,511 |
| sd | v1.1.0 | MIT | 命令行 | 1,693 |
命令行工具中的类似应用
container
container 是一个用 Swift 编写的工具,能在 Mac 上把 Linux 容器当作轻量级虚拟机来创建和运行,并针对 Apple silicon…act
act 是一个让你在本地运行 GitHub Actions 的工具,名字取自「Think globally, act locally」。sd
sd 是一个命令行查找替换工具,主打比 sed、awk 更直观的使用体验。它直接采用 JavaScript 和 Python 中常见的正则语法,省去了记忆…mlx-lm
mlx-lm 是一个 Python 包,用于在 Apple 芯片上借助 MLX 框架生成文本并微调大语言模型。openssl@4
OpenSSL 是一套开源、商用级、功能完整的加密工具箱,主要服务于 TLS(早期称 SSL)、DTLS 和 QUIC 协议。xz
XZ Utils 是一个通用数据压缩库,同时附带命令行工具。它的原生格式是 .xz,也兼容旧的 .lzma 格式。所属分类:命令行工具