各种精度所需内存
| 版本 | 权重 | 含上下文 | 最低配置 Mac |
|---|---|---|---|
| 8 位 | 113 GB | 122 GB | 192 GB |
| 6 位 | 86.1 GB | 93 GB | 128 GB |
| 4 位 | 59.6 GB | 64.4 GB | 96 GB |
| 3 位 质量较低 | 46.4 GB | 50.1 GB | 96 GB |
| 2 位 质量较低 | 33.1 GB | 35.7 GB | 48 GB |
在每款 Apple 芯片上
每款芯片能运行 GLM-4.5 Air 的最小内存容量、装得下的最佳版本,以及预计的生成速度。
| 芯片 | 需要 | 版本 | token/秒 |
|---|---|---|---|
| M6 | 没有合适的容量 | 太大 | – |
| M5 Ultra | 96 GB | 4 位 流畅运行 | 79–141 |
| M5 Max | 128 GB | 6 位 流畅运行 | 28–50 |
| M5 Pro | 48 GB | 2 位 流畅运行 | 36–65 |
| M5 | 没有合适的容量 | 太大 | – |
| M4 Max | 128 GB | 6 位 流畅运行 | 25–45 |
| M4 Pro | 48 GB | 2 位 流畅运行 | 32–57 |
| M4 | 没有合适的容量 | 太大 | – |
| M3 Ultra | 96 GB | 4 位 流畅运行 | 54–96 |
| M3 Max | 96 GB | 4 位 流畅运行 | 20–35 |
| M3 Pro | 没有合适的容量 | 太大 | – |
| M3 | 没有合适的容量 | 太大 | – |
| M2 Ultra | 128 GB | 6 位 流畅运行 | 37–65 |
| M2 Max | 96 GB | 4 位 流畅运行 | 26–47 |
| M2 Pro | 没有合适的容量 | 太大 | – |
| M2 | 没有合适的容量 | 太大 | – |
| M1 Ultra | 128 GB | 6 位 流畅运行 | 37–65 |
| M1 Max | 64 GB | 2 位 流畅运行 | 47–84 |
| M1 Pro | 没有合适的容量 | 太大 | – |
| M1 | 没有合适的容量 | 太大 | – |
如何运行
- 最简单的方法:下载免费开源的 MLX Harness。搜索 GLM-4.5 Air,下载适合你 Mac 的版本,即可开始对话。它还能通过 OpenAI 兼容 API 把模型提供给你的其他 App。下载 MLX Harness免费 · Apple Silicon · macOS 14.5 或更高版本
- 在终端中使用 Apple 的 MLX:
pip install mlx-lmmlx_lm.chat --model mlx-community/GLM-4.5-Air-4bit版本:Hugging Face 上的 mlx-community/GLM-4.5-Air-4bit。其他精度的版本就在旁边。
分步指南:在 Mac 上下载并运行 LLM · 如何使用 MLX Harness · MLX、Ollama 与 llama.cpp 对比
关于 GLM-4.5 Air
| 开发者 | Z.ai (Zhipu) |
|---|---|
| 参数 | 共 106B · 激活 12B(混合专家) |
| 上下文 | 128K token |
| 许可证 | MIT |
| 发布时间 | 2025-07 |
| 输入 | 文本 |
| 权重 | zai-org/GLM-4.5-Air |
常见问题
- GLM-4.5 Air 需要多少内存?
- 在 4 位 下权重约 59.6 GB,再加上上下文空间,总共 64.4 GB。在 Mac 上,这意味着需要 96 GB 或以上的统一内存,因为 macOS 默认允许 GPU 使用约 75% 的统一内存。
- GLM-4.5 Air 在 Mac 上有多快?
- 生成速度取决于内存带宽。本页中运行它最快的 Mac 是 96 GB 的 M5 Ultra,每秒约 79–141 个 token(4 位)。能运行它的最低配置 Mac 是 96 GB 的 M5 Ultra,每秒约 79–141 个。
- 为什么 GLM-4.5 Air 运行起来比它的规模显示的更快?
- 它是混合专家模型:内存中保存 106B 参数,但每个 token 只读取 12B,所以生成速度相当于小得多的模型。
类似模型
用于你的模型卡或 README
显示能流畅运行 GLM-4.5 Air 的最低配置 Mac,并链接到本页。
[](https://mlx.app/run/glm-4.5-air)计算方法
内存:模型参数按每个权重 8、6、4、3 或 2 位计算,加上 MLX 的分组缩放(每个权重半位),或按其原生格式计算,再留出上下文空间。macOS 默认允许 GPU 使用约 75% 的统一内存。速度:内存带宽除以每个 token 读取的字节数,就是单个对话的上限;在 llama.cpp 的 Apple Silicon 公开基准测试中,实际运行可达这个上限的约 45% 到 80%,本页显示的就是这个范围。这些是估算值,不是实测值:可以在 MLX Bench 上测量你自己的 Mac。模型数据来自各模型的官方模型卡,芯片数据来自 Apple 的技术规格。核对于 2026-10-19。数据与 mlx.app/compare 相同。