Mac 能运行 GLM-4.7 Flash 吗?

可以,需要 32 GB 或以上的统一内存。GLM-4.7 Flash 有 30B 参数,每个 token 激活其中 3B;下面是它在各种精度下所需的内存,以及每款 Apple 芯片运行它的速度。

4 位 所需内存18.4 GB权重 16.9 GB + 上下文
最低配置 Mac32 GB4 位 · 55 种 Mac 配置
最快的 Mac169–300token/秒 · M5 Ultra 96 GB(估算)

各种精度所需内存

版本权重含上下文最低配置 Mac
8 位31.9 GB34.5 GB48 GB
6 位24.4 GB26.4 GB36 GB
4 位16.9 GB18.4 GB32 GB
3 位 质量较低13.1 GB14.6 GB24 GB
2 位 质量较低9.4 GB10.9 GB16 GB

在每款 Apple 芯片上

每款芯片能运行 GLM-4.7 Flash 的最小内存容量、装得下的最佳版本,以及预计的生成速度。

芯片需要版本token/秒
M632 GB4 位 流畅运行45–80
M5 Ultra96 GB8 位 流畅运行169–300
M5 Max36 GB6 位 流畅运行86–153
M5 Pro48 GB8 位 流畅运行43–77
M532 GB4 位 流畅运行41–72
M4 Max36 GB6 位 流畅运行77–137
M4 Pro48 GB8 位 流畅运行38–68
M432 GB4 位 流畅运行32–56
M3 Ultra96 GB8 位 流畅运行115–205
M3 Max36 GB6 位 流畅运行56–100
M3 Pro36 GB6 位 流畅运行28–50
M316 GB2 位 流畅运行50–89
M2 Ultra64 GB8 位 流畅运行113–200
M2 Max32 GB4 位 流畅运行106–188
M2 Pro32 GB4 位 流畅运行53–94
M216 GB2 位 流畅运行50–89
M1 Ultra64 GB8 位 流畅运行113–200
M1 Max32 GB4 位 流畅运行106–188
M1 Pro32 GB4 位 流畅运行53–94
M116 GB2 位 流畅运行34–60

如何运行

  1. 最简单的方法:下载免费开源的 MLX Harness。搜索 GLM-4.7 Flash,下载适合你 Mac 的版本,即可开始对话。它还能通过 OpenAI 兼容 API 把模型提供给你的其他 App。下载 MLX Harness免费 · Apple Silicon · macOS 14.5 或更高版本
  2. 在终端中使用 Apple 的 MLX:pip install mlx-lmmlx_lm.chat --model mlx-community/GLM-4.7-Flash-4bit版本:Hugging Face 上的 mlx-community/GLM-4.7-Flash-4bit。其他精度的版本就在旁边。

分步指南:在 Mac 上下载并运行 LLM · 如何使用 MLX Harness · MLX、Ollama 与 llama.cpp 对比

关于 GLM-4.7 Flash

开发者Z.ai (Zhipu)
参数共 30B · 激活 3B(混合专家)
上下文198K token
许可证MIT
发布时间2026-01
输入文本
权重zai-org/GLM-4.7-Flash

常见问题

GLM-4.7 Flash 需要多少内存?
在 4 位 下权重约 16.9 GB,再加上上下文空间,总共 18.4 GB。在 Mac 上,这意味着需要 32 GB 或以上的统一内存,因为 macOS 默认允许 GPU 使用约 75% 的统一内存。
GLM-4.7 Flash 在 Mac 上有多快?
生成速度取决于内存带宽。本页中运行它最快的 Mac 是 96 GB 的 M5 Ultra,每秒约 169–300 个 token(8 位)。能运行它的最低配置 Mac 是 32 GB 的 M2 Max,每秒约 106–188 个。
为什么 GLM-4.7 Flash 运行起来比它的规模显示的更快?
它是混合专家模型:内存中保存 30B 参数,但每个 token 只读取 3B,所以生成速度相当于小得多的模型。

类似模型

所有模型 · 所有 Mac · 对比你的 Mac

用于你的模型卡或 README

Runs on a Mac: GLM-4.7 Flash 显示能流畅运行 GLM-4.7 Flash 的最低配置 Mac,并链接到本页。

[![Runs on a Mac](https://mlx.app/badge/run/glm-4.7-flash.svg)](https://mlx.app/run/glm-4.7-flash)

计算方法

内存:模型参数按每个权重 8、6、4、3 或 2 位计算,加上 MLX 的分组缩放(每个权重半位),或按其原生格式计算,再留出上下文空间。macOS 默认允许 GPU 使用约 75% 的统一内存。速度:内存带宽除以每个 token 读取的字节数,就是单个对话的上限;在 llama.cpp 的 Apple Silicon 公开基准测试中,实际运行可达这个上限的约 45% 到 80%,本页显示的就是这个范围。这些是估算值,不是实测值:可以在 MLX Bench 上测量你自己的 Mac。模型数据来自各模型的官方模型卡,芯片数据来自 Apple 的技术规格。核对于 2026-10-19。数据与 mlx.app/compare 相同。

Mac 能运行 GLM-4.7 Flash 吗?各款 Apple 芯片的内存与速度