用搭载 M5 Max 的 Mac Studio 运行本地 AI。

M5 Max 的内存读取速度为 614 GB/s,这决定了生成速度。内存决定能装下哪些模型,而且日后无法升级,所以请在这里选好容量。

48 GB38 个模型流畅运行Qwen3.6 35B A3B · 115–205 tok/s64 GB39 个模型流畅运行Nemotron 3.5 Bolt 74B A9B · 54–96 tok/s128 GB47 个模型流畅运行Qwen3.5 122B A10B · 49–88 tok/s

按内存容量

内存流畅运行流畅运行的最大模型gpt-oss-20b
36 GB460 GB/s38Qwen3.6 35B A3B109–194 tok/s
48 GB614 GB/s38Qwen3.6 35B A3B145–259 tok/s
64 GB614 GB/s39Nemotron 3.5 Bolt 74B A9B145–259 tok/s
128 GB614 GB/s47Qwen3.5 122B A10B145–259 tok/s

机型:Mac Studio (M5 Max or M5 Ultra)。 并非每个机型都提供所有内存容量;各机型的可选配置请参阅 Apple 的技术规格。

常见问题

搭载 M5 Max 的 Mac Studio 适合运行本地 LLM 吗?
配备 128 GB 时,它能流畅运行 73 个开放模型中的 47 个,最大到 Qwen3.5 122B A10B;运行 gpt-oss-20b 时每秒约生成 145–259 个 token。M5 Max 的内存读取速度为 614 GB/s,这决定了生成速度。
用于 AI 的话,搭载 M5 Max 的 Mac Studio 应该配多少内存?
36 GB 能流畅运行 38 个开放模型;128 GB 能运行 47 个,最大到 Qwen3.5 122B A10B。内存决定能装下哪些模型,而且日后无法升级。

其他 Mac

搭载其他芯片的 Mac Studio:

其他搭载 M5 Max 的 Mac:

正面对比:

对比 PC 和显卡:

用 M5 Max 运行本地 AI · 运行本地 LLM 的最佳 Mac · 所有 Mac

计算方法

内存:模型参数按每个权重 8、6、4、3 或 2 位计算,加上 MLX 的分组缩放(每个权重半位),或按其原生格式计算,再留出上下文空间。macOS 默认允许 GPU 使用约 75% 的统一内存。速度:内存带宽除以每个 token 读取的字节数,就是单个对话的上限;在 llama.cpp 的 Apple Silicon 公开基准测试中,实际运行可达这个上限的约 45% 到 80%,本页显示的就是这个范围。这些是估算值,不是实测值:可以在 MLX Bench 上测量你自己的 Mac。模型数据来自各模型的官方模型卡,芯片数据来自 Apple 的技术规格。核对于 2026-10-19。数据与 mlx.app/compare 相同。

搭载 M5 Max 的 Mac Studio 运行本地 AI:按内存看能跑哪些 LLM