用搭载 M5 Pro 的 MacBook Pro 运行本地 AI。

M5 Pro 的内存读取速度为 307 GB/s,这决定了生成速度。内存决定能装下哪些模型,而且日后无法升级,所以请在这里选好容量。

24 GB28 个模型流畅运行Gemma 4 26B A4B · 66–117 tok/s48 GB33 个模型流畅运行Qwen3.6 35B A3B · 58–102 tok/s64 GB34 个模型流畅运行Nemotron 3.5 Bolt 74B A9B · 27–48 tok/s

按内存容量

内存流畅运行流畅运行的最大模型gpt-oss-20b
24 GB307 GB/s28Gemma 4 26B A4B73–129 tok/s
48 GB307 GB/s33Qwen3.6 35B A3B73–129 tok/s
64 GB307 GB/s34Nemotron 3.5 Bolt 74B A9B73–129 tok/s

机型:MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max)。 并非每个机型都提供所有内存容量;各机型的可选配置请参阅 Apple 的技术规格。

常见问题

搭载 M5 Pro 的 MacBook Pro 适合运行本地 LLM 吗?
配备 64 GB 时,它能流畅运行 73 个开放模型中的 34 个,最大到 Nemotron 3.5 Bolt 74B A9B;运行 gpt-oss-20b 时每秒约生成 73–129 个 token。M5 Pro 的内存读取速度为 307 GB/s,这决定了生成速度。
用于 AI 的话,搭载 M5 Pro 的 MacBook Pro 应该配多少内存?
24 GB 能流畅运行 28 个开放模型;64 GB 能运行 34 个,最大到 Nemotron 3.5 Bolt 74B A9B。内存决定能装下哪些模型,而且日后无法升级。

其他 Mac

搭载其他芯片的 MacBook Pro:

其他搭载 M5 Pro 的 Mac:

正面对比:

用 M5 Pro 运行本地 AI · 运行本地 LLM 的最佳 Mac · 所有 Mac

计算方法

内存:模型参数按每个权重 8、6、4、3 或 2 位计算,加上 MLX 的分组缩放(每个权重半位),或按其原生格式计算,再留出上下文空间。macOS 默认允许 GPU 使用约 75% 的统一内存。速度:内存带宽除以每个 token 读取的字节数,就是单个对话的上限;在 llama.cpp 的 Apple Silicon 公开基准测试中,实际运行可达这个上限的约 45% 到 80%,本页显示的就是这个范围。这些是估算值,不是实测值:可以在 MLX Bench 上测量你自己的 Mac。模型数据来自各模型的官方模型卡,芯片数据来自 Apple 的技术规格。核对于 2026-10-19。数据与 mlx.app/compare 相同。

搭载 M5 Pro 的 MacBook Pro 运行本地 AI:按内存看能跑哪些 LLM