并排对比
热门模型的速度
单个对话每秒生成的 token 数;每款芯片都按最大内存配置计算(24 GB 和 32 GB),使用装得下的最佳模型版本。
| 模型 | M2 | M2 Pro |
|---|---|---|
| Llama 3.1 8B Instruct8B | 10–18 4 位 | 11–19 8 位 |
| gpt-oss-20b21B · 激活 3.6B | 24–42 原生 4.25 位 | 47–84 原生 4.25 位 |
| Qwen3.6 35B A3B35B · 激活 3B | 35–62 3 位 质量较低 | 53–94 4 位 |
| Qwen3.8 27B27B | 3–5 4 位 | 4–7 6 位 |
| Llama 3.3 70B Instruct70B | 太大 | 4–7 2 位 质量较低 |
| gpt-oss-120b117B · 激活 5.1B | 太大 | 太大 |
| Qwen3.5 122B A10B122B · 激活 10B | 太大 | 太大 |
| DeepSeek V4 Flash 0731284B · 激活 13B | 太大 | 太大 |
常见问题
- 运行 LLM 时,M2 Pro 比 M2 快吗?
- M2 Pro 的内存读取速度比 M2 快约 100%(200 对 100 GB/s),所以运行两者都装得下的模型时,生成速度快约 100%。读取长提示词则取决于 GPU 算力,本对比不涉及。
- M2 和 M2 Pro,哪个能运行更大的模型?
- M2 Pro。M2 Pro 最高可配 32 GB 内存,M2 最高 24 GB。在最大配置下,它能流畅运行 73 个开放模型中的 30 个,另一款为 20 个。
更多对比
计算方法
内存:模型参数按每个权重 8、6、4、3 或 2 位计算,加上 MLX 的分组缩放(每个权重半位),或按其原生格式计算,再留出上下文空间。macOS 默认允许 GPU 使用约 75% 的统一内存。速度:内存带宽除以每个 token 读取的字节数,就是单个对话的上限;在 llama.cpp 的 Apple Silicon 公开基准测试中,实际运行可达这个上限的约 45% 到 80%,本页显示的就是这个范围。这些是估算值,不是实测值:可以在 MLX Bench 上测量你自己的 Mac。模型数据来自各模型的官方模型卡,芯片数据来自 Apple 的技术规格。核对于 2026-10-19。数据与 mlx.app/compare 相同。