并排对比
热门模型的速度
单个对话每秒生成的 token 数；每款芯片都按最大内存配置计算（512 GB 和 512 GB），使用装得下的最佳模型版本。
| 模型 | M3 Ultra | M5 Ultra |
|---|---|---|
| Llama 3.1 8B Instruct8B | 43–77 8 位 | 64–113 8 位 |
| gpt-oss-20b21B · 激活 3.6B | 194–345 原生 4.25 位 | 284–505 原生 4.25 位 |
| Qwen3.6 35B A3B35B · 激活 3B | 115–205 8 位 | 169–300 8 位 |
| Qwen3.8 27B27B | 13–23 8 位 | 19–33 8 位 |
| Llama 3.3 70B Instruct70B | 5–9 8 位 | 14–24 4 位 |
| gpt-oss-120b117B · 激活 5.1B | 137–243 原生 4.25 位 | 200–356 原生 4.25 位 |
| Qwen3.5 122B A10B122B · 激活 10B | 35–62 8 位 | 51–91 8 位 |
| DeepSeek V4 Flash 0731284B · 激活 13B | 27–47 8 位 | 39–70 8 位 |
常见问题
- 运行 LLM 时，M5 Ultra 比 M3 Ultra 快吗？
- M5 Ultra 的内存读取速度比 M3 Ultra 快约 47%（1,200 对 819 GB/s），所以运行两者都装得下的模型时，生成速度快约 47%。读取长提示词则取决于 GPU 算力，本对比不涉及。
- M3 Ultra 和 M5 Ultra，哪个能运行更大的模型？
- 一样：两者最高都是 512 GB。在这个容量下，73 个开放模型中，M3 Ultra 能流畅运行 60 个，M5 Ultra 能流畅运行 61 个；速度更快的那款有更多模型达到每秒 10 个 token。
更多对比
- M2 Ultra vs M3 Ultra
- M3 Max vs M3 Ultra
- M3 Ultra vs M4 Max
- M3 Ultra vs M5 Max
- M4 Max vs M5 Ultra
- M5 Max vs M5 Ultra
用 M3 Ultra 运行本地 AI · 用 M5 Ultra 运行本地 AI · 对比所有模型 · 运行本地 LLM 的最佳 Mac
计算方法
内存：模型参数按每个权重 8、6、4、3 或 2 位计算，加上 MLX 的分组缩放（每个权重半位），或按其原生格式计算，再留出上下文空间。macOS 默认允许 GPU 使用约 75% 的统一内存。速度：内存带宽除以每个 token 读取的字节数，就是单个对话的上限；在 llama.cpp 的 Apple Silicon 公开基准测试中，实际运行可达这个上限的约 45% 到 80%，本页显示的就是这个范围。这些是估算值，不是实测值：可以在 MLX Bench 上测量你自己的 Mac。模型数据来自各模型的官方模型卡，芯片数据来自 Apple 的技术规格。核对于 2026-10-19。数据与 mlx.app/compare 相同。