并排对比
| M5 Ultra | RTX PRO 6000 | |
|---|---|---|
| 是什么 | Mac Studio (M5 Max or M5 Ultra) | 台式 PC 用的显卡 |
| 内存容量 | 96, 256, 512 GB | 96 GB |
| 内存带宽 | 1,200 GB/s | 1,792 GB/s |
| 模型最多可用 | 约 384 GB | 约 95 GB |
| 流畅运行的模型 | 61 / 73 | 50 / 73 |
| 实测：生成 | 179 tok/s | 274 tok/s |
| 实测：读取提示词 | 4,945 tok/s | 14,855 tok/s |
实测行：每台机器在 llama.cpp 公开基准测试中用 Llama 2 7B Q4_0 跑出的最快结果，分别为生成 128 个 token（tg128）和读取 512 个 token 的提示词（pp512），单位为每秒 token 数。Mac 使用 Metal，RTX PRO 6000 使用 CUDA。Apple Silicon 结果 · RTX PRO 6000 结果 用于模型的内存：RTX PRO 6000 按其自带的 96 GB 减去约 1 GB 计算，Mac 按统一内存的约 75%（macOS 默认值）计算。
各自的优势
- 生成速度。 RTX PRO 6000 的内存读取速度比 M5 Ultra 快约 49%（1,792 对 1,200 GB/s），所以运行两者都装得下的模型时，生成速度快约 49%。
- 模型大小。 M5 Ultra 约有 384 GB 可用于模型，RTX PRO 6000 约有 95 GB。 在 73 个热门开放模型中，M5 Ultra 上有 61 个运行良好，RTX PRO 6000 上有 50 个。
- 读取长提示词。 在 llama.cpp 的实测中，RTX PRO 6000 读取提示词的速度约为对方的 3 倍（每秒 14,855 对 4,945 个 token）。读取提示词取决于 GPU 的算力而不是内存带宽，它决定了处理长文档或代码库时等到第一个字出现需要多久。
- 软件。 RTX PRO 6000 使用 NVIDIA 的 CUDA，大多数 AI 软件都优先支持它，包括训练代码和许多图像、视频工具。在 Mac 上则用 MLX、llama.cpp 的 Metal 后端或 PyTorch 的 MPS 后端来运行模型。
- 周边。 显卡需要装在一台 PC 里，它自带的 96 GB 就是上限：放不下的模型只能部分放在慢得多的 PC 系统内存里运行，或者拆分到第二张显卡上。
- Mac。 它也是一台日常用的电脑，能运行为 Apple Silicon 打造的 MLX Harness 和 MLX Node。
热门模型的速度
单个对话每秒生成的 token 数；每款芯片都按最大内存配置计算（512 GB 和 96 GB），使用装得下的最佳模型版本。
| 模型 | M5 Ultra | RTX PRO 6000 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 64–113 8 位 | 95–169 8 位 |
| gpt-oss-20b21B · 激活 3.6B | 284–505 原生 4.25 位 | 424–755 原生 4.25 位 |
| Qwen3.6 35B A3B35B · 激活 3B | 169–300 8 位 | 252–448 8 位 |
| Qwen3.8 27B27B | 19–33 8 位 | 28–50 8 位 |
| Llama 3.3 70B Instruct70B | 14–24 4 位 | 11–19 8 位 |
| gpt-oss-120b117B · 激活 5.1B | 200–356 原生 4.25 位 | 299–531 原生 4.25 位 |
| Qwen3.5 122B A10B122B · 激活 10B | 51–91 8 位 | 144–256 4 位 |
| DeepSeek V4 Flash 0731284B · 激活 13B | 39–70 8 位 | 太大 |
常见问题
- 运行 LLM 时，RTX PRO 6000 比 M5 Ultra 快吗？
- RTX PRO 6000 的内存读取速度比 M5 Ultra 快约 49%（1,792 对 1,200 GB/s），所以运行两者都装得下的模型时，生成速度快约 49%。 在 llama.cpp 的实测中，RTX PRO 6000 读取提示词的速度约为对方的 3 倍（每秒 14,855 对 4,945 个 token）。读取提示词取决于 GPU 的算力而不是内存带宽，它决定了处理长文档或代码库时等到第一个字出现需要多久。
- M5 Ultra 和 RTX PRO 6000，哪个能运行更大的模型？
- M5 Ultra 约有 384 GB 可用于模型，RTX PRO 6000 约有 95 GB。 在 73 个热门开放模型中，M5 Ultra 上有 61 个运行良好，RTX PRO 6000 上有 50 个。
- MLX Node 能在 RTX PRO 6000 上运行吗？
- 不能。MLX Node 和 MLX Harness 只能在 Apple Silicon Mac 上运行，使用 Apple 的 MLX 框架。
更多对比
计算方法
内存：模型参数按每个权重 8、6、4、3 或 2 位计算，加上 MLX 的分组缩放（每个权重半位），或按其原生格式计算，再留出上下文空间。macOS 默认允许 GPU 使用约 75% 的统一内存。速度：内存带宽除以每个 token 读取的字节数，就是单个对话的上限；在 llama.cpp 的 Apple Silicon 公开基准测试中，实际运行可达这个上限的约 45% 到 80%，本页显示的就是这个范围。这些是估算值，不是实测值：可以在 MLX Bench 上测量你自己的 Mac。模型数据来自各模型的官方模型卡，芯片数据来自 Apple 的技术规格。核对于 2026-10-19。数据与 mlx.app/compare 相同。
RTX PRO 6000 数据：NVIDIA: RTX PRO 6000 Blackwell Workstation Edition, NVIDIA: RTX PRO Desktop GPUs (compare table)。