並排比較
| M5 Ultra | RTX PRO 6000 | |
|---|---|---|
| 是什麼 | Mac Studio (M5 Max or M5 Ultra) | 桌上型 PC 用的顯示卡 |
| 記憶體容量 | 96, 256, 512 GB | 96 GB |
| 記憶體頻寬 | 1,200 GB/s | 1,792 GB/s |
| 模型最多可用 | 約 384 GB | 約 95 GB |
| 順暢執行的模型 | 61 / 73 | 50 / 73 |
| 實測：生成 | 179 tok/s | 274 tok/s |
| 實測：讀取提示詞 | 4,945 tok/s | 14,855 tok/s |
實測列：每台機器在 llama.cpp 公開基準測試中用 Llama 2 7B Q4_0 跑出的最快結果，分別為生成 128 個 token（tg128）和讀取 512 個 token 的提示詞（pp512），單位為每秒 token 數。Mac 使用 Metal，RTX PRO 6000 使用 CUDA。Apple Silicon 結果 · RTX PRO 6000 結果 用於模型的記憶體：RTX PRO 6000 以其自帶的 96 GB 減去約 1 GB 計算，Mac 以統一記憶體的約 75%（macOS 預設值）計算。
各自的優勢
- 生成速度。 RTX PRO 6000 的記憶體讀取速度比 M5 Ultra 快約 49%（1,792 對 1,200 GB/s），所以執行兩者都放得下的模型時，產生速度快約 49%。
- 模型大小。 M5 Ultra 約有 384 GB 可用於模型，RTX PRO 6000 約有 95 GB。 在 73 個熱門開放模型中，M5 Ultra 上有 61 個執行順暢，RTX PRO 6000 上有 50 個。
- 讀取長提示詞。 在 llama.cpp 的實測中，RTX PRO 6000 讀取提示詞的速度約為對方的 3 倍（每秒 14,855 對 4,945 個 token）。讀取提示詞取決於 GPU 的算力而不是記憶體頻寬，它決定了處理長文件或程式碼庫時要等多久才出現第一個字。
- 軟體。 RTX PRO 6000 使用 NVIDIA 的 CUDA，大多數 AI 軟體都優先支援它，包括訓練程式碼和許多影像、影片工具。在 Mac 上則用 MLX、llama.cpp 的 Metal 後端或 PyTorch 的 MPS 後端來執行模型。
- 周邊。 顯示卡需要裝在一台 PC 裡，它自帶的 96 GB 就是上限：放不下的模型只能部分放在慢得多的 PC 系統記憶體裡執行，或者拆分到第二張顯示卡上。
- Mac。 它也是一台日常使用的電腦，能執行為 Apple Silicon 打造的 MLX Harness 和 MLX Node。
熱門模型的速度
單一對話每秒產生的 token 數；每款晶片都以最大記憶體配置計算（512 GB 和 96 GB），使用放得下的最佳模型版本。
| 模型 | M5 Ultra | RTX PRO 6000 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 64–113 8 位元 | 95–169 8 位元 |
| gpt-oss-20b21B · 啟用 3.6B | 284–505 原生 4.25 位元 | 424–755 原生 4.25 位元 |
| Qwen3.6 35B A3B35B · 啟用 3B | 169–300 8 位元 | 252–448 8 位元 |
| Qwen3.8 27B27B | 19–33 8 位元 | 28–50 8 位元 |
| Llama 3.3 70B Instruct70B | 14–24 4 位元 | 11–19 8 位元 |
| gpt-oss-120b117B · 啟用 5.1B | 200–356 原生 4.25 位元 | 299–531 原生 4.25 位元 |
| Qwen3.5 122B A10B122B · 啟用 10B | 51–91 8 位元 | 144–256 4 位元 |
| DeepSeek V4 Flash 0731284B · 啟用 13B | 39–70 8 位元 | 太大 |
常見問題
- 執行 LLM 時，RTX PRO 6000 比 M5 Ultra 快嗎？
- RTX PRO 6000 的記憶體讀取速度比 M5 Ultra 快約 49%（1,792 對 1,200 GB/s），所以執行兩者都放得下的模型時，產生速度快約 49%。 在 llama.cpp 的實測中，RTX PRO 6000 讀取提示詞的速度約為對方的 3 倍（每秒 14,855 對 4,945 個 token）。讀取提示詞取決於 GPU 的算力而不是記憶體頻寬，它決定了處理長文件或程式碼庫時要等多久才出現第一個字。
- M5 Ultra 和 RTX PRO 6000，哪個能執行更大的模型？
- M5 Ultra 約有 384 GB 可用於模型，RTX PRO 6000 約有 95 GB。 在 73 個熱門開放模型中，M5 Ultra 上有 61 個執行順暢，RTX PRO 6000 上有 50 個。
- MLX Node 能在 RTX PRO 6000 上執行嗎？
- 不能。MLX Node 和 MLX Harness 只能在 Apple Silicon Mac 上執行，使用 Apple 的 MLX 框架。
更多比較
計算方式
記憶體：模型參數以每個權重 8、6、4、3 或 2 位元計算，加上 MLX 的分組縮放（每個權重半個位元），或依其原生格式計算，再留出上下文空間。macOS 預設讓 GPU 使用約 75% 的統一記憶體。速度：記憶體頻寬除以每個 token 讀取的位元組數，就是單一對話的上限；在 llama.cpp 的 Apple Silicon 公開效能測試中，實際執行可達這個上限的約 45% 到 80%，本頁顯示的就是這個範圍。這些是估算值，不是實測值：可以到 MLX Bench 測量你自己的 Mac。模型數據來自各模型的官方模型卡，晶片數據來自 Apple 的技術規格。核對於 2026-10-19。數據與 mlx.app/compare 相同。
RTX PRO 6000 數據：NVIDIA: RTX PRO 6000 Blackwell Workstation Edition, NVIDIA: RTX PRO Desktop GPUs (compare table)。