並排比較
| M5 Max | DGX Spark | |
|---|---|---|
| 是什麼 | MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra) | 一台完整的小型電腦 |
| 記憶體容量 | 36, 48, 64, 128 GB | 128 GB |
| 記憶體頻寬 | 460–614 GB/s | 273 GB/s |
| 模型最多可用 | 約 96 GB | 約 96 GB |
| 順暢執行的模型 | 47 / 73 | 39 / 73 |
| 實測:生成 | 120 tok/s | 57 tok/s |
| 實測:讀取提示詞 | 3,220 tok/s | 3,062 tok/s |
實測列:每台機器在 llama.cpp 公開基準測試中用 Llama 2 7B Q4_0 跑出的最快結果,分別為生成 128 個 token(tg128)和讀取 512 個 token 的提示詞(pp512),單位為每秒 token 數。Mac 使用 Metal,DGX Spark 使用 CUDA。Apple Silicon 結果 · DGX Spark 結果 兩者用於模型的記憶體都以約 75% 計算,即 macOS 的預設值,因為 DGX Spark 同樣由 CPU 和 GPU 共用一塊記憶體。它的 GPU 實際能用多少,取決於作業系統和設定。
各自的優勢
- 生成速度。 M5 Max 的記憶體讀取速度比 DGX Spark 快約 125%(614 對 273 GB/s),所以執行兩者都放得下的模型時,產生速度快約 125%。
- 模型大小。 兩者都約有 96 GB 可用於模型。 在 73 個熱門開放模型中,M5 Max 上有 47 個執行順暢,DGX Spark 上有 39 個。
- 讀取長提示詞。 在 llama.cpp 的實測中,兩者讀取提示詞的速度差不多(每秒 3,220 和 3,062 個 token)。
- 軟體。 DGX Spark 使用 NVIDIA 的 CUDA,大多數 AI 軟體都優先支援它,包括訓練程式碼和許多影像、影片工具。在 Mac 上則用 MLX、llama.cpp 的 Metal 後端或 PyTorch 的 MPS 後端來執行模型。
- 周邊。 兩者都是完整的電腦,把模型放在 CPU 和 GPU 共用的一塊記憶體裡。
- Mac。 它也是一台日常使用的電腦,能執行為 Apple Silicon 打造的 MLX Harness 和 MLX Node。
熱門模型的速度
單一對話每秒產生的 token 數;每款晶片都以最大記憶體配置計算(128 GB 和 128 GB),使用放得下的最佳模型版本。
| 模型 | M5 Max | DGX Spark |
|---|---|---|
| Llama 3.1 8B Instruct8B | 33–58 8 位元 | 14–26 8 位元 |
| gpt-oss-20b21B · 啟用 3.6B | 145–259 原生 4.25 位元 | 65–115 原生 4.25 位元 |
| Qwen3.6 35B A3B35B · 啟用 3B | 86–154 8 位元 | 38–68 8 位元 |
| Qwen3.8 27B27B | 10–17 8 位元 | 4–8 8 位元 |
| Llama 3.3 70B Instruct70B | 4–7 8 位元 | 2–3 8 位元 |
| gpt-oss-120b117B · 啟用 5.1B | 102–182 原生 4.25 位元 | 45–81 原生 4.25 位元 |
| Qwen3.5 122B A10B122B · 啟用 10B | 49–88 4 位元 | 22–39 4 位元 |
| DeepSeek V4 Flash 0731284B · 啟用 13B | 67–120 2 位元 品質較低 | 30–53 2 位元 品質較低 |
常見問題
- 執行 LLM 時,DGX Spark 比 M5 Max 快嗎?
- M5 Max 的記憶體讀取速度比 DGX Spark 快約 125%(614 對 273 GB/s),所以執行兩者都放得下的模型時,產生速度快約 125%。 在 llama.cpp 的實測中,兩者讀取提示詞的速度差不多(每秒 3,220 和 3,062 個 token)。
- M5 Max 和 DGX Spark,哪個能執行更大的模型?
- 兩者都約有 96 GB 可用於模型。 在 73 個熱門開放模型中,M5 Max 上有 47 個執行順暢,DGX Spark 上有 39 個。
- MLX Node 能在 DGX Spark 上執行嗎?
- 不能。MLX Node 和 MLX Harness 只能在 Apple Silicon Mac 上執行,使用 Apple 的 MLX 框架。
更多比較
計算方式
記憶體:模型參數以每個權重 8、6、4、3 或 2 位元計算,加上 MLX 的分組縮放(每個權重半個位元),或依其原生格式計算,再留出上下文空間。macOS 預設讓 GPU 使用約 75% 的統一記憶體。速度:記憶體頻寬除以每個 token 讀取的位元組數,就是單一對話的上限;在 llama.cpp 的 Apple Silicon 公開效能測試中,實際執行可達這個上限的約 45% 到 80%,本頁顯示的就是這個範圍。這些是估算值,不是實測值:可以到 MLX Bench 測量你自己的 Mac。模型數據來自各模型的官方模型卡,晶片數據來自 Apple 的技術規格。核對於 2026-10-19。數據與 mlx.app/compare 相同。
DGX Spark 數據:NVIDIA: DGX Spark (specs)。