并排对比
| M5 Ultra | DGX Spark | |
|---|---|---|
| 是什么 | Mac Studio (M5 Max or M5 Ultra) | 一台完整的小型电脑 |
| 内存容量 | 96, 256, 512 GB | 128 GB |
| 内存带宽 | 1,200 GB/s | 273 GB/s |
| 模型最多可用 | 约 384 GB | 约 96 GB |
| 流畅运行的模型 | 61 / 73 | 39 / 73 |
| 实测：生成 | 179 tok/s | 57 tok/s |
| 实测：读取提示词 | 4,945 tok/s | 3,062 tok/s |
实测行：每台机器在 llama.cpp 公开基准测试中用 Llama 2 7B Q4_0 跑出的最快结果，分别为生成 128 个 token（tg128）和读取 512 个 token 的提示词（pp512），单位为每秒 token 数。Mac 使用 Metal，DGX Spark 使用 CUDA。Apple Silicon 结果 · DGX Spark 结果 两者用于模型的内存都按约 75% 计算，即 macOS 的默认值，因为 DGX Spark 同样由 CPU 和 GPU 共用一块内存。它的 GPU 实际能用多少，取决于操作系统和设置。
各自的优势
- 生成速度。 M5 Ultra 的内存读取速度比 DGX Spark 快约 340%（1,200 对 273 GB/s），所以运行两者都装得下的模型时，生成速度快约 340%。
- 模型大小。 M5 Ultra 约有 384 GB 可用于模型，DGX Spark 约有 96 GB。 在 73 个热门开放模型中，M5 Ultra 上有 61 个运行良好，DGX Spark 上有 39 个。
- 读取长提示词。 在 llama.cpp 的实测中，M5 Ultra 读取提示词的速度约为对方的 1.6 倍（每秒 4,945 对 3,062 个 token）。读取提示词取决于 GPU 的算力而不是内存带宽，它决定了处理长文档或代码库时等到第一个字出现需要多久。
- 软件。 DGX Spark 使用 NVIDIA 的 CUDA，大多数 AI 软件都优先支持它，包括训练代码和许多图像、视频工具。在 Mac 上则用 MLX、llama.cpp 的 Metal 后端或 PyTorch 的 MPS 后端来运行模型。
- 周边。 两者都是完整的电脑，把模型放在 CPU 和 GPU 共用的一块内存里。
- Mac。 它也是一台日常用的电脑，能运行为 Apple Silicon 打造的 MLX Harness 和 MLX Node。
热门模型的速度
单个对话每秒生成的 token 数；每款芯片都按最大内存配置计算（512 GB 和 128 GB），使用装得下的最佳模型版本。
| 模型 | M5 Ultra | DGX Spark |
|---|---|---|
| Llama 3.1 8B Instruct8B | 64–113 8 位 | 14–26 8 位 |
| gpt-oss-20b21B · 激活 3.6B | 284–505 原生 4.25 位 | 65–115 原生 4.25 位 |
| Qwen3.6 35B A3B35B · 激活 3B | 169–300 8 位 | 38–68 8 位 |
| Qwen3.8 27B27B | 19–33 8 位 | 4–8 8 位 |
| Llama 3.3 70B Instruct70B | 14–24 4 位 | 2–3 8 位 |
| gpt-oss-120b117B · 激活 5.1B | 200–356 原生 4.25 位 | 45–81 原生 4.25 位 |
| Qwen3.5 122B A10B122B · 激活 10B | 51–91 8 位 | 22–39 4 位 |
| DeepSeek V4 Flash 0731284B · 激活 13B | 39–70 8 位 | 30–53 2 位 质量较低 |
常见问题
- 运行 LLM 时，DGX Spark 比 M5 Ultra 快吗？
- M5 Ultra 的内存读取速度比 DGX Spark 快约 340%（1,200 对 273 GB/s），所以运行两者都装得下的模型时，生成速度快约 340%。 在 llama.cpp 的实测中，M5 Ultra 读取提示词的速度约为对方的 1.6 倍（每秒 4,945 对 3,062 个 token）。读取提示词取决于 GPU 的算力而不是内存带宽，它决定了处理长文档或代码库时等到第一个字出现需要多久。
- M5 Ultra 和 DGX Spark，哪个能运行更大的模型？
- M5 Ultra 约有 384 GB 可用于模型，DGX Spark 约有 96 GB。 在 73 个热门开放模型中，M5 Ultra 上有 61 个运行良好，DGX Spark 上有 39 个。
- MLX Node 能在 DGX Spark 上运行吗？
- 不能。MLX Node 和 MLX Harness 只能在 Apple Silicon Mac 上运行，使用 Apple 的 MLX 框架。
更多对比
计算方法
内存：模型参数按每个权重 8、6、4、3 或 2 位计算，加上 MLX 的分组缩放（每个权重半位），或按其原生格式计算，再留出上下文空间。macOS 默认允许 GPU 使用约 75% 的统一内存。速度：内存带宽除以每个 token 读取的字节数，就是单个对话的上限；在 llama.cpp 的 Apple Silicon 公开基准测试中，实际运行可达这个上限的约 45% 到 80%，本页显示的就是这个范围。这些是估算值，不是实测值：可以在 MLX Bench 上测量你自己的 Mac。模型数据来自各模型的官方模型卡，芯片数据来自 Apple 的技术规格。核对于 2026-10-19。数据与 mlx.app/compare 相同。
DGX Spark 数据：NVIDIA: DGX Spark (specs)。