M5 Max 与 DGX Spark:本地 AI 对比。

M5 Max 的内存读取速度比 DGX Spark 快约 125%(614 对 273 GB/s),所以运行两者都装得下的模型时,生成速度快约 125%。 两者都约有 96 GB 可用于模型。

M5 Max460–614 GB/s最高 128 GB · 47 个模型流畅运行DGX Spark273 GB/s最高 128 GB · 39 个模型流畅运行

并排对比

M5 MaxDGX Spark
是什么MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra)一台完整的小型电脑
内存容量36, 48, 64, 128 GB128 GB
内存带宽460–614 GB/s273 GB/s
模型最多可用约 96 GB约 96 GB
流畅运行的模型47 / 7339 / 73
实测:生成120 tok/s57 tok/s
实测:读取提示词3,220 tok/s3,062 tok/s

实测行:每台机器在 llama.cpp 公开基准测试中用 Llama 2 7B Q4_0 跑出的最快结果,分别为生成 128 个 token(tg128)和读取 512 个 token 的提示词(pp512),单位为每秒 token 数。Mac 使用 Metal,DGX Spark 使用 CUDA。Apple Silicon 结果 · DGX Spark 结果 两者用于模型的内存都按约 75% 计算,即 macOS 的默认值,因为 DGX Spark 同样由 CPU 和 GPU 共用一块内存。它的 GPU 实际能用多少,取决于操作系统和设置。

各自的优势

  • 生成速度。 M5 Max 的内存读取速度比 DGX Spark 快约 125%(614 对 273 GB/s),所以运行两者都装得下的模型时,生成速度快约 125%。
  • 模型大小。 两者都约有 96 GB 可用于模型。 在 73 个热门开放模型中,M5 Max 上有 47 个运行良好,DGX Spark 上有 39 个。
  • 读取长提示词。 在 llama.cpp 的实测中,两者读取提示词的速度差不多(每秒 3,220 和 3,062 个 token)。
  • 软件。 DGX Spark 使用 NVIDIA 的 CUDA,大多数 AI 软件都优先支持它,包括训练代码和许多图像、视频工具。在 Mac 上则用 MLX、llama.cpp 的 Metal 后端或 PyTorch 的 MPS 后端来运行模型。
  • 周边。 两者都是完整的电脑,把模型放在 CPU 和 GPU 共用的一块内存里。
  • Mac。 它也是一台日常用的电脑,能运行为 Apple Silicon 打造的 MLX Harness 和 MLX Node。

热门模型的速度

单个对话每秒生成的 token 数;每款芯片都按最大内存配置计算(128 GB 和 128 GB),使用装得下的最佳模型版本。

模型M5 MaxDGX Spark
Llama 3.1 8B Instruct8B33–58 8 位14–26 8 位
gpt-oss-20b21B · 激活 3.6B145–259 原生 4.25 位65–115 原生 4.25 位
Qwen3.6 35B A3B35B · 激活 3B86–154 8 位38–68 8 位
Qwen3.8 27B27B10–17 8 位4–8 8 位
Llama 3.3 70B Instruct70B4–7 8 位2–3 8 位
gpt-oss-120b117B · 激活 5.1B102–182 原生 4.25 位45–81 原生 4.25 位
Qwen3.5 122B A10B122B · 激活 10B49–88 4 位22–39 4 位
DeepSeek V4 Flash 0731284B · 激活 13B67–120 2 位 质量较低30–53 2 位 质量较低

常见问题

运行 LLM 时,DGX Spark 比 M5 Max 快吗?
M5 Max 的内存读取速度比 DGX Spark 快约 125%(614 对 273 GB/s),所以运行两者都装得下的模型时,生成速度快约 125%。 在 llama.cpp 的实测中,两者读取提示词的速度差不多(每秒 3,220 和 3,062 个 token)。
M5 Max 和 DGX Spark,哪个能运行更大的模型?
两者都约有 96 GB 可用于模型。 在 73 个热门开放模型中,M5 Max 上有 47 个运行良好,DGX Spark 上有 39 个。
MLX Node 能在 DGX Spark 上运行吗?
不能。MLX Node 和 MLX Harness 只能在 Apple Silicon Mac 上运行,使用 Apple 的 MLX 框架。

更多对比

用 M5 Max 运行本地 AI · 对比所有模型 · 运行本地 LLM 的最佳 Mac

计算方法

内存:模型参数按每个权重 8、6、4、3 或 2 位计算,加上 MLX 的分组缩放(每个权重半位),或按其原生格式计算,再留出上下文空间。macOS 默认允许 GPU 使用约 75% 的统一内存。速度:内存带宽除以每个 token 读取的字节数,就是单个对话的上限;在 llama.cpp 的 Apple Silicon 公开基准测试中,实际运行可达这个上限的约 45% 到 80%,本页显示的就是这个范围。这些是估算值,不是实测值:可以在 MLX Bench 上测量你自己的 Mac。模型数据来自各模型的官方模型卡,芯片数据来自 Apple 的技术规格。核对于 2026-10-19。数据与 mlx.app/compare 相同。

DGX Spark 数据:NVIDIA: DGX Spark (specs)。

M5 Max 与 DGX Spark 运行本地 AI 和 LLM 对比:内存、速度、怎么选