M5 Max 与 RTX 5090:本地 AI 对比。

RTX 5090 的内存读取速度比 M5 Max 快约 192%(1,792 对 614 GB/s),所以运行两者都装得下的模型时,生成速度快约 192%。 M5 Max 约有 96 GB 可用于模型,RTX 5090 约有 31 GB。

M5 Max460–614 GB/s最高 128 GB · 47 个模型流畅运行RTX 50901,792 GB/s最高 32 GB · 38 个模型流畅运行

并排对比

M5 MaxRTX 5090
是什么MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra)台式 PC 用的显卡
内存容量36, 48, 64, 128 GB32 GB
内存带宽460–614 GB/s1,792 GB/s
模型最多可用约 96 GB约 31 GB
流畅运行的模型47 / 7338 / 73
实测:生成120 tok/s290 tok/s
实测:读取提示词3,220 tok/s14,073 tok/s

实测行:每台机器在 llama.cpp 公开基准测试中用 Llama 2 7B Q4_0 跑出的最快结果,分别为生成 128 个 token(tg128)和读取 512 个 token 的提示词(pp512),单位为每秒 token 数。Mac 使用 Metal,RTX 5090 使用 CUDA。Apple Silicon 结果 · RTX 5090 结果 用于模型的内存:RTX 5090 按其自带的 32 GB 减去约 1 GB 计算,Mac 按统一内存的约 75%(macOS 默认值)计算。

各自的优势

  • 生成速度。 RTX 5090 的内存读取速度比 M5 Max 快约 192%(1,792 对 614 GB/s),所以运行两者都装得下的模型时,生成速度快约 192%。
  • 模型大小。 M5 Max 约有 96 GB 可用于模型,RTX 5090 约有 31 GB。 在 73 个热门开放模型中,M5 Max 上有 47 个运行良好,RTX 5090 上有 38 个。
  • 读取长提示词。 在 llama.cpp 的实测中,RTX 5090 读取提示词的速度约为对方的 4.4 倍(每秒 14,073 对 3,220 个 token)。读取提示词取决于 GPU 的算力而不是内存带宽,它决定了处理长文档或代码库时等到第一个字出现需要多久。
  • 软件。 RTX 5090 使用 NVIDIA 的 CUDA,大多数 AI 软件都优先支持它,包括训练代码和许多图像、视频工具。在 Mac 上则用 MLX、llama.cpp 的 Metal 后端或 PyTorch 的 MPS 后端来运行模型。
  • 周边。 显卡需要装在一台 PC 里,它自带的 32 GB 就是上限:放不下的模型只能部分放在慢得多的 PC 系统内存里运行,或者拆分到第二张显卡上。
  • Mac。 它也是一台日常用的电脑,能运行为 Apple Silicon 打造的 MLX Harness 和 MLX Node。

热门模型的速度

单个对话每秒生成的 token 数;每款芯片都按最大内存配置计算(128 GB 和 32 GB),使用装得下的最佳模型版本。

模型M5 MaxRTX 5090
Llama 3.1 8B Instruct8B33–58 8 位95–169 8 位
gpt-oss-20b21B · 激活 3.6B145–259 原生 4.25 位424–755 原生 4.25 位
Qwen3.6 35B A3B35B · 激活 3B86–154 8 位336–597 6 位
Qwen3.8 27B27B10–17 8 位28–50 8 位
Llama 3.3 70B Instruct70B4–7 8 位37–65 2 位 质量较低
gpt-oss-120b117B · 激活 5.1B102–182 原生 4.25 位太大
Qwen3.5 122B A10B122B · 激活 10B49–88 4 位太大
DeepSeek V4 Flash 0731284B · 激活 13B67–120 2 位 质量较低太大

常见问题

运行 LLM 时,RTX 5090 比 M5 Max 快吗?
RTX 5090 的内存读取速度比 M5 Max 快约 192%(1,792 对 614 GB/s),所以运行两者都装得下的模型时,生成速度快约 192%。 在 llama.cpp 的实测中,RTX 5090 读取提示词的速度约为对方的 4.4 倍(每秒 14,073 对 3,220 个 token)。读取提示词取决于 GPU 的算力而不是内存带宽,它决定了处理长文档或代码库时等到第一个字出现需要多久。
M5 Max 和 RTX 5090,哪个能运行更大的模型?
M5 Max 约有 96 GB 可用于模型,RTX 5090 约有 31 GB。 在 73 个热门开放模型中,M5 Max 上有 47 个运行良好,RTX 5090 上有 38 个。
MLX Node 能在 RTX 5090 上运行吗?
不能。MLX Node 和 MLX Harness 只能在 Apple Silicon Mac 上运行,使用 Apple 的 MLX 框架。

更多对比

用 M5 Max 运行本地 AI · 对比所有模型 · 运行本地 LLM 的最佳 Mac

计算方法

内存:模型参数按每个权重 8、6、4、3 或 2 位计算,加上 MLX 的分组缩放(每个权重半位),或按其原生格式计算,再留出上下文空间。macOS 默认允许 GPU 使用约 75% 的统一内存。速度:内存带宽除以每个 token 读取的字节数,就是单个对话的上限;在 llama.cpp 的 Apple Silicon 公开基准测试中,实际运行可达这个上限的约 45% 到 80%,本页显示的就是这个范围。这些是估算值,不是实测值:可以在 MLX Bench 上测量你自己的 Mac。模型数据来自各模型的官方模型卡,芯片数据来自 Apple 的技术规格。核对于 2026-10-19。数据与 mlx.app/compare 相同。

RTX 5090 数据:NVIDIA: GeForce RTX 5090 (specs: 32 GB GDDR7, 512-bit, 575 W TGP), NVIDIA RTX Blackwell GPU Architecture whitepaper (Tables 1 and 4)。

M5 Max 与 RTX 5090 运行本地 AI 和 LLM 对比:内存、速度、怎么选