并排对比
| M5 Max | RTX 5090 | |
|---|---|---|
| 是什么 | MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra) | 台式 PC 用的显卡 |
| 内存容量 | 36, 48, 64, 128 GB | 32 GB |
| 内存带宽 | 460–614 GB/s | 1,792 GB/s |
| 模型最多可用 | 约 96 GB | 约 31 GB |
| 流畅运行的模型 | 47 / 73 | 38 / 73 |
| 实测:生成 | 120 tok/s | 290 tok/s |
| 实测:读取提示词 | 3,220 tok/s | 14,073 tok/s |
实测行:每台机器在 llama.cpp 公开基准测试中用 Llama 2 7B Q4_0 跑出的最快结果,分别为生成 128 个 token(tg128)和读取 512 个 token 的提示词(pp512),单位为每秒 token 数。Mac 使用 Metal,RTX 5090 使用 CUDA。Apple Silicon 结果 · RTX 5090 结果 用于模型的内存:RTX 5090 按其自带的 32 GB 减去约 1 GB 计算,Mac 按统一内存的约 75%(macOS 默认值)计算。
各自的优势
- 生成速度。 RTX 5090 的内存读取速度比 M5 Max 快约 192%(1,792 对 614 GB/s),所以运行两者都装得下的模型时,生成速度快约 192%。
- 模型大小。 M5 Max 约有 96 GB 可用于模型,RTX 5090 约有 31 GB。 在 73 个热门开放模型中,M5 Max 上有 47 个运行良好,RTX 5090 上有 38 个。
- 读取长提示词。 在 llama.cpp 的实测中,RTX 5090 读取提示词的速度约为对方的 4.4 倍(每秒 14,073 对 3,220 个 token)。读取提示词取决于 GPU 的算力而不是内存带宽,它决定了处理长文档或代码库时等到第一个字出现需要多久。
- 软件。 RTX 5090 使用 NVIDIA 的 CUDA,大多数 AI 软件都优先支持它,包括训练代码和许多图像、视频工具。在 Mac 上则用 MLX、llama.cpp 的 Metal 后端或 PyTorch 的 MPS 后端来运行模型。
- 周边。 显卡需要装在一台 PC 里,它自带的 32 GB 就是上限:放不下的模型只能部分放在慢得多的 PC 系统内存里运行,或者拆分到第二张显卡上。
- Mac。 它也是一台日常用的电脑,能运行为 Apple Silicon 打造的 MLX Harness 和 MLX Node。
热门模型的速度
单个对话每秒生成的 token 数;每款芯片都按最大内存配置计算(128 GB 和 32 GB),使用装得下的最佳模型版本。
| 模型 | M5 Max | RTX 5090 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 33–58 8 位 | 95–169 8 位 |
| gpt-oss-20b21B · 激活 3.6B | 145–259 原生 4.25 位 | 424–755 原生 4.25 位 |
| Qwen3.6 35B A3B35B · 激活 3B | 86–154 8 位 | 336–597 6 位 |
| Qwen3.8 27B27B | 10–17 8 位 | 28–50 8 位 |
| Llama 3.3 70B Instruct70B | 4–7 8 位 | 37–65 2 位 质量较低 |
| gpt-oss-120b117B · 激活 5.1B | 102–182 原生 4.25 位 | 太大 |
| Qwen3.5 122B A10B122B · 激活 10B | 49–88 4 位 | 太大 |
| DeepSeek V4 Flash 0731284B · 激活 13B | 67–120 2 位 质量较低 | 太大 |
常见问题
- 运行 LLM 时,RTX 5090 比 M5 Max 快吗?
- RTX 5090 的内存读取速度比 M5 Max 快约 192%(1,792 对 614 GB/s),所以运行两者都装得下的模型时,生成速度快约 192%。 在 llama.cpp 的实测中,RTX 5090 读取提示词的速度约为对方的 4.4 倍(每秒 14,073 对 3,220 个 token)。读取提示词取决于 GPU 的算力而不是内存带宽,它决定了处理长文档或代码库时等到第一个字出现需要多久。
- M5 Max 和 RTX 5090,哪个能运行更大的模型?
- M5 Max 约有 96 GB 可用于模型,RTX 5090 约有 31 GB。 在 73 个热门开放模型中,M5 Max 上有 47 个运行良好,RTX 5090 上有 38 个。
- MLX Node 能在 RTX 5090 上运行吗?
- 不能。MLX Node 和 MLX Harness 只能在 Apple Silicon Mac 上运行,使用 Apple 的 MLX 框架。
更多对比
计算方法
内存:模型参数按每个权重 8、6、4、3 或 2 位计算,加上 MLX 的分组缩放(每个权重半位),或按其原生格式计算,再留出上下文空间。macOS 默认允许 GPU 使用约 75% 的统一内存。速度:内存带宽除以每个 token 读取的字节数,就是单个对话的上限;在 llama.cpp 的 Apple Silicon 公开基准测试中,实际运行可达这个上限的约 45% 到 80%,本页显示的就是这个范围。这些是估算值,不是实测值:可以在 MLX Bench 上测量你自己的 Mac。模型数据来自各模型的官方模型卡,芯片数据来自 Apple 的技术规格。核对于 2026-10-19。数据与 mlx.app/compare 相同。
RTX 5090 数据:NVIDIA: GeForce RTX 5090 (specs: 32 GB GDDR7, 512-bit, 575 W TGP), NVIDIA RTX Blackwell GPU Architecture whitepaper (Tables 1 and 4)。