並排比較
| M5 Max | RTX 5090 | |
|---|---|---|
| 是什麼 | MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra) | 桌上型 PC 用的顯示卡 |
| 記憶體容量 | 36, 48, 64, 128 GB | 32 GB |
| 記憶體頻寬 | 460–614 GB/s | 1,792 GB/s |
| 模型最多可用 | 約 96 GB | 約 31 GB |
| 順暢執行的模型 | 47 / 73 | 38 / 73 |
| 實測:生成 | 120 tok/s | 290 tok/s |
| 實測:讀取提示詞 | 3,220 tok/s | 14,073 tok/s |
實測列:每台機器在 llama.cpp 公開基準測試中用 Llama 2 7B Q4_0 跑出的最快結果,分別為生成 128 個 token(tg128)和讀取 512 個 token 的提示詞(pp512),單位為每秒 token 數。Mac 使用 Metal,RTX 5090 使用 CUDA。Apple Silicon 結果 · RTX 5090 結果 用於模型的記憶體:RTX 5090 以其自帶的 32 GB 減去約 1 GB 計算,Mac 以統一記憶體的約 75%(macOS 預設值)計算。
各自的優勢
- 生成速度。 RTX 5090 的記憶體讀取速度比 M5 Max 快約 192%(1,792 對 614 GB/s),所以執行兩者都放得下的模型時,產生速度快約 192%。
- 模型大小。 M5 Max 約有 96 GB 可用於模型,RTX 5090 約有 31 GB。 在 73 個熱門開放模型中,M5 Max 上有 47 個執行順暢,RTX 5090 上有 38 個。
- 讀取長提示詞。 在 llama.cpp 的實測中,RTX 5090 讀取提示詞的速度約為對方的 4.4 倍(每秒 14,073 對 3,220 個 token)。讀取提示詞取決於 GPU 的算力而不是記憶體頻寬,它決定了處理長文件或程式碼庫時要等多久才出現第一個字。
- 軟體。 RTX 5090 使用 NVIDIA 的 CUDA,大多數 AI 軟體都優先支援它,包括訓練程式碼和許多影像、影片工具。在 Mac 上則用 MLX、llama.cpp 的 Metal 後端或 PyTorch 的 MPS 後端來執行模型。
- 周邊。 顯示卡需要裝在一台 PC 裡,它自帶的 32 GB 就是上限:放不下的模型只能部分放在慢得多的 PC 系統記憶體裡執行,或者拆分到第二張顯示卡上。
- Mac。 它也是一台日常使用的電腦,能執行為 Apple Silicon 打造的 MLX Harness 和 MLX Node。
熱門模型的速度
單一對話每秒產生的 token 數;每款晶片都以最大記憶體配置計算(128 GB 和 32 GB),使用放得下的最佳模型版本。
| 模型 | M5 Max | RTX 5090 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 33–58 8 位元 | 95–169 8 位元 |
| gpt-oss-20b21B · 啟用 3.6B | 145–259 原生 4.25 位元 | 424–755 原生 4.25 位元 |
| Qwen3.6 35B A3B35B · 啟用 3B | 86–154 8 位元 | 336–597 6 位元 |
| Qwen3.8 27B27B | 10–17 8 位元 | 28–50 8 位元 |
| Llama 3.3 70B Instruct70B | 4–7 8 位元 | 37–65 2 位元 品質較低 |
| gpt-oss-120b117B · 啟用 5.1B | 102–182 原生 4.25 位元 | 太大 |
| Qwen3.5 122B A10B122B · 啟用 10B | 49–88 4 位元 | 太大 |
| DeepSeek V4 Flash 0731284B · 啟用 13B | 67–120 2 位元 品質較低 | 太大 |
常見問題
- 執行 LLM 時,RTX 5090 比 M5 Max 快嗎?
- RTX 5090 的記憶體讀取速度比 M5 Max 快約 192%(1,792 對 614 GB/s),所以執行兩者都放得下的模型時,產生速度快約 192%。 在 llama.cpp 的實測中,RTX 5090 讀取提示詞的速度約為對方的 4.4 倍(每秒 14,073 對 3,220 個 token)。讀取提示詞取決於 GPU 的算力而不是記憶體頻寬,它決定了處理長文件或程式碼庫時要等多久才出現第一個字。
- M5 Max 和 RTX 5090,哪個能執行更大的模型?
- M5 Max 約有 96 GB 可用於模型,RTX 5090 約有 31 GB。 在 73 個熱門開放模型中,M5 Max 上有 47 個執行順暢,RTX 5090 上有 38 個。
- MLX Node 能在 RTX 5090 上執行嗎?
- 不能。MLX Node 和 MLX Harness 只能在 Apple Silicon Mac 上執行,使用 Apple 的 MLX 框架。
更多比較
計算方式
記憶體:模型參數以每個權重 8、6、4、3 或 2 位元計算,加上 MLX 的分組縮放(每個權重半個位元),或依其原生格式計算,再留出上下文空間。macOS 預設讓 GPU 使用約 75% 的統一記憶體。速度:記憶體頻寬除以每個 token 讀取的位元組數,就是單一對話的上限;在 llama.cpp 的 Apple Silicon 公開效能測試中,實際執行可達這個上限的約 45% 到 80%,本頁顯示的就是這個範圍。這些是估算值,不是實測值:可以到 MLX Bench 測量你自己的 Mac。模型數據來自各模型的官方模型卡,晶片數據來自 Apple 的技術規格。核對於 2026-10-19。數據與 mlx.app/compare 相同。
RTX 5090 數據:NVIDIA: GeForce RTX 5090 (specs: 32 GB GDDR7, 512-bit, 575 W TGP), NVIDIA RTX Blackwell GPU Architecture whitepaper (Tables 1 and 4)。