M5 Max 與 RTX 5090:本機 AI 比較。

RTX 5090 的記憶體讀取速度比 M5 Max 快約 192%(1,792 對 614 GB/s),所以執行兩者都放得下的模型時,產生速度快約 192%。 M5 Max 約有 96 GB 可用於模型,RTX 5090 約有 31 GB。

M5 Max460–614 GB/s最高 128 GB · 47 個模型順暢執行RTX 50901,792 GB/s最高 32 GB · 38 個模型順暢執行

並排比較

M5 MaxRTX 5090
是什麼MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra)桌上型 PC 用的顯示卡
記憶體容量36, 48, 64, 128 GB32 GB
記憶體頻寬460–614 GB/s1,792 GB/s
模型最多可用約 96 GB約 31 GB
順暢執行的模型47 / 7338 / 73
實測:生成120 tok/s290 tok/s
實測:讀取提示詞3,220 tok/s14,073 tok/s

實測列:每台機器在 llama.cpp 公開基準測試中用 Llama 2 7B Q4_0 跑出的最快結果,分別為生成 128 個 token(tg128)和讀取 512 個 token 的提示詞(pp512),單位為每秒 token 數。Mac 使用 Metal,RTX 5090 使用 CUDA。Apple Silicon 結果 · RTX 5090 結果 用於模型的記憶體:RTX 5090 以其自帶的 32 GB 減去約 1 GB 計算,Mac 以統一記憶體的約 75%(macOS 預設值)計算。

各自的優勢

  • 生成速度。 RTX 5090 的記憶體讀取速度比 M5 Max 快約 192%(1,792 對 614 GB/s),所以執行兩者都放得下的模型時,產生速度快約 192%。
  • 模型大小。 M5 Max 約有 96 GB 可用於模型,RTX 5090 約有 31 GB。 在 73 個熱門開放模型中,M5 Max 上有 47 個執行順暢,RTX 5090 上有 38 個。
  • 讀取長提示詞。 在 llama.cpp 的實測中,RTX 5090 讀取提示詞的速度約為對方的 4.4 倍(每秒 14,073 對 3,220 個 token)。讀取提示詞取決於 GPU 的算力而不是記憶體頻寬,它決定了處理長文件或程式碼庫時要等多久才出現第一個字。
  • 軟體。 RTX 5090 使用 NVIDIA 的 CUDA,大多數 AI 軟體都優先支援它,包括訓練程式碼和許多影像、影片工具。在 Mac 上則用 MLX、llama.cpp 的 Metal 後端或 PyTorch 的 MPS 後端來執行模型。
  • 周邊。 顯示卡需要裝在一台 PC 裡,它自帶的 32 GB 就是上限:放不下的模型只能部分放在慢得多的 PC 系統記憶體裡執行,或者拆分到第二張顯示卡上。
  • Mac。 它也是一台日常使用的電腦,能執行為 Apple Silicon 打造的 MLX Harness 和 MLX Node。

熱門模型的速度

單一對話每秒產生的 token 數;每款晶片都以最大記憶體配置計算(128 GB 和 32 GB),使用放得下的最佳模型版本。

模型M5 MaxRTX 5090
Llama 3.1 8B Instruct8B33–58 8 位元95–169 8 位元
gpt-oss-20b21B · 啟用 3.6B145–259 原生 4.25 位元424–755 原生 4.25 位元
Qwen3.6 35B A3B35B · 啟用 3B86–154 8 位元336–597 6 位元
Qwen3.8 27B27B10–17 8 位元28–50 8 位元
Llama 3.3 70B Instruct70B4–7 8 位元37–65 2 位元 品質較低
gpt-oss-120b117B · 啟用 5.1B102–182 原生 4.25 位元太大
Qwen3.5 122B A10B122B · 啟用 10B49–88 4 位元太大
DeepSeek V4 Flash 0731284B · 啟用 13B67–120 2 位元 品質較低太大

常見問題

執行 LLM 時,RTX 5090 比 M5 Max 快嗎?
RTX 5090 的記憶體讀取速度比 M5 Max 快約 192%(1,792 對 614 GB/s),所以執行兩者都放得下的模型時,產生速度快約 192%。 在 llama.cpp 的實測中,RTX 5090 讀取提示詞的速度約為對方的 4.4 倍(每秒 14,073 對 3,220 個 token)。讀取提示詞取決於 GPU 的算力而不是記憶體頻寬,它決定了處理長文件或程式碼庫時要等多久才出現第一個字。
M5 Max 和 RTX 5090,哪個能執行更大的模型?
M5 Max 約有 96 GB 可用於模型,RTX 5090 約有 31 GB。 在 73 個熱門開放模型中,M5 Max 上有 47 個執行順暢,RTX 5090 上有 38 個。
MLX Node 能在 RTX 5090 上執行嗎?
不能。MLX Node 和 MLX Harness 只能在 Apple Silicon Mac 上執行,使用 Apple 的 MLX 框架。

更多比較

用 M5 Max 執行本機 AI · 比較所有模型 · 執行本機 LLM 的最佳 Mac

計算方式

記憶體:模型參數以每個權重 8、6、4、3 或 2 位元計算,加上 MLX 的分組縮放(每個權重半個位元),或依其原生格式計算,再留出上下文空間。macOS 預設讓 GPU 使用約 75% 的統一記憶體。速度:記憶體頻寬除以每個 token 讀取的位元組數,就是單一對話的上限;在 llama.cpp 的 Apple Silicon 公開效能測試中,實際執行可達這個上限的約 45% 到 80%,本頁顯示的就是這個範圍。這些是估算值,不是實測值:可以到 MLX Bench 測量你自己的 Mac。模型數據來自各模型的官方模型卡,晶片數據來自 Apple 的技術規格。核對於 2026-10-19。數據與 mlx.app/compare 相同。

RTX 5090 數據:NVIDIA: GeForce RTX 5090 (specs: 32 GB GDDR7, 512-bit, 575 W TGP), NVIDIA RTX Blackwell GPU Architecture whitepaper (Tables 1 and 4)。

M5 Max 與 RTX 5090 執行本機 AI 與 LLM 比較:記憶體、速度、怎麼選