並排比較
熱門模型的速度
單一對話每秒產生的 token 數；每款晶片都以最大記憶體配置計算（512 GB 和 512 GB），使用放得下的最佳模型版本。
| 模型 | M3 Ultra | M5 Ultra |
|---|---|---|
| Llama 3.1 8B Instruct8B | 43–77 8 位元 | 64–113 8 位元 |
| gpt-oss-20b21B · 啟用 3.6B | 194–345 原生 4.25 位元 | 284–505 原生 4.25 位元 |
| Qwen3.6 35B A3B35B · 啟用 3B | 115–205 8 位元 | 169–300 8 位元 |
| Qwen3.8 27B27B | 13–23 8 位元 | 19–33 8 位元 |
| Llama 3.3 70B Instruct70B | 5–9 8 位元 | 14–24 4 位元 |
| gpt-oss-120b117B · 啟用 5.1B | 137–243 原生 4.25 位元 | 200–356 原生 4.25 位元 |
| Qwen3.5 122B A10B122B · 啟用 10B | 35–62 8 位元 | 51–91 8 位元 |
| DeepSeek V4 Flash 0731284B · 啟用 13B | 27–47 8 位元 | 39–70 8 位元 |
常見問題
- 執行 LLM 時，M5 Ultra 比 M3 Ultra 快嗎？
- M5 Ultra 的記憶體讀取速度比 M3 Ultra 快約 47%（1,200 對 819 GB/s），所以執行兩者都放得下的模型時，產生速度快約 47%。讀取長提示詞則取決於 GPU 運算能力，本比較未涵蓋。
- M3 Ultra 和 M5 Ultra，哪個能執行更大的模型？
- 一樣：兩者最高都是 512 GB。在這個容量下，73 個開放模型中，M3 Ultra 能順暢執行 60 個，M5 Ultra 能順暢執行 61 個；速度較快的那款有更多模型達到每秒 10 個 token。
更多比較
- M2 Ultra vs M3 Ultra
- M3 Max vs M3 Ultra
- M3 Ultra vs M4 Max
- M3 Ultra vs M5 Max
- M4 Max vs M5 Ultra
- M5 Max vs M5 Ultra
用 M3 Ultra 執行本機 AI · 用 M5 Ultra 執行本機 AI · 比較所有模型 · 執行本機 LLM 的最佳 Mac
計算方式
記憶體：模型參數以每個權重 8、6、4、3 或 2 位元計算，加上 MLX 的分組縮放（每個權重半個位元），或依其原生格式計算，再留出上下文空間。macOS 預設讓 GPU 使用約 75% 的統一記憶體。速度：記憶體頻寬除以每個 token 讀取的位元組數，就是單一對話的上限；在 llama.cpp 的 Apple Silicon 公開效能測試中，實際執行可達這個上限的約 45% 到 80%，本頁顯示的就是這個範圍。這些是估算值，不是實測值：可以到 MLX Bench 測量你自己的 Mac。模型數據來自各模型的官方模型卡，晶片數據來自 Apple 的技術規格。核對於 2026-10-19。數據與 mlx.app/compare 相同。