並排比較
熱門模型的速度
單一對話每秒產生的 token 數;每款晶片都以最大記憶體配置計算(32 GB 和 32 GB),使用放得下的最佳模型版本。
| 模型 | M5 | M6 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 11–19 6 位元 | 12–21 6 位元 |
| gpt-oss-20b21B · 啟用 3.6B | 36–64 原生 4.25 位元 | 40–72 原生 4.25 位元 |
| Qwen3.6 35B A3B35B · 啟用 3B | 41–72 4 位元 | 45–80 4 位元 |
| Qwen3.8 27B27B | 3–6 6 位元 | 3–6 6 位元 |
| Llama 3.3 70B Instruct70B | 3–6 2 位元 品質較低 | 3–6 2 位元 品質較低 |
| gpt-oss-120b117B · 啟用 5.1B | 太大 | 太大 |
| Qwen3.5 122B A10B122B · 啟用 10B | 太大 | 太大 |
| DeepSeek V4 Flash 0731284B · 啟用 13B | 太大 | 太大 |
常見問題
- 執行 LLM 時,M6 比 M5 快嗎?
- M6 的記憶體讀取速度比 M5 快約 11%(170 對 153 GB/s),所以執行兩者都放得下的模型時,產生速度快約 11%。讀取長提示詞則取決於 GPU 運算能力,本比較未涵蓋。
- M5 和 M6,哪個能執行更大的模型?
- 一樣:兩者最高都是 32 GB。在這個容量下,73 個開放模型中,M5 能順暢執行 28 個,M6 能順暢執行 29 個;速度較快的那款有更多模型達到每秒 10 個 token。
更多比較
計算方式
記憶體:模型參數以每個權重 8、6、4、3 或 2 位元計算,加上 MLX 的分組縮放(每個權重半個位元),或依其原生格式計算,再留出上下文空間。macOS 預設讓 GPU 使用約 75% 的統一記憶體。速度:記憶體頻寬除以每個 token 讀取的位元組數,就是單一對話的上限;在 llama.cpp 的 Apple Silicon 公開效能測試中,實際執行可達這個上限的約 45% 到 80%,本頁顯示的就是這個範圍。這些是估算值,不是實測值:可以到 MLX Bench 測量你自己的 Mac。模型數據來自各模型的官方模型卡,晶片數據來自 Apple 的技術規格。核對於 2026-10-19。數據與 mlx.app/compare 相同。