依記憶體容量
| 記憶體 | 順暢執行 | 順暢執行的最大模型 | gpt-oss-20b |
|---|---|---|---|
| 18 GB150 GB/s | 20 | Gemma 4 12B Unified | 36–63 tok/s |
| 36 GB150 GB/s | 28 | Qwen3.6 35B A3B | 36–63 tok/s |
機型:MacBook Pro (14-inch, M3 Pro or M3 Max, Nov 2023), MacBook Pro (16-inch, Nov 2023)。 並非每個機型都提供所有記憶體容量;各機型的可選配置請參閱 Apple 的技術規格。
常見問題
- 搭載 M3 Pro 的 MacBook Pro 適合執行本機 LLM 嗎?
- 配備 36 GB 時,它能順暢執行 73 個開放模型中的 28 個,最大到 Qwen3.6 35B A3B;執行 gpt-oss-20b 時每秒約產生 36–63 個 token。M3 Pro 的記憶體讀取速度為 150 GB/s,這決定了產生速度。
- 用於 AI 的話,搭載 M3 Pro 的 MacBook Pro 該配多少記憶體?
- 18 GB 能順暢執行 20 個開放模型;36 GB 能執行 28 個,最大到 Qwen3.6 35B A3B。記憶體決定放得下哪些模型,而且日後無法升級。
其他 Mac
搭載其他晶片的 MacBook Pro:
- MacBook Pro M5
- MacBook Pro M5 Pro
- MacBook Pro M5 Max
- MacBook Pro M4
- MacBook Pro M4 Pro
- MacBook Pro M4 Max
- MacBook Pro M3
- MacBook Pro M3 Max
- MacBook Pro M2
- MacBook Pro M2 Pro
- MacBook Pro M2 Max
- MacBook Pro M1
- MacBook Pro M1 Pro
- MacBook Pro M1 Max
正面比較:
計算方式
記憶體:模型參數以每個權重 8、6、4、3 或 2 位元計算,加上 MLX 的分組縮放(每個權重半個位元),或依其原生格式計算,再留出上下文空間。macOS 預設讓 GPU 使用約 75% 的統一記憶體。速度:記憶體頻寬除以每個 token 讀取的位元組數,就是單一對話的上限;在 llama.cpp 的 Apple Silicon 公開效能測試中,實際執行可達這個上限的約 45% 到 80%,本頁顯示的就是這個範圍。這些是估算值,不是實測值:可以到 MLX Bench 測量你自己的 Mac。模型數據來自各模型的官方模型卡,晶片數據來自 Apple 的技術規格。核對於 2026-10-19。數據與 mlx.app/compare 相同。