各種精度所需記憶體
| 版本 | 權重 | 含上下文 | 最低配備 Mac |
|---|---|---|---|
| 8 位元 | 32.4 GB | 35 GB | 48 GB |
| 6 位元 | 24.8 GB | 26.8 GB | 36 GB |
| 4 位元 | 17.2 GB | 18.7 GB | 32 GB |
| 3 位元 品質較低 | 13.3 GB | 14.8 GB | 24 GB |
| 2 位元 品質較低 | 9.5 GB | 11 GB | 16 GB |
在每款 Apple 晶片上
每款晶片能執行 Qwen3 Coder 30B A3B Instruct 的最小記憶體容量、放得下的最佳版本,以及預期的產生速度。
| 晶片 | 需要 | 版本 | token/秒 |
|---|---|---|---|
| M6 | 32 GB | 4 位元 順暢執行 | 40–72 |
| M5 Ultra | 96 GB | 8 位元 順暢執行 | 154–274 |
| M5 Max | 36 GB | 6 位元 順暢執行 | 77–136 |
| M5 Pro | 48 GB | 8 位元 順暢執行 | 39–70 |
| M5 | 32 GB | 4 位元 順暢執行 | 36–64 |
| M4 Max | 36 GB | 6 位元 順暢執行 | 68–121 |
| M4 Pro | 48 GB | 8 位元 順暢執行 | 35–62 |
| M4 | 32 GB | 4 位元 順暢執行 | 28–51 |
| M3 Ultra | 96 GB | 8 位元 順暢執行 | 105–187 |
| M3 Max | 36 GB | 6 位元 順暢執行 | 50–89 |
| M3 Pro | 36 GB | 6 位元 順暢執行 | 25–44 |
| M3 | 16 GB | 2 位元 順暢執行 | 45–80 |
| M2 Ultra | 64 GB | 8 位元 順暢執行 | 103–183 |
| M2 Max | 32 GB | 4 位元 順暢執行 | 95–168 |
| M2 Pro | 32 GB | 4 位元 順暢執行 | 47–84 |
| M2 | 16 GB | 2 位元 順暢執行 | 45–80 |
| M1 Ultra | 64 GB | 8 位元 順暢執行 | 103–183 |
| M1 Max | 32 GB | 4 位元 順暢執行 | 95–168 |
| M1 Pro | 32 GB | 4 位元 順暢執行 | 47–84 |
| M1 | 16 GB | 2 位元 順暢執行 | 31–54 |
如何執行
- 最簡單的方法:下載免費開源的 MLX Harness。搜尋 Qwen3 Coder 30B A3B Instruct,下載適合你 Mac 的版本,就能開始對話。它也能透過 OpenAI 相容 API,把模型提供給你的其他 App。下載 MLX Harness免費 · Apple Silicon · macOS 14.5 或以上版本
- 在「終端機」中使用 Apple 的 MLX:
pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3-Coder-30B-A3B-Instruct-4bit版本:Hugging Face 上的 mlx-community/Qwen3-Coder-30B-A3B-Instruct-4bit。其他精度的版本就在旁邊。
逐步教學:在 Mac 上下載並執行 LLM · 如何使用 MLX Harness · MLX、Ollama 與 llama.cpp 比較
關於 Qwen3 Coder 30B A3B Instruct
| 開發者 | Qwen (Alibaba) |
|---|---|
| 參數 | 共 30.5B · 啟用 3.3B(混合專家) |
| 上下文 | 256K token |
| 授權條款 | Apache-2.0 |
| 發布時間 | 2025-07 |
| 輸入 | 文字 |
| 權重 | Qwen/Qwen3-Coder-30B-A3B-Instruct |
常見問題
- Qwen3 Coder 30B A3B Instruct 需要多少記憶體?
- 在 4 位元 下權重約 17.2 GB,再加上上下文空間,總共 18.7 GB。在 Mac 上,這代表需要 32 GB 以上的統一記憶體,因為 macOS 預設讓 GPU 使用約 75% 的統一記憶體。
- Qwen3 Coder 30B A3B Instruct 在 Mac 上有多快?
- 產生速度取決於記憶體頻寬。本頁中執行它最快的 Mac 是 96 GB 的 M5 Ultra,每秒約 154–274 個 token(8 位元)。能執行它的最低配備 Mac 是 32 GB 的 M2 Max,每秒約 95–168 個。
- 為什麼 Qwen3 Coder 30B A3B Instruct 執行起來比它的規模看起來更快?
- 它是混合專家模型:記憶體中保存 30.5B 參數,但每個 token 只讀取 3.3B,所以產生速度相當於小得多的模型。
類似模型
用於你的模型卡或 README
顯示能順暢執行 Qwen3 Coder 30B A3B Instruct 的最低配備 Mac,並連結到本頁。
[](https://mlx.app/run/qwen3-coder-30b-a3b)計算方式
記憶體:模型參數以每個權重 8、6、4、3 或 2 位元計算,加上 MLX 的分組縮放(每個權重半個位元),或依其原生格式計算,再留出上下文空間。macOS 預設讓 GPU 使用約 75% 的統一記憶體。速度:記憶體頻寬除以每個 token 讀取的位元組數,就是單一對話的上限;在 llama.cpp 的 Apple Silicon 公開效能測試中,實際執行可達這個上限的約 45% 到 80%,本頁顯示的就是這個範圍。這些是估算值,不是實測值:可以到 MLX Bench 測量你自己的 Mac。模型數據來自各模型的官方模型卡,晶片數據來自 Apple 的技術規格。核對於 2026-10-19。數據與 mlx.app/compare 相同。