各種精度所需記憶體
| 版本 | 權重 | 含上下文 | 最低配備 Mac |
|---|---|---|---|
| 8 位元 | 3.2 GB | 4.7 GB | 8 GB |
| 6 位元 | 2.4 GB | 3.9 GB | 8 GB |
| 4 位元 | 1.7 GB | 3.2 GB | 8 GB |
| 3 位元 品質較低 | 1.3 GB | 2.8 GB | 8 GB |
| 2 位元 品質較低 | 0.9 GB | 2.4 GB | 8 GB |
在每款 Apple 晶片上
每款晶片能執行 Granite 4.2 3B 的最小記憶體容量、放得下的最佳版本，以及預期的產生速度。
| 晶片 | 需要 | 版本 | token/秒 |
|---|---|---|---|
| M6 | 16 GB | 8 位元 順暢執行 | 22–38 |
| M5 Ultra | 96 GB | 8 位元 順暢執行 | 169–300 |
| M5 Max | 36 GB | 8 位元 順暢執行 | 65–115 |
| M5 Pro | 24 GB | 8 位元 順暢執行 | 43–77 |
| M5 | 16 GB | 8 位元 順暢執行 | 22–38 |
| M4 Max | 36 GB | 8 位元 順暢執行 | 58–103 |
| M4 Pro | 24 GB | 8 位元 順暢執行 | 38–68 |
| M4 | 16 GB | 8 位元 順暢執行 | 17–30 |
| M3 Ultra | 96 GB | 8 位元 順暢執行 | 115–205 |
| M3 Max | 36 GB | 8 位元 順暢執行 | 42–75 |
| M3 Pro | 18 GB | 8 位元 順暢執行 | 21–38 |
| M3 | 8 GB | 8 位元 順暢執行 | 14–25 |
| M2 Ultra | 64 GB | 8 位元 順暢執行 | 113–200 |
| M2 Max | 32 GB | 8 位元 順暢執行 | 56–100 |
| M2 Pro | 16 GB | 8 位元 順暢執行 | 28–50 |
| M2 | 8 GB | 8 位元 順暢執行 | 14–25 |
| M1 Ultra | 64 GB | 8 位元 順暢執行 | 113–200 |
| M1 Max | 32 GB | 8 位元 順暢執行 | 56–100 |
| M1 Pro | 16 GB | 8 位元 順暢執行 | 28–50 |
| M1 | 8 GB | 8 位元 順暢執行 | 10–17 |
如何執行
- 最簡單的方法：下載免費開源的 MLX Harness。搜尋 Granite 4.2 3B，下載適合你 Mac 的版本，就能開始對話。它也能透過 OpenAI 相容 API，把模型提供給你的其他 App。下載 MLX Harness免費 · Apple Silicon · macOS 14.5 或以上版本
- 在「終端機」中使用 Apple 的 MLX： 目前還沒有社群製作的 MLX 版本，可以用官方權重自行轉換：
pip install mlx-lmmlx_lm.convert --hf-path ibm-granite/granite-4.2-3b -q
逐步教學：在 Mac 上下載並執行 LLM · 如何使用 MLX Harness · MLX、Ollama 與 llama.cpp 比較
關於 Granite 4.2 3B
| 開發者 | IBM |
|---|---|
| 參數 | 3B（稠密） |
| 上下文 | 128K token |
| 授權條款 | Apache-2.0 |
| 發布時間 | 2026-08 |
| 輸入 | 文字 |
| 智慧 | Artificial Analysis Intelligence Index 得分 9.1 |
| 權重 | ibm-granite/granite-4.2-3b |
常見問題
- Granite 4.2 3B 需要多少記憶體？
- 在 4 位元 下權重約 1.7 GB，再加上上下文空間，總共 3.2 GB。在 Mac 上，這代表需要 8 GB 以上的統一記憶體，因為 macOS 預設讓 GPU 使用約 75% 的統一記憶體。
- Granite 4.2 3B 在 Mac 上有多快？
- 產生速度取決於記憶體頻寬。本頁中執行它最快的 Mac 是 96 GB 的 M5 Ultra，每秒約 169–300 個 token（8 位元）。能執行它的最低配備 Mac 是 8 GB 的 M3，每秒約 14–25 個。
- 量化會影響 Granite 4.2 3B 的品質嗎？
- 在 4 位元時，大多數模型的品質接近原版；低於 4 位元，品質下降得更快。請選擇放得進你的 Mac、且仍留有餘裕的最高精度。
類似模型
用於你的模型卡或 README
顯示能順暢執行 Granite 4.2 3B 的最低配備 Mac，並連結到本頁。
[](https://mlx.app/run/granite-4.2-3b)計算方式
記憶體：模型參數以每個權重 8、6、4、3 或 2 位元計算，加上 MLX 的分組縮放（每個權重半個位元），或依其原生格式計算，再留出上下文空間。macOS 預設讓 GPU 使用約 75% 的統一記憶體。速度：記憶體頻寬除以每個 token 讀取的位元組數，就是單一對話的上限；在 llama.cpp 的 Apple Silicon 公開效能測試中，實際執行可達這個上限的約 45% 到 80%，本頁顯示的就是這個範圍。這些是估算值，不是實測值：可以到 MLX Bench 測量你自己的 Mac。模型數據來自各模型的官方模型卡，晶片數據來自 Apple 的技術規格。核對於 2026-10-19。數據與 mlx.app/compare 相同。