16 GB Mac 最適合的 LLM。

73 個開放模型中有 22 個能在 16 GB 中順暢執行。預設情況下,GPU 可使用其中約 12 GB。速度取決於晶片:從 M1 的 68 GB/s 到 M1 Pro 的 200 GB/s。

順暢執行中最聰明的MiniCPM5 2B8 位元 · 2.7 GB · 11–59 tok/s順暢執行中最大的Phi-4 Reasoning Vision 15B4 位元 · 8.4 GB · 4–19 tok/s

16 GB 的 Mac

M1 至 M6 中有 8 款晶片提供 16 GB 配置。打開任一款,查看它的列表與速度。

順暢執行 33

放得下,還留有上下文空間,在 M1 Pro 上每秒 10 個 token 以上。

模型版本記憶體M1M1 Pro
MiniCPM5 2B2.52B · 智慧 12.58 位元2.7 GB11–2033–59
Qwen3.5 9B9B · 智慧 11.26 位元7.3 GB3–612–22
Granite 4.2 8B8B · 智慧 11.18 位元8.5 GB4–611–19
Granite 4.2 3B3B · 智慧 9.18 位元3.2 GB10–1728–50
Gemma 4 E4B8B · 智慧 8.98 位元8.5 GB12–2219–33
Ministral 3 8B8.9B · 智慧 5.56 位元7.2 GB3–613–22
Nemotron 3 Nano 4B3.97B · 智慧 4.88 位元4.2 GB10–1721–38
Phi-4 Reasoning Vision 15B15B4 位元8.4 GB4–611–19
Phi-4 (14B)14B4 位元7.9 GB4–711–20
Gemma 4 12B Unified12B4 位元6.7 GB3–613–24
Qwen3 8B8.2B8 位元8.7 GB4–610–18
Llama 3.1 8B Instruct8B8 位元8.5 GB4–611–19
Gemma 4 E2B5.1B8 位元5.4 GB13–2338–67
Qwen3.5 4B4B8 位元4.3 GB13–2421–37
Phi-4 mini instruct3.8B8 位元4 GB10–1823–40
Llama 3.2 3B Instruct3.21B8 位元3.4 GB12–2126–47
SmolLM3 3B3B8 位元3.2 GB10–1728–50
LFM2.5 2.6B2.69B8 位元2.9 GB11–1931–55
Qwen3.5 2B2B8 位元2.1 GB15–2643–76
Llama 3.2 1B Instruct1.23B8 位元1.3 GB24–4269–123
Qwen3.5 0.8B0.8B8 位元0.9 GB34–60100–178
Qwen3 0.6B0.6B8 位元0.6 GB51–91150–267
Qwen3.8 27B27B · 智慧 33.72 位元 品質較低8.4 GB4–611–19
Muse Glimmer 30B29.6B · 智慧 17.52 位元 品質較低9.3 GB3–610–17
Nemotron 3.5 Lightning 30B A3B30B · 啟用 3B · 智慧 12.92 位元 品質較低9.4 GB34–60100–178
Granite 4.2 30B30B · 智慧 12.72 位元 品質較低9.4 GB3–610–17
gpt-oss-20b21B · 啟用 3.6B · 智慧 93 位元 品質較低9.2 GB19–3456–100
Nemotron 3 Nano 30B A3B30B · 啟用 3.5B · 智慧 8.92 位元 品質較低9.4 GB28–4982–145
Qwen3 Coder 30B A3B Instruct30.5B · 啟用 3.3B2 位元 品質較低9.5 GB31–5490–160
GLM-4.7 Flash30B · 啟用 3B2 位元 品質較低9.4 GB34–60100–178
Qwen3.6 27B27B2 位元 品質較低8.4 GB4–611–19
Gemma 4 26B A4B25.2B · 啟用 3.8B2 位元 品質較低7.9 GB26–4575–133
LFM2.5 24B A2B24B · 啟用 2B3 位元 品質較低10.5 GB34–60100–178

能執行,但較慢 4

放得下,但每秒不到 10 個 token:適合批次工作,拿來聊天會慢。

模型版本記憶體M1M1 Pro
Gemma 4 31B30.7B · 智慧 14.72 位元 品質較低9.6 GB3–69–17
Devstral Small 2 (24B)24B3 位元 品質較低10.5 GB3–59–15
Magistral Small 1.2 (2509)24B3 位元 品質較低10.5 GB3–59–15
Mistral Small 3.2 (24B)24B3 位元 品質較低10.5 GB3–59–15

勉強放得下 1

幾乎用滿記憶體:需調高 GPU 記憶體上限,並保持較短的上下文。

模型版本記憶體M1M1 Pro
Qwen3.6 35B A3B35B · 啟用 3B · 智慧 18.22 位元 品質較低10.9 GB34–60100–178

太大 35

所需記憶體超過 16 GB,即使是 2 位元也不行。

常見問題

16 GB 的 Mac 最適合執行哪個 LLM?
在公布 Intelligence Index 的模型中,MiniCPM5 2B 是能在 16 GB 中順暢執行的模型裡得分最高的(8 位元)。能順暢執行的最大模型是 Phi-4 Reasoning Vision 15B。
16 GB 夠在 Mac 上執行本機 AI 嗎?
本頁 73 個開放模型中,有 22 個能以 4 位元或更高精度在其中順暢執行。macOS 預設讓 GPU 使用其中約 12 GB,模型與上下文都必須放進這個空間。
16 GB 的 Mac 能執行 gpt-oss-20b 嗎?
可以,3 位元,在 M1 上每秒約 19–34 個 token,在 M1 Pro 上約 56–100 個。

其他容量: 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB

可以用 MLX Harness(免費、開源)執行,或在「終端機」中使用 Apple 的 mlx-lm:逐步教學。

計算方式

記憶體:模型參數以每個權重 8、6、4、3 或 2 位元計算,加上 MLX 的分組縮放(每個權重半個位元),或依其原生格式計算,再留出上下文空間。macOS 預設讓 GPU 使用約 75% 的統一記憶體。速度:記憶體頻寬除以每個 token 讀取的位元組數,就是單一對話的上限;在 llama.cpp 的 Apple Silicon 公開效能測試中,實際執行可達這個上限的約 45% 到 80%,本頁顯示的就是這個範圍。這些是估算值,不是實測值:可以到 MLX Bench 測量你自己的 Mac。模型數據來自各模型的官方模型卡,晶片數據來自 Apple 的技術規格。核對於 2026-10-19。數據與 mlx.app/compare 相同。

16 GB Mac 最適合的本機 LLM(M1 至 M6):能執行什麼、多快