512 GB Mac 最適合的 LLM。

73 個開放模型中有 61 個能在 512 GB 中順暢執行。預設情況下,GPU 可使用其中約 384 GB。速度取決於晶片:從 M3 Ultra 的 819 GB/s 到 M5 Ultra 的 1,200 GB/s。

順暢執行中最聰明的DeepSeek V4.1 Flash 10174 位元 · 311 GB · 41–107 tok/s順暢執行中最大的DeepSeek V4.1 Flash 10174 位元 · 311 GB · 41–107 tok/s適合寫程式Qwen3 Coder Next8 位元 · 85 GB · 115–300 tok/s

512 GB 的 Mac

M3 至 M5 中有 2 款晶片提供 512 GB 配置。打開任一款,查看它的列表與速度。

順暢執行 68

放得下,還留有上下文空間,在 M5 Ultra 上每秒 10 個 token 以上。

模型版本記憶體M3 UltraM5 Ultra
DeepSeek V4.1 Flash 1017552B · 啟用 16B · 智慧 45.14 位元311 GB41–7360–107
GLM-5.3 Flash320B · 啟用 18B · 智慧 41.88 位元340 GB19–3428–50
Qwen3.8 Flash Next180B · 啟用 6B · 智慧 39.88 位元191 GB58–10284–150
MiMo V2.6 Flash309B · 啟用 15B · 智慧 37.9原生 4.48 位元173 GB44–7864–114
Qwen3.8 27B27B · 智慧 33.78 位元28.7 GB13–2319–33
Beam 1.0501B · 啟用 23B · 智慧 30.34 位元282 GB29–5142–74
MiniMax M3428B · 啟用 23B · 智慧 29.26 位元348 GB20–3529–51
Inkling Small276B · 啟用 12B · 智慧 25.78 位元293 GB29–5142–75
Hy3295B · 啟用 21B · 智慧 25.38 位元313 GB17–2924–43
Nemotron 3 Ultra 550B A55B550B · 啟用 55B · 智慧 22.94 位元309 GB12–2117–31
Nemotron 3.5 Bolt 74B A9B74B · 啟用 9B · 智慧 21.48 位元78.6 GB38–6856–100
Qwen3.5 397B A17B397B · 啟用 17B · 智慧 18.46 位元323 GB27–4739–70
Qwen3.6 35B A3B35B · 啟用 3B · 智慧 18.28 位元37.2 GB115–205169–300
Muse Glimmer 30B29.6B · 智慧 17.58 位元31.5 GB12–2117–30
Qwen3.5 122B A10B122B · 啟用 10B · 智慧 15.68 位元130 GB35–6251–91
Gemma 4 31B30.7B · 智慧 14.78 位元32.6 GB11–2017–29
Nemotron 3.5 Lightning 30B A3B30B · 啟用 3B · 智慧 12.98 位元31.9 GB115–205169–300
Granite 4.2 30B30B · 智慧 12.78 位元31.9 GB12–2117–30
MiniCPM5 2B2.52B · 智慧 12.58 位元2.7 GB137–243200–356
gpt-oss-120b117B · 啟用 5.1B · 智慧 11.6原生 4.25 位元65.3 GB137–243200–356
Mistral Small 4 (119B)119B · 啟用 6.5B · 智慧 11.38 位元126 GB53–9578–139
Qwen3.5 9B9B · 智慧 11.28 位元9.6 GB38–6856–100
Granite 4.2 8B8B · 智慧 11.18 位元8.5 GB43–7764–113
Llama 4 Maverick 17B-128E Instruct400B · 啟用 17B · 智慧 9.36 位元325 GB27–4739–70
Qwen3 Coder Next80B · 啟用 3B · 智慧 9.28 位元85 GB115–205169–300
Granite 4.2 3B3B · 智慧 9.18 位元3.2 GB115–205169–300
gpt-oss-20b21B · 啟用 3.6B · 智慧 9原生 4.25 位元13.8 GB194–345284–505
Nemotron 3 Nano 30B A3B30B · 啟用 3.5B · 智慧 8.98 位元31.9 GB100–177146–259
Gemma 4 E4B8B · 智慧 8.98 位元8.5 GB77–137113–200
Llama 4 Scout 17B-16E Instruct109B · 啟用 17B · 智慧 6.58 位元116 GB20–3630–53
Ministral 3 8B8.9B · 智慧 5.58 位元9.5 GB39–6957–101
Nemotron 3 Nano 4B3.97B · 智慧 4.88 位元4.2 GB88–156129–229
DeepSeek V4 Flash 0731284B · 啟用 13B8 位元302 GB27–4739–70
MiniMax M2.7230B · 啟用 10B8 位元244 GB35–6251–91
Ornith 1.5 122B122B · 啟用 10B8 位元130 GB35–6251–91
Nemotron 3 Super 120B A12B120B · 啟用 12B8 位元128 GB29–5142–75
GLM-4.5 Air106B · 啟用 12B8 位元113 GB29–5142–75
Llama 3.3 70B Instruct70B4 位元39.4 GB5–914–24
Qwen3 Coder 30B A3B Instruct30.5B · 啟用 3.3B8 位元32.4 GB105–187154–274
GLM-4.7 Flash30B · 啟用 3B8 位元31.9 GB115–205169–300
Qwen3.6 27B27B8 位元28.7 GB13–2319–33
Gemma 4 26B A4B25.2B · 啟用 3.8B8 位元26.8 GB92–164135–240
Devstral Small 2 (24B)24B8 位元25.5 GB14–2621–38
Magistral Small 1.2 (2509)24B8 位元25.5 GB14–2621–38
Mistral Small 3.2 (24B)24B8 位元25.5 GB14–2621–38
LFM2.5 24B A2B24B · 啟用 2B8 位元25.5 GB176–312257–457
Phi-4 Reasoning Vision 15B15B8 位元15.9 GB23–4134–60
Phi-4 (14B)14B8 位元14.9 GB25–4436–64
Gemma 4 12B Unified12B8 位元12.7 GB29–5243–76
Qwen3 8B8.2B8 位元8.7 GB42–7562–110
Llama 3.1 8B Instruct8B8 位元8.5 GB43–7764–113
Gemma 4 E2B5.1B8 位元5.4 GB154–273225–400
Qwen3.5 4B4B8 位元4.3 GB86–152126–223
Phi-4 mini instruct3.8B8 位元4 GB92–164135–240
Llama 3.2 3B Instruct3.21B8 位元3.4 GB108–193159–282
SmolLM3 3B3B8 位元3.2 GB115–205169–300
LFM2.5 2.6B2.69B8 位元2.9 GB127–226186–331
Qwen3.5 2B2B8 位元2.1 GB176–312257–457
Llama 3.2 1B Instruct1.23B8 位元1.3 GB284–504415–738
Qwen3.5 0.8B0.8B8 位元0.9 GB410–728600–1067
Qwen3 0.6B0.6B8 位元0.6 GB614–1092900–1600
MiMo V2.6 Pro1,020B · 啟用 42B · 智慧 46.32 位元 品質較低319 GB28–5041–73
GLM-5.3744B · 啟用 40B · 智慧 44.83 位元 品質較低326 GB21–3731–55
Muse Spark Open816B · 啟用 42B · 智慧 38.92 位元 品質較低255 GB28–5041–73
Kimi K2.7 Code1,000B · 啟用 32B · 智慧 25.82 位元 品質較低313 GB37–6654–96
Inkling975B · 啟用 41B · 智慧 252 位元 品質較低305 GB29–5142–75
Kimi K2.61,000B · 啟用 32B2 位元 品質較低313 GB37–6654–96
Mistral Large 3 (675B)675B · 啟用 41B3 位元 品質較低295 GB21–3730–54

能執行,但較慢 2

放得下,但每秒不到 10 個 token:適合批次工作,拿來聊天會慢。

模型版本記憶體M3 UltraM5 Ultra
Mistral Medium 3.5 (128B)128B · 智慧 14.28 位元136 GB3–54–7
Devstral 2 (123B)123B8 位元131 GB3–54–7

太大 3

所需記憶體超過 512 GB,即使是 2 位元也不行。

常見問題

512 GB 的 Mac 最適合執行哪個 LLM?
在公布 Intelligence Index 的模型中,DeepSeek V4.1 Flash 1017 是能在 512 GB 中順暢執行的模型裡得分最高的(4 位元)。寫程式可選 Qwen3 Coder Next。
512 GB 夠在 Mac 上執行本機 AI 嗎?
本頁 73 個開放模型中,有 61 個能以 4 位元或更高精度在其中順暢執行。macOS 預設讓 GPU 使用其中約 384 GB,模型與上下文都必須放進這個空間。
512 GB 的 Mac 能執行 gpt-oss-20b 嗎?
可以,原生 4.25 位元,在 M3 Ultra 上每秒約 194–345 個 token,在 M5 Ultra 上約 284–505 個。

其他容量: 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB

可以用 MLX Harness(免費、開源)執行,或在「終端機」中使用 Apple 的 mlx-lm:逐步教學。

計算方式

記憶體:模型參數以每個權重 8、6、4、3 或 2 位元計算,加上 MLX 的分組縮放(每個權重半個位元),或依其原生格式計算,再留出上下文空間。macOS 預設讓 GPU 使用約 75% 的統一記憶體。速度:記憶體頻寬除以每個 token 讀取的位元組數,就是單一對話的上限;在 llama.cpp 的 Apple Silicon 公開效能測試中,實際執行可達這個上限的約 45% 到 80%,本頁顯示的就是這個範圍。這些是估算值,不是實測值:可以到 MLX Bench 測量你自己的 Mac。模型數據來自各模型的官方模型卡,晶片數據來自 Apple 的技術規格。核對於 2026-10-19。數據與 mlx.app/compare 相同。

512 GB Mac 最適合的本機 LLM(M3 至 M5):能執行什麼、多快