登录创建钱包

512 GB Mac 最适合的 LLM。

73 个开放模型中有 61 个能在 512 GB 中流畅运行。默认情况下，GPU 可以使用其中约 384 GB。速度取决于芯片：从 M3 Ultra 的 819 GB/s 到 M5 Ultra 的 1,200 GB/s。

流畅运行中最聪明的DeepSeek V4.1 Flash 10174 位 · 311 GB · 41–107 tok/s流畅运行中最大的DeepSeek V4.1 Flash 10174 位 · 311 GB · 41–107 tok/s适合写代码Qwen3 Coder Next8 位 · 85 GB · 115–300 tok/s

512 GB 的 Mac

M3 至 M5 中有 2 款芯片提供 512 GB 配置。打开任一款，查看它的列表和速度。

流畅运行 68

装得下，还留有上下文空间，在 M5 Ultra 上每秒 10 个 token 以上。

模型版本内存M3 UltraM5 Ultra
DeepSeek V4.1 Flash 1017552B · 激活 16B · 智能 45.14 位311 GB41–7360–107
GLM-5.3 Flash320B · 激活 18B · 智能 41.88 位340 GB19–3428–50
Qwen3.8 Flash Next180B · 激活 6B · 智能 39.88 位191 GB58–10284–150
MiMo V2.6 Flash309B · 激活 15B · 智能 37.9原生 4.48 位173 GB44–7864–114
Qwen3.8 27B27B · 智能 33.78 位28.7 GB13–2319–33
Beam 1.0501B · 激活 23B · 智能 30.34 位282 GB29–5142–74
MiniMax M3428B · 激活 23B · 智能 29.26 位348 GB20–3529–51
Inkling Small276B · 激活 12B · 智能 25.78 位293 GB29–5142–75
Hy3295B · 激活 21B · 智能 25.38 位313 GB17–2924–43
Nemotron 3 Ultra 550B A55B550B · 激活 55B · 智能 22.94 位309 GB12–2117–31
Nemotron 3.5 Bolt 74B A9B74B · 激活 9B · 智能 21.48 位78.6 GB38–6856–100
Qwen3.5 397B A17B397B · 激活 17B · 智能 18.46 位323 GB27–4739–70
Qwen3.6 35B A3B35B · 激活 3B · 智能 18.28 位37.2 GB115–205169–300
Muse Glimmer 30B29.6B · 智能 17.58 位31.5 GB12–2117–30
Qwen3.5 122B A10B122B · 激活 10B · 智能 15.68 位130 GB35–6251–91
Gemma 4 31B30.7B · 智能 14.78 位32.6 GB11–2017–29
Nemotron 3.5 Lightning 30B A3B30B · 激活 3B · 智能 12.98 位31.9 GB115–205169–300
Granite 4.2 30B30B · 智能 12.78 位31.9 GB12–2117–30
MiniCPM5 2B2.52B · 智能 12.58 位2.7 GB137–243200–356
gpt-oss-120b117B · 激活 5.1B · 智能 11.6原生 4.25 位65.3 GB137–243200–356
Mistral Small 4 (119B)119B · 激活 6.5B · 智能 11.38 位126 GB53–9578–139
Qwen3.5 9B9B · 智能 11.28 位9.6 GB38–6856–100
Granite 4.2 8B8B · 智能 11.18 位8.5 GB43–7764–113
Llama 4 Maverick 17B-128E Instruct400B · 激活 17B · 智能 9.36 位325 GB27–4739–70
Qwen3 Coder Next80B · 激活 3B · 智能 9.28 位85 GB115–205169–300
Granite 4.2 3B3B · 智能 9.18 位3.2 GB115–205169–300
gpt-oss-20b21B · 激活 3.6B · 智能 9原生 4.25 位13.8 GB194–345284–505
Nemotron 3 Nano 30B A3B30B · 激活 3.5B · 智能 8.98 位31.9 GB100–177146–259
Gemma 4 E4B8B · 智能 8.98 位8.5 GB77–137113–200
Llama 4 Scout 17B-16E Instruct109B · 激活 17B · 智能 6.58 位116 GB20–3630–53
Ministral 3 8B8.9B · 智能 5.58 位9.5 GB39–6957–101
Nemotron 3 Nano 4B3.97B · 智能 4.88 位4.2 GB88–156129–229
DeepSeek V4 Flash 0731284B · 激活 13B8 位302 GB27–4739–70
MiniMax M2.7230B · 激活 10B8 位244 GB35–6251–91
Ornith 1.5 122B122B · 激活 10B8 位130 GB35–6251–91
Nemotron 3 Super 120B A12B120B · 激活 12B8 位128 GB29–5142–75
GLM-4.5 Air106B · 激活 12B8 位113 GB29–5142–75
Llama 3.3 70B Instruct70B4 位39.4 GB5–914–24
Qwen3 Coder 30B A3B Instruct30.5B · 激活 3.3B8 位32.4 GB105–187154–274
GLM-4.7 Flash30B · 激活 3B8 位31.9 GB115–205169–300
Qwen3.6 27B27B8 位28.7 GB13–2319–33
Gemma 4 26B A4B25.2B · 激活 3.8B8 位26.8 GB92–164135–240
Devstral Small 2 (24B)24B8 位25.5 GB14–2621–38
Magistral Small 1.2 (2509)24B8 位25.5 GB14–2621–38
Mistral Small 3.2 (24B)24B8 位25.5 GB14–2621–38
LFM2.5 24B A2B24B · 激活 2B8 位25.5 GB176–312257–457
Phi-4 Reasoning Vision 15B15B8 位15.9 GB23–4134–60
Phi-4 (14B)14B8 位14.9 GB25–4436–64
Gemma 4 12B Unified12B8 位12.7 GB29–5243–76
Qwen3 8B8.2B8 位8.7 GB42–7562–110
Llama 3.1 8B Instruct8B8 位8.5 GB43–7764–113
Gemma 4 E2B5.1B8 位5.4 GB154–273225–400
Qwen3.5 4B4B8 位4.3 GB86–152126–223
Phi-4 mini instruct3.8B8 位4 GB92–164135–240
Llama 3.2 3B Instruct3.21B8 位3.4 GB108–193159–282
SmolLM3 3B3B8 位3.2 GB115–205169–300
LFM2.5 2.6B2.69B8 位2.9 GB127–226186–331
Qwen3.5 2B2B8 位2.1 GB176–312257–457
Llama 3.2 1B Instruct1.23B8 位1.3 GB284–504415–738
Qwen3.5 0.8B0.8B8 位0.9 GB410–728600–1067
Qwen3 0.6B0.6B8 位0.6 GB614–1092900–1600
MiMo V2.6 Pro1,020B · 激活 42B · 智能 46.32 位 质量较低319 GB28–5041–73
GLM-5.3744B · 激活 40B · 智能 44.83 位 质量较低326 GB21–3731–55
Muse Spark Open816B · 激活 42B · 智能 38.92 位 质量较低255 GB28–5041–73
Kimi K2.7 Code1,000B · 激活 32B · 智能 25.82 位 质量较低313 GB37–6654–96
Inkling975B · 激活 41B · 智能 252 位 质量较低305 GB29–5142–75
Kimi K2.61,000B · 激活 32B2 位 质量较低313 GB37–6654–96
Mistral Large 3 (675B)675B · 激活 41B3 位 质量较低295 GB21–3730–54

能运行，但较慢 2

装得下，但每秒不到 10 个 token：适合批量任务，用来聊天会慢。

模型版本内存M3 UltraM5 Ultra
Mistral Medium 3.5 (128B)128B · 智能 14.28 位136 GB3–54–7
Devstral 2 (123B)123B8 位131 GB3–54–7

太大 3

所需内存超过 512 GB，即使是 2 位也不行。

常见问题

512 GB 的 Mac 最适合运行哪个 LLM？
在公布了 Intelligence Index 的模型中，DeepSeek V4.1 Flash 1017 是能在 512 GB 中流畅运行的模型里得分最高的（4 位）。写代码可选 Qwen3 Coder Next。
512 GB 够在 Mac 上运行本地 AI 吗？
本页 73 个开放模型中，有 61 个能以 4 位或更高精度在其中流畅运行。macOS 默认允许 GPU 使用其中约 384 GB，模型及其上下文必须装进这个空间。
512 GB 的 Mac 能运行 gpt-oss-20b 吗？
可以，原生 4.25 位，在 M3 Ultra 上每秒约 194–345 个 token，在 M5 Ultra 上约 284–505 个。

其他容量： 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB

可以用 MLX Harness（免费、开源）运行，也可以在终端中使用 Apple 的 mlx-lm：分步指南。

计算方法

内存：模型参数按每个权重 8、6、4、3 或 2 位计算，加上 MLX 的分组缩放（每个权重半位），或按其原生格式计算，再留出上下文空间。macOS 默认允许 GPU 使用约 75% 的统一内存。速度：内存带宽除以每个 token 读取的字节数，就是单个对话的上限；在 llama.cpp 的 Apple Silicon 公开基准测试中，实际运行可达这个上限的约 45% 到 80%，本页显示的就是这个范围。这些是估算值，不是实测值：可以在 MLX Bench 上测量你自己的 Mac。模型数据来自各模型的官方模型卡，芯片数据来自 Apple 的技术规格。核对于 2026-10-19。数据与 mlx.app/compare 相同。

512 GB Mac 最适合的本地 LLM（M3 至 M5）：能运行什么，有多快