18 GB Mac 最适合的 LLM。

73 个开放模型中有 20 个能在 18 GB 中流畅运行。默认情况下,GPU 可以使用其中约 14 GB。M3 Pro 的内存读取速度为 150 GB/s。

流畅运行中最聪明的MiniCPM5 2B8 位 · 2.7 GB · 25–44 tok/s流畅运行中最大的Gemma 4 12B Unified4 位 · 6.7 GB · 10–18 tok/s

18 GB 的 Mac

M3 中有 1 款芯片提供 18 GB 配置。打开任一款,查看它的列表和速度。

流畅运行 27

装得下,还留有上下文空间,在 M3 Pro 上每秒 10 个 token 以上。

模型版本内存token/秒
MiniCPM5 2B2.52B · 智能 12.58 位2.7 GB25–44
Qwen3.5 9B9B · 智能 11.24 位5.1 GB13–24
Granite 4.2 8B8B · 智能 11.16 位6.5 GB10–18
Granite 4.2 3B3B · 智能 9.18 位3.2 GB21–38
Gemma 4 E4B8B · 智能 8.98 位8.5 GB14–25
Ministral 3 8B8.9B · 智能 5.54 位5 GB14–24
Nemotron 3 Nano 4B3.97B · 智能 4.88 位4.2 GB16–29
Gemma 4 12B Unified12B4 位6.7 GB10–18
Qwen3 8B8.2B6 位6.7 GB10–18
Llama 3.1 8B Instruct8B6 位6.5 GB10–18
Gemma 4 E2B5.1B8 位5.4 GB28–50
Qwen3.5 4B4B8 位4.3 GB16–28
Phi-4 mini instruct3.8B8 位4 GB17–30
Llama 3.2 3B Instruct3.21B8 位3.4 GB20–35
SmolLM3 3B3B8 位3.2 GB21–38
LFM2.5 2.6B2.69B8 位2.9 GB23–41
Qwen3.5 2B2B8 位2.1 GB32–57
Llama 3.2 1B Instruct1.23B8 位1.3 GB52–92
Qwen3.5 0.8B0.8B8 位0.9 GB75–133
Qwen3 0.6B0.6B8 位0.6 GB113–200
Qwen3.6 35B A3B35B · 激活 3B · 智能 18.22 位 质量较低10.9 GB75–133
Nemotron 3.5 Lightning 30B A3B30B · 激活 3B · 智能 12.92 位 质量较低9.4 GB75–133
Nemotron 3 Nano 30B A3B30B · 激活 3.5B · 智能 8.92 位 质量较低9.4 GB61–109
Qwen3 Coder 30B A3B Instruct30.5B · 激活 3.3B2 位 质量较低9.5 GB68–120
GLM-4.7 Flash30B · 激活 3B2 位 质量较低9.4 GB75–133
Gemma 4 26B A4B25.2B · 激活 3.8B3 位 质量较低11 GB40–71
LFM2.5 24B A2B24B · 激活 2B3 位 质量较低10.5 GB75–133

能运行,但较慢 10

装得下,但每秒不到 10 个 token:适合批量任务,用来聊天会慢。

模型版本内存token/秒
Phi-4 Reasoning Vision 15B15B4 位8.4 GB8–14
Phi-4 (14B)14B6 位11.4 GB6–11
Qwen3.8 27B27B · 智能 33.73 位 质量较低11.8 GB6–10
Muse Glimmer 30B29.6B · 智能 17.52 位 质量较低9.3 GB7–13
Gemma 4 31B30.7B · 智能 14.72 位 质量较低9.6 GB7–13
Granite 4.2 30B30B · 智能 12.72 位 质量较低9.4 GB7–13
Qwen3.6 27B27B3 位 质量较低11.8 GB6–10
Devstral Small 2 (24B)24B3 位 质量较低10.5 GB6–11
Magistral Small 1.2 (2509)24B3 位 质量较低10.5 GB6–11
Mistral Small 3.2 (24B)24B3 位 质量较低10.5 GB6–11

勉强装得下 1

几乎占满内存:需要调高 GPU 内存上限,并保持较短的上下文。

模型版本内存token/秒
gpt-oss-20b21B · 激活 3.6B · 智能 9原生 4.25 位13.8 GB36–63

太大 35

所需内存超过 18 GB,即使是 2 位也不行。

常见问题

18 GB 的 Mac 最适合运行哪个 LLM?
在公布了 Intelligence Index 的模型中,MiniCPM5 2B 是能在 18 GB 中流畅运行的模型里得分最高的(8 位)。能流畅运行的最大模型是 Gemma 4 12B Unified。
18 GB 够在 Mac 上运行本地 AI 吗?
本页 73 个开放模型中,有 20 个能以 4 位或更高精度在其中流畅运行。macOS 默认允许 GPU 使用其中约 14 GB,模型及其上下文必须装进这个空间。
18 GB 的 Mac 能运行 gpt-oss-20b 吗?
勉强可以:需要调高 GPU 内存上限,并保持较短的上下文。

其他容量: 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB

可以用 MLX Harness(免费、开源)运行,也可以在终端中使用 Apple 的 mlx-lm:分步指南。

计算方法

内存:模型参数按每个权重 8、6、4、3 或 2 位计算,加上 MLX 的分组缩放(每个权重半位),或按其原生格式计算,再留出上下文空间。macOS 默认允许 GPU 使用约 75% 的统一内存。速度:内存带宽除以每个 token 读取的字节数,就是单个对话的上限;在 llama.cpp 的 Apple Silicon 公开基准测试中,实际运行可达这个上限的约 45% 到 80%,本页显示的就是这个范围。这些是估算值,不是实测值:可以在 MLX Bench 上测量你自己的 Mac。模型数据来自各模型的官方模型卡,芯片数据来自 Apple 的技术规格。核对于 2026-10-19。数据与 mlx.app/compare 相同。

18 GB Mac 最适合的本地 LLM(M3):能运行什么,有多快