要点速览
- 16 GB：只有小型通用模型能流畅运行；Qwen3 Coder 30B A3B 只能以更低精度装下。24 GB：Devstral Small 2（24B）。32–64 GB：4-bit 的 Qwen3 Coder 30B A3B 和 Devstral Small 2。
- 96 GB 及以上：Qwen3 Coder Next（80B，激活 3B）。128 GB：还能跑 Devstral 2（123B），但较慢。512 GB：以低精度运行 Kimi K2.7 Code。
- 混合专家编程模型每个 token 只读取几十亿个权重，所以在同一台 Mac 上，Qwen3 Coder 30B A3B 的生成速度可以比稠密的 Devstral Small 2 快好几倍。
- 编程智能体发送的提示很长：请为上下文预留好几 GB，并参考大模型需要多少内存。
1按内存划分：能流畅运行的编程模型
“流畅运行”是指以 4-bit 或更高精度装下并留有上下文余量，速度达到每秒 10 个 token 以上，与每个 Mac 页面的规则相同。下表列出我们开放模型目录中专为代码打造的模型，以及在该内存下能流畅运行、Artificial Analysis 智能指数最高的通用模型，它同样能写代码：
| Mac 内存 | 专为代码打造 | 最强通用模型 |
|---|---|---|
| 16 GB | Qwen3 Coder 30B A3B，仅限更低精度 | MiniCPM5 2B |
| 24 GB | Devstral Small 2 | MiniCPM5 2B |
| 32 GB | Qwen3 Coder 30B A3B、Devstral Small 2 | Qwen3.8 27B |
| 48 GB | Qwen3 Coder 30B A3B、Devstral Small 2 | Qwen3.8 27B |
| 64 GB | Qwen3 Coder 30B A3B、Devstral Small 2 | Qwen3.8 27B |
| 96 GB | Qwen3 Coder Next、Qwen3 Coder 30B A3B、Devstral Small 2 | Qwen3.8 27B |
| 128 GB | Qwen3 Coder Next、Devstral 2 (123B)（较慢） | Qwen3.8 27B |
| 256 GB | Qwen3 Coder Next、Devstral 2（较慢） | Qwen3.8 Flash Next |
| 512 GB | Kimi K2.7 Code（更低精度）、Qwen3 Coder Next | DeepSeek V4.1 Flash 1017 |
2为什么混合专家编程模型感觉更快
生成速度受限于每个 token 要读取多少字节的权重。稠密模型要读全部权重；混合专家模型只读激活的那部分。在 M5 Pro 的 Mac mini 上（307 GB/s，Apple），4-bit 下：
| 模型 | 参数 | 每个 token 读取 | 单路对话速度上限 |
|---|---|---|---|
| Qwen3 Coder 30B A3B | 总计 30.5B，激活 3.3B | 约 1.9 GB | 约 165 tokens/s |
| Devstral Small 2 | 24B，稠密 | 约 13.5 GB | 约 23 tokens/s |
速度不等于质量：在同样的内存下，稠密模型可能是更好的编程模型。请用你自己的代码把两个都试一试。
3为上下文留出空间
编程工具会发送大量文本：涉及的文件、工具说明和此前的对话。这些上下文与模型一起保存在内存中，也就是 KV cache，并随每个 token 增长。以 Qwen3 8B 为例，32,000 个 token 约占 4.8 GB（计算见此）。更大的模型每个 token 需要更多内存。
所以当一个模型刚好能装下时，宁可选小一号的模型或更低的精度，也不要压缩上下文。长提示在输出第一个字之前也要花时间读取；M5 一代读取提示比 M4 更快（Apple）。
4接入你的编辑器或智能体
编程工具通过 API 与模型通信。在本地运行模型，再把工具指向它：
- LM Studio 的本地服务器支持 OpenAI 和 Anthropic 格式，LM Studio 还为 Claude Code、Codex、OpenClaw 和 Hermes Agent 提供了设置指南（LM Studio）。
- mlx-lm：
mlx_lm.server --model <model>在 8080 端口提供 OpenAI 风格的 API（mlx-lm）。 - Ollama 也提供 OpenAI 兼容 API：在 Mac 上运行大模型的最佳应用对它们做了对比。
智能体会调用工具，所以模型必须以服务器能理解的格式输出工具调用。Qwen3 Coder 和 Devstral 这类专为代码和智能体打造的模型经过了这方面的训练；小型通用模型在这方面往往不够可靠。
AI App Store 的编程类别收录了 Claude Code、Codex 等编程智能体和编辑器，每一款都附有开发者的官方下载、价格以及你的数据流向何处。
5常见问题
- 32 GB 的 Mac 最适合哪个本地编程大模型？
- 4-bit 的 Qwen3 Coder 30B A3B 和 Devstral Small 2 都能流畅运行。Qwen3 Coder 生成快得多，因为它 30.5B 参数中每个 token 只读取 3.3B；请用你自己的代码把两个都试一试。
- 16 GB 的 Mac 能跑编程模型吗？
- 小模型可以。Qwen3 Coder 30B A3B 只有以更低精度才能装进 16 GB，留给上下文的空间很少。如果要用编程智能体，32 GB 或以上是更好的起点。
- Claude Code 或 Codex 能用本地模型吗？
- 可以。LM Studio 为两者都提供了设置指南：它的本地服务器支持 Claude Code 使用的 Anthropic 格式和 Codex 使用的 OpenAI 格式（LM Studio）。效果如何取决于你加载的模型。
- 本地编程模型和云端的一样好吗？
- 最大的开放模型在许多任务上已经很接近，但需要 256 或 512 GB 的 Mac Studio。能装进 32–64 GB 的模型适合补全、解释代码和较小的智能体任务，而且代码留在你的 Mac 上。