搭载 M2 Pro 的 Mac mini 适合运行本地 LLM 吗？

配备 32 GB 时，它能流畅运行 73 个开放模型中的 30 个，最大到 Qwen3.6 35B A3B；运行 gpt-oss-20b 时每秒约生成 47–84 个 token。M2 Pro 的内存读取速度为 200 GB/s，这决定了生成速度。

用于 AI 的话，搭载 M2 Pro 的 Mac mini 应该配多少内存？

16 GB 能流畅运行 22 个开放模型；32 GB 能运行 30 个，最大到 Qwen3.6 35B A3B。内存决定能装下哪些模型，而且日后无法升级。

搭载 M2 Pro 的 Mac mini 运行本地 AI：按内存看能跑哪些 LLM

按内存容量

内存	流畅运行	流畅运行的最大模型	gpt-oss-20b
16 GB200 GB/s	22	Phi-4 Reasoning Vision 15B	56–100 tok/s
32 GB200 GB/s	30	Qwen3.6 35B A3B	47–84 tok/s

机型：Mac mini (2023)。并非每个机型都提供所有内存容量；各机型的可选配置请参阅 Apple 的技术规格。

常见问题

搭载 M2 Pro 的 Mac mini 适合运行本地 LLM 吗？: 配备 32 GB 时，它能流畅运行 73 个开放模型中的 30 个，最大到 Qwen3.6 35B A3B；运行 gpt-oss-20b 时每秒约生成 47–84 个 token。M2 Pro 的内存读取速度为 200 GB/s，这决定了生成速度。
用于 AI 的话，搭载 M2 Pro 的 Mac mini 应该配多少内存？: 16 GB 能流畅运行 22 个开放模型；32 GB 能运行 30 个，最大到 Qwen3.6 35B A3B。内存决定能装下哪些模型，而且日后无法升级。

其他 Mac

搭载其他芯片的 Mac mini：

其他搭载 M2 Pro 的 Mac：

MacBook Pro M2 Pro

正面对比：

用 M2 Pro 运行本地 AI · 运行本地 LLM 的最佳 Mac · 所有 Mac

计算方法

内存：模型参数按每个权重 8、6、4、3 或 2 位计算，加上 MLX 的分组缩放（每个权重半位），或按其原生格式计算，再留出上下文空间。macOS 默认允许 GPU 使用约 75% 的统一内存。速度：内存带宽除以每个 token 读取的字节数，就是单个对话的上限；在 llama.cpp 的 Apple Silicon 公开基准测试中，实际运行可达这个上限的约 45% 到 80%，本页显示的就是这个范围。这些是估算值，不是实测值：可以在 MLX Bench 上测量你自己的 Mac。模型数据来自各模型的官方模型卡，芯片数据来自 Apple 的技术规格。核对于 2026-10-19。数据与 mlx.app/compare 相同。