搭载 M2 Ultra 的 Mac Studio 适合运行本地 LLM 吗？

配备 192 GB 时，它能流畅运行 73 个开放模型中的 49 个，最大到 MiniMax M2.7；运行 gpt-oss-20b 时每秒约生成 189–337 个 token。M2 Ultra 的内存读取速度为 800 GB/s，这决定了生成速度。

用于 AI 的话，搭载 M2 Ultra 的 Mac Studio 应该配多少内存？

64 GB 能流畅运行 39 个开放模型；192 GB 能运行 49 个，最大到 MiniMax M2.7。内存决定能装下哪些模型，而且日后无法升级。

搭载 M2 Ultra 的 Mac Studio 运行本地 AI：按内存看能跑哪些 LLM

按内存容量

内存	流畅运行	流畅运行的最大模型	gpt-oss-20b
64 GB800 GB/s	39	Nemotron 3.5 Bolt 74B A9B	189–337 tok/s
128 GB800 GB/s	47	Qwen3.5 122B A10B	189–337 tok/s
192 GB800 GB/s	49	MiniMax M2.7	189–337 tok/s

机型：Mac Studio (2023)。并非每个机型都提供所有内存容量；各机型的可选配置请参阅 Apple 的技术规格。

常见问题

搭载 M2 Ultra 的 Mac Studio 适合运行本地 LLM 吗？: 配备 192 GB 时，它能流畅运行 73 个开放模型中的 49 个，最大到 MiniMax M2.7；运行 gpt-oss-20b 时每秒约生成 189–337 个 token。M2 Ultra 的内存读取速度为 800 GB/s，这决定了生成速度。
用于 AI 的话，搭载 M2 Ultra 的 Mac Studio 应该配多少内存？: 64 GB 能流畅运行 39 个开放模型；192 GB 能运行 49 个，最大到 MiniMax M2.7。内存决定能装下哪些模型，而且日后无法升级。

其他 Mac

搭载其他芯片的 Mac Studio：

其他搭载 M2 Ultra 的 Mac：

Mac Pro M2 Ultra

正面对比：

用 M2 Ultra 运行本地 AI · 运行本地 LLM 的最佳 Mac · 所有 Mac

计算方法

内存：模型参数按每个权重 8、6、4、3 或 2 位计算，加上 MLX 的分组缩放（每个权重半位），或按其原生格式计算，再留出上下文空间。macOS 默认允许 GPU 使用约 75% 的统一内存。速度：内存带宽除以每个 token 读取的字节数，就是单个对话的上限；在 llama.cpp 的 Apple Silicon 公开基准测试中，实际运行可达这个上限的约 45% 到 80%，本页显示的就是这个范围。这些是估算值，不是实测值：可以在 MLX Bench 上测量你自己的 Mac。模型数据来自各模型的官方模型卡，芯片数据来自 Apple 的技术规格。核对于 2026-10-19。数据与 mlx.app/compare 相同。