搭载 M5 Ultra 的 Mac Studio 适合运行本地 LLM 吗？

配备 512 GB 时，它能流畅运行 73 个开放模型中的 61 个，最大到 DeepSeek V4.1 Flash 1017；运行 gpt-oss-20b 时每秒约生成 284–505 个 token。M5 Ultra 的内存读取速度为 1,200 GB/s，这决定了生成速度。

用于 AI 的话，搭载 M5 Ultra 的 Mac Studio 应该配多少内存？

96 GB 能流畅运行 44 个开放模型；512 GB 能运行 61 个，最大到 DeepSeek V4.1 Flash 1017。内存决定能装下哪些模型，而且日后无法升级。

搭载 M5 Ultra 的 Mac Studio 运行本地 AI：按内存看能跑哪些 LLM

按内存容量

内存	流畅运行	流畅运行的最大模型	gpt-oss-20b
96 GB1,200 GB/s	44	gpt-oss-120b	284–505 tok/s
256 GB1,200 GB/s	54	MiMo V2.6 Flash	284–505 tok/s
512 GB1,200 GB/s	61	DeepSeek V4.1 Flash 1017	284–505 tok/s

机型：Mac Studio (M5 Max or M5 Ultra)。并非每个机型都提供所有内存容量；各机型的可选配置请参阅 Apple 的技术规格。

常见问题

搭载 M5 Ultra 的 Mac Studio 适合运行本地 LLM 吗？: 配备 512 GB 时，它能流畅运行 73 个开放模型中的 61 个，最大到 DeepSeek V4.1 Flash 1017；运行 gpt-oss-20b 时每秒约生成 284–505 个 token。M5 Ultra 的内存读取速度为 1,200 GB/s，这决定了生成速度。
用于 AI 的话，搭载 M5 Ultra 的 Mac Studio 应该配多少内存？: 96 GB 能流畅运行 44 个开放模型；512 GB 能运行 61 个，最大到 DeepSeek V4.1 Flash 1017。内存决定能装下哪些模型，而且日后无法升级。

其他 Mac

搭载其他芯片的 Mac Studio：

正面对比：

对比 PC 和显卡：

用 M5 Ultra 运行本地 AI · 运行本地 LLM 的最佳 Mac · 所有 Mac

计算方法

内存：模型参数按每个权重 8、6、4、3 或 2 位计算，加上 MLX 的分组缩放（每个权重半位），或按其原生格式计算，再留出上下文空间。macOS 默认允许 GPU 使用约 75% 的统一内存。速度：内存带宽除以每个 token 读取的字节数，就是单个对话的上限；在 llama.cpp 的 Apple Silicon 公开基准测试中，实际运行可达这个上限的约 45% 到 80%，本页显示的就是这个范围。这些是估算值，不是实测值：可以在 MLX Bench 上测量你自己的 Mac。模型数据来自各模型的官方模型卡，芯片数据来自 Apple 的技术规格。核对于 2026-10-19。数据与 mlx.app/compare 相同。