登录创建钱包

256 GB 的 M3 Ultra 能运行什么？

73 个开放模型中有 53 个能在它上面流畅运行。默认情况下，GPU 可以使用 256 GB 中的约 192 GB；它的内存读取速度为 819 GB/s，这决定了生成速度。搭载于：Mac Studio (2025)。

流畅运行中最聪明的Qwen3.8 Flash Next6 位 · 146 GB · 75–134 tok/s流畅运行中最大的MiMo V2.6 Flash原生 4.48 位 · 173 GB · 44–78 tok/s适合写代码Qwen3 Coder Next8 位 · 85 GB · 115–205 tok/s

流畅运行 60

装得下，还留有上下文空间，每秒 10 个 token 以上。

模型版本内存token/秒
Qwen3.8 Flash Next180B · 激活 6B · 智能 39.86 位146 GB75–134
MiMo V2.6 Flash309B · 激活 15B · 智能 37.9原生 4.48 位173 GB44–78
Qwen3.8 27B27B · 智能 33.78 位28.7 GB13–23
Inkling Small276B · 激活 12B · 智能 25.74 位155 GB54–96
Hy3295B · 激活 21B · 智能 25.34 位166 GB31–56
Nemotron 3.5 Bolt 74B A9B74B · 激活 9B · 智能 21.48 位78.6 GB38–68
Qwen3.6 35B A3B35B · 激活 3B · 智能 18.28 位37.2 GB115–205
Muse Glimmer 30B29.6B · 智能 17.58 位31.5 GB12–21
Qwen3.5 122B A10B122B · 激活 10B · 智能 15.68 位130 GB35–62
Gemma 4 31B30.7B · 智能 14.78 位32.6 GB11–20
Nemotron 3.5 Lightning 30B A3B30B · 激活 3B · 智能 12.98 位31.9 GB115–205
Granite 4.2 30B30B · 智能 12.78 位31.9 GB12–21
MiniCPM5 2B2.52B · 智能 12.58 位2.7 GB137–243
gpt-oss-120b117B · 激活 5.1B · 智能 11.6原生 4.25 位65.3 GB137–243
Mistral Small 4 (119B)119B · 激活 6.5B · 智能 11.38 位126 GB53–95
Qwen3.5 9B9B · 智能 11.28 位9.6 GB38–68
Granite 4.2 8B8B · 智能 11.18 位8.5 GB43–77
Qwen3 Coder Next80B · 激活 3B · 智能 9.28 位85 GB115–205
Granite 4.2 3B3B · 智能 9.18 位3.2 GB115–205
gpt-oss-20b21B · 激活 3.6B · 智能 9原生 4.25 位13.8 GB194–345
Nemotron 3 Nano 30B A3B30B · 激活 3.5B · 智能 8.98 位31.9 GB100–177
Gemma 4 E4B8B · 智能 8.98 位8.5 GB77–137
Llama 4 Scout 17B-16E Instruct109B · 激活 17B · 智能 6.58 位116 GB20–36
Ministral 3 8B8.9B · 智能 5.58 位9.5 GB39–69
Nemotron 3 Nano 4B3.97B · 智能 4.88 位4.2 GB88–156
DeepSeek V4 Flash 0731284B · 激活 13B4 位160 GB50–90
MiniMax M2.7230B · 激活 10B4 位129 GB66–117
Ornith 1.5 122B122B · 激活 10B8 位130 GB35–62
Nemotron 3 Super 120B A12B120B · 激活 12B8 位128 GB29–51
GLM-4.5 Air106B · 激活 12B8 位113 GB29–51
Qwen3 Coder 30B A3B Instruct30.5B · 激活 3.3B8 位32.4 GB105–187
GLM-4.7 Flash30B · 激活 3B8 位31.9 GB115–205
Qwen3.6 27B27B8 位28.7 GB13–23
Gemma 4 26B A4B25.2B · 激活 3.8B8 位26.8 GB92–164
Devstral Small 2 (24B)24B8 位25.5 GB14–26
Magistral Small 1.2 (2509)24B8 位25.5 GB14–26
Mistral Small 3.2 (24B)24B8 位25.5 GB14–26
LFM2.5 24B A2B24B · 激活 2B8 位25.5 GB176–312
Phi-4 Reasoning Vision 15B15B8 位15.9 GB23–41
Phi-4 (14B)14B8 位14.9 GB25–44
Gemma 4 12B Unified12B8 位12.7 GB29–52
Qwen3 8B8.2B8 位8.7 GB42–75
Llama 3.1 8B Instruct8B8 位8.5 GB43–77
Gemma 4 E2B5.1B8 位5.4 GB154–273
Qwen3.5 4B4B8 位4.3 GB86–152
Phi-4 mini instruct3.8B8 位4 GB92–164
Llama 3.2 3B Instruct3.21B8 位3.4 GB108–193
SmolLM3 3B3B8 位3.2 GB115–205
LFM2.5 2.6B2.69B8 位2.9 GB127–226
Qwen3.5 2B2B8 位2.1 GB176–312
Llama 3.2 1B Instruct1.23B8 位1.3 GB284–504
Qwen3.5 0.8B0.8B8 位0.9 GB410–728
Qwen3 0.6B0.6B8 位0.6 GB614–1092
DeepSeek V4.1 Flash 1017552B · 激活 16B · 智能 45.12 位 质量较低173 GB74–131
GLM-5.3 Flash320B · 激活 18B · 智能 41.83 位 质量较低140 GB47–83
Beam 1.0501B · 激活 23B · 智能 30.32 位 质量较低157 GB51–91
MiniMax M3428B · 激活 23B · 智能 29.22 位 质量较低134 GB51–91
Nemotron 3 Ultra 550B A55B550B · 激活 55B · 智能 22.92 位 质量较低172 GB21–38
Qwen3.5 397B A17B397B · 激活 17B · 智能 18.43 位 质量较低174 GB50–89
Llama 4 Maverick 17B-128E Instruct400B · 激活 17B · 智能 9.33 位 质量较低175 GB50–89

能运行，但较慢 3

装得下，但每秒不到 10 个 token：适合批量任务，用来聊天会慢。

模型版本内存token/秒
Mistral Medium 3.5 (128B)128B · 智能 14.28 位136 GB3–5
Devstral 2 (123B)123B8 位131 GB3–5
Llama 3.3 70B Instruct70B8 位74.4 GB5–9

勉强装得下 1

几乎占满内存：需要调高 GPU 内存上限，并保持较短的上下文。

模型版本内存token/秒
Mistral Large 3 (675B)675B · 激活 41B2 位 质量较低211 GB29–51

太大 9

所需内存超过 256 GB，即使是 2 位也不行。

其他 Mac

所有 256 GB 的 Mac，不限芯片。

内存更多或更少的 M3 Ultra：

相邻芯片：

正面对比：

对比 PC 和显卡：

与任意 Mac 或 GPU 对比 · 用 M3 Ultra 运行本地 AI · 运行本地 LLM 的最佳 Mac · 所有 Mac

常见问题

256 GB 的 M3 Ultra 最适合运行哪个 LLM？
在公布了 Intelligence Index 的模型中，Qwen3.8 Flash Next 是在这台 Mac 上流畅运行的模型里得分最高的：6 位，每秒约 75–134 个 token。能流畅运行的最大模型是 MiMo V2.6 Flash。
256 GB 的 M3 Ultra 能运行 Llama 3.3 70B 吗？
可以，但较慢：8 位，每秒约 5–9 个 token。
gpt-oss-20b 在 M3 Ultra 上有多快？
每秒约 194–345 个 token（原生 4.25 位），由芯片 819 GB/s 的内存带宽决定。

可以用 MLX Harness（免费、开源）运行，也可以在终端中使用 Apple 的 mlx-lm：分步指南。

计算方法

内存：模型参数按每个权重 8、6、4、3 或 2 位计算，加上 MLX 的分组缩放（每个权重半位），或按其原生格式计算，再留出上下文空间。macOS 默认允许 GPU 使用约 75% 的统一内存。速度：内存带宽除以每个 token 读取的字节数，就是单个对话的上限；在 llama.cpp 的 Apple Silicon 公开基准测试中，实际运行可达这个上限的约 45% 到 80%，本页显示的就是这个范围。这些是估算值，不是实测值：可以在 MLX Bench 上测量你自己的 Mac。模型数据来自各模型的官方模型卡，芯片数据来自 Apple 的技术规格。核对于 2026-10-19。数据与 mlx.app/compare 相同。

256 GB 的 M3 Ultra 能运行哪些 LLM？所有模型及速度