登入建立錢包

192 GB 的 M2 Ultra 能執行什麼？

73 個開放模型中有 49 個能在它上面順暢執行。預設情況下，GPU 可使用 192 GB 中的約 144 GB；它的記憶體讀取速度為 800 GB/s，這決定了產生速度。搭載於：Mac Studio (2023), Mac Pro (2023), Mac Pro (Rack, 2023)。

順暢執行中最聰明的Qwen3.8 Flash Next4 位元 · 101 GB · 106–188 tok/s順暢執行中最大的MiniMax M2.74 位元 · 129 GB · 64–114 tok/s適合寫程式Qwen3 Coder Next8 位元 · 85 GB · 113–200 tok/s

順暢執行 56

放得下，還留有上下文空間，每秒 10 個 token 以上。

模型版本記憶體token/秒
Qwen3.8 Flash Next180B · 啟用 6B · 智慧 39.84 位元101 GB106–188
Qwen3.8 27B27B · 智慧 33.78 位元28.7 GB13–22
Nemotron 3.5 Bolt 74B A9B74B · 啟用 9B · 智慧 21.48 位元78.6 GB38–67
Qwen3.6 35B A3B35B · 啟用 3B · 智慧 18.28 位元37.2 GB113–200
Muse Glimmer 30B29.6B · 智慧 17.58 位元31.5 GB11–20
Qwen3.5 122B A10B122B · 啟用 10B · 智慧 15.68 位元130 GB34–60
Gemma 4 31B30.7B · 智慧 14.78 位元32.6 GB11–20
Nemotron 3.5 Lightning 30B A3B30B · 啟用 3B · 智慧 12.98 位元31.9 GB113–200
Granite 4.2 30B30B · 智慧 12.78 位元31.9 GB11–20
MiniCPM5 2B2.52B · 智慧 12.58 位元2.7 GB133–237
gpt-oss-120b117B · 啟用 5.1B · 智慧 11.6原生 4.25 位元65.3 GB133–237
Mistral Small 4 (119B)119B · 啟用 6.5B · 智慧 11.38 位元126 GB52–93
Qwen3.5 9B9B · 智慧 11.28 位元9.6 GB38–67
Granite 4.2 8B8B · 智慧 11.18 位元8.5 GB42–75
Qwen3 Coder Next80B · 啟用 3B · 智慧 9.28 位元85 GB113–200
Granite 4.2 3B3B · 智慧 9.18 位元3.2 GB113–200
gpt-oss-20b21B · 啟用 3.6B · 智慧 9原生 4.25 位元13.8 GB189–337
Nemotron 3 Nano 30B A3B30B · 啟用 3.5B · 智慧 8.98 位元31.9 GB97–173
Gemma 4 E4B8B · 智慧 8.98 位元8.5 GB75–133
Llama 4 Scout 17B-16E Instruct109B · 啟用 17B · 智慧 6.58 位元116 GB20–35
Ministral 3 8B8.9B · 智慧 5.58 位元9.5 GB38–67
Nemotron 3 Nano 4B3.97B · 智慧 4.88 位元4.2 GB86–152
MiniMax M2.7230B · 啟用 10B4 位元129 GB64–114
Ornith 1.5 122B122B · 啟用 10B8 位元130 GB34–60
Nemotron 3 Super 120B A12B120B · 啟用 12B8 位元128 GB28–50
GLM-4.5 Air106B · 啟用 12B8 位元113 GB28–50
Qwen3 Coder 30B A3B Instruct30.5B · 啟用 3.3B8 位元32.4 GB103–183
GLM-4.7 Flash30B · 啟用 3B8 位元31.9 GB113–200
Qwen3.6 27B27B8 位元28.7 GB13–22
Gemma 4 26B A4B25.2B · 啟用 3.8B8 位元26.8 GB90–160
Devstral Small 2 (24B)24B8 位元25.5 GB14–25
Magistral Small 1.2 (2509)24B8 位元25.5 GB14–25
Mistral Small 3.2 (24B)24B8 位元25.5 GB14–25
LFM2.5 24B A2B24B · 啟用 2B8 位元25.5 GB171–305
Phi-4 Reasoning Vision 15B15B8 位元15.9 GB23–40
Phi-4 (14B)14B8 位元14.9 GB24–43
Gemma 4 12B Unified12B8 位元12.7 GB28–50
Qwen3 8B8.2B8 位元8.7 GB41–74
Llama 3.1 8B Instruct8B8 位元8.5 GB42–75
Gemma 4 E2B5.1B8 位元5.4 GB150–267
Qwen3.5 4B4B8 位元4.3 GB84–149
Phi-4 mini instruct3.8B8 位元4 GB90–160
Llama 3.2 3B Instruct3.21B8 位元3.4 GB106–188
SmolLM3 3B3B8 位元3.2 GB113–200
LFM2.5 2.6B2.69B8 位元2.9 GB124–221
Qwen3.5 2B2B8 位元2.1 GB171–305
Llama 3.2 1B Instruct1.23B8 位元1.3 GB277–492
Qwen3.5 0.8B0.8B8 位元0.9 GB400–711
Qwen3 0.6B0.6B8 位元0.6 GB600–1067
GLM-5.3 Flash320B · 啟用 18B · 智慧 41.82 位元 品質較低100 GB64–114
MiMo V2.6 Flash309B · 啟用 15B · 智慧 37.92 位元 品質較低96.6 GB77–136
Inkling Small276B · 啟用 12B · 智慧 25.73 位元 品質較低121 GB68–121
Hy3295B · 啟用 21B · 智慧 25.33 位元 品質較低129 GB39–70
Qwen3.5 397B A17B397B · 啟用 17B · 智慧 18.42 位元 品質較低124 GB68–121
Llama 4 Maverick 17B-128E Instruct400B · 啟用 17B · 智慧 9.32 位元 品質較低125 GB68–121
DeepSeek V4 Flash 0731284B · 啟用 13B3 位元 品質較低124 GB63–112

能執行，但較慢 3

放得下，但每秒不到 10 個 token：適合批次工作，拿來聊天會慢。

模型版本記憶體token/秒
Mistral Medium 3.5 (128B)128B · 智慧 14.26 位元104 GB3–6
Devstral 2 (123B)123B8 位元131 GB3–5
Llama 3.3 70B Instruct70B8 位元74.4 GB5–9

勉強放得下 2

幾乎用滿記憶體：需調高 GPU 記憶體上限，並保持較短的上下文。

模型版本記憶體token/秒
Beam 1.0501B · 啟用 23B · 智慧 30.32 位元 品質較低157 GB50–89
MiniMax M3428B · 啟用 23B · 智慧 29.22 位元 品質較低134 GB50–89

太大 12

所需記憶體超過 192 GB，即使是 2 位元也不行。

其他 Mac

所有 192 GB 的 Mac，不限晶片。

記憶體更多或更少的 M2 Ultra：

相鄰晶片：

正面比較：

與任何 Mac 或 GPU 比較 · 用 M2 Ultra 執行本機 AI · 執行本機 LLM 的最佳 Mac · 所有 Mac

常見問題

192 GB 的 M2 Ultra 最適合執行哪個 LLM？
在公布 Intelligence Index 的模型中，Qwen3.8 Flash Next 是在這台 Mac 上順暢執行的模型裡得分最高的：4 位元，每秒約 106–188 個 token。能順暢執行的最大模型是 MiniMax M2.7。
192 GB 的 M2 Ultra 能執行 Llama 3.3 70B 嗎？
可以，但較慢：8 位元，每秒約 5–9 個 token。
gpt-oss-20b 在 M2 Ultra 上有多快？
每秒約 189–337 個 token（原生 4.25 位元），由晶片 800 GB/s 的記憶體頻寬決定。

可以用 MLX Harness（免費、開源）執行，或在「終端機」中使用 Apple 的 mlx-lm：逐步教學。

計算方式

記憶體：模型參數以每個權重 8、6、4、3 或 2 位元計算，加上 MLX 的分組縮放（每個權重半個位元），或依其原生格式計算，再留出上下文空間。macOS 預設讓 GPU 使用約 75% 的統一記憶體。速度：記憶體頻寬除以每個 token 讀取的位元組數，就是單一對話的上限；在 llama.cpp 的 Apple Silicon 公開效能測試中，實際執行可達這個上限的約 45% 到 80%，本頁顯示的就是這個範圍。這些是估算值，不是實測值：可以到 MLX Bench 測量你自己的 Mac。模型數據來自各模型的官方模型卡，晶片數據來自 Apple 的技術規格。核對於 2026-10-19。數據與 mlx.app/compare 相同。

192 GB 的 M2 Ultra 能執行哪些 LLM？所有模型與速度