192 GB の M2 Ultra で何が動く?

73 個のオープンモデルのうち 49 個が快適に動きます。GPU は標準で 192 GB のうち約 144 GB を使え、メモリの読み込み速度は 800 GB/s。これが生成の速さを決めます。搭載モデル:Mac Studio (2023), Mac Pro (2023), Mac Pro (Rack, 2023)。

快適に動く中でいちばん賢いQwen3.8 Flash Next4ビット · 101 GB · 106–188 tok/s快適に動く中でいちばん大きいMiniMax M2.74ビット · 129 GB · 64–114 tok/sコード向けQwen3 Coder Next8ビット · 85 GB · 113–200 tok/s

快適に動く 56

コンテキスト用の余裕を残して収まり、毎秒 10 トークン以上。

モデルバージョンメモリトークン/秒
Qwen3.8 Flash Next180B · アクティブ 6B · 知能 39.84ビット101 GB106–188
Qwen3.8 27B27B · 知能 33.78ビット28.7 GB13–22
Nemotron 3.5 Bolt 74B A9B74B · アクティブ 9B · 知能 21.48ビット78.6 GB38–67
Qwen3.6 35B A3B35B · アクティブ 3B · 知能 18.28ビット37.2 GB113–200
Muse Glimmer 30B29.6B · 知能 17.58ビット31.5 GB11–20
Qwen3.5 122B A10B122B · アクティブ 10B · 知能 15.68ビット130 GB34–60
Gemma 4 31B30.7B · 知能 14.78ビット32.6 GB11–20
Nemotron 3.5 Lightning 30B A3B30B · アクティブ 3B · 知能 12.98ビット31.9 GB113–200
Granite 4.2 30B30B · 知能 12.78ビット31.9 GB11–20
MiniCPM5 2B2.52B · 知能 12.58ビット2.7 GB133–237
gpt-oss-120b117B · アクティブ 5.1B · 知能 11.6ネイティブ 4.25ビット65.3 GB133–237
Mistral Small 4 (119B)119B · アクティブ 6.5B · 知能 11.38ビット126 GB52–93
Qwen3.5 9B9B · 知能 11.28ビット9.6 GB38–67
Granite 4.2 8B8B · 知能 11.18ビット8.5 GB42–75
Qwen3 Coder Next80B · アクティブ 3B · 知能 9.28ビット85 GB113–200
Granite 4.2 3B3B · 知能 9.18ビット3.2 GB113–200
gpt-oss-20b21B · アクティブ 3.6B · 知能 9ネイティブ 4.25ビット13.8 GB189–337
Nemotron 3 Nano 30B A3B30B · アクティブ 3.5B · 知能 8.98ビット31.9 GB97–173
Gemma 4 E4B8B · 知能 8.98ビット8.5 GB75–133
Llama 4 Scout 17B-16E Instruct109B · アクティブ 17B · 知能 6.58ビット116 GB20–35
Ministral 3 8B8.9B · 知能 5.58ビット9.5 GB38–67
Nemotron 3 Nano 4B3.97B · 知能 4.88ビット4.2 GB86–152
MiniMax M2.7230B · アクティブ 10B4ビット129 GB64–114
Ornith 1.5 122B122B · アクティブ 10B8ビット130 GB34–60
Nemotron 3 Super 120B A12B120B · アクティブ 12B8ビット128 GB28–50
GLM-4.5 Air106B · アクティブ 12B8ビット113 GB28–50
Qwen3 Coder 30B A3B Instruct30.5B · アクティブ 3.3B8ビット32.4 GB103–183
GLM-4.7 Flash30B · アクティブ 3B8ビット31.9 GB113–200
Qwen3.6 27B27B8ビット28.7 GB13–22
Gemma 4 26B A4B25.2B · アクティブ 3.8B8ビット26.8 GB90–160
Devstral Small 2 (24B)24B8ビット25.5 GB14–25
Magistral Small 1.2 (2509)24B8ビット25.5 GB14–25
Mistral Small 3.2 (24B)24B8ビット25.5 GB14–25
LFM2.5 24B A2B24B · アクティブ 2B8ビット25.5 GB171–305
Phi-4 Reasoning Vision 15B15B8ビット15.9 GB23–40
Phi-4 (14B)14B8ビット14.9 GB24–43
Gemma 4 12B Unified12B8ビット12.7 GB28–50
Qwen3 8B8.2B8ビット8.7 GB41–74
Llama 3.1 8B Instruct8B8ビット8.5 GB42–75
Gemma 4 E2B5.1B8ビット5.4 GB150–267
Qwen3.5 4B4B8ビット4.3 GB84–149
Phi-4 mini instruct3.8B8ビット4 GB90–160
Llama 3.2 3B Instruct3.21B8ビット3.4 GB106–188
SmolLM3 3B3B8ビット3.2 GB113–200
LFM2.5 2.6B2.69B8ビット2.9 GB124–221
Qwen3.5 2B2B8ビット2.1 GB171–305
Llama 3.2 1B Instruct1.23B8ビット1.3 GB277–492
Qwen3.5 0.8B0.8B8ビット0.9 GB400–711
Qwen3 0.6B0.6B8ビット0.6 GB600–1067
GLM-5.3 Flash320B · アクティブ 18B · 知能 41.82ビット 品質低め100 GB64–114
MiMo V2.6 Flash309B · アクティブ 15B · 知能 37.92ビット 品質低め96.6 GB77–136
Inkling Small276B · アクティブ 12B · 知能 25.73ビット 品質低め121 GB68–121
Hy3295B · アクティブ 21B · 知能 25.33ビット 品質低め129 GB39–70
Qwen3.5 397B A17B397B · アクティブ 17B · 知能 18.42ビット 品質低め124 GB68–121
Llama 4 Maverick 17B-128E Instruct400B · アクティブ 17B · 知能 9.32ビット 品質低め125 GB68–121
DeepSeek V4 Flash 0731284B · アクティブ 13B3ビット 品質低め124 GB63–112

動くが遅い 3

収まるものの毎秒 10 トークン未満。バッチ処理には十分ですが、チャットには遅めです。

モデルバージョンメモリトークン/秒
Mistral Medium 3.5 (128B)128B · 知能 14.26ビット104 GB3–6
Devstral 2 (123B)123B8ビット131 GB3–5
Llama 3.3 70B Instruct70B8ビット74.4 GB5–9

ぎりぎり収まる 2

メモリをほぼ使い切ります。GPU のメモリ上限を引き上げ、コンテキストを短めにしてください。

モデルバージョンメモリトークン/秒
Beam 1.0501B · アクティブ 23B · 知能 30.32ビット 品質低め157 GB50–89
MiniMax M3428B · アクティブ 23B · 知能 29.22ビット 品質低め134 GB50–89

大きすぎる 12

2 ビットでも 192 GB を超えるメモリが必要です。

ほかの Mac

192 GB のすべての Mac(チップを問わず)。

メモリ容量違いの M2 Ultra:

近いチップ:

直接比較:

どの Mac や GPU とも比較 · ローカル AI のための M2 Ultra · ローカル LLM に最適な Mac · すべての Mac

よくある質問

192 GB の M2 Ultra に最適な LLM は?
Intelligence Index が公開されているモデルのうち、ここで快適に動く中でスコアが最も高いのは Qwen3.8 Flash Next です:4ビット、毎秒約 106–188 トークン。快適に動くいちばん大きなモデルは MiniMax M2.7 です。
192 GB の M2 Ultra で Llama 3.3 70B は動く?
はい、ただし遅めです。8ビット で、毎秒約 5–9 トークンです。
M2 Ultra での gpt-oss-20b の速さは?
毎秒約 189–337 トークン(ネイティブ 4.25ビット)。チップのメモリ帯域幅 800 GB/s から計算しています。

MLX Harness(無料、オープンソース)か、ターミナルで Apple の mlx-lm を使って動かせます:手順を見る。

計算方法

メモリ:モデルのパラメータを重みあたり 8、6、4、3、2 ビットで計算し、MLX のグループスケール(重みあたり 0.5 ビット)を加えたもの、またはネイティブ形式のサイズに、コンテキスト用の余裕を足しています。macOS は標準で、ユニファイドメモリの約 75% を GPU に使わせます。速度:メモリ帯域幅をトークンあたりの読み込みバイト数で割った値が、1 つの会話の上限です。llama.cpp の Apple Silicon 公開ベンチマークでは、実際の速度はその約 45%〜80% に達しており、その範囲を表示しています。これは実測ではなく推定です。ご自分の Mac は MLX Bench で測れます。モデルの数値は各公式モデルカード、チップの数値は Apple の技術仕様から。2026-10-19 確認。mlx.app/compare と同じデータです。

192 GB の M2 Ultra で動く LLM は?全モデルと速度