64 GB の M2 Ultra で何が動く?

73 個のオープンモデルのうち 39 個が快適に動きます。GPU は標準で 64 GB のうち約 48 GB を使え、メモリの読み込み速度は 800 GB/s。これが生成の速さを決めます。搭載モデル:Mac Studio (2023), Mac Pro (2023), Mac Pro (Rack, 2023)。

快適に動く中でいちばん賢いQwen3.8 27B8ビット · 28.7 GB · 13–22 tok/s快適に動く中でいちばん大きいNemotron 3.5 Bolt 74B A9B4ビット · 41.6 GB · 71–125 tok/sコード向けQwen3 Coder 30B A3B Instruct8ビット · 32.4 GB · 103–183 tok/s

快適に動く 47

コンテキスト用の余裕を残して収まり、毎秒 10 トークン以上。

モデルバージョンメモリトークン/秒
Qwen3.8 27B27B · 知能 33.78ビット28.7 GB13–22
Nemotron 3.5 Bolt 74B A9B74B · アクティブ 9B · 知能 21.44ビット41.6 GB71–125
Qwen3.6 35B A3B35B · アクティブ 3B · 知能 18.28ビット37.2 GB113–200
Muse Glimmer 30B29.6B · 知能 17.58ビット31.5 GB11–20
Gemma 4 31B30.7B · 知能 14.78ビット32.6 GB11–20
Nemotron 3.5 Lightning 30B A3B30B · アクティブ 3B · 知能 12.98ビット31.9 GB113–200
Granite 4.2 30B30B · 知能 12.78ビット31.9 GB11–20
MiniCPM5 2B2.52B · 知能 12.58ビット2.7 GB133–237
Qwen3.5 9B9B · 知能 11.28ビット9.6 GB38–67
Granite 4.2 8B8B · 知能 11.18ビット8.5 GB42–75
Granite 4.2 3B3B · 知能 9.18ビット3.2 GB113–200
gpt-oss-20b21B · アクティブ 3.6B · 知能 9ネイティブ 4.25ビット13.8 GB189–337
Nemotron 3 Nano 30B A3B30B · アクティブ 3.5B · 知能 8.98ビット31.9 GB97–173
Gemma 4 E4B8B · 知能 8.98ビット8.5 GB75–133
Ministral 3 8B8.9B · 知能 5.58ビット9.5 GB38–67
Nemotron 3 Nano 4B3.97B · 知能 4.88ビット4.2 GB86–152
Qwen3 Coder 30B A3B Instruct30.5B · アクティブ 3.3B8ビット32.4 GB103–183
GLM-4.7 Flash30B · アクティブ 3B8ビット31.9 GB113–200
Qwen3.6 27B27B8ビット28.7 GB13–22
Gemma 4 26B A4B25.2B · アクティブ 3.8B8ビット26.8 GB90–160
Devstral Small 2 (24B)24B8ビット25.5 GB14–25
Magistral Small 1.2 (2509)24B8ビット25.5 GB14–25
Mistral Small 3.2 (24B)24B8ビット25.5 GB14–25
LFM2.5 24B A2B24B · アクティブ 2B8ビット25.5 GB171–305
Phi-4 Reasoning Vision 15B15B8ビット15.9 GB23–40
Phi-4 (14B)14B8ビット14.9 GB24–43
Gemma 4 12B Unified12B8ビット12.7 GB28–50
Qwen3 8B8.2B8ビット8.7 GB41–74
Llama 3.1 8B Instruct8B8ビット8.5 GB42–75
Gemma 4 E2B5.1B8ビット5.4 GB150–267
Qwen3.5 4B4B8ビット4.3 GB84–149
Phi-4 mini instruct3.8B8ビット4 GB90–160
Llama 3.2 3B Instruct3.21B8ビット3.4 GB106–188
SmolLM3 3B3B8ビット3.2 GB113–200
LFM2.5 2.6B2.69B8ビット2.9 GB124–221
Qwen3.5 2B2B8ビット2.1 GB171–305
Llama 3.2 1B Instruct1.23B8ビット1.3 GB277–492
Qwen3.5 0.8B0.8B8ビット0.9 GB400–711
Qwen3 0.6B0.6B8ビット0.6 GB600–1067
Qwen3.5 122B A10B122B · アクティブ 10B · 知能 15.62ビット 品質低め38.1 GB116–206
gpt-oss-120b117B · アクティブ 5.1B · 知能 11.62ビット 品質低め36.6 GB225–400
Mistral Small 4 (119B)119B · アクティブ 6.5B · 知能 11.32ビット 品質低め37.2 GB180–320
Qwen3 Coder Next80B · アクティブ 3B · 知能 9.23ビット 品質低め35 GB277–492
Llama 4 Scout 17B-16E Instruct109B · アクティブ 17B · 知能 6.52ビット 品質低め34.1 GB68–121
Ornith 1.5 122B122B · アクティブ 10B2ビット 品質低め38.1 GB116–206
Nemotron 3 Super 120B A12B120B · アクティブ 12B2ビット 品質低め37.5 GB95–168
GLM-4.5 Air106B · アクティブ 12B2ビット 品質低め33.1 GB95–168

動くが遅い 3

収まるものの毎秒 10 トークン未満。バッチ処理には十分ですが、チャットには遅めです。

モデルバージョンメモリトークン/秒
Llama 3.3 70B Instruct70B4ビット39.4 GB9–16
Mistral Medium 3.5 (128B)128B · 知能 14.22ビット 品質低め40 GB9–16
Devstral 2 (123B)123B2ビット 品質低め38.4 GB9–17

大きすぎる 23

2 ビットでも 64 GB を超えるメモリが必要です。

ほかの Mac

64 GB のすべての Mac(チップを問わず)。

メモリ容量違いの M2 Ultra:

近いチップ:

直接比較:

どの Mac や GPU とも比較 · ローカル AI のための M2 Ultra · ローカル LLM に最適な Mac · すべての Mac

よくある質問

64 GB の M2 Ultra に最適な LLM は?
Intelligence Index が公開されているモデルのうち、ここで快適に動く中でスコアが最も高いのは Qwen3.8 27B です:8ビット、毎秒約 13–22 トークン。快適に動くいちばん大きなモデルは Nemotron 3.5 Bolt 74B A9B です。
64 GB の M2 Ultra で Llama 3.3 70B は動く?
はい、ただし遅めです。4ビット で、毎秒約 9–16 トークンです。
M2 Ultra での gpt-oss-20b の速さは?
毎秒約 189–337 トークン(ネイティブ 4.25ビット)。チップのメモリ帯域幅 800 GB/s から計算しています。

MLX Harness(無料、オープンソース)か、ターミナルで Apple の mlx-lm を使って動かせます:手順を見る。

計算方法

メモリ:モデルのパラメータを重みあたり 8、6、4、3、2 ビットで計算し、MLX のグループスケール(重みあたり 0.5 ビット)を加えたもの、またはネイティブ形式のサイズに、コンテキスト用の余裕を足しています。macOS は標準で、ユニファイドメモリの約 75% を GPU に使わせます。速度:メモリ帯域幅をトークンあたりの読み込みバイト数で割った値が、1 つの会話の上限です。llama.cpp の Apple Silicon 公開ベンチマークでは、実際の速度はその約 45%〜80% に達しており、その範囲を表示しています。これは実測ではなく推定です。ご自分の Mac は MLX Bench で測れます。モデルの数値は各公式モデルカード、チップの数値は Apple の技術仕様から。2026-10-19 確認。mlx.app/compare と同じデータです。

64 GB の M2 Ultra で動く LLM は?全モデルと速度