512 GB の M5 Ultra で何が動く?

73 個のオープンモデルのうち 61 個が快適に動きます。GPU は標準で 512 GB のうち約 384 GB を使え、メモリの読み込み速度は 1,200 GB/s。これが生成の速さを決めます。搭載モデル:Mac Studio (M5 Max or M5 Ultra)。

快適に動く中でいちばん賢いDeepSeek V4.1 Flash 10174ビット · 311 GB · 60–107 tok/s快適に動く中でいちばん大きいDeepSeek V4.1 Flash 10174ビット · 311 GB · 60–107 tok/sコード向けQwen3 Coder Next8ビット · 85 GB · 169–300 tok/s

快適に動く 68

コンテキスト用の余裕を残して収まり、毎秒 10 トークン以上。

モデルバージョンメモリトークン/秒
DeepSeek V4.1 Flash 1017552B · アクティブ 16B · 知能 45.14ビット311 GB60–107
GLM-5.3 Flash320B · アクティブ 18B · 知能 41.88ビット340 GB28–50
Qwen3.8 Flash Next180B · アクティブ 6B · 知能 39.88ビット191 GB84–150
MiMo V2.6 Flash309B · アクティブ 15B · 知能 37.9ネイティブ 4.48ビット173 GB64–114
Qwen3.8 27B27B · 知能 33.78ビット28.7 GB19–33
Beam 1.0501B · アクティブ 23B · 知能 30.34ビット282 GB42–74
MiniMax M3428B · アクティブ 23B · 知能 29.26ビット348 GB29–51
Inkling Small276B · アクティブ 12B · 知能 25.78ビット293 GB42–75
Hy3295B · アクティブ 21B · 知能 25.38ビット313 GB24–43
Nemotron 3 Ultra 550B A55B550B · アクティブ 55B · 知能 22.94ビット309 GB17–31
Nemotron 3.5 Bolt 74B A9B74B · アクティブ 9B · 知能 21.48ビット78.6 GB56–100
Qwen3.5 397B A17B397B · アクティブ 17B · 知能 18.46ビット323 GB39–70
Qwen3.6 35B A3B35B · アクティブ 3B · 知能 18.28ビット37.2 GB169–300
Muse Glimmer 30B29.6B · 知能 17.58ビット31.5 GB17–30
Qwen3.5 122B A10B122B · アクティブ 10B · 知能 15.68ビット130 GB51–91
Gemma 4 31B30.7B · 知能 14.78ビット32.6 GB17–29
Nemotron 3.5 Lightning 30B A3B30B · アクティブ 3B · 知能 12.98ビット31.9 GB169–300
Granite 4.2 30B30B · 知能 12.78ビット31.9 GB17–30
MiniCPM5 2B2.52B · 知能 12.58ビット2.7 GB200–356
gpt-oss-120b117B · アクティブ 5.1B · 知能 11.6ネイティブ 4.25ビット65.3 GB200–356
Mistral Small 4 (119B)119B · アクティブ 6.5B · 知能 11.38ビット126 GB78–139
Qwen3.5 9B9B · 知能 11.28ビット9.6 GB56–100
Granite 4.2 8B8B · 知能 11.18ビット8.5 GB64–113
Llama 4 Maverick 17B-128E Instruct400B · アクティブ 17B · 知能 9.36ビット325 GB39–70
Qwen3 Coder Next80B · アクティブ 3B · 知能 9.28ビット85 GB169–300
Granite 4.2 3B3B · 知能 9.18ビット3.2 GB169–300
gpt-oss-20b21B · アクティブ 3.6B · 知能 9ネイティブ 4.25ビット13.8 GB284–505
Nemotron 3 Nano 30B A3B30B · アクティブ 3.5B · 知能 8.98ビット31.9 GB146–259
Gemma 4 E4B8B · 知能 8.98ビット8.5 GB113–200
Llama 4 Scout 17B-16E Instruct109B · アクティブ 17B · 知能 6.58ビット116 GB30–53
Ministral 3 8B8.9B · 知能 5.58ビット9.5 GB57–101
Nemotron 3 Nano 4B3.97B · 知能 4.88ビット4.2 GB129–229
DeepSeek V4 Flash 0731284B · アクティブ 13B8ビット302 GB39–70
MiniMax M2.7230B · アクティブ 10B8ビット244 GB51–91
Ornith 1.5 122B122B · アクティブ 10B8ビット130 GB51–91
Nemotron 3 Super 120B A12B120B · アクティブ 12B8ビット128 GB42–75
GLM-4.5 Air106B · アクティブ 12B8ビット113 GB42–75
Llama 3.3 70B Instruct70B4ビット39.4 GB14–24
Qwen3 Coder 30B A3B Instruct30.5B · アクティブ 3.3B8ビット32.4 GB154–274
GLM-4.7 Flash30B · アクティブ 3B8ビット31.9 GB169–300
Qwen3.6 27B27B8ビット28.7 GB19–33
Gemma 4 26B A4B25.2B · アクティブ 3.8B8ビット26.8 GB135–240
Devstral Small 2 (24B)24B8ビット25.5 GB21–38
Magistral Small 1.2 (2509)24B8ビット25.5 GB21–38
Mistral Small 3.2 (24B)24B8ビット25.5 GB21–38
LFM2.5 24B A2B24B · アクティブ 2B8ビット25.5 GB257–457
Phi-4 Reasoning Vision 15B15B8ビット15.9 GB34–60
Phi-4 (14B)14B8ビット14.9 GB36–64
Gemma 4 12B Unified12B8ビット12.7 GB43–76
Qwen3 8B8.2B8ビット8.7 GB62–110
Llama 3.1 8B Instruct8B8ビット8.5 GB64–113
Gemma 4 E2B5.1B8ビット5.4 GB225–400
Qwen3.5 4B4B8ビット4.3 GB126–223
Phi-4 mini instruct3.8B8ビット4 GB135–240
Llama 3.2 3B Instruct3.21B8ビット3.4 GB159–282
SmolLM3 3B3B8ビット3.2 GB169–300
LFM2.5 2.6B2.69B8ビット2.9 GB186–331
Qwen3.5 2B2B8ビット2.1 GB257–457
Llama 3.2 1B Instruct1.23B8ビット1.3 GB415–738
Qwen3.5 0.8B0.8B8ビット0.9 GB600–1067
Qwen3 0.6B0.6B8ビット0.6 GB900–1600
MiMo V2.6 Pro1,020B · アクティブ 42B · 知能 46.32ビット 品質低め319 GB41–73
GLM-5.3744B · アクティブ 40B · 知能 44.83ビット 品質低め326 GB31–55
Muse Spark Open816B · アクティブ 42B · 知能 38.92ビット 品質低め255 GB41–73
Kimi K2.7 Code1,000B · アクティブ 32B · 知能 25.82ビット 品質低め313 GB54–96
Inkling975B · アクティブ 41B · 知能 252ビット 品質低め305 GB42–75
Kimi K2.61,000B · アクティブ 32B2ビット 品質低め313 GB54–96
Mistral Large 3 (675B)675B · アクティブ 41B3ビット 品質低め295 GB30–54

動くが遅い 2

収まるものの毎秒 10 トークン未満。バッチ処理には十分ですが、チャットには遅めです。

モデルバージョンメモリトークン/秒
Mistral Medium 3.5 (128B)128B · 知能 14.28ビット136 GB4–7
Devstral 2 (123B)123B8ビット131 GB4–7

大きすぎる 3

2 ビットでも 512 GB を超えるメモリが必要です。

ほかの Mac

512 GB のすべての Mac(チップを問わず)。

メモリ容量違いの M5 Ultra:

近いチップ:

直接比較:

PC やグラフィックカードとの比較:

どの Mac や GPU とも比較 · ローカル AI のための M5 Ultra · ローカル LLM に最適な Mac · すべての Mac

よくある質問

512 GB の M5 Ultra に最適な LLM は?
Intelligence Index が公開されているモデルのうち、ここで快適に動く中でスコアが最も高いのは DeepSeek V4.1 Flash 1017 です:4ビット、毎秒約 60–107 トークン。
512 GB の M5 Ultra で Llama 3.3 70B は動く?
はい。4ビット で、毎秒約 14–24 トークンです。
M5 Ultra での gpt-oss-20b の速さは?
毎秒約 284–505 トークン(ネイティブ 4.25ビット)。チップのメモリ帯域幅 1,200 GB/s から計算しています。

MLX Harness(無料、オープンソース)か、ターミナルで Apple の mlx-lm を使って動かせます:手順を見る。

計算方法

メモリ:モデルのパラメータを重みあたり 8、6、4、3、2 ビットで計算し、MLX のグループスケール(重みあたり 0.5 ビット)を加えたもの、またはネイティブ形式のサイズに、コンテキスト用の余裕を足しています。macOS は標準で、ユニファイドメモリの約 75% を GPU に使わせます。速度:メモリ帯域幅をトークンあたりの読み込みバイト数で割った値が、1 つの会話の上限です。llama.cpp の Apple Silicon 公開ベンチマークでは、実際の速度はその約 45%〜80% に達しており、その範囲を表示しています。これは実測ではなく推定です。ご自分の Mac は MLX Bench で測れます。モデルの数値は各公式モデルカード、チップの数値は Apple の技術仕様から。2026-10-19 確認。mlx.app/compare と同じデータです。

512 GB の M5 Ultra で動く LLM は?全モデルと速度