ログインウォレットを作成

96 GB の M3 Max で何が動く？

73 個のオープンモデルのうち 38 個が快適に動きます。GPU は標準で 96 GB のうち約 72 GB を使え、メモリの読み込み速度は 300 GB/s。これが生成の速さを決めます。搭載モデル：MacBook Pro (14-inch, M3 Pro or M3 Max, Nov 2023), MacBook Pro (16-inch, Nov 2023)。

快適に動く中でいちばん賢いNemotron 3.5 Bolt 74B A9B6ビット · 60.1 GB · 18–33 tok/s快適に動く中でいちばん大きいgpt-oss-120bネイティブ 4.25ビット · 65.3 GB · 50–89 tok/sコード向けQwen3 Coder Next6ビット · 65 GB · 56–100 tok/s

快適に動く 43

コンテキスト用の余裕を残して収まり、毎秒 10 トークン以上。

モデルバージョンメモリトークン/秒
Nemotron 3.5 Bolt 74B A9B74B · アクティブ 9B · 知能 21.46ビット60.1 GB18–33
Qwen3.6 35B A3B35B · アクティブ 3B · 知能 18.28ビット37.2 GB42–75
Nemotron 3.5 Lightning 30B A3B30B · アクティブ 3B · 知能 12.98ビット31.9 GB42–75
MiniCPM5 2B2.52B · 知能 12.58ビット2.7 GB50–89
gpt-oss-120b117B · アクティブ 5.1B · 知能 11.6ネイティブ 4.25ビット65.3 GB50–89
Qwen3.5 9B9B · 知能 11.28ビット9.6 GB14–25
Granite 4.2 8B8B · 知能 11.18ビット8.5 GB16–28
Qwen3 Coder Next80B · アクティブ 3B · 知能 9.26ビット65 GB56–100
Granite 4.2 3B3B · 知能 9.18ビット3.2 GB42–75
gpt-oss-20b21B · アクティブ 3.6B · 知能 9ネイティブ 4.25ビット13.8 GB71–126
Nemotron 3 Nano 30B A3B30B · アクティブ 3.5B · 知能 8.98ビット31.9 GB36–65
Gemma 4 E4B8B · 知能 8.98ビット8.5 GB28–50
Llama 4 Scout 17B-16E Instruct109B · アクティブ 17B · 知能 6.54ビット61.3 GB14–25
Ministral 3 8B8.9B · 知能 5.58ビット9.5 GB14–25
Nemotron 3 Nano 4B3.97B · 知能 4.88ビット4.2 GB32–57
GLM-4.5 Air106B · アクティブ 12B4ビット59.6 GB20–35
Qwen3 Coder 30B A3B Instruct30.5B · アクティブ 3.3B8ビット32.4 GB39–69
GLM-4.7 Flash30B · アクティブ 3B8ビット31.9 GB42–75
Gemma 4 26B A4B25.2B · アクティブ 3.8B8ビット26.8 GB34–60
Devstral Small 2 (24B)24B4ビット13.5 GB10–18
Magistral Small 1.2 (2509)24B4ビット13.5 GB10–18
Mistral Small 3.2 (24B)24B4ビット13.5 GB10–18
LFM2.5 24B A2B24B · アクティブ 2B8ビット25.5 GB64–114
Phi-4 Reasoning Vision 15B15B6ビット12.2 GB11–20
Phi-4 (14B)14B6ビット11.4 GB12–21
Gemma 4 12B Unified12B8ビット12.7 GB11–19
Qwen3 8B8.2B8ビット8.7 GB16–28
Llama 3.1 8B Instruct8B8ビット8.5 GB16–28
Gemma 4 E2B5.1B8ビット5.4 GB56–100
Qwen3.5 4B4B8ビット4.3 GB31–56
Phi-4 mini instruct3.8B8ビット4 GB34–60
Llama 3.2 3B Instruct3.21B8ビット3.4 GB40–71
SmolLM3 3B3B8ビット3.2 GB42–75
LFM2.5 2.6B2.69B8ビット2.9 GB47–83
Qwen3.5 2B2B8ビット2.1 GB64–114
Llama 3.2 1B Instruct1.23B8ビット1.3 GB104–185
Qwen3.5 0.8B0.8B8ビット0.9 GB150–267
Qwen3 0.6B0.6B8ビット0.6 GB225–400
Qwen3.8 Flash Next180B · アクティブ 6B · 知能 39.82ビット 品質低め56.3 GB71–126
Qwen3.5 122B A10B122B · アクティブ 10B · 知能 15.63ビット 品質低め53.4 GB31–55
Mistral Small 4 (119B)119B · アクティブ 6.5B · 知能 11.33ビット 品質低め52.1 GB48–86
Ornith 1.5 122B122B · アクティブ 10B3ビット 品質低め53.4 GB31–55
Nemotron 3 Super 120B A12B120B · アクティブ 12B3ビット 品質低め52.5 GB25–45

動くが遅い 8

収まるものの毎秒 10 トークン未満。バッチ処理には十分ですが、チャットには遅めです。

モデルバージョンメモリトークン/秒
Qwen3.8 27B27B · 知能 33.78ビット28.7 GB5–8
Muse Glimmer 30B29.6B · 知能 17.58ビット31.5 GB4–8
Gemma 4 31B30.7B · 知能 14.78ビット32.6 GB4–7
Granite 4.2 30B30B · 知能 12.78ビット31.9 GB4–8
Llama 3.3 70B Instruct70B6ビット56.9 GB2–4
Qwen3.6 27B27B8ビット28.7 GB5–8
Mistral Medium 3.5 (128B)128B · 知能 14.23ビット 品質低め56 GB2–4
Devstral 2 (123B)123B3ビット 品質低め53.8 GB3–4

ぎりぎり収まる 1

メモリをほぼ使い切ります。GPU のメモリ上限を引き上げ、コンテキストを短めにしてください。

モデルバージョンメモリトークン/秒
MiniMax M2.7230B · アクティブ 10B2ビット 品質低め71.9 GB44–77

大きすぎる 21

2 ビットでも 96 GB を超えるメモリが必要です。

ほかの Mac

96 GB のすべての Mac（チップを問わず）。

メモリ容量違いの M3 Max：

近いチップ：

直接比較：

どの Mac や GPU とも比較 · ローカル AI のための M3 Max · ローカル LLM に最適な Mac · すべての Mac

よくある質問

96 GB の M3 Max に最適な LLM は？
Intelligence Index が公開されているモデルのうち、ここで快適に動く中でスコアが最も高いのは Nemotron 3.5 Bolt 74B A9B です：6ビット、毎秒約 18–33 トークン。快適に動くいちばん大きなモデルは gpt-oss-120b です。
96 GB の M3 Max で Llama 3.3 70B は動く？
はい、ただし遅めです。6ビット で、毎秒約 2–4 トークンです。
M3 Max での gpt-oss-20b の速さは？
毎秒約 71–126 トークン（ネイティブ 4.25ビット）。チップのメモリ帯域幅 300 GB/s から計算しています。

MLX Harness（無料、オープンソース）か、ターミナルで Apple の mlx-lm を使って動かせます：手順を見る。

計算方法

メモリ：モデルのパラメータを重みあたり 8、6、4、3、2 ビットで計算し、MLX のグループスケール（重みあたり 0.5 ビット）を加えたもの、またはネイティブ形式のサイズに、コンテキスト用の余裕を足しています。macOS は標準で、ユニファイドメモリの約 75% を GPU に使わせます。速度：メモリ帯域幅をトークンあたりの読み込みバイト数で割った値が、1 つの会話の上限です。llama.cpp の Apple Silicon 公開ベンチマークでは、実際の速度はその約 45%〜80% に達しており、その範囲を表示しています。これは実測ではなく推定です。ご自分の Mac は MLX Bench で測れます。モデルの数値は各公式モデルカード、チップの数値は Apple の技術仕様から。2026-10-19 確認。mlx.app/compare と同じデータです。

96 GB の M3 Max で動く LLM は？全モデルと速度