32 GB の M5 で何が動く?

73 個のオープンモデルのうち 28 個が快適に動きます。GPU は標準で 32 GB のうち約 24 GB を使え、メモリの読み込み速度は 153 GB/s。これが生成の速さを決めます。搭載モデル:MacBook Pro (14-inch, M5), MacBook Air (13-inch, M5), MacBook Air (15-inch, M5)。

快適に動く中でいちばん賢いQwen3.6 35B A3B4ビット · 19.7 GB · 41–72 tok/s快適に動く中でいちばん大きいQwen3.6 35B A3B4ビット · 19.7 GB · 41–72 tok/sコード向けQwen3 Coder 30B A3B Instruct4ビット · 17.2 GB · 36–64 tok/s

快適に動く 28

コンテキスト用の余裕を残して収まり、毎秒 10 トークン以上。

モデルバージョンメモリトークン/秒
Qwen3.6 35B A3B35B · アクティブ 3B · 知能 18.24ビット19.7 GB41–72
Nemotron 3.5 Lightning 30B A3B30B · アクティブ 3B · 知能 12.94ビット16.9 GB41–72
MiniCPM5 2B2.52B · 知能 12.58ビット2.7 GB26–45
Qwen3.5 9B9B · 知能 11.24ビット5.1 GB14–24
Granite 4.2 8B8B · 知能 11.16ビット6.5 GB11–19
Granite 4.2 3B3B · 知能 9.18ビット3.2 GB22–38
gpt-oss-20b21B · アクティブ 3.6B · 知能 9ネイティブ 4.25ビット13.8 GB36–64
Nemotron 3 Nano 30B A3B30B · アクティブ 3.5B · 知能 8.94ビット16.9 GB34–61
Gemma 4 E4B8B · 知能 8.98ビット8.5 GB14–26
Ministral 3 8B8.9B · 知能 5.56ビット7.2 GB10–17
Nemotron 3 Nano 4B3.97B · 知能 4.88ビット4.2 GB16–29
Qwen3 Coder 30B A3B Instruct30.5B · アクティブ 3.3B4ビット17.2 GB36–64
GLM-4.7 Flash30B · アクティブ 3B4ビット16.9 GB41–72
Gemma 4 26B A4B25.2B · アクティブ 3.8B6ビット20.5 GB22–39
LFM2.5 24B A2B24B · アクティブ 2B6ビット19.5 GB43–77
Gemma 4 12B Unified12B4ビット6.7 GB10–18
Qwen3 8B8.2B6ビット6.7 GB10–18
Llama 3.1 8B Instruct8B6ビット6.5 GB11–19
Gemma 4 E2B5.1B8ビット5.4 GB29–51
Qwen3.5 4B4B8ビット4.3 GB16–28
Phi-4 mini instruct3.8B8ビット4 GB17–31
Llama 3.2 3B Instruct3.21B8ビット3.4 GB20–36
SmolLM3 3B3B8ビット3.2 GB22–38
LFM2.5 2.6B2.69B8ビット2.9 GB24–42
Qwen3.5 2B2B8ビット2.1 GB33–58
Llama 3.2 1B Instruct1.23B8ビット1.3 GB53–94
Qwen3.5 0.8B0.8B8ビット0.9 GB77–136
Qwen3 0.6B0.6B8ビット0.6 GB115–204

動くが遅い 11

収まるものの毎秒 10 トークン未満。バッチ処理には十分ですが、チャットには遅めです。

モデルバージョンメモリトークン/秒
Qwen3.8 27B27B · 知能 33.76ビット21.9 GB3–6
Muse Glimmer 30B29.6B · 知能 17.54ビット16.7 GB4–7
Gemma 4 31B30.7B · 知能 14.74ビット17.3 GB4–7
Granite 4.2 30B30B · 知能 12.74ビット16.9 GB4–7
Qwen3.6 27B27B6ビット21.9 GB3–6
Devstral Small 2 (24B)24B6ビット19.5 GB4–6
Magistral Small 1.2 (2509)24B6ビット19.5 GB4–6
Mistral Small 3.2 (24B)24B6ビット19.5 GB4–6
Phi-4 Reasoning Vision 15B15B8ビット15.9 GB4–8
Phi-4 (14B)14B8ビット14.9 GB5–8
Llama 3.3 70B Instruct70B2ビット 品質低め21.9 GB3–6

ぎりぎり収まる 2

メモリをほぼ使い切ります。GPU のメモリ上限を引き上げ、コンテキストを短めにしてください。

モデルバージョンメモリトークン/秒
Nemotron 3.5 Bolt 74B A9B74B · アクティブ 9B · 知能 21.42ビット 品質低め23.1 GB25–44
Qwen3 Coder Next80B · アクティブ 3B · 知能 9.22ビット 品質低め25 GB77–136

大きすぎる 32

2 ビットでも 32 GB を超えるメモリが必要です。

ほかの Mac

32 GB のすべての Mac(チップを問わず)。

メモリ容量違いの M5:

近いチップ:

直接比較:

どの Mac や GPU とも比較 · ローカル AI のための M5 · ローカル LLM に最適な Mac · すべての Mac

よくある質問

32 GB の M5 に最適な LLM は?
Intelligence Index が公開されているモデルのうち、ここで快適に動く中でスコアが最も高いのは Qwen3.6 35B A3B です:4ビット、毎秒約 41–72 トークン。
32 GB の M5 で Llama 3.3 70B は動く?
はい、ただし遅めです。2ビット(品質低め) で、毎秒約 3–6 トークンです。
M5 での gpt-oss-20b の速さは?
毎秒約 36–64 トークン(ネイティブ 4.25ビット)。チップのメモリ帯域幅 153 GB/s から計算しています。

MLX Harness(無料、オープンソース)か、ターミナルで Apple の mlx-lm を使って動かせます:手順を見る。

計算方法

メモリ:モデルのパラメータを重みあたり 8、6、4、3、2 ビットで計算し、MLX のグループスケール(重みあたり 0.5 ビット)を加えたもの、またはネイティブ形式のサイズに、コンテキスト用の余裕を足しています。macOS は標準で、ユニファイドメモリの約 75% を GPU に使わせます。速度:メモリ帯域幅をトークンあたりの読み込みバイト数で割った値が、1 つの会話の上限です。llama.cpp の Apple Silicon 公開ベンチマークでは、実際の速度はその約 45%〜80% に達しており、その範囲を表示しています。これは実測ではなく推定です。ご自分の Mac は MLX Bench で測れます。モデルの数値は各公式モデルカード、チップの数値は Apple の技術仕様から。2026-10-19 確認。mlx.app/compare と同じデータです。

32 GB の M5 で動く LLM は?全モデルと速度