ログインウォレットを作成

96 GB の Mac に最適な LLM。

73 個のオープンモデルのうち 44 個が 96 GB で快適に動きます。GPU は標準でそのうち約 72 GB を使えます。速度はチップ次第で、M3 Max の 300 GB/s から M5 Ultra の 1,200 GB/s までです。

快適に動く中でいちばん賢いQwen3.8 27B8ビット · 28.7 GB · 5–33 tok/s快適に動く中でいちばん大きいgpt-oss-120bネイティブ 4.25ビット · 65.3 GB · 50–356 tok/sコード向けQwen3 Coder Next6ビット · 65 GB · 56–400 tok/s

96 GB の Mac

M2〜M5 の 4 個のチップに 96 GB モデルがあります。チップを開くと、それぞれの一覧と速度がわかります。

快適に動く 51

コンテキスト用の余裕を残して収まり、M5 Ultra で毎秒 10 トークン以上。

モデルバージョンメモリM3 MaxM5 Ultra
Qwen3.8 27B27B · 知能 33.78ビット28.7 GB5–819–33
Nemotron 3.5 Bolt 74B A9B74B · アクティブ 9B · 知能 21.46ビット60.1 GB18–3374–132
Qwen3.6 35B A3B35B · アクティブ 3B · 知能 18.28ビット37.2 GB42–75169–300
Muse Glimmer 30B29.6B · 知能 17.58ビット31.5 GB4–817–30
Gemma 4 31B30.7B · 知能 14.78ビット32.6 GB4–717–29
Nemotron 3.5 Lightning 30B A3B30B · アクティブ 3B · 知能 12.98ビット31.9 GB42–75169–300
Granite 4.2 30B30B · 知能 12.78ビット31.9 GB4–817–30
MiniCPM5 2B2.52B · 知能 12.58ビット2.7 GB50–89200–356
gpt-oss-120b117B · アクティブ 5.1B · 知能 11.6ネイティブ 4.25ビット65.3 GB50–89200–356
Qwen3.5 9B9B · 知能 11.28ビット9.6 GB14–2556–100
Granite 4.2 8B8B · 知能 11.18ビット8.5 GB16–2864–113
Qwen3 Coder Next80B · アクティブ 3B · 知能 9.26ビット65 GB56–100225–400
Granite 4.2 3B3B · 知能 9.18ビット3.2 GB42–75169–300
gpt-oss-20b21B · アクティブ 3.6B · 知能 9ネイティブ 4.25ビット13.8 GB71–126284–505
Nemotron 3 Nano 30B A3B30B · アクティブ 3.5B · 知能 8.98ビット31.9 GB36–65146–259
Gemma 4 E4B8B · 知能 8.98ビット8.5 GB28–50113–200
Llama 4 Scout 17B-16E Instruct109B · アクティブ 17B · 知能 6.54ビット61.3 GB14–2556–100
Ministral 3 8B8.9B · 知能 5.58ビット9.5 GB14–2557–101
Nemotron 3 Nano 4B3.97B · 知能 4.88ビット4.2 GB32–57129–229
GLM-4.5 Air106B · アクティブ 12B4ビット59.6 GB20–3579–141
Llama 3.3 70B Instruct70B4ビット39.4 GB2–414–24
Qwen3 Coder 30B A3B Instruct30.5B · アクティブ 3.3B8ビット32.4 GB39–69154–274
GLM-4.7 Flash30B · アクティブ 3B8ビット31.9 GB42–75169–300
Qwen3.6 27B27B8ビット28.7 GB5–819–33
Gemma 4 26B A4B25.2B · アクティブ 3.8B8ビット26.8 GB34–60135–240
Devstral Small 2 (24B)24B8ビット25.5 GB10–1821–38
Magistral Small 1.2 (2509)24B8ビット25.5 GB10–1821–38
Mistral Small 3.2 (24B)24B8ビット25.5 GB10–1821–38
LFM2.5 24B A2B24B · アクティブ 2B8ビット25.5 GB64–114257–457
Phi-4 Reasoning Vision 15B15B8ビット15.9 GB11–2034–60
Phi-4 (14B)14B8ビット14.9 GB12–2136–64
Gemma 4 12B Unified12B8ビット12.7 GB11–1943–76
Qwen3 8B8.2B8ビット8.7 GB16–2862–110
Llama 3.1 8B Instruct8B8ビット8.5 GB16–2864–113
Gemma 4 E2B5.1B8ビット5.4 GB56–100225–400
Qwen3.5 4B4B8ビット4.3 GB31–56126–223
Phi-4 mini instruct3.8B8ビット4 GB34–60135–240
Llama 3.2 3B Instruct3.21B8ビット3.4 GB40–71159–282
SmolLM3 3B3B8ビット3.2 GB42–75169–300
LFM2.5 2.6B2.69B8ビット2.9 GB47–83186–331
Qwen3.5 2B2B8ビット2.1 GB64–114257–457
Llama 3.2 1B Instruct1.23B8ビット1.3 GB104–185415–738
Qwen3.5 0.8B0.8B8ビット0.9 GB150–267600–1067
Qwen3 0.6B0.6B8ビット0.6 GB225–400900–1600
Qwen3.8 Flash Next180B · アクティブ 6B · 知能 39.82ビット 品質低め56.3 GB71–126284–505
Qwen3.5 122B A10B122B · アクティブ 10B · 知能 15.63ビット 品質低め53.4 GB31–55123–218
Mistral Medium 3.5 (128B)128B · 知能 14.23ビット 品質低め56 GB2–410–17
Mistral Small 4 (119B)119B · アクティブ 6.5B · 知能 11.33ビット 品質低め52.1 GB48–86193–343
Devstral 2 (123B)123B3ビット 品質低め53.8 GB3–410–18
Ornith 1.5 122B122B · アクティブ 10B3ビット 品質低め53.4 GB31–55123–218
Nemotron 3 Super 120B A12B120B · アクティブ 12B3ビット 品質低め52.5 GB25–45102–181

ぎりぎり収まる 1

メモリをほぼ使い切ります。GPU のメモリ上限を引き上げ、コンテキストを短めにしてください。

モデルバージョンメモリM3 MaxM5 Ultra
MiniMax M2.7230B · アクティブ 10B2ビット 品質低め71.9 GB44–77174–310

大きすぎる 21

2 ビットでも 96 GB を超えるメモリが必要です。

よくある質問

96 GB の Mac に最適な LLM は？
Intelligence Index が公開されているモデルのうち、96 GB で快適に動く中でスコアが最も高いのは Qwen3.8 27B です（8ビット）。快適に動くいちばん大きなモデルは gpt-oss-120b です。コード向けなら Qwen3 Coder Next。
Mac でローカル AI を使うのに 96 GB で足りる？
ここにある 73 個のオープンモデルのうち 44 個が、4 ビット以上で快適に動きます。macOS は標準でそのうち約 72 GB を GPU に使わせるので、モデルとコンテキストはその範囲に収める必要があります。
96 GB の Mac で gpt-oss-20b は動く？
はい。ネイティブ 4.25ビット で、M3 Max なら毎秒約 71–126 トークン、M5 Ultra なら 284–505 トークンです。

ほかの容量： 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB

MLX Harness（無料、オープンソース）か、ターミナルで Apple の mlx-lm を使って動かせます：手順を見る。

計算方法

メモリ：モデルのパラメータを重みあたり 8、6、4、3、2 ビットで計算し、MLX のグループスケール（重みあたり 0.5 ビット）を加えたもの、またはネイティブ形式のサイズに、コンテキスト用の余裕を足しています。macOS は標準で、ユニファイドメモリの約 75% を GPU に使わせます。速度：メモリ帯域幅をトークンあたりの読み込みバイト数で割った値が、1 つの会話の上限です。llama.cpp の Apple Silicon 公開ベンチマークでは、実際の速度はその約 45%〜80% に達しており、その範囲を表示しています。これは実測ではなく推定です。ご自分の Mac は MLX Bench で測れます。モデルの数値は各公式モデルカード、チップの数値は Apple の技術仕様から。2026-10-19 確認。mlx.app/compare と同じデータです。

96 GB の Mac に最適なローカル LLM（M2〜M5）：動くモデルと速度