ログインウォレットを作成

24 GB の Mac に最適な LLM。

73 個のオープンモデルのうち 28 個が 24 GB で快適に動きます。GPU は標準でそのうち約 18 GB を使えます。速度はチップ次第で、M3 の 100 GB/s から M5 Pro の 307 GB/s までです。

快適に動く中でいちばん賢いMiniCPM5 2B8ビット · 2.7 GB · 17–91 tok/s快適に動く中でいちばん大きいGemma 4 26B A4B4ビット · 14.2 GB · 21–117 tok/sコード向けDevstral Small 2 (24B)4ビット · 13.5 GB · 3–18 tok/s

24 GB の Mac

M2〜M6 の 7 個のチップに 24 GB モデルがあります。チップを開くと、それぞれの一覧と速度がわかります。

快適に動く 36

コンテキスト用の余裕を残して収まり、M5 Pro で毎秒 10 トークン以上。

モデルバージョンメモリM3M5 Pro
MiniCPM5 2B2.52B · 知能 12.58ビット2.7 GB17–3051–91
Qwen3.5 9B9B · 知能 11.28ビット9.6 GB5–814–26
Granite 4.2 8B8B · 知能 11.18ビット8.5 GB10–1816–29
Granite 4.2 3B3B · 知能 9.18ビット3.2 GB14–2543–77
gpt-oss-20b21B · アクティブ 3.6B · 知能 9ネイティブ 4.25ビット13.8 GB24–4273–129
Gemma 4 E4B8B · 知能 8.98ビット8.5 GB12–2229–51
Ministral 3 8B8.9B · 知能 5.58ビット9.5 GB5–815–26
Nemotron 3 Nano 4B3.97B · 知能 4.88ビット4.2 GB11–1933–58
Gemma 4 26B A4B25.2B · アクティブ 3.8B4ビット14.2 GB21–3866–117
Devstral Small 2 (24B)24B4ビット13.5 GB3–610–18
Magistral Small 1.2 (2509)24B4ビット13.5 GB3–610–18
Mistral Small 3.2 (24B)24B4ビット13.5 GB3–610–18
LFM2.5 24B A2B24B · アクティブ 2B4ビット13.5 GB41–73126–223
Phi-4 Reasoning Vision 15B15B6ビット12.2 GB3–511–20
Phi-4 (14B)14B6ビット11.4 GB3–512–22
Gemma 4 12B Unified12B8ビット12.7 GB4–611–19
Qwen3 8B8.2B8ビット8.7 GB10–1716–28
Llama 3.1 8B Instruct8B8ビット8.5 GB10–1816–29
Gemma 4 E2B5.1B8ビット5.4 GB19–3358–102
Qwen3.5 4B4B8ビット4.3 GB10–1932–57
Phi-4 mini instruct3.8B8ビット4 GB11–2035–61
Llama 3.2 3B Instruct3.21B8ビット3.4 GB13–2441–72
SmolLM3 3B3B8ビット3.2 GB14–2543–77
LFM2.5 2.6B2.69B8ビット2.9 GB16–2848–85
Qwen3.5 2B2B8ビット2.1 GB21–3866–117
Llama 3.2 1B Instruct1.23B8ビット1.3 GB35–62106–189
Qwen3.5 0.8B0.8B8ビット0.9 GB50–89154–273
Qwen3 0.6B0.6B8ビット0.6 GB75–133230–409
Qwen3.6 35B A3B35B · アクティブ 3B · 知能 18.23ビット 品質低め15.3 GB35–62106–189
Muse Glimmer 30B29.6B · 知能 17.53ビット 品質低め13 GB3–611–19
Gemma 4 31B30.7B · 知能 14.73ビット 品質低め13.4 GB3–610–18
Nemotron 3.5 Lightning 30B A3B30B · アクティブ 3B · 知能 12.93ビット 品質低め13.1 GB35–62106–189
Granite 4.2 30B30B · 知能 12.73ビット 品質低め13.1 GB3–611–19
Nemotron 3 Nano 30B A3B30B · アクティブ 3.5B · 知能 8.93ビット 品質低め13.1 GB30–5392–164
Qwen3 Coder 30B A3B Instruct30.5B · アクティブ 3.3B3ビット 品質低め13.3 GB32–5799–175
GLM-4.7 Flash30B · アクティブ 3B3ビット 品質低め13.1 GB35–62106–189

動くが遅い 2

収まるものの毎秒 10 トークン未満。バッチ処理には十分ですが、チャットには遅めです。

モデルバージョンメモリM3M5 Pro
Qwen3.8 27B27B · 知能 33.74ビット15.2 GB3–59–16
Qwen3.6 27B27B4ビット15.2 GB3–59–16

大きすぎる 35

2 ビットでも 24 GB を超えるメモリが必要です。

よくある質問

24 GB の Mac に最適な LLM は？
Intelligence Index が公開されているモデルのうち、24 GB で快適に動く中でスコアが最も高いのは MiniCPM5 2B です（8ビット）。快適に動くいちばん大きなモデルは Gemma 4 26B A4B です。コード向けなら Devstral Small 2 (24B)。
Mac でローカル AI を使うのに 24 GB で足りる？
ここにある 73 個のオープンモデルのうち 28 個が、4 ビット以上で快適に動きます。macOS は標準でそのうち約 18 GB を GPU に使わせるので、モデルとコンテキストはその範囲に収める必要があります。
24 GB の Mac で gpt-oss-20b は動く？
はい。ネイティブ 4.25ビット で、M3 なら毎秒約 24–42 トークン、M5 Pro なら 73–129 トークンです。

ほかの容量： 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB

MLX Harness（無料、オープンソース）か、ターミナルで Apple の mlx-lm を使って動かせます：手順を見る。

計算方法

メモリ：モデルのパラメータを重みあたり 8、6、4、3、2 ビットで計算し、MLX のグループスケール（重みあたり 0.5 ビット）を加えたもの、またはネイティブ形式のサイズに、コンテキスト用の余裕を足しています。macOS は標準で、ユニファイドメモリの約 75% を GPU に使わせます。速度：メモリ帯域幅をトークンあたりの読み込みバイト数で割った値が、1 つの会話の上限です。llama.cpp の Apple Silicon 公開ベンチマークでは、実際の速度はその約 45%〜80% に達しており、その範囲を表示しています。これは実測ではなく推定です。ご自分の Mac は MLX Bench で測れます。モデルの数値は各公式モデルカード、チップの数値は Apple の技術仕様から。2026-10-19 確認。mlx.app/compare と同じデータです。

24 GB の Mac に最適なローカル LLM（M2〜M6）：動くモデルと速度