УвійтиСтворити гаманець

Найкращі LLM для Mac із 24 ГБ.

У 24 ГБ добре працюють 28 з 73 відкритих моделей. За замовчуванням GPU може використовувати близько 18 ГБ. Швидкість залежить від чипа: від 100 ГБ/с у M3 до 307 ГБ/с у M5 Pro.

Найрозумніша з тих, що працюють добреMiniCPM5 2B8 біт · 2,7 ГБ · 17–91 tok/sНайбільша з тих, що працюють добреGemma 4 26B A4B4 біт · 14,2 ГБ · 21–117 tok/sДля кодуDevstral Small 2 (24B)4 біт · 13,5 ГБ · 3–18 tok/s

Mac із 24 ГБ

Чипів M2–M6 із 24 ГБ: 7. Відкрийте будь-який, щоб побачити його список і швидкість.

Працюють добре 36

Вміщується із запасом для контексту, 10 і більше токенів за секунду на M5 Pro.

МодельВерсіяПам’ятьM3M5 Pro
MiniCPM5 2B2,52B · Інтелект 12,58 біт2,7 ГБ17–3051–91
Qwen3.5 9B9B · Інтелект 11,28 біт9,6 ГБ5–814–26
Granite 4.2 8B8B · Інтелект 11,18 біт8,5 ГБ10–1816–29
Granite 4.2 3B3B · Інтелект 9,18 біт3,2 ГБ14–2543–77
gpt-oss-20b21B · активних: 3,6B · Інтелект 9нативні 4,25 біт13,8 ГБ24–4273–129
Gemma 4 E4B8B · Інтелект 8,98 біт8,5 ГБ12–2229–51
Ministral 3 8B8,9B · Інтелект 5,58 біт9,5 ГБ5–815–26
Nemotron 3 Nano 4B3,97B · Інтелект 4,88 біт4,2 ГБ11–1933–58
Gemma 4 26B A4B25,2B · активних: 3,8B4 біт14,2 ГБ21–3866–117
Devstral Small 2 (24B)24B4 біт13,5 ГБ3–610–18
Magistral Small 1.2 (2509)24B4 біт13,5 ГБ3–610–18
Mistral Small 3.2 (24B)24B4 біт13,5 ГБ3–610–18
LFM2.5 24B A2B24B · активних: 2B4 біт13,5 ГБ41–73126–223
Phi-4 Reasoning Vision 15B15B6 біт12,2 ГБ3–511–20
Phi-4 (14B)14B6 біт11,4 ГБ3–512–22
Gemma 4 12B Unified12B8 біт12,7 ГБ4–611–19
Qwen3 8B8,2B8 біт8,7 ГБ10–1716–28
Llama 3.1 8B Instruct8B8 біт8,5 ГБ10–1816–29
Gemma 4 E2B5,1B8 біт5,4 ГБ19–3358–102
Qwen3.5 4B4B8 біт4,3 ГБ10–1932–57
Phi-4 mini instruct3,8B8 біт4 ГБ11–2035–61
Llama 3.2 3B Instruct3,21B8 біт3,4 ГБ13–2441–72
SmolLM3 3B3B8 біт3,2 ГБ14–2543–77
LFM2.5 2.6B2,69B8 біт2,9 ГБ16–2848–85
Qwen3.5 2B2B8 біт2,1 ГБ21–3866–117
Llama 3.2 1B Instruct1,23B8 біт1,3 ГБ35–62106–189
Qwen3.5 0.8B0,8B8 біт0,9 ГБ50–89154–273
Qwen3 0.6B0,6B8 біт0,6 ГБ75–133230–409
Qwen3.6 35B A3B35B · активних: 3B · Інтелект 18,23 біт нижча якість15,3 ГБ35–62106–189
Muse Glimmer 30B29,6B · Інтелект 17,53 біт нижча якість13 ГБ3–611–19
Gemma 4 31B30,7B · Інтелект 14,73 біт нижча якість13,4 ГБ3–610–18
Nemotron 3.5 Lightning 30B A3B30B · активних: 3B · Інтелект 12,93 біт нижча якість13,1 ГБ35–62106–189
Granite 4.2 30B30B · Інтелект 12,73 біт нижча якість13,1 ГБ3–611–19
Nemotron 3 Nano 30B A3B30B · активних: 3,5B · Інтелект 8,93 біт нижча якість13,1 ГБ30–5392–164
Qwen3 Coder 30B A3B Instruct30,5B · активних: 3,3B3 біт нижча якість13,3 ГБ32–5799–175
GLM-4.7 Flash30B · активних: 3B3 біт нижча якість13,1 ГБ35–62106–189

Працюють, але повільно 2

Вміщується, але менше 10 токенів за секунду: годиться для пакетних задач, для чату повільно.

МодельВерсіяПам’ятьM3M5 Pro
Qwen3.8 27B27B · Інтелект 33,74 біт15,2 ГБ3–59–16
Qwen3.6 27B27B4 біт15,2 ГБ3–59–16

Завеликі 35

Потрібно більше ніж 24 ГБ пам’яті, навіть за 2 біт.

Запитання

Яка LLM найкраще підходить для Mac із 24 ГБ?
Серед моделей з опублікованим Intelligence Index найвищу оцінку з тих, що добре працюють у 24 ГБ, має MiniCPM5 2B (8 біт). Найбільша з тих, що працюють добре, — Gemma 4 26B A4B. Для коду: Devstral Small 2 (24B).
Чи вистачить 24 ГБ для локального ШІ на Mac?
З 73 відкритих моделей тут 28 добре працюють у такому обсязі за 4 біт або краще. За замовчуванням macOS дає GPU близько 18 ГБ; модель і її контекст мають уміститися в цей обсяг.
Чи запустить Mac із 24 ГБ gpt-oss-20b?
Так, нативні 4,25 біт: близько 24–42 токенів за секунду на M3 і 73–129 на M5 Pro.

Інші обсяги: 8 ГБ · 16 ГБ · 18 ГБ · 24 ГБ · 32 ГБ · 36 ГБ · 48 ГБ · 64 ГБ · 96 ГБ · 128 ГБ · 192 ГБ · 256 ГБ · 512 ГБ

Запускайте їх у MLX Harness (безкоштовно, відкритий код) або через mlx-lm від Apple у Терміналі: покроково.

Як це розраховано

Пам’ять: параметри моделі за 8, 6, 4, 3 або 2 біт на вагу плюс групові масштаби MLX (пів біта на вагу) або її нативний формат, а зверху — місце для контексту. За замовчуванням macOS дає GPU близько 75% об’єднаної пам’яті. Швидкість: пропускна здатність пам’яті, поділена на кількість байтів, що читаються на кожен токен, — це стеля для однієї розмови; у публічних тестах llama.cpp на Apple Silicon реальні запуски досягають приблизно 45–80% від неї, і показано саме цей діапазон. Це оцінки, а не вимірювання: виміряйте свій Mac у MLX Bench. Дані моделей — з офіційних карток моделей, дані чипів — з технічних характеристик Apple. Перевірено 2026-10-19. Ті самі дані, що й на mlx.app/compare.

Найкращі локальні LLM для Mac із 24 ГБ (M2–M6): що працює