Яка LLM найкраще підходить для Mac із 32 ГБ?

Серед моделей з опублікованим Intelligence Index найвищу оцінку з тих, що добре працюють у 32 ГБ, має Qwen3.8 27B (4 біт). Найбільша з тих, що працюють добре, — Qwen3.6 35B A3B. Для коду: Qwen3 Coder 30B A3B Instruct.

Чи вистачить 32 ГБ для локального ШІ на Mac?

З 73 відкритих моделей тут 38 добре працюють у такому обсязі за 4 біт або краще. За замовчуванням macOS дає GPU близько 24 ГБ; модель і її контекст мають уміститися в цей обсяг.

Чи запустить Mac із 32 ГБ gpt-oss-20b?

Так, нативні 4,25 біт: близько 28–51 токенів за секунду на M4 і 95–168 на M1 Max.

Найкращі локальні LLM для Mac із 32 ГБ (M1

Mac із 32 ГБ

Чипів M1–M6 із 32 ГБ: 7. Відкрийте будь-який, щоб побачити його список і швидкість.

Працюють добре 38

Вміщується із запасом для контексту, 10 і більше токенів за секунду на M1 Max.

Модель	Версія	Пам’ять	M4	M1 Max
Qwen3.8 27B27B · Інтелект 33,7	4 біт	15,2 ГБ	2–4	12–21
Qwen3.6 35B A3B35B · активних: 3B · Інтелект 18,2	4 біт	19,7 ГБ	32–56	106–188
Muse Glimmer 30B29,6B · Інтелект 17,5	4 біт	16,7 ГБ	3–6	11–19
Gemma 4 31B30,7B · Інтелект 14,7	4 біт	17,3 ГБ	3–6	10–18
Nemotron 3.5 Lightning 30B A3B30B · активних: 3B · Інтелект 12,9	4 біт	16,9 ГБ	32–56	106–188
Granite 4.2 30B30B · Інтелект 12,7	4 біт	16,9 ГБ	3–6	11–19
MiniCPM5 2B2,52B · Інтелект 12,5	8 біт	2,7 ГБ	20–36	67–119
Qwen3.5 9B9B · Інтелект 11,2	8 біт	9,6 ГБ	11–19	19–33
Granite 4.2 8B8B · Інтелект 11,1	8 біт	8,5 ГБ	12–21	21–38
Granite 4.2 3B3B · Інтелект 9,1	8 біт	3,2 ГБ	17–30	56–100
gpt-oss-20b21B · активних: 3,6B · Інтелект 9	нативні 4,25 біт	13,8 ГБ	28–51	95–168
Nemotron 3 Nano 30B A3B30B · активних: 3,5B · Інтелект 8,9	4 біт	16,9 ГБ	27–48	90–160
Gemma 4 E4B8B · Інтелект 8,9	8 біт	8,5 ГБ	11–20	38–67
Ministral 3 8B8,9B · Інтелект 5,5	8 біт	9,5 ГБ	11–19	19–34
Nemotron 3 Nano 4B3,97B · Інтелект 4,8	8 біт	4,2 ГБ	13–23	43–76
Qwen3 Coder 30B A3B Instruct30,5B · активних: 3,3B	4 біт	17,2 ГБ	28–51	95–168
GLM-4.7 Flash30B · активних: 3B	4 біт	16,9 ГБ	32–56	106–188
Qwen3.6 27B27B	4 біт	15,2 ГБ	2–4	12–21
Gemma 4 26B A4B25,2B · активних: 3,8B	6 біт	20,5 ГБ	17–31	58–103
Devstral Small 2 (24B)24B	4 біт	13,5 ГБ	3–5	13–24
Magistral Small 1.2 (2509)24B	4 біт	13,5 ГБ	3–5	13–24
Mistral Small 3.2 (24B)24B	4 біт	13,5 ГБ	3–5	13–24
LFM2.5 24B A2B24B · активних: 2B	6 біт	19,5 ГБ	34–60	113–200
Phi-4 Reasoning Vision 15B15B	8 біт	15,9 ГБ	3–6	11–20
Phi-4 (14B)14B	8 біт	14,9 ГБ	4–6	12–21
Gemma 4 12B Unified12B	8 біт	12,7 ГБ	4–8	14–25
Qwen3 8B8,2B	8 біт	8,7 ГБ	12–21	21–37
Llama 3.1 8B Instruct8B	8 біт	8,5 ГБ	12–21	21–38
Gemma 4 E2B5,1B	8 біт	5,4 ГБ	23–40	75–133
Qwen3.5 4B4B	8 біт	4,3 ГБ	13–22	42–74
Phi-4 mini instruct3,8B	8 біт	4 ГБ	14–24	45–80
Llama 3.2 3B Instruct3,21B	8 біт	3,4 ГБ	16–28	53–94
SmolLM3 3B3B	8 біт	3,2 ГБ	17–30	56–100
LFM2.5 2.6B2,69B	8 біт	2,9 ГБ	19–33	62–110
Qwen3.5 2B2B	8 біт	2,1 ГБ	26–46	86–152
Llama 3.2 1B Instruct1,23B	8 біт	1,3 ГБ	42–74	138–246
Qwen3.5 0.8B0,8B	8 біт	0,9 ГБ	60–107	200–356
Qwen3 0.6B0,6B	8 біт	0,6 ГБ	90–160	300–533

Працюють, але повільно 1

Вміщується, але менше 10 токенів за секунду: годиться для пакетних задач, для чату повільно.

Модель	Версія	Пам’ять	M4	M1 Max
Llama 3.3 70B Instruct70B	2 біт нижча якість	21,9 ГБ	2–4	8–15

Ледь вміщуються 2

Займає майже всю пам’ять: підніміть ліміт пам’яті GPU і тримайте контекст коротким.

Модель	Версія	Пам’ять	M4	M1 Max
Nemotron 3.5 Bolt 74B A9B74B · активних: 9B · Інтелект 21,4	2 біт нижча якість	23,1 ГБ	19–34	64–114
Qwen3 Coder Next80B · активних: 3B · Інтелект 9,2	2 біт нижча якість	25 ГБ	60–107	200–356

Запитання

Яка LLM найкраще підходить для Mac із 32 ГБ?: Серед моделей з опублікованим Intelligence Index найвищу оцінку з тих, що добре працюють у 32 ГБ, має Qwen3.8 27B (4 біт). Найбільша з тих, що працюють добре, — Qwen3.6 35B A3B. Для коду: Qwen3 Coder 30B A3B Instruct.
Чи вистачить 32 ГБ для локального ШІ на Mac?: З 73 відкритих моделей тут 38 добре працюють у такому обсязі за 4 біт або краще. За замовчуванням macOS дає GPU близько 24 ГБ; модель і її контекст мають уміститися в цей обсяг.
Чи запустить Mac із 32 ГБ gpt-oss-20b?: Так, нативні 4,25 біт: близько 28–51 токенів за секунду на M4 і 95–168 на M1 Max.

Інші обсяги: 8 ГБ · 16 ГБ · 18 ГБ · 24 ГБ · 32 ГБ · 36 ГБ · 48 ГБ · 64 ГБ · 96 ГБ · 128 ГБ · 192 ГБ · 256 ГБ · 512 ГБ

Запускайте їх у MLX Harness (безкоштовно, відкритий код) або через mlx-lm від Apple у Терміналі: покроково.

Як це розраховано

Пам’ять: параметри моделі за 8, 6, 4, 3 або 2 біт на вагу плюс групові масштаби MLX (пів біта на вагу) або її нативний формат, а зверху — місце для контексту. За замовчуванням macOS дає GPU близько 75% об’єднаної пам’яті. Швидкість: пропускна здатність пам’яті, поділена на кількість байтів, що читаються на кожен токен, — це стеля для однієї розмови; у публічних тестах llama.cpp на Apple Silicon реальні запуски досягають приблизно 45–80% від неї, і показано саме цей діапазон. Це оцінки, а не вимірювання: виміряйте свій Mac у MLX Bench. Дані моделей — з офіційних карток моделей, дані чипів — з технічних характеристик Apple. Перевірено 2026-10-19. Ті самі дані, що й на mlx.app/compare.

Найкращі LLM для Mac із 32 ГБ.