Какая LLM лучше всего подходит для M2 Max с 32 ГБ?

Среди моделей с опубликованным Intelligence Index выше всех из тех, что здесь хорошо работают, оценена Qwen3.8 27B: 4 бит, около 12–21 токенов в секунду. Самая большая из хорошо работающих — Qwen3.6 35B A3B.

Запустит ли M2 Max с 32 ГБ Llama 3.3 70B?

Да, но медленно: 2 бит (ниже качество), около 8–15 токенов в секунду.

Насколько быстро gpt-oss-20b работает на M2 Max?

Около 95–168 токенов в секунду (нативные 4,25 бит) при пропускной способности памяти чипа 400 ГБ/с.

Какие LLM запустит M2 Max с 32 ГБ? Все модели и скорость

Работают хорошо 38

Помещается с запасом для контекста, 10 и более токенов в секунду.

Модель	Версия	Память	Токенов/с
Qwen3.8 27B27B · Интеллект 33,7	4 бит	15,2 ГБ	12–21
Qwen3.6 35B A3B35B · активных: 3B · Интеллект 18,2	4 бит	19,7 ГБ	106–188
Muse Glimmer 30B29,6B · Интеллект 17,5	4 бит	16,7 ГБ	11–19
Gemma 4 31B30,7B · Интеллект 14,7	4 бит	17,3 ГБ	10–18
Nemotron 3.5 Lightning 30B A3B30B · активных: 3B · Интеллект 12,9	4 бит	16,9 ГБ	106–188
Granite 4.2 30B30B · Интеллект 12,7	4 бит	16,9 ГБ	11–19
MiniCPM5 2B2,52B · Интеллект 12,5	8 бит	2,7 ГБ	67–119
Qwen3.5 9B9B · Интеллект 11,2	8 бит	9,6 ГБ	19–33
Granite 4.2 8B8B · Интеллект 11,1	8 бит	8,5 ГБ	21–38
Granite 4.2 3B3B · Интеллект 9,1	8 бит	3,2 ГБ	56–100
gpt-oss-20b21B · активных: 3,6B · Интеллект 9	нативные 4,25 бит	13,8 ГБ	95–168
Nemotron 3 Nano 30B A3B30B · активных: 3,5B · Интеллект 8,9	4 бит	16,9 ГБ	90–160
Gemma 4 E4B8B · Интеллект 8,9	8 бит	8,5 ГБ	38–67
Ministral 3 8B8,9B · Интеллект 5,5	8 бит	9,5 ГБ	19–34
Nemotron 3 Nano 4B3,97B · Интеллект 4,8	8 бит	4,2 ГБ	43–76
Qwen3 Coder 30B A3B Instruct30,5B · активных: 3,3B	4 бит	17,2 ГБ	95–168
GLM-4.7 Flash30B · активных: 3B	4 бит	16,9 ГБ	106–188
Qwen3.6 27B27B	4 бит	15,2 ГБ	12–21
Gemma 4 26B A4B25,2B · активных: 3,8B	6 бит	20,5 ГБ	58–103
Devstral Small 2 (24B)24B	4 бит	13,5 ГБ	13–24
Magistral Small 1.2 (2509)24B	4 бит	13,5 ГБ	13–24
Mistral Small 3.2 (24B)24B	4 бит	13,5 ГБ	13–24
LFM2.5 24B A2B24B · активных: 2B	6 бит	19,5 ГБ	113–200
Phi-4 Reasoning Vision 15B15B	8 бит	15,9 ГБ	11–20
Phi-4 (14B)14B	8 бит	14,9 ГБ	12–21
Gemma 4 12B Unified12B	8 бит	12,7 ГБ	14–25
Qwen3 8B8,2B	8 бит	8,7 ГБ	21–37
Llama 3.1 8B Instruct8B	8 бит	8,5 ГБ	21–38
Gemma 4 E2B5,1B	8 бит	5,4 ГБ	75–133
Qwen3.5 4B4B	8 бит	4,3 ГБ	42–74
Phi-4 mini instruct3,8B	8 бит	4 ГБ	45–80
Llama 3.2 3B Instruct3,21B	8 бит	3,4 ГБ	53–94
SmolLM3 3B3B	8 бит	3,2 ГБ	56–100
LFM2.5 2.6B2,69B	8 бит	2,9 ГБ	62–110
Qwen3.5 2B2B	8 бит	2,1 ГБ	86–152
Llama 3.2 1B Instruct1,23B	8 бит	1,3 ГБ	138–246
Qwen3.5 0.8B0,8B	8 бит	0,9 ГБ	200–356
Qwen3 0.6B0,6B	8 бит	0,6 ГБ	300–533

Работают, но медленно 1

Помещается, но меньше 10 токенов в секунду: подойдет для пакетных задач, для чата медленно.

Модель	Версия	Память	Токенов/с
Llama 3.3 70B Instruct70B	2 бит ниже качество	21,9 ГБ	8–15

Еле помещаются 2

Занимает почти всю память: поднимите лимит памяти GPU и держите контекст коротким.

Модель	Версия	Память	Токенов/с
Nemotron 3.5 Bolt 74B A9B74B · активных: 9B · Интеллект 21,4	2 бит ниже качество	23,1 ГБ	64–114
Qwen3 Coder Next80B · активных: 3B · Интеллект 9,2	2 бит ниже качество	25 ГБ	200–356

Другие Mac

Все Mac с 32 ГБ, на любом чипе.

M2 Max с другим объемом памяти:

Соседние чипы:

Один на один:

Сравнить с любым Mac или GPU · M2 Max для локального ИИ · Лучший Mac для локальных LLM · Все Mac

Вопросы

Какая LLM лучше всего подходит для M2 Max с 32 ГБ?: Среди моделей с опубликованным Intelligence Index выше всех из тех, что здесь хорошо работают, оценена Qwen3.8 27B: 4 бит, около 12–21 токенов в секунду. Самая большая из хорошо работающих — Qwen3.6 35B A3B.
Запустит ли M2 Max с 32 ГБ Llama 3.3 70B?: Да, но медленно: 2 бит (ниже качество), около 8–15 токенов в секунду.
Насколько быстро gpt-oss-20b работает на M2 Max?: Около 95–168 токенов в секунду (нативные 4,25 бит) при пропускной способности памяти чипа 400 ГБ/с.

Запускайте их в MLX Harness (бесплатно, открытый код) или через mlx-lm от Apple в Терминале: пошагово.

Как это рассчитано

Память: параметры модели при 8, 6, 4, 3 или 2 битах на вес плюс групповые масштабы MLX (полбита на вес) или ее нативный формат, а сверху — место для контекста. По умолчанию macOS отдает GPU около 75% объединенной памяти. Скорость: пропускная способность памяти, деленная на число байтов, читаемых на каждый токен, — это потолок для одного диалога; в публичных тестах llama.cpp на Apple Silicon реальные запуски достигают примерно 45–80% от него, и показан именно этот диапазон. Это оценки, а не измерения: измерьте свой Mac в MLX Bench. Данные моделей — из официальных карточек моделей, данные чипов — из технических характеристик Apple. Проверено 2026-10-19. Те же данные, что и на mlx.app/compare.

Что запустит M2 Max с 32 ГБ?