Какая LLM лучше всего подходит для Mac с 48 ГБ?

Среди моделей с опубликованным Intelligence Index выше всех из тех, что хорошо работают в 48 ГБ, оценена Qwen3.8 27B (8 бит). Самая большая из хорошо работающих — Qwen3.6 35B A3B. Для кода: Qwen3 Coder 30B A3B Instruct.

Хватит ли 48 ГБ для локального ИИ на Mac?

Из 73 открытых моделей здесь 38 хорошо работают в таком объеме при 4 битах или лучше. По умолчанию macOS отдает GPU около 36 ГБ; модель и ее контекст должны поместиться в этот объем.

Запустит ли Mac с 48 ГБ gpt-oss-20b?

Да, нативные 4,25 бит: около 65–115 токенов в секунду на M4 Pro и 145–259 на M5 Max.

Лучшие локальные LLM для Mac с 48 ГБ (M3

Mac с 48 ГБ

Чипов M3–M5 с 48 ГБ: 5. Откройте любой, чтобы увидеть его список и скорость.

Работают хорошо 41

Помещается с запасом для контекста, 10 и более токенов в секунду на M5 Max.

Модель	Версия	Память	M4 Pro	M5 Max
Qwen3.8 27B27B · Интеллект 33,7	8 бит	28,7 ГБ	4–8	10–17
Qwen3.6 35B A3B35B · активных: 3B · Интеллект 18,2	6 бит	28,4 ГБ	51–91	115–205
Muse Glimmer 30B29,6B · Интеллект 17,5	6 бит	24,1 ГБ	4–7	11–20
Gemma 4 31B30,7B · Интеллект 14,7	6 бит	24,9 ГБ	4–7	11–20
Nemotron 3.5 Lightning 30B A3B30B · активных: 3B · Интеллект 12,9	8 бит	31,9 ГБ	38–68	86–154
Granite 4.2 30B30B · Интеллект 12,7	6 бит	24,4 ГБ	4–7	11–20
MiniCPM5 2B2,52B · Интеллект 12,5	8 бит	2,7 ГБ	45–81	102–182
Qwen3.5 9B9B · Интеллект 11,2	8 бит	9,6 ГБ	13–23	29–51
Granite 4.2 8B8B · Интеллект 11,1	8 бит	8,5 ГБ	14–26	33–58
Granite 4.2 3B3B · Интеллект 9,1	8 бит	3,2 ГБ	38–68	86–154
gpt-oss-20b21B · активных: 3,6B · Интеллект 9	нативные 4,25 бит	13,8 ГБ	65–115	145–259
Nemotron 3 Nano 30B A3B30B · активных: 3,5B · Интеллект 8,9	8 бит	31,9 ГБ	33–59	75–133
Gemma 4 E4B8B · Интеллект 8,9	8 бит	8,5 ГБ	26–46	58–102
Ministral 3 8B8,9B · Интеллект 5,5	8 бит	9,5 ГБ	13–23	29–52
Nemotron 3 Nano 4B3,97B · Интеллект 4,8	8 бит	4,2 ГБ	29–52	66–117
Qwen3 Coder 30B A3B Instruct30,5B · активных: 3,3B	8 бит	32,4 ГБ	35–62	79–140
GLM-4.7 Flash30B · активных: 3B	8 бит	31,9 ГБ	38–68	86–154
Qwen3.6 27B27B	8 бит	28,7 ГБ	4–8	10–17
Gemma 4 26B A4B25,2B · активных: 3,8B	8 бит	26,8 ГБ	31–55	69–123
Devstral Small 2 (24B)24B	8 бит	25,5 ГБ	5–9	11–19
Magistral Small 1.2 (2509)24B	8 бит	25,5 ГБ	5–9	11–19
Mistral Small 3.2 (24B)24B	8 бит	25,5 ГБ	5–9	11–19
LFM2.5 24B A2B24B · активных: 2B	8 бит	25,5 ГБ	59–104	132–234
Phi-4 Reasoning Vision 15B15B	8 бит	15,9 ГБ	10–18	17–31
Phi-4 (14B)14B	8 бит	14,9 ГБ	11–19	19–33
Gemma 4 12B Unified12B	8 бит	12,7 ГБ	10–17	22–39
Qwen3 8B8,2B	8 бит	8,7 ГБ	14–25	32–56
Llama 3.1 8B Instruct8B	8 бит	8,5 ГБ	14–26	33–58
Gemma 4 E2B5,1B	8 бит	5,4 ГБ	51–91	115–205
Qwen3.5 4B4B	8 бит	4,3 ГБ	29–51	64–114
Phi-4 mini instruct3,8B	8 бит	4 ГБ	31–55	69–123
Llama 3.2 3B Instruct3,21B	8 бит	3,4 ГБ	36–64	81–144
SmolLM3 3B3B	8 бит	3,2 ГБ	38–68	86–154
LFM2.5 2.6B2,69B	8 бит	2,9 ГБ	42–75	95–169
Qwen3.5 2B2B	8 бит	2,1 ГБ	59–104	132–234
Llama 3.2 1B Instruct1,23B	8 бит	1,3 ГБ	95–168	213–378
Qwen3.5 0.8B0,8B	8 бит	0,9 ГБ	137–243	307–546
Qwen3 0.6B0,6B	8 бит	0,6 ГБ	205–364	461–819
Nemotron 3.5 Bolt 74B A9B74B · активных: 9B · Интеллект 21,4	3 бит ниже качество	32,4 ГБ	32–56	71–126
Qwen3 Coder Next80B · активных: 3B · Интеллект 9,2	2 бит ниже качество	25 ГБ	137–243	307–546
GLM-4.5 Air106B · активных: 12B	2 бит ниже качество	33,1 ГБ	32–57	73–129

Работают, но медленно 1

Помещается, но меньше 10 токенов в секунду: подойдет для пакетных задач, для чата медленно.

Модель	Версия	Память	M4 Pro	M5 Max
Llama 3.3 70B Instruct70B	3 бит ниже качество	30,6 ГБ	4–7	9–16

Еле помещаются 8

Занимает почти всю память: поднимите лимит памяти GPU и держите контекст коротким.

Модель	Версия	Память	M4 Pro	M5 Max
Qwen3.5 122B A10B122B · активных: 10B · Интеллект 15,6	2 бит ниже качество	38,1 ГБ	40–70	89–158
Mistral Medium 3.5 (128B)128B · Интеллект 14,2	2 бит ниже качество	40 ГБ	3–5	7–12
gpt-oss-120b117B · активных: 5,1B · Интеллект 11,6	2 бит ниже качество	36,6 ГБ	77–137	173–307
Mistral Small 4 (119B)119B · активных: 6,5B · Интеллект 11,3	2 бит ниже качество	37,2 ГБ	61–109	138–246
Llama 4 Scout 17B-16E Instruct109B · активных: 17B · Интеллект 6,5	2 бит ниже качество	34,1 ГБ	23–41	52–93
Devstral 2 (123B)123B	2 бит ниже качество	38,4 ГБ	3–6	7–13
Ornith 1.5 122B122B · активных: 10B	2 бит ниже качество	38,1 ГБ	40–70	89–158
Nemotron 3 Super 120B A12B120B · активных: 12B	2 бит ниже качество	37,5 ГБ	32–57	73–129

Вопросы

Какая LLM лучше всего подходит для Mac с 48 ГБ?: Среди моделей с опубликованным Intelligence Index выше всех из тех, что хорошо работают в 48 ГБ, оценена Qwen3.8 27B (8 бит). Самая большая из хорошо работающих — Qwen3.6 35B A3B. Для кода: Qwen3 Coder 30B A3B Instruct.
Хватит ли 48 ГБ для локального ИИ на Mac?: Из 73 открытых моделей здесь 38 хорошо работают в таком объеме при 4 битах или лучше. По умолчанию macOS отдает GPU около 36 ГБ; модель и ее контекст должны поместиться в этот объем.
Запустит ли Mac с 48 ГБ gpt-oss-20b?: Да, нативные 4,25 бит: около 65–115 токенов в секунду на M4 Pro и 145–259 на M5 Max.

Другие объемы: 8 ГБ · 16 ГБ · 18 ГБ · 24 ГБ · 32 ГБ · 36 ГБ · 48 ГБ · 64 ГБ · 96 ГБ · 128 ГБ · 192 ГБ · 256 ГБ · 512 ГБ

Запускайте их в MLX Harness (бесплатно, открытый код) или через mlx-lm от Apple в Терминале: пошагово.

Как это рассчитано

Память: параметры модели при 8, 6, 4, 3 или 2 битах на вес плюс групповые масштабы MLX (полбита на вес) или ее нативный формат, а сверху — место для контекста. По умолчанию macOS отдает GPU около 75% объединенной памяти. Скорость: пропускная способность памяти, деленная на число байтов, читаемых на каждый токен, — это потолок для одного диалога; в публичных тестах llama.cpp на Apple Silicon реальные запуски достигают примерно 45–80% от него, и показан именно этот диапазон. Это оценки, а не измерения: измерьте свой Mac в MLX Bench. Данные моделей — из официальных карточек моделей, данные чипов — из технических характеристик Apple. Проверено 2026-10-19. Те же данные, что и на mlx.app/compare.

Лучшие LLM для Mac с 48 ГБ.