Какая LLM лучше всего подходит для M1 с 8 ГБ?

Среди моделей с опубликованным Intelligence Index выше всех из тех, что здесь хорошо работают, оценена MiniCPM5 2B: 8 бит, около 11–20 токенов в секунду. Самая большая из хорошо работающих — Gemma 4 E4B.

Запустит ли M1 с 8 ГБ Llama 3.3 70B?

Нет: даже при 2 битах ей нужно больше 6 ГБ, которые GPU может использовать по умолчанию.

Насколько быстро gpt-oss-20b работает на M1?

Она не помещается в 8 ГБ.

Какие LLM запустит M1 с 8 ГБ? Все модели и скорость

Работают хорошо 14

Помещается с запасом для контекста, 10 и более токенов в секунду.

Модель	Версия	Память	Токенов/с
MiniCPM5 2B2,52B · Интеллект 12,5	8 бит	2,7 ГБ	11–20
Granite 4.2 3B3B · Интеллект 9,1	8 бит	3,2 ГБ	10–17
Gemma 4 E4B8B · Интеллект 8,9	4 бит	4,5 ГБ	12–22
Nemotron 3 Nano 4B3,97B · Интеллект 4,8	6 бит	3,2 ГБ	10–17
Gemma 4 E2B5,1B	6 бит	4,1 ГБ	16–29
Qwen3.5 4B4B	4 бит	2,3 ГБ	13–24
Phi-4 mini instruct3,8B	6 бит	3,1 ГБ	10–18
Llama 3.2 3B Instruct3,21B	6 бит	2,6 ГБ	12–21
SmolLM3 3B3B	8 бит	3,2 ГБ	10–17
LFM2.5 2.6B2,69B	8 бит	2,9 ГБ	11–19
Qwen3.5 2B2B	8 бит	2,1 ГБ	15–26
Llama 3.2 1B Instruct1,23B	8 бит	1,3 ГБ	24–42
Qwen3.5 0.8B0,8B	8 бит	0,9 ГБ	34–60
Qwen3 0.6B0,6B	8 бит	0,6 ГБ	51–91

Работают, но медленно 7

Помещается, но меньше 10 токенов в секунду: подойдет для пакетных задач, для чата медленно.

Модель	Версия	Память	Токенов/с
Granite 4.2 8B8B · Интеллект 11,1	4 бит	4,5 ГБ	7–12
Llama 3.1 8B Instruct8B	4 бит	4,5 ГБ	7–12
Qwen3.5 9B9B · Интеллект 11,2	3 бит ниже качество	3,9 ГБ	8–14
Ministral 3 8B8,9B · Интеллект 5,5	3 бит ниже качество	3,9 ГБ	8–14
Phi-4 (14B)14B	2 бит ниже качество	4,4 ГБ	7–12
Gemma 4 12B Unified12B	2 бит ниже качество	3,7 ГБ	8–15
Qwen3 8B8,2B	3 бит ниже качество	3,6 ГБ	9–15

Еле помещаются 1

Занимает почти всю память: поднимите лимит памяти GPU и держите контекст коротким.

Модель	Версия	Память	Токенов/с
Phi-4 Reasoning Vision 15B15B	2 бит ниже качество	4,7 ГБ	7–12

Слишком большие 51

Нужно больше 8 ГБ памяти, даже при 2 битах.

Другие Mac

Все Mac с 8 ГБ, на любом чипе.

M1 с другим объемом памяти:

16 ГБхорошо работают: 14

Соседние чипы:

Один на один:

Сравнить с любым Mac или GPU · M1 для локального ИИ · Лучший Mac для локальных LLM · Все Mac

Вопросы

Какая LLM лучше всего подходит для M1 с 8 ГБ?: Среди моделей с опубликованным Intelligence Index выше всех из тех, что здесь хорошо работают, оценена MiniCPM5 2B: 8 бит, около 11–20 токенов в секунду. Самая большая из хорошо работающих — Gemma 4 E4B.
Запустит ли M1 с 8 ГБ Llama 3.3 70B?: Нет: даже при 2 битах ей нужно больше 6 ГБ, которые GPU может использовать по умолчанию.
Насколько быстро gpt-oss-20b работает на M1?: Она не помещается в 8 ГБ.

Запускайте их в MLX Harness (бесплатно, открытый код) или через mlx-lm от Apple в Терминале: пошагово.

Как это рассчитано

Память: параметры модели при 8, 6, 4, 3 или 2 битах на вес плюс групповые масштабы MLX (полбита на вес) или ее нативный формат, а сверху — место для контекста. По умолчанию macOS отдает GPU около 75% объединенной памяти. Скорость: пропускная способность памяти, деленная на число байтов, читаемых на каждый токен, — это потолок для одного диалога; в публичных тестах llama.cpp на Apple Silicon реальные запуски достигают примерно 45–80% от него, и показан именно этот диапазон. Это оценки, а не измерения: измерьте свой Mac в MLX Bench. Данные моделей — из официальных карточек моделей, данные чипов — из технических характеристик Apple. Проверено 2026-10-19. Те же данные, что и на mlx.app/compare.