ВойтиСоздать кошелек

Лучшие LLM для Mac с 8 ГБ.

В 8 ГБ хорошо работают 16 из 73 открытых моделей. По умолчанию GPU может использовать около 6 ГБ. Скорость зависит от чипа: от 68 ГБ/с у M1 до 100 ГБ/с у M2.

Самая умная из работающих хорошоMiniCPM5 2B8 бит · 2,7 ГБ · 11–30 tok/sСамая большая из работающих хорошоGranite 4.2 8B4 бит · 4,5 ГБ · 7–18 tok/s

Mac с 8 ГБ

Чипов M1–M3 с 8 ГБ: 3. Откройте любой, чтобы увидеть его список и скорость.

Работают хорошо 21

Помещается с запасом для контекста, 10 и более токенов в секунду на M2.

МодельВерсияПамятьM1M2
MiniCPM5 2B2,52B · Интеллект 12,58 бит2,7 ГБ11–2017–30
Granite 4.2 8B8B · Интеллект 11,14 бит4,5 ГБ7–1210–18
Granite 4.2 3B3B · Интеллект 9,18 бит3,2 ГБ10–1714–25
Gemma 4 E4B8B · Интеллект 8,94 бит4,5 ГБ12–2218–32
Nemotron 3 Nano 4B3,97B · Интеллект 4,88 бит4,2 ГБ10–1711–19
Llama 3.1 8B Instruct8B4 бит4,5 ГБ7–1210–18
Gemma 4 E2B5,1B6 бит4,1 ГБ16–2924–42
Qwen3.5 4B4B8 бит4,3 ГБ13–2410–19
Phi-4 mini instruct3,8B8 бит4 ГБ10–1811–20
Llama 3.2 3B Instruct3,21B8 бит3,4 ГБ12–2113–24
SmolLM3 3B3B8 бит3,2 ГБ10–1714–25
LFM2.5 2.6B2,69B8 бит2,9 ГБ11–1916–28
Qwen3.5 2B2B8 бит2,1 ГБ15–2621–38
Llama 3.2 1B Instruct1,23B8 бит1,3 ГБ24–4235–62
Qwen3.5 0.8B0,8B8 бит0,9 ГБ34–6050–89
Qwen3 0.6B0,6B8 бит0,6 ГБ51–9175–133
Qwen3.5 9B9B · Интеллект 11,23 бит ниже качество3,9 ГБ8–1412–21
Ministral 3 8B8,9B · Интеллект 5,53 бит ниже качество3,9 ГБ8–1412–21
Phi-4 (14B)14B2 бит ниже качество4,4 ГБ7–1210–18
Gemma 4 12B Unified12B2 бит ниже качество3,7 ГБ8–1512–22
Qwen3 8B8,2B3 бит ниже качество3,6 ГБ9–1513–22

Еле помещаются 1

Занимает почти всю память: поднимите лимит памяти GPU и держите контекст коротким.

МодельВерсияПамятьM1M2
Phi-4 Reasoning Vision 15B15B2 бит ниже качество4,7 ГБ7–1210–17

Слишком большие 51

Нужно больше 8 ГБ памяти, даже при 2 битах.

Вопросы

Какая LLM лучше всего подходит для Mac с 8 ГБ?
Среди моделей с опубликованным Intelligence Index выше всех из тех, что хорошо работают в 8 ГБ, оценена MiniCPM5 2B (8 бит). Самая большая из хорошо работающих — Granite 4.2 8B.
Хватит ли 8 ГБ для локального ИИ на Mac?
Из 73 открытых моделей здесь 16 хорошо работают в таком объеме при 4 битах или лучше. По умолчанию macOS отдает GPU около 6 ГБ; модель и ее контекст должны поместиться в этот объем.
Запустит ли Mac с 8 ГБ gpt-oss-20b?
Нет: ей нужно больше 6 ГБ, которые GPU может использовать по умолчанию.

Другие объемы: 8 ГБ · 16 ГБ · 18 ГБ · 24 ГБ · 32 ГБ · 36 ГБ · 48 ГБ · 64 ГБ · 96 ГБ · 128 ГБ · 192 ГБ · 256 ГБ · 512 ГБ

Запускайте их в MLX Harness (бесплатно, открытый код) или через mlx-lm от Apple в Терминале: пошагово.

Как это рассчитано

Память: параметры модели при 8, 6, 4, 3 или 2 битах на вес плюс групповые масштабы MLX (полбита на вес) или ее нативный формат, а сверху — место для контекста. По умолчанию macOS отдает GPU около 75% объединенной памяти. Скорость: пропускная способность памяти, деленная на число байтов, читаемых на каждый токен, — это потолок для одного диалога; в публичных тестах llama.cpp на Apple Silicon реальные запуски достигают примерно 45–80% от него, и показан именно этот диапазон. Это оценки, а не измерения: измерьте свой Mac в MLX Bench. Данные моделей — из официальных карточек моделей, данные чипов — из технических характеристик Apple. Проверено 2026-10-19. Те же данные, что и на mlx.app/compare.

Лучшие локальные LLM для Mac с 8 ГБ (M1–M3): что работает