Подходит ли MacBook Pro с чипом M2 Max для локальных LLM?

С 96 ГБ он хорошо запускает 43 из 73 открытых моделей, вплоть до gpt-oss-120b, и генерирует около 95–168 токенов в секунду с gpt-oss-20b. M2 Max читает память со скоростью 400 ГБ/с — от этого зависит скорость генерации.

MacBook Pro с чипом M2 Max: сколько памяти нужно для ИИ?

Открытых моделей, работающих хорошо: 38 при 32 ГБ и 43 при 96 ГБ, вплоть до gpt-oss-120b. Объем памяти определяет, какие модели поместятся, и увеличить его потом нельзя.

MacBook Pro M2 Max для локального ИИ: LLM по объему памяти

По объему памяти

Память	Работают хорошо	Самая большая из работающих хорошо	gpt-oss-20b
32 ГБ400 ГБ/с	38	Qwen3.6 35B A3B	95–168 tok/s
64 ГБ400 ГБ/с	39	Nemotron 3.5 Bolt 74B A9B	95–168 tok/s
96 ГБ400 ГБ/с	43	gpt-oss-120b	95–168 tok/s

Модели: MacBook Pro (14-inch, 2023), MacBook Pro (16-inch, 2023). Не каждый объем памяти доступен в каждой модели; что предлагается для каждой, указано в технических характеристиках Apple.

Вопросы

Подходит ли MacBook Pro с чипом M2 Max для локальных LLM?: С 96 ГБ он хорошо запускает 43 из 73 открытых моделей, вплоть до gpt-oss-120b, и генерирует около 95–168 токенов в секунду с gpt-oss-20b. M2 Max читает память со скоростью 400 ГБ/с — от этого зависит скорость генерации.
MacBook Pro с чипом M2 Max: сколько памяти нужно для ИИ?: Открытых моделей, работающих хорошо: 38 при 32 ГБ и 43 при 96 ГБ, вплоть до gpt-oss-120b. Объем памяти определяет, какие модели поместятся, и увеличить его потом нельзя.

Другие Mac

MacBook Pro с другими чипами:

Другие Mac с чипом M2 Max:

Mac Studio M2 Max

Один на один:

M2 Max для локального ИИ · Лучший Mac для локальных LLM · Все Mac

Как это рассчитано

Память: параметры модели при 8, 6, 4, 3 или 2 битах на вес плюс групповые масштабы MLX (полбита на вес) или ее нативный формат, а сверху — место для контекста. По умолчанию macOS отдает GPU около 75% объединенной памяти. Скорость: пропускная способность памяти, деленная на число байтов, читаемых на каждый токен, — это потолок для одного диалога; в публичных тестах llama.cpp на Apple Silicon реальные запуски достигают примерно 45–80% от него, и показан именно этот диапазон. Это оценки, а не измерения: измерьте свой Mac в MLX Bench. Данные моделей — из официальных карточек моделей, данные чипов — из технических характеристик Apple. Проверено 2026-10-19. Те же данные, что и на mlx.app/compare.