По объему памяти
| Память | Работают хорошо | Самая большая из работающих хорошо | gpt-oss-20b |
|---|---|---|---|
| 36 ГБ300 ГБ/с | 33 | Qwen3.6 35B A3B | 71–126 tok/s |
| 48 ГБ400 ГБ/с | 38 | Qwen3.6 35B A3B | 95–168 tok/s |
| 64 ГБ400 ГБ/с | 39 | Nemotron 3.5 Bolt 74B A9B | 95–168 tok/s |
| 96 ГБ300 ГБ/с | 38 | gpt-oss-120b | 71–126 tok/s |
| 128 ГБ400 ГБ/с | 47 | Qwen3.5 122B A10B | 95–168 tok/s |
Модели: MacBook Pro (14-inch, M3 Pro or M3 Max, Nov 2023), MacBook Pro (16-inch, Nov 2023). Не каждый объем памяти доступен в каждой модели; что предлагается для каждой, указано в технических характеристиках Apple.
Вопросы
- Подходит ли MacBook Pro с чипом M3 Max для локальных LLM?
- С 128 ГБ он хорошо запускает 47 из 73 открытых моделей, вплоть до Qwen3.5 122B A10B, и генерирует около 95–168 токенов в секунду с gpt-oss-20b. M3 Max читает память со скоростью 400 ГБ/с — от этого зависит скорость генерации.
- MacBook Pro с чипом M3 Max: сколько памяти нужно для ИИ?
- Открытых моделей, работающих хорошо: 33 при 36 ГБ и 47 при 128 ГБ, вплоть до Qwen3.5 122B A10B. Объем памяти определяет, какие модели поместятся, и увеличить его потом нельзя.
Другие Mac
MacBook Pro с другими чипами:
- MacBook Pro M5
- MacBook Pro M5 Pro
- MacBook Pro M5 Max
- MacBook Pro M4
- MacBook Pro M4 Pro
- MacBook Pro M4 Max
- MacBook Pro M3
- MacBook Pro M3 Pro
- MacBook Pro M2
- MacBook Pro M2 Pro
- MacBook Pro M2 Max
- MacBook Pro M1
- MacBook Pro M1 Pro
- MacBook Pro M1 Max
Один на один:
M3 Max для локального ИИ · Лучший Mac для локальных LLM · Все Mac
Как это рассчитано
Память: параметры модели при 8, 6, 4, 3 или 2 битах на вес плюс групповые масштабы MLX (полбита на вес) или ее нативный формат, а сверху — место для контекста. По умолчанию macOS отдает GPU около 75% объединенной памяти. Скорость: пропускная способность памяти, деленная на число байтов, читаемых на каждый токен, — это потолок для одного диалога; в публичных тестах llama.cpp на Apple Silicon реальные запуски достигают примерно 45–80% от него, и показан именно этот диапазон. Это оценки, а не измерения: измерьте свой Mac в MLX Bench. Данные моделей — из официальных карточек моделей, данные чипов — из технических характеристик Apple. Проверено 2026-10-19. Те же данные, что и на mlx.app/compare.