По объему памяти
| Память | Работают хорошо | Самая большая из работающих хорошо | gpt-oss-20b |
|---|---|---|---|
| 96 ГБ1 200 ГБ/с | 44 | gpt-oss-120b | 284–505 tok/s |
| 256 ГБ1 200 ГБ/с | 54 | MiMo V2.6 Flash | 284–505 tok/s |
| 512 ГБ1 200 ГБ/с | 61 | DeepSeek V4.1 Flash 1017 | 284–505 tok/s |
Модели: Mac Studio (M5 Max or M5 Ultra). Не каждый объем памяти доступен в каждой модели; что предлагается для каждой, указано в технических характеристиках Apple.
Вопросы
- Подходит ли Mac Studio с чипом M5 Ultra для локальных LLM?
- С 512 ГБ он хорошо запускает 61 из 73 открытых моделей, вплоть до DeepSeek V4.1 Flash 1017, и генерирует около 284–505 токенов в секунду с gpt-oss-20b. M5 Ultra читает память со скоростью 1 200 ГБ/с — от этого зависит скорость генерации.
- Mac Studio с чипом M5 Ultra: сколько памяти нужно для ИИ?
- Открытых моделей, работающих хорошо: 44 при 96 ГБ и 61 при 512 ГБ, вплоть до DeepSeek V4.1 Flash 1017. Объем памяти определяет, какие модели поместятся, и увеличить его потом нельзя.
Другие Mac
Mac Studio с другими чипами:
- Mac Studio M5 Max
- Mac Studio M4 Max
- Mac Studio M3 Ultra
- Mac Studio M2 Max
- Mac Studio M2 Ultra
- Mac Studio M1 Max
- Mac Studio M1 Ultra
Один на один:
Против ПК и видеокарт:
M5 Ultra для локального ИИ · Лучший Mac для локальных LLM · Все Mac
Как это рассчитано
Память: параметры модели при 8, 6, 4, 3 или 2 битах на вес плюс групповые масштабы MLX (полбита на вес) или ее нативный формат, а сверху — место для контекста. По умолчанию macOS отдает GPU около 75% объединенной памяти. Скорость: пропускная способность памяти, деленная на число байтов, читаемых на каждый токен, — это потолок для одного диалога; в публичных тестах llama.cpp на Apple Silicon реальные запуски достигают примерно 45–80% от него, и показан именно этот диапазон. Это оценки, а не измерения: измерьте свой Mac в MLX Bench. Данные моделей — из официальных карточек моделей, данные чипов — из технических характеристик Apple. Проверено 2026-10-19. Те же данные, что и на mlx.app/compare.