M4 Max быстрее, чем M2 Ultra, для LLM?

M2 Ultra читает память примерно на 47% быстрее, чем M4 Max (800 против 546 ГБ/с), поэтому с любой моделью, которая помещается в оба, генерирует примерно на 47% быстрее. Обработка длинного запроса зависит от вычислительной мощности GPU, а ее это сравнение не учитывает.

Какой запускает модели крупнее: M2 Ultra или M4 Max?

M2 Ultra: M2 Ultra поддерживает до 192 ГБ памяти, M4 Max — до 128 ГБ. С максимальной памятью он хорошо запускает 49 из 73 открытых моделей против 47.

M2 Ultra или M4 Max для LLM: память, скорость, что купить

Бок о бок

	M2 Ultra	M4 Max
Объемы памяти	64, 128, 192 ГБ	36, 48, 64, 128 ГБ
Пропускная способность памяти	800 ГБ/с	410–546 ГБ/с
Для моделей, максимум	около 144 ГБ	около 96 ГБ
Хорошо работающие модели	49 из 73	47 из 73
Класс места MLX	Ultra	Pro
Встречается в	Mac Studio (2023), Mac Pro (2023), Mac Pro (Rack, 2023)	MacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024), Mac Studio (2025)

Скорость с популярными моделями

Токенов в секунду для одного диалога, каждый чип с максимальной памятью (192 ГБ и 128 ГБ), с лучшей версией модели, которая помещается.

Модель	M2 Ultra	M4 Max
Llama 3.1 8B Instruct8B	42–75 8 бит	29–51 8 бит
gpt-oss-20b21B · активных: 3,6B	189–337 нативные 4,25 бит	129–230 нативные 4,25 бит
Qwen3.6 35B A3B35B · активных: 3B	113–200 8 бит	77–137 8 бит
Qwen3.8 27B27B	13–22 8 бит	11–20 6 бит
Llama 3.3 70B Instruct70B	5–9 8 бит	3–6 8 бит
gpt-oss-120b117B · активных: 5,1B	133–237 нативные 4,25 бит	91–162 нативные 4,25 бит
Qwen3.5 122B A10B122B · активных: 10B	34–60 8 бит	44–78 4 бит
DeepSeek V4 Flash 0731284B · активных: 13B	63–112 3 бит ниже качество	60–107 2 бит ниже качество

Вопросы

M4 Max быстрее, чем M2 Ultra, для LLM?: M2 Ultra читает память примерно на 47% быстрее, чем M4 Max (800 против 546 ГБ/с), поэтому с любой моделью, которая помещается в оба, генерирует примерно на 47% быстрее. Обработка длинного запроса зависит от вычислительной мощности GPU, а ее это сравнение не учитывает.
Какой запускает модели крупнее: M2 Ultra или M4 Max?: M2 Ultra: M2 Ultra поддерживает до 192 ГБ памяти, M4 Max — до 128 ГБ. С максимальной памятью он хорошо запускает 49 из 73 открытых моделей против 47.

Другие сравнения

M2 Ultra для локального ИИ · M4 Max для локального ИИ · Сравнить все модели · Лучший Mac для локальных LLM

Как это рассчитано

Память: параметры модели при 8, 6, 4, 3 или 2 битах на вес плюс групповые масштабы MLX (полбита на вес) или ее нативный формат, а сверху — место для контекста. По умолчанию macOS отдает GPU около 75% объединенной памяти. Скорость: пропускная способность памяти, деленная на число байтов, читаемых на каждый токен, — это потолок для одного диалога; в публичных тестах llama.cpp на Apple Silicon реальные запуски достигают примерно 45–80% от него, и показан именно этот диапазон. Это оценки, а не измерения: измерьте свой Mac в MLX Bench. Данные моделей — из официальных карточек моделей, данные чипов — из технических характеристик Apple. Проверено 2026-10-19. Те же данные, что и на mlx.app/compare.