M5 Max быстрее, чем M3 Ultra, для LLM?

M3 Ultra читает память примерно на 33% быстрее, чем M5 Max (819 против 614 ГБ/с), поэтому с любой моделью, которая помещается в оба, генерирует примерно на 33% быстрее. Обработка длинного запроса зависит от вычислительной мощности GPU, а ее это сравнение не учитывает.

Какой запускает модели крупнее: M3 Ultra или M5 Max?

M3 Ultra: M3 Ultra поддерживает до 512 ГБ памяти, M5 Max — до 128 ГБ. С максимальной памятью он хорошо запускает 60 из 73 открытых моделей против 47.

M3 Ultra или M5 Max для LLM: память, скорость, что купить

Бок о бок

	M3 Ultra	M5 Max
Объемы памяти	96, 256, 512 ГБ	36, 48, 64, 128 ГБ
Пропускная способность памяти	819 ГБ/с	460–614 ГБ/с
Для моделей, максимум	около 384 ГБ	около 96 ГБ
Хорошо работающие модели	60 из 73	47 из 73
Класс места MLX	Ultra	Pro Latest
Встречается в	Mac Studio (2025)	MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra)

Скорость с популярными моделями

Токенов в секунду для одного диалога, каждый чип с максимальной памятью (512 ГБ и 128 ГБ), с лучшей версией модели, которая помещается.

Модель	M3 Ultra	M5 Max
Llama 3.1 8B Instruct8B	43–77 8 бит	33–58 8 бит
gpt-oss-20b21B · активных: 3,6B	194–345 нативные 4,25 бит	145–259 нативные 4,25 бит
Qwen3.6 35B A3B35B · активных: 3B	115–205 8 бит	86–154 8 бит
Qwen3.8 27B27B	13–23 8 бит	10–17 8 бит
Llama 3.3 70B Instruct70B	5–9 8 бит	4–7 8 бит
gpt-oss-120b117B · активных: 5,1B	137–243 нативные 4,25 бит	102–182 нативные 4,25 бит
Qwen3.5 122B A10B122B · активных: 10B	35–62 8 бит	49–88 4 бит
DeepSeek V4 Flash 0731284B · активных: 13B	27–47 8 бит	67–120 2 бит ниже качество

Вопросы

M5 Max быстрее, чем M3 Ultra, для LLM?: M3 Ultra читает память примерно на 33% быстрее, чем M5 Max (819 против 614 ГБ/с), поэтому с любой моделью, которая помещается в оба, генерирует примерно на 33% быстрее. Обработка длинного запроса зависит от вычислительной мощности GPU, а ее это сравнение не учитывает.
Какой запускает модели крупнее: M3 Ultra или M5 Max?: M3 Ultra: M3 Ultra поддерживает до 512 ГБ памяти, M5 Max — до 128 ГБ. С максимальной памятью он хорошо запускает 60 из 73 открытых моделей против 47.

Другие сравнения

M3 Ultra для локального ИИ · M5 Max для локального ИИ · Сравнить все модели · Лучший Mac для локальных LLM

Как это рассчитано

Память: параметры модели при 8, 6, 4, 3 или 2 битах на вес плюс групповые масштабы MLX (полбита на вес) или ее нативный формат, а сверху — место для контекста. По умолчанию macOS отдает GPU около 75% объединенной памяти. Скорость: пропускная способность памяти, деленная на число байтов, читаемых на каждый токен, — это потолок для одного диалога; в публичных тестах llama.cpp на Apple Silicon реальные запуски достигают примерно 45–80% от него, и показан именно этот диапазон. Это оценки, а не измерения: измерьте свой Mac в MLX Bench. Данные моделей — из официальных карточек моделей, данные чипов — из технических характеристик Apple. Проверено 2026-10-19. Те же данные, что и на mlx.app/compare.