Чи M2 Ultra швидший за M2 Max для LLM?

M2 Ultra читає пам’ять приблизно на 100% швидше, ніж M2 Max (800 проти 400 ГБ/с), тож з будь-якою моделлю, що вміщується в обидва, генерує приблизно на 100% швидше. Обробка довгого запиту залежить від обчислювальної потужності GPU, а її це порівняння не враховує.

Який запускає більші моделі: M2 Max чи M2 Ultra?

M2 Ultra: M2 Ultra підтримує до 192 ГБ пам’яті, M2 Max — до 96 ГБ. З максимальною пам’яттю він добре запускає 49 з 73 відкритих моделей проти 43.

M2 Max чи M2 Ultra для LLM: пам’ять, швидкість, що купити

Пліч-о-пліч

	M2 Max	M2 Ultra
Обсяги пам’яті	32, 64, 96 ГБ	64, 128, 192 ГБ
Пропускна здатність пам’яті	400 ГБ/с	800 ГБ/с
Для моделей, щонайбільше	близько 72 ГБ	близько 144 ГБ
Моделі, що працюють добре	43 з 73	49 з 73
Клас місця MLX	Pro	Ultra
Трапляється в	MacBook Pro (14-inch, 2023), MacBook Pro (16-inch, 2023), Mac Studio (2023)	Mac Studio (2023), Mac Pro (2023), Mac Pro (Rack, 2023)

Швидкість із популярними моделями

Токенів за секунду для однієї розмови, кожен чип із максимальною пам’яттю (96 ГБ і 192 ГБ), з найкращою версією моделі, що вміщується.

Модель	M2 Max	M2 Ultra
Llama 3.1 8B Instruct8B	21–38 8 біт	42–75 8 біт
gpt-oss-20b21B · активних: 3,6B	95–168 нативні 4,25 біт	189–337 нативні 4,25 біт
Qwen3.6 35B A3B35B · активних: 3B	56–100 8 біт	113–200 8 біт
Qwen3.8 27B27B	12–21 4 біт	13–22 8 біт
Llama 3.3 70B Instruct70B	3–6 6 біт	5–9 8 біт
gpt-oss-120b117B · активних: 5,1B	67–119 нативні 4,25 біт	133–237 нативні 4,25 біт
Qwen3.5 122B A10B122B · активних: 10B	41–73 3 біт нижча якість	34–60 8 біт
DeepSeek V4 Flash 0731284B · активних: 13B	завелика	63–112 3 біт нижча якість

Запитання

Чи M2 Ultra швидший за M2 Max для LLM?: M2 Ultra читає пам’ять приблизно на 100% швидше, ніж M2 Max (800 проти 400 ГБ/с), тож з будь-якою моделлю, що вміщується в обидва, генерує приблизно на 100% швидше. Обробка довгого запиту залежить від обчислювальної потужності GPU, а її це порівняння не враховує.
Який запускає більші моделі: M2 Max чи M2 Ultra?: M2 Ultra: M2 Ultra підтримує до 192 ГБ пам’яті, M2 Max — до 96 ГБ. З максимальною пам’яттю він добре запускає 49 з 73 відкритих моделей проти 43.

Інші порівняння

M2 Max для локального ШІ · M2 Ultra для локального ШІ · Порівняти всі моделі · Найкращий Mac для локальних LLM

Як це розраховано

Пам’ять: параметри моделі за 8, 6, 4, 3 або 2 біт на вагу плюс групові масштаби MLX (пів біта на вагу) або її нативний формат, а зверху — місце для контексту. За замовчуванням macOS дає GPU близько 75% об’єднаної пам’яті. Швидкість: пропускна здатність пам’яті, поділена на кількість байтів, що читаються на кожен токен, — це стеля для однієї розмови; у публічних тестах llama.cpp на Apple Silicon реальні запуски досягають приблизно 45–80% від неї, і показано саме цей діапазон. Це оцінки, а не вимірювання: виміряйте свій Mac у MLX Bench. Дані моделей — з офіційних карток моделей, дані чипів — з технічних характеристик Apple. Перевірено 2026-10-19. Ті самі дані, що й на mlx.app/compare.