Чи M5 Ultra швидший за M3 Ultra для LLM?

M5 Ultra читає пам’ять приблизно на 47% швидше, ніж M3 Ultra (1 200 проти 819 ГБ/с), тож з будь-якою моделлю, що вміщується в обидва, генерує приблизно на 47% швидше. Обробка довгого запиту залежить від обчислювальної потужності GPU, а її це порівняння не враховує.

Який запускає більші моделі: M3 Ultra чи M5 Ultra?

Жоден: обидва підтримують до 512 ГБ. За такого обсягу M3 Ultra добре запускає 60, а M5 Ultra — 61 з 73 відкритих моделей; швидший чип виводить більше з них за поріг 10 токенів за секунду.

M3 Ultra чи M5 Ultra для LLM: пам’ять, швидкість, що купити

Пліч-о-пліч

	M3 Ultra	M5 Ultra
Обсяги пам’яті	96, 256, 512 ГБ	96, 256, 512 ГБ
Пропускна здатність пам’яті	819 ГБ/с	1 200 ГБ/с
Для моделей, щонайбільше	близько 384 ГБ	близько 384 ГБ
Моделі, що працюють добре	60 з 73	61 з 73
Клас місця MLX	Ultra	Ultra Latest
Трапляється в	Mac Studio (2025)	Mac Studio (M5 Max or M5 Ultra)

Швидкість із популярними моделями

Токенів за секунду для однієї розмови, кожен чип із максимальною пам’яттю (512 ГБ і 512 ГБ), з найкращою версією моделі, що вміщується.

Модель	M3 Ultra	M5 Ultra
Llama 3.1 8B Instruct8B	43–77 8 біт	64–113 8 біт
gpt-oss-20b21B · активних: 3,6B	194–345 нативні 4,25 біт	284–505 нативні 4,25 біт
Qwen3.6 35B A3B35B · активних: 3B	115–205 8 біт	169–300 8 біт
Qwen3.8 27B27B	13–23 8 біт	19–33 8 біт
Llama 3.3 70B Instruct70B	5–9 8 біт	14–24 4 біт
gpt-oss-120b117B · активних: 5,1B	137–243 нативні 4,25 біт	200–356 нативні 4,25 біт
Qwen3.5 122B A10B122B · активних: 10B	35–62 8 біт	51–91 8 біт
DeepSeek V4 Flash 0731284B · активних: 13B	27–47 8 біт	39–70 8 біт

Запитання

Чи M5 Ultra швидший за M3 Ultra для LLM?: M5 Ultra читає пам’ять приблизно на 47% швидше, ніж M3 Ultra (1 200 проти 819 ГБ/с), тож з будь-якою моделлю, що вміщується в обидва, генерує приблизно на 47% швидше. Обробка довгого запиту залежить від обчислювальної потужності GPU, а її це порівняння не враховує.
Який запускає більші моделі: M3 Ultra чи M5 Ultra?: Жоден: обидва підтримують до 512 ГБ. За такого обсягу M3 Ultra добре запускає 60, а M5 Ultra — 61 з 73 відкритих моделей; швидший чип виводить більше з них за поріг 10 токенів за секунду.

Інші порівняння

M3 Ultra для локального ШІ · M5 Ultra для локального ШІ · Порівняти всі моделі · Найкращий Mac для локальних LLM

Як це розраховано

Пам’ять: параметри моделі за 8, 6, 4, 3 або 2 біт на вагу плюс групові масштаби MLX (пів біта на вагу) або її нативний формат, а зверху — місце для контексту. За замовчуванням macOS дає GPU близько 75% об’єднаної пам’яті. Швидкість: пропускна здатність пам’яті, поділена на кількість байтів, що читаються на кожен токен, — це стеля для однієї розмови; у публічних тестах llama.cpp на Apple Silicon реальні запуски досягають приблизно 45–80% від неї, і показано саме цей діапазон. Це оцінки, а не вимірювання: виміряйте свій Mac у MLX Bench. Дані моделей — з офіційних карток моделей, дані чипів — з технічних характеристик Apple. Перевірено 2026-10-19. Ті самі дані, що й на mlx.app/compare.