Чи RTX 5090 швидший за M5 Max для LLM?

RTX 5090 читає пам’ять приблизно на 192% швидше, ніж M5 Max (1 792 проти 614 ГБ/с), тож з будь-якою моделлю, що вміщується в обидва, генерує приблизно на 192% швидше. У вимірі llama.cpp RTX 5090 читає промпт приблизно в 4,4 раза швидше (14 073 проти 3 220 токенів за секунду). Читання промпту залежить від обчислювальної потужності GPU, а не від пропускної здатності пам’яті, і саме воно визначає очікування до першого слова з довгим документом чи кодовою базою.

Який запускає більші моделі: M5 Max чи RTX 5090?

У M5 Max близько 96 ГБ для моделей, у RTX 5090 — близько 31 ГБ. 47 із 73 популярних відкритих моделей добре працюють на M5 Max, 38 — на RTX 5090.

Чи працює MLX Node на RTX 5090?

Ні. MLX Node і MLX Harness працюють лише на Mac з Apple Silicon, на фреймворку MLX від Apple.

M5 Max чи RTX 5090 для LLM: пам’ять, швидкість, що купити

Пліч-о-пліч

	M5 Max	RTX 5090
Що це	MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra)	Відеокарта для настільного ПК
Обсяги пам’яті	36, 48, 64, 128 ГБ	32 ГБ
Пропускна здатність пам’яті	460–614 ГБ/с	1 792 ГБ/с
Для моделей, щонайбільше	близько 96 ГБ	близько 31 ГБ
Моделі, що працюють добре	47 з 73	38 з 73
Виміряно: генерація	120 tok/s	290 tok/s
Виміряно: читання промпту	3 220 tok/s	14 073 tok/s

Рядки з вимірами: найкращий результат кожної машини у відкритих бенчмарках llama.cpp з Llama 2 7B Q4_0 — генерація 128 токенів (tg128) і читання промпту з 512 токенів (pp512), у токенах за секунду. Mac працював через Metal, RTX 5090 — через CUDA. Результати Apple Silicon · Результати RTX 5090 Для моделей ми рахуємо власні 32 ГБ у RTX 5090 мінус приблизно 1 ГБ і близько 75% спільної пам’яті Mac — типове значення macOS.

Де хто виграє

Швидкість генерації. RTX 5090 читає пам’ять приблизно на 192% швидше, ніж M5 Max (1 792 проти 614 ГБ/с), тож з будь-якою моделлю, що вміщується в обидва, генерує приблизно на 192% швидше.
Розмір моделей. У M5 Max близько 96 ГБ для моделей, у RTX 5090 — близько 31 ГБ. 47 із 73 популярних відкритих моделей добре працюють на M5 Max, 38 — на RTX 5090.
Читання довгих промптів. У вимірі llama.cpp RTX 5090 читає промпт приблизно в 4,4 раза швидше (14 073 проти 3 220 токенів за секунду). Читання промпту залежить від обчислювальної потужності GPU, а не від пропускної здатності пам’яті, і саме воно визначає очікування до першого слова з довгим документом чи кодовою базою.
Програми. RTX 5090 працює з CUDA від NVIDIA, яку більшість ШІ-програм підтримує насамперед, зокрема код для навчання та багато інструментів для зображень і відео. На Mac моделі запускають через MLX, бекенд Metal у llama.cpp або бекенд MPS у PyTorch.
Що навколо. Відеокарті потрібен ПК навколо, а її власні 32 ГБ — це межа: модель, що не вміщується, доводиться частково запускати з набагато повільнішої системної пам’яті ПК або ділити з другою картою.
Mac. Це ще й комп’ютер на щодень, і на ньому працюють MLX Harness та MLX Node, створені для Apple Silicon.

Швидкість із популярними моделями

Токенів за секунду для однієї розмови, кожен чип із максимальною пам’яттю (128 ГБ і 32 ГБ), з найкращою версією моделі, що вміщується.

Модель	M5 Max	RTX 5090
Llama 3.1 8B Instruct8B	33–58 8 біт	95–169 8 біт
gpt-oss-20b21B · активних: 3,6B	145–259 нативні 4,25 біт	424–755 нативні 4,25 біт
Qwen3.6 35B A3B35B · активних: 3B	86–154 8 біт	336–597 6 біт
Qwen3.8 27B27B	10–17 8 біт	28–50 8 біт
Llama 3.3 70B Instruct70B	4–7 8 біт	37–65 2 біт нижча якість
gpt-oss-120b117B · активних: 5,1B	102–182 нативні 4,25 біт	завелика
Qwen3.5 122B A10B122B · активних: 10B	49–88 4 біт	завелика
DeepSeek V4 Flash 0731284B · активних: 13B	67–120 2 біт нижча якість	завелика

Запитання

Чи RTX 5090 швидший за M5 Max для LLM?: RTX 5090 читає пам’ять приблизно на 192% швидше, ніж M5 Max (1 792 проти 614 ГБ/с), тож з будь-якою моделлю, що вміщується в обидва, генерує приблизно на 192% швидше. У вимірі llama.cpp RTX 5090 читає промпт приблизно в 4,4 раза швидше (14 073 проти 3 220 токенів за секунду). Читання промпту залежить від обчислювальної потужності GPU, а не від пропускної здатності пам’яті, і саме воно визначає очікування до першого слова з довгим документом чи кодовою базою.
Який запускає більші моделі: M5 Max чи RTX 5090?: У M5 Max близько 96 ГБ для моделей, у RTX 5090 — близько 31 ГБ. 47 із 73 популярних відкритих моделей добре працюють на M5 Max, 38 — на RTX 5090.
Чи працює MLX Node на RTX 5090?: Ні. MLX Node і MLX Harness працюють лише на Mac з Apple Silicon, на фреймворку MLX від Apple.

Інші порівняння

M5 Max для локального ШІ · Порівняти всі моделі · Найкращий Mac для локальних LLM

Як це розраховано

Пам’ять: параметри моделі за 8, 6, 4, 3 або 2 біт на вагу плюс групові масштаби MLX (пів біта на вагу) або її нативний формат, а зверху — місце для контексту. За замовчуванням macOS дає GPU близько 75% об’єднаної пам’яті. Швидкість: пропускна здатність пам’яті, поділена на кількість байтів, що читаються на кожен токен, — це стеля для однієї розмови; у публічних тестах llama.cpp на Apple Silicon реальні запуски досягають приблизно 45–80% від неї, і показано саме цей діапазон. Це оцінки, а не вимірювання: виміряйте свій Mac у MLX Bench. Дані моделей — з офіційних карток моделей, дані чипів — з технічних характеристик Apple. Перевірено 2026-10-19. Ті самі дані, що й на mlx.app/compare.

Дані RTX 5090: NVIDIA: GeForce RTX 5090 (specs: 32 GB GDDR7, 512-bit, 575 W TGP), NVIDIA RTX Blackwell GPU Architecture whitepaper (Tables 1 and 4).