Чи DGX Spark швидший за M4 Max для LLM?

M4 Max читає пам’ять приблизно на 100% швидше, ніж DGX Spark (546 проти 273 ГБ/с), тож з будь-якою моделлю, що вміщується в обидва, генерує приблизно на 100% швидше. У вимірі llama.cpp DGX Spark читає промпт приблизно в 3,5 раза швидше (3 062 проти 886 токенів за секунду). Читання промпту залежить від обчислювальної потужності GPU, а не від пропускної здатності пам’яті, і саме воно визначає очікування до першого слова з довгим документом чи кодовою базою.

Який запускає більші моделі: M4 Max чи DGX Spark?

В обох близько 96 ГБ для моделей. 47 із 73 популярних відкритих моделей добре працюють на M4 Max, 39 — на DGX Spark.

Чи працює MLX Node на DGX Spark?

Ні. MLX Node і MLX Harness працюють лише на Mac з Apple Silicon, на фреймворку MLX від Apple.

M4 Max чи DGX Spark для LLM: пам’ять, швидкість, що купити

Пліч-о-пліч

	M4 Max	DGX Spark
Що це	MacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024), Mac Studio (2025)	Готовий невеликий комп’ютер
Обсяги пам’яті	36, 48, 64, 128 ГБ	128 ГБ
Пропускна здатність пам’яті	410–546 ГБ/с	273 ГБ/с
Для моделей, щонайбільше	близько 96 ГБ	близько 96 ГБ
Моделі, що працюють добре	47 з 73	39 з 73
Виміряно: генерація	83 tok/s	57 tok/s
Виміряно: читання промпту	886 tok/s	3 062 tok/s

Рядки з вимірами: найкращий результат кожної машини у відкритих бенчмарках llama.cpp з Llama 2 7B Q4_0 — генерація 128 токенів (tg128) і читання промпту з 512 токенів (pp512), у токенах за секунду. Mac працював через Metal, DGX Spark — через CUDA. Результати Apple Silicon · Результати DGX Spark Для моделей ми рахуємо близько 75% пам’яті в обох — типове значення macOS, — бо DGX Spark теж ділить одну пам’ять між CPU і GPU. Скільки його GPU може використати насправді, залежить від операційної системи та налаштувань.

Де хто виграє

Швидкість генерації. M4 Max читає пам’ять приблизно на 100% швидше, ніж DGX Spark (546 проти 273 ГБ/с), тож з будь-якою моделлю, що вміщується в обидва, генерує приблизно на 100% швидше.
Розмір моделей. В обох близько 96 ГБ для моделей. 47 із 73 популярних відкритих моделей добре працюють на M4 Max, 39 — на DGX Spark.
Читання довгих промптів. У вимірі llama.cpp DGX Spark читає промпт приблизно в 3,5 раза швидше (3 062 проти 886 токенів за секунду). Читання промпту залежить від обчислювальної потужності GPU, а не від пропускної здатності пам’яті, і саме воно визначає очікування до першого слова з довгим документом чи кодовою базою.
Програми. DGX Spark працює з CUDA від NVIDIA, яку більшість ШІ-програм підтримує насамперед, зокрема код для навчання та багато інструментів для зображень і відео. На Mac моделі запускають через MLX, бекенд Metal у llama.cpp або бекенд MPS у PyTorch.
Що навколо. Обидва — готові комп’ютери, що тримають модель в одній пам’яті, спільній для CPU і GPU.
Mac. Це ще й комп’ютер на щодень, і на ньому працюють MLX Harness та MLX Node, створені для Apple Silicon.

Швидкість із популярними моделями

Токенів за секунду для однієї розмови, кожен чип із максимальною пам’яттю (128 ГБ і 128 ГБ), з найкращою версією моделі, що вміщується.

Модель	M4 Max	DGX Spark
Llama 3.1 8B Instruct8B	29–51 8 біт	14–26 8 біт
gpt-oss-20b21B · активних: 3,6B	129–230 нативні 4,25 біт	65–115 нативні 4,25 біт
Qwen3.6 35B A3B35B · активних: 3B	77–137 8 біт	38–68 8 біт
Qwen3.8 27B27B	11–20 6 біт	4–8 8 біт
Llama 3.3 70B Instruct70B	3–6 8 біт	2–3 8 біт
gpt-oss-120b117B · активних: 5,1B	91–162 нативні 4,25 біт	45–81 нативні 4,25 біт
Qwen3.5 122B A10B122B · активних: 10B	44–78 4 біт	22–39 4 біт
DeepSeek V4 Flash 0731284B · активних: 13B	60–107 2 біт нижча якість	30–53 2 біт нижча якість

Запитання

Чи DGX Spark швидший за M4 Max для LLM?: M4 Max читає пам’ять приблизно на 100% швидше, ніж DGX Spark (546 проти 273 ГБ/с), тож з будь-якою моделлю, що вміщується в обидва, генерує приблизно на 100% швидше. У вимірі llama.cpp DGX Spark читає промпт приблизно в 3,5 раза швидше (3 062 проти 886 токенів за секунду). Читання промпту залежить від обчислювальної потужності GPU, а не від пропускної здатності пам’яті, і саме воно визначає очікування до першого слова з довгим документом чи кодовою базою.
Який запускає більші моделі: M4 Max чи DGX Spark?: В обох близько 96 ГБ для моделей. 47 із 73 популярних відкритих моделей добре працюють на M4 Max, 39 — на DGX Spark.
Чи працює MLX Node на DGX Spark?: Ні. MLX Node і MLX Harness працюють лише на Mac з Apple Silicon, на фреймворку MLX від Apple.

Інші порівняння

M4 Max для локального ШІ · Порівняти всі моделі · Найкращий Mac для локальних LLM

Як це розраховано

Пам’ять: параметри моделі за 8, 6, 4, 3 або 2 біт на вагу плюс групові масштаби MLX (пів біта на вагу) або її нативний формат, а зверху — місце для контексту. За замовчуванням macOS дає GPU близько 75% об’єднаної пам’яті. Швидкість: пропускна здатність пам’яті, поділена на кількість байтів, що читаються на кожен токен, — це стеля для однієї розмови; у публічних тестах llama.cpp на Apple Silicon реальні запуски досягають приблизно 45–80% від неї, і показано саме цей діапазон. Це оцінки, а не вимірювання: виміряйте свій Mac у MLX Bench. Дані моделей — з офіційних карток моделей, дані чипів — з технічних характеристик Apple. Перевірено 2026-10-19. Ті самі дані, що й на mlx.app/compare.

Дані DGX Spark: NVIDIA: DGX Spark (specs).