¿Es el DGX Spark más rápido que el M5 Ultra para LLM?

El M5 Ultra lee la memoria alrededor de un 340 % más rápido que el DGX Spark (1200 frente a 273 GB/s), así que escribe alrededor de un 340 % más rápido con cualquier modelo que quepa en ambos. En la prueba medida de llama.cpp, el M5 Ultra lee un prompt unas 1,6× más rápido (4945 frente a 3062 tokens por segundo). Leer un prompt depende de la potencia de cálculo de la GPU, no del ancho de banda de memoria, y marca la espera hasta la primera palabra con un documento largo o una base de código.

¿Cuál ejecuta modelos más grandes, el M5 Ultra o el DGX Spark?

El M5 Ultra tiene unos 384 GB para modelos y el DGX Spark, unos 96 GB. 61 de 73 modelos abiertos populares funcionan bien en el M5 Ultra, y 39 en el DGX Spark.

¿Funciona MLX Node en el DGX Spark?

No. MLX Node y MLX Harness solo funcionan en Macs con Apple Silicon, con el framework MLX de Apple.

M5 Ultra vs DGX Spark para LLM: memoria, velocidad y cuál comprar

Lado a lado

	M5 Ultra	DGX Spark
Qué es	Mac Studio (M5 Max or M5 Ultra)	Un ordenador pequeño completo
Tamaños de memoria	96, 256, 512 GB	128 GB
Ancho de banda de memoria	1200 GB/s	273 GB/s
Para modelos, como máximo	unos 384 GB	unos 96 GB
Modelos que van bien	61 de 73	39 de 73
Medido: escritura	179 tok/s	57 tok/s
Medido: lectura del prompt	4945 tok/s	3062 tok/s

Filas medidas: el mejor resultado de cada equipo en los benchmarks públicos de llama.cpp con Llama 2 7B Q4_0, escribiendo 128 tokens (tg128) y leyendo un prompt de 512 tokens (pp512), en tokens por segundo. El Mac usó Metal y el DGX Spark, CUDA. Resultados de Apple Silicon · Resultados del DGX Spark Para los modelos contamos alrededor del 75 % de la memoria en ambos, el valor por defecto de macOS, porque el DGX Spark también comparte una sola memoria entre CPU y GPU. Cuánta puede usar de verdad su GPU depende del sistema operativo y de su configuración.

Dónde gana cada uno

Velocidad de escritura. El M5 Ultra lee la memoria alrededor de un 340 % más rápido que el DGX Spark (1200 frente a 273 GB/s), así que escribe alrededor de un 340 % más rápido con cualquier modelo que quepa en ambos.
Tamaño de modelo. El M5 Ultra tiene unos 384 GB para modelos y el DGX Spark, unos 96 GB. 61 de 73 modelos abiertos populares funcionan bien en el M5 Ultra, y 39 en el DGX Spark.
Lectura de prompts largos. En la prueba medida de llama.cpp, el M5 Ultra lee un prompt unas 1,6× más rápido (4945 frente a 3062 tokens por segundo). Leer un prompt depende de la potencia de cálculo de la GPU, no del ancho de banda de memoria, y marca la espera hasta la primera palabra con un documento largo o una base de código.
Software. El DGX Spark usa CUDA de NVIDIA, que la mayoría del software de IA admite primero, incluido el código de entrenamiento y muchas herramientas de imagen y vídeo. En un Mac, los modelos se ejecutan con MLX, el backend Metal de llama.cpp o el backend MPS de PyTorch.
Lo que necesita alrededor. Los dos son ordenadores completos que guardan el modelo en una sola memoria compartida por CPU y GPU.
El Mac. También es un ordenador para el día a día, y ejecuta MLX Harness y MLX Node, hechos para Apple Silicon.

Velocidad con modelos populares

Tokens por segundo en una conversación, cada chip con su mayor tamaño de memoria (512 GB y 128 GB), con la mejor versión del modelo que cabe.

Modelo	M5 Ultra	DGX Spark
Llama 3.1 8B Instruct8B	64–113 8 bits	14–26 8 bits
gpt-oss-20b21B · 3,6B activos	284–505 4,25 bits nativo	65–115 4,25 bits nativo
Qwen3.6 35B A3B35B · 3B activos	169–300 8 bits	38–68 8 bits
Qwen3.8 27B27B	19–33 8 bits	4–8 8 bits
Llama 3.3 70B Instruct70B	14–24 4 bits	2–3 8 bits
gpt-oss-120b117B · 5,1B activos	200–356 4,25 bits nativo	45–81 4,25 bits nativo
Qwen3.5 122B A10B122B · 10B activos	51–91 8 bits	22–39 4 bits
DeepSeek V4 Flash 0731284B · 13B activos	39–70 8 bits	30–53 2 bits menor calidad

Preguntas

¿Es el DGX Spark más rápido que el M5 Ultra para LLM?: El M5 Ultra lee la memoria alrededor de un 340 % más rápido que el DGX Spark (1200 frente a 273 GB/s), así que escribe alrededor de un 340 % más rápido con cualquier modelo que quepa en ambos. En la prueba medida de llama.cpp, el M5 Ultra lee un prompt unas 1,6× más rápido (4945 frente a 3062 tokens por segundo). Leer un prompt depende de la potencia de cálculo de la GPU, no del ancho de banda de memoria, y marca la espera hasta la primera palabra con un documento largo o una base de código.
¿Cuál ejecuta modelos más grandes, el M5 Ultra o el DGX Spark?: El M5 Ultra tiene unos 384 GB para modelos y el DGX Spark, unos 96 GB. 61 de 73 modelos abiertos populares funcionan bien en el M5 Ultra, y 39 en el DGX Spark.
¿Funciona MLX Node en el DGX Spark?: No. MLX Node y MLX Harness solo funcionan en Macs con Apple Silicon, con el framework MLX de Apple.

Más comparaciones

El M5 Ultra para IA local · Compara todos los modelos · La mejor Mac para LLM en local

Cómo se calcula

Memoria: los parámetros del modelo a 8, 6, 4, 3 o 2 bits por peso más las escalas por grupo de MLX (medio bit por peso), o su formato nativo, con espacio extra para el contexto. De forma predeterminada, macOS deja que la GPU use alrededor del 75 % de la memoria unificada. Velocidad: el ancho de banda de memoria dividido entre los bytes leídos por token es el techo para una conversación; en los benchmarks públicos de Apple Silicon de llama.cpp, las ejecuciones reales alcanzan entre el 45 % y el 80 % de ese techo, que es el rango que se muestra. Son estimaciones, no mediciones: mide tu propia Mac en MLX Bench. Datos de los modelos tomados de cada ficha oficial; datos de los chips, de las especificaciones técnicas de Apple. Revisado el 2026-10-19. Los mismos datos que mlx.app/compare.

Datos del DGX Spark: NVIDIA: DGX Spark (specs).