Is de DGX Spark sneller dan de M5 Max voor LLM's?

De M5 Max leest het geheugen ongeveer 125% sneller dan de DGX Spark (614 tegen 273 GB/s), dus hij schrijft ongeveer 125% sneller met elk model dat in beide past. In de gemeten test van llama.cpp lezen beide een prompt ongeveer even snel (3.220 en 3.062 tokens per seconde).

Welke draait grotere modellen, de M5 Max of de DGX Spark?

Beide hebben ongeveer 96 GB voor modellen. 47 van de 73 populaire open modellen draaien goed op de M5 Max, 39 op de DGX Spark.

Draait MLX Node op de DGX Spark?

Nee. MLX Node en MLX Harness draaien alleen op Macs met Apple Silicon, met Apples MLX-framework.

M5 Max vs DGX Spark voor LLM's: geheugen, snelheid, welke kopen

Naast elkaar

	M5 Max	DGX Spark
Wat het is	MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra)	Een complete kleine computer
Geheugengroottes	36, 48, 64, 128 GB	128 GB
Geheugenbandbreedte	460–614 GB/s	273 GB/s
Voor modellen, hooguit	ongeveer 96 GB	ongeveer 96 GB
Modellen die goed draaien	47 van 73	39 van 73
Gemeten: schrijven	120 tok/s	57 tok/s
Gemeten: prompt lezen	3.220 tok/s	3.062 tok/s

Gemeten rijen: het snelste resultaat van elke machine in de openbare benchmarks van llama.cpp met Llama 2 7B Q4_0, bij het schrijven van 128 tokens (tg128) en het lezen van een prompt van 512 tokens (pp512), in tokens per seconde. De Mac draaide op Metal, de DGX Spark op CUDA. Resultaten Apple Silicon · Resultaten DGX Spark Voor modellen rekenen we bij beide met ongeveer 75% van het geheugen, de standaard van macOS, omdat ook de DGX Spark één geheugen deelt tussen CPU en GPU. Hoeveel zijn GPU echt mag gebruiken, hangt af van het besturingssysteem en de instellingen.

Waar elk wint

Schrijfsnelheid. De M5 Max leest het geheugen ongeveer 125% sneller dan de DGX Spark (614 tegen 273 GB/s), dus hij schrijft ongeveer 125% sneller met elk model dat in beide past.
Modelgrootte. Beide hebben ongeveer 96 GB voor modellen. 47 van de 73 populaire open modellen draaien goed op de M5 Max, 39 op de DGX Spark.
Lange prompts lezen. In de gemeten test van llama.cpp lezen beide een prompt ongeveer even snel (3.220 en 3.062 tokens per seconde).
Software. De DGX Spark gebruikt NVIDIA’s CUDA, dat de meeste AI-software als eerste ondersteunt, waaronder trainingscode en veel beeld- en videotools. Op een Mac draai je modellen in plaats daarvan met MLX, de Metal-backend van llama.cpp of de MPS-backend van PyTorch.
Eromheen. Beide zijn complete computers die het model in één geheugen houden dat CPU en GPU delen.
De Mac. Het is ook een computer voor elke dag, en hij draait MLX Harness en MLX Node, gemaakt voor Apple Silicon.

Snelheid met populaire modellen

Tokens per seconde voor één gesprek, elke chip met zijn grootste geheugen (128 GB en 128 GB), met de beste versie van het model die past.

Model	M5 Max	DGX Spark
Llama 3.1 8B Instruct8B	33–58 8 bits	14–26 8 bits
gpt-oss-20b21B · 3,6B actief	145–259 4,25 bits native	65–115 4,25 bits native
Qwen3.6 35B A3B35B · 3B actief	86–154 8 bits	38–68 8 bits
Qwen3.8 27B27B	10–17 8 bits	4–8 8 bits
Llama 3.3 70B Instruct70B	4–7 8 bits	2–3 8 bits
gpt-oss-120b117B · 5,1B actief	102–182 4,25 bits native	45–81 4,25 bits native
Qwen3.5 122B A10B122B · 10B actief	49–88 4 bits	22–39 4 bits
DeepSeek V4 Flash 0731284B · 13B actief	67–120 2 bits lagere kwaliteit	30–53 2 bits lagere kwaliteit

Vragen

Is de DGX Spark sneller dan de M5 Max voor LLM's?: De M5 Max leest het geheugen ongeveer 125% sneller dan de DGX Spark (614 tegen 273 GB/s), dus hij schrijft ongeveer 125% sneller met elk model dat in beide past. In de gemeten test van llama.cpp lezen beide een prompt ongeveer even snel (3.220 en 3.062 tokens per seconde).
Welke draait grotere modellen, de M5 Max of de DGX Spark?: Beide hebben ongeveer 96 GB voor modellen. 47 van de 73 populaire open modellen draaien goed op de M5 Max, 39 op de DGX Spark.
Draait MLX Node op de DGX Spark?: Nee. MLX Node en MLX Harness draaien alleen op Macs met Apple Silicon, met Apples MLX-framework.

Meer vergelijkingen

De M5 Max voor lokale AI · Vergelijk alle modellen · De beste Mac voor lokale LLM's

Zo is het berekend

Geheugen: de parameters van het model op 8, 6, 4, 3 of 2 bits per gewicht plus de groepsschalen van MLX (een halve bit per gewicht), of het eigen formaat van het model, met daarbovenop ruimte voor de context. Standaard laat macOS de GPU ongeveer 75% van het geïntegreerde geheugen gebruiken. Snelheid: de geheugenbandbreedte gedeeld door het aantal bytes dat per token wordt gelezen, is het plafond voor één gesprek; in de openbare Apple Silicon-benchmarks van llama.cpp halen echte runs ongeveer 45% tot 80% daarvan, en dat is het bereik dat we tonen. Dit zijn schattingen, geen metingen: meet je eigen Mac op MLX Bench. Modelgegevens uit elke officiële modelkaart, chipgegevens uit de technische specificaties van Apple. Gecontroleerd op 2026-10-19. Dezelfde gegevens als mlx.app/compare.

Gegevens van de DGX Spark: NVIDIA: DGX Spark (specs).