Il DGX Spark è più veloce del M5 Max per gli LLM?

Il M5 Max legge la memoria circa il 125% più velocemente del DGX Spark (614 contro 273 GB/s), quindi scrive circa il 125% più velocemente con qualsiasi modello che stia in entrambi. Nel test misurato di llama.cpp entrambi leggono un prompt più o meno alla stessa velocità (3220 e 3062 token al secondo).

Quale esegue modelli più grandi, il M5 Max o il DGX Spark?

Entrambi hanno circa 96 GB per i modelli. 47 dei 73 modelli aperti più popolari girano bene sul M5 Max, 39 sul DGX Spark.

MLX Node funziona sul DGX Spark?

No. MLX Node e MLX Harness funzionano solo sui Mac con Apple Silicon, con il framework MLX di Apple.

M5 Max vs DGX Spark per LLM: memoria, velocità, quale comprare

Fianco a fianco

	M5 Max	DGX Spark
Che cos’è	MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra)	Un piccolo computer completo
Tagli di memoria	36, 48, 64, 128 GB	128 GB
Larghezza di banda della memoria	460–614 GB/s	273 GB/s
Per i modelli, al massimo	circa 96 GB	circa 96 GB
Modelli che girano bene	47 su 73	39 su 73
Misurato: scrittura	120 tok/s	57 tok/s
Misurato: lettura del prompt	3220 tok/s	3062 tok/s

Righe misurate: il risultato più veloce di ogni macchina nei benchmark pubblici di llama.cpp con Llama 2 7B Q4_0, scrivendo 128 token (tg128) e leggendo un prompt di 512 token (pp512), in token al secondo. Il Mac usava Metal, il DGX Spark CUDA. Risultati Apple Silicon · Risultati del DGX Spark Per i modelli contiamo circa il 75% della memoria su entrambi, il valore predefinito di macOS, perché anche il DGX Spark condivide un’unica memoria tra CPU e GPU. Quanta ne possa usare davvero la sua GPU dipende dal sistema operativo e dalle impostazioni.

Dove vince ciascuno

Velocità di scrittura. Il M5 Max legge la memoria circa il 125% più velocemente del DGX Spark (614 contro 273 GB/s), quindi scrive circa il 125% più velocemente con qualsiasi modello che stia in entrambi.
Dimensione dei modelli. Entrambi hanno circa 96 GB per i modelli. 47 dei 73 modelli aperti più popolari girano bene sul M5 Max, 39 sul DGX Spark.
Lettura di prompt lunghi. Nel test misurato di llama.cpp entrambi leggono un prompt più o meno alla stessa velocità (3220 e 3062 token al secondo).
Software. Il DGX Spark usa CUDA di NVIDIA, che la maggior parte del software di IA supporta per primo, compresi il codice di addestramento e molti strumenti per immagini e video. Su un Mac i modelli girano invece con MLX, il backend Metal di llama.cpp o il backend MPS di PyTorch.
Intorno. Sono entrambi computer completi che tengono il modello in un’unica memoria condivisa da CPU e GPU.
Il Mac. È anche un computer per tutti i giorni, e fa girare MLX Harness e MLX Node, pensati per Apple Silicon.

Velocità con i modelli più popolari

Token al secondo per una conversazione, ogni chip con il suo taglio di memoria più grande (128 GB e 128 GB), con la versione migliore del modello che ci sta.

Modello	M5 Max	DGX Spark
Llama 3.1 8B Instruct8B	33–58 8 bit	14–26 8 bit
gpt-oss-20b21B · 3,6B attivi	145–259 4,25 bit nativo	65–115 4,25 bit nativo
Qwen3.6 35B A3B35B · 3B attivi	86–154 8 bit	38–68 8 bit
Qwen3.8 27B27B	10–17 8 bit	4–8 8 bit
Llama 3.3 70B Instruct70B	4–7 8 bit	2–3 8 bit
gpt-oss-120b117B · 5,1B attivi	102–182 4,25 bit nativo	45–81 4,25 bit nativo
Qwen3.5 122B A10B122B · 10B attivi	49–88 4 bit	22–39 4 bit
DeepSeek V4 Flash 0731284B · 13B attivi	67–120 2 bit qualità inferiore	30–53 2 bit qualità inferiore

Domande

Il DGX Spark è più veloce del M5 Max per gli LLM?: Il M5 Max legge la memoria circa il 125% più velocemente del DGX Spark (614 contro 273 GB/s), quindi scrive circa il 125% più velocemente con qualsiasi modello che stia in entrambi. Nel test misurato di llama.cpp entrambi leggono un prompt più o meno alla stessa velocità (3220 e 3062 token al secondo).
Quale esegue modelli più grandi, il M5 Max o il DGX Spark?: Entrambi hanno circa 96 GB per i modelli. 47 dei 73 modelli aperti più popolari girano bene sul M5 Max, 39 sul DGX Spark.
MLX Node funziona sul DGX Spark?: No. MLX Node e MLX Harness funzionano solo sui Mac con Apple Silicon, con il framework MLX di Apple.

Altri confronti

Il M5 Max per l’AI locale · Confronta tutti i modelli · Il miglior Mac per LLM in locale

Come è calcolato

Memoria: i parametri del modello a 8, 6, 4, 3 o 2 bit per peso più le scale per gruppo di MLX (mezzo bit per peso), oppure il suo formato nativo, con in più lo spazio per il contesto. Di default macOS lascia usare alla GPU circa il 75% della memoria unificata. Velocità: la larghezza di banda della memoria divisa per i byte letti per ogni token è il limite massimo per una conversazione; nei benchmark pubblici su Apple Silicon di llama.cpp, le esecuzioni reali arrivano a circa il 45%–80% di quel limite, ed è l’intervallo mostrato. Sono stime, non misurazioni: misura il tuo Mac su MLX Bench. Dati dei modelli dalla rispettiva scheda ufficiale, dati dei chip dalle specifiche tecniche di Apple. Verificato il 2026-10-19. Stessi dati di mlx.app/compare.

Dati del DGX Spark: NVIDIA: DGX Spark (specs).