Il DGX Spark è più veloce del M5 Ultra per gli LLM?

Il M5 Ultra legge la memoria circa il 340% più velocemente del DGX Spark (1200 contro 273 GB/s), quindi scrive circa il 340% più velocemente con qualsiasi modello che stia in entrambi. Nel test misurato di llama.cpp il M5 Ultra legge un prompt circa 1,6× più velocemente (4945 contro 3062 token al secondo). La lettura di un prompt dipende dalla potenza di calcolo della GPU, non dalla banda della memoria, e determina l’attesa prima della prima parola con un documento lungo o una codebase.

Quale esegue modelli più grandi, il M5 Ultra o il DGX Spark?

Il M5 Ultra ha circa 384 GB per i modelli, il DGX Spark circa 96 GB. 61 dei 73 modelli aperti più popolari girano bene sul M5 Ultra, 39 sul DGX Spark.

MLX Node funziona sul DGX Spark?

No. MLX Node e MLX Harness funzionano solo sui Mac con Apple Silicon, con il framework MLX di Apple.

M5 Ultra vs DGX Spark per LLM: memoria, velocità, quale comprare

Fianco a fianco

	M5 Ultra	DGX Spark
Che cos’è	Mac Studio (M5 Max or M5 Ultra)	Un piccolo computer completo
Tagli di memoria	96, 256, 512 GB	128 GB
Larghezza di banda della memoria	1200 GB/s	273 GB/s
Per i modelli, al massimo	circa 384 GB	circa 96 GB
Modelli che girano bene	61 su 73	39 su 73
Misurato: scrittura	179 tok/s	57 tok/s
Misurato: lettura del prompt	4945 tok/s	3062 tok/s

Righe misurate: il risultato più veloce di ogni macchina nei benchmark pubblici di llama.cpp con Llama 2 7B Q4_0, scrivendo 128 token (tg128) e leggendo un prompt di 512 token (pp512), in token al secondo. Il Mac usava Metal, il DGX Spark CUDA. Risultati Apple Silicon · Risultati del DGX Spark Per i modelli contiamo circa il 75% della memoria su entrambi, il valore predefinito di macOS, perché anche il DGX Spark condivide un’unica memoria tra CPU e GPU. Quanta ne possa usare davvero la sua GPU dipende dal sistema operativo e dalle impostazioni.

Dove vince ciascuno

Velocità di scrittura. Il M5 Ultra legge la memoria circa il 340% più velocemente del DGX Spark (1200 contro 273 GB/s), quindi scrive circa il 340% più velocemente con qualsiasi modello che stia in entrambi.
Dimensione dei modelli. Il M5 Ultra ha circa 384 GB per i modelli, il DGX Spark circa 96 GB. 61 dei 73 modelli aperti più popolari girano bene sul M5 Ultra, 39 sul DGX Spark.
Lettura di prompt lunghi. Nel test misurato di llama.cpp il M5 Ultra legge un prompt circa 1,6× più velocemente (4945 contro 3062 token al secondo). La lettura di un prompt dipende dalla potenza di calcolo della GPU, non dalla banda della memoria, e determina l’attesa prima della prima parola con un documento lungo o una codebase.
Software. Il DGX Spark usa CUDA di NVIDIA, che la maggior parte del software di IA supporta per primo, compresi il codice di addestramento e molti strumenti per immagini e video. Su un Mac i modelli girano invece con MLX, il backend Metal di llama.cpp o il backend MPS di PyTorch.
Intorno. Sono entrambi computer completi che tengono il modello in un’unica memoria condivisa da CPU e GPU.
Il Mac. È anche un computer per tutti i giorni, e fa girare MLX Harness e MLX Node, pensati per Apple Silicon.

Velocità con i modelli più popolari

Token al secondo per una conversazione, ogni chip con il suo taglio di memoria più grande (512 GB e 128 GB), con la versione migliore del modello che ci sta.

Modello	M5 Ultra	DGX Spark
Llama 3.1 8B Instruct8B	64–113 8 bit	14–26 8 bit
gpt-oss-20b21B · 3,6B attivi	284–505 4,25 bit nativo	65–115 4,25 bit nativo
Qwen3.6 35B A3B35B · 3B attivi	169–300 8 bit	38–68 8 bit
Qwen3.8 27B27B	19–33 8 bit	4–8 8 bit
Llama 3.3 70B Instruct70B	14–24 4 bit	2–3 8 bit
gpt-oss-120b117B · 5,1B attivi	200–356 4,25 bit nativo	45–81 4,25 bit nativo
Qwen3.5 122B A10B122B · 10B attivi	51–91 8 bit	22–39 4 bit
DeepSeek V4 Flash 0731284B · 13B attivi	39–70 8 bit	30–53 2 bit qualità inferiore

Domande

Il DGX Spark è più veloce del M5 Ultra per gli LLM?: Il M5 Ultra legge la memoria circa il 340% più velocemente del DGX Spark (1200 contro 273 GB/s), quindi scrive circa il 340% più velocemente con qualsiasi modello che stia in entrambi. Nel test misurato di llama.cpp il M5 Ultra legge un prompt circa 1,6× più velocemente (4945 contro 3062 token al secondo). La lettura di un prompt dipende dalla potenza di calcolo della GPU, non dalla banda della memoria, e determina l’attesa prima della prima parola con un documento lungo o una codebase.
Quale esegue modelli più grandi, il M5 Ultra o il DGX Spark?: Il M5 Ultra ha circa 384 GB per i modelli, il DGX Spark circa 96 GB. 61 dei 73 modelli aperti più popolari girano bene sul M5 Ultra, 39 sul DGX Spark.
MLX Node funziona sul DGX Spark?: No. MLX Node e MLX Harness funzionano solo sui Mac con Apple Silicon, con il framework MLX di Apple.

Altri confronti

Il M5 Ultra per l’AI locale · Confronta tutti i modelli · Il miglior Mac per LLM in locale

Come è calcolato

Memoria: i parametri del modello a 8, 6, 4, 3 o 2 bit per peso più le scale per gruppo di MLX (mezzo bit per peso), oppure il suo formato nativo, con in più lo spazio per il contesto. Di default macOS lascia usare alla GPU circa il 75% della memoria unificata. Velocità: la larghezza di banda della memoria divisa per i byte letti per ogni token è il limite massimo per una conversazione; nei benchmark pubblici su Apple Silicon di llama.cpp, le esecuzioni reali arrivano a circa il 45%–80% di quel limite, ed è l’intervallo mostrato. Sono stime, non misurazioni: misura il tuo Mac su MLX Bench. Dati dei modelli dalla rispettiva scheda ufficiale, dati dei chip dalle specifiche tecniche di Apple. Verificato il 2026-10-19. Stessi dati di mlx.app/compare.

Dati del DGX Spark: NVIDIA: DGX Spark (specs).