M4 Max vs DGX Spark per l’AI locale.

Il M4 Max legge la memoria circa il 100% più velocemente del DGX Spark (546 contro 273 GB/s), quindi scrive circa il 100% più velocemente con qualsiasi modello che stia in entrambi. Entrambi hanno circa 96 GB per i modelli.

M4 Max410–546 GB/sfino a 128 GB · 47 modelli girano beneDGX Spark273 GB/sfino a 128 GB · 39 modelli girano bene

Fianco a fianco

M4 MaxDGX Spark
Che cos’èMacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024), Mac Studio (2025)Un piccolo computer completo
Tagli di memoria36, 48, 64, 128 GB128 GB
Larghezza di banda della memoria410–546 GB/s273 GB/s
Per i modelli, al massimocirca 96 GBcirca 96 GB
Modelli che girano bene47 su 7339 su 73
Misurato: scrittura83 tok/s57 tok/s
Misurato: lettura del prompt886 tok/s3062 tok/s

Righe misurate: il risultato più veloce di ogni macchina nei benchmark pubblici di llama.cpp con Llama 2 7B Q4_0, scrivendo 128 token (tg128) e leggendo un prompt di 512 token (pp512), in token al secondo. Il Mac usava Metal, il DGX Spark CUDA. Risultati Apple Silicon · Risultati del DGX Spark Per i modelli contiamo circa il 75% della memoria su entrambi, il valore predefinito di macOS, perché anche il DGX Spark condivide un’unica memoria tra CPU e GPU. Quanta ne possa usare davvero la sua GPU dipende dal sistema operativo e dalle impostazioni.

Dove vince ciascuno

  • Velocità di scrittura. Il M4 Max legge la memoria circa il 100% più velocemente del DGX Spark (546 contro 273 GB/s), quindi scrive circa il 100% più velocemente con qualsiasi modello che stia in entrambi.
  • Dimensione dei modelli. Entrambi hanno circa 96 GB per i modelli. 47 dei 73 modelli aperti più popolari girano bene sul M4 Max, 39 sul DGX Spark.
  • Lettura di prompt lunghi. Nel test misurato di llama.cpp il DGX Spark legge un prompt circa 3,5× più velocemente (3062 contro 886 token al secondo). La lettura di un prompt dipende dalla potenza di calcolo della GPU, non dalla banda della memoria, e determina l’attesa prima della prima parola con un documento lungo o una codebase.
  • Software. Il DGX Spark usa CUDA di NVIDIA, che la maggior parte del software di IA supporta per primo, compresi il codice di addestramento e molti strumenti per immagini e video. Su un Mac i modelli girano invece con MLX, il backend Metal di llama.cpp o il backend MPS di PyTorch.
  • Intorno. Sono entrambi computer completi che tengono il modello in un’unica memoria condivisa da CPU e GPU.
  • Il Mac. È anche un computer per tutti i giorni, e fa girare MLX Harness e MLX Node, pensati per Apple Silicon.

Velocità con i modelli più popolari

Token al secondo per una conversazione, ogni chip con il suo taglio di memoria più grande (128 GB e 128 GB), con la versione migliore del modello che ci sta.

ModelloM4 MaxDGX Spark
Llama 3.1 8B Instruct8B29–51 8 bit14–26 8 bit
gpt-oss-20b21B · 3,6B attivi129–230 4,25 bit nativo65–115 4,25 bit nativo
Qwen3.6 35B A3B35B · 3B attivi77–137 8 bit38–68 8 bit
Qwen3.8 27B27B11–20 6 bit4–8 8 bit
Llama 3.3 70B Instruct70B3–6 8 bit2–3 8 bit
gpt-oss-120b117B · 5,1B attivi91–162 4,25 bit nativo45–81 4,25 bit nativo
Qwen3.5 122B A10B122B · 10B attivi44–78 4 bit22–39 4 bit
DeepSeek V4 Flash 0731284B · 13B attivi60–107 2 bit qualità inferiore30–53 2 bit qualità inferiore

Domande

Il DGX Spark è più veloce del M4 Max per gli LLM?
Il M4 Max legge la memoria circa il 100% più velocemente del DGX Spark (546 contro 273 GB/s), quindi scrive circa il 100% più velocemente con qualsiasi modello che stia in entrambi. Nel test misurato di llama.cpp il DGX Spark legge un prompt circa 3,5× più velocemente (3062 contro 886 token al secondo). La lettura di un prompt dipende dalla potenza di calcolo della GPU, non dalla banda della memoria, e determina l’attesa prima della prima parola con un documento lungo o una codebase.
Quale esegue modelli più grandi, il M4 Max o il DGX Spark?
Entrambi hanno circa 96 GB per i modelli. 47 dei 73 modelli aperti più popolari girano bene sul M4 Max, 39 sul DGX Spark.
MLX Node funziona sul DGX Spark?
No. MLX Node e MLX Harness funzionano solo sui Mac con Apple Silicon, con il framework MLX di Apple.

Altri confronti

Il M4 Max per l’AI locale · Confronta tutti i modelli · Il miglior Mac per LLM in locale

Come è calcolato

Memoria: i parametri del modello a 8, 6, 4, 3 o 2 bit per peso più le scale per gruppo di MLX (mezzo bit per peso), oppure il suo formato nativo, con in più lo spazio per il contesto. Di default macOS lascia usare alla GPU circa il 75% della memoria unificata. Velocità: la larghezza di banda della memoria divisa per i byte letti per ogni token è il limite massimo per una conversazione; nei benchmark pubblici su Apple Silicon di llama.cpp, le esecuzioni reali arrivano a circa il 45%–80% di quel limite, ed è l’intervallo mostrato. Sono stime, non misurazioni: misura il tuo Mac su MLX Bench. Dati dei modelli dalla rispettiva scheda ufficiale, dati dei chip dalle specifiche tecniche di Apple. Verificato il 2026-10-19. Stessi dati di mlx.app/compare.

Dati del DGX Spark: NVIDIA: DGX Spark (specs).

M4 Max vs DGX Spark per LLM: memoria, velocità, quale comprare