O DGX Spark é mais rápido que o M5 Ultra para LLMs?

O M5 Ultra lê a memória cerca de 340% mais rápido que o DGX Spark (1.200 contra 273 GB/s), então escreve cerca de 340% mais rápido com qualquer modelo que caiba nos dois. No teste medido do llama.cpp, o M5 Ultra lê um prompt cerca de 1,6× mais rápido (4.945 contra 3.062 tokens por segundo). Ler um prompt depende do poder de cálculo da GPU, não da largura de banda da memória, e é isso que define a espera até a primeira palavra com um documento longo ou uma base de código.

Qual roda modelos maiores, o M5 Ultra ou o DGX Spark?

O M5 Ultra tem cerca de 384 GB para modelos, o DGX Spark cerca de 96 GB. 61 de 73 modelos abertos populares rodam bem no M5 Ultra, e 39 no DGX Spark.

O MLX Node roda no DGX Spark?

Não. O MLX Node e o MLX Harness rodam só em Macs com Apple Silicon, com o framework MLX da Apple.

M5 Ultra vs DGX Spark para LLMs: memória, velocidade, qual comprar

Lado a lado

	M5 Ultra	DGX Spark
O que é	Mac Studio (M5 Max or M5 Ultra)	Um computador pequeno completo
Tamanhos de memória	96, 256, 512 GB	128 GB
Largura de banda da memória	1.200 GB/s	273 GB/s
Para modelos, no máximo	cerca de 384 GB	cerca de 96 GB
Modelos que rodam bem	61 de 73	39 de 73
Medido: escrita	179 tok/s	57 tok/s
Medido: leitura do prompt	4.945 tok/s	3.062 tok/s

Linhas medidas: o resultado mais rápido de cada máquina nos benchmarks públicos do llama.cpp com Llama 2 7B Q4_0, escrevendo 128 tokens (tg128) e lendo um prompt de 512 tokens (pp512), em tokens por segundo. O Mac rodou em Metal, o DGX Spark em CUDA. Resultados do Apple Silicon · Resultados do DGX Spark Para modelos, contamos cerca de 75% da memória nos dois, o padrão do macOS, porque o DGX Spark também divide uma única memória entre CPU e GPU. Quanto a GPU dele pode usar de fato depende do sistema operacional e das configurações.

Onde cada um vence

Velocidade de escrita. O M5 Ultra lê a memória cerca de 340% mais rápido que o DGX Spark (1.200 contra 273 GB/s), então escreve cerca de 340% mais rápido com qualquer modelo que caiba nos dois.
Tamanho do modelo. O M5 Ultra tem cerca de 384 GB para modelos, o DGX Spark cerca de 96 GB. 61 de 73 modelos abertos populares rodam bem no M5 Ultra, e 39 no DGX Spark.
Leitura de prompts longos. No teste medido do llama.cpp, o M5 Ultra lê um prompt cerca de 1,6× mais rápido (4.945 contra 3.062 tokens por segundo). Ler um prompt depende do poder de cálculo da GPU, não da largura de banda da memória, e é isso que define a espera até a primeira palavra com um documento longo ou uma base de código.
Software. O DGX Spark usa o CUDA da NVIDIA, que a maior parte dos softwares de IA suporta primeiro, incluindo código de treino e muitas ferramentas de imagem e vídeo. No Mac, os modelos rodam com MLX, o backend Metal do llama.cpp ou o backend MPS do PyTorch.
Ao redor. Os dois são computadores completos que mantêm o modelo numa única memória compartilhada por CPU e GPU.
O Mac. Também é um computador para o dia a dia, e roda o MLX Harness e o MLX Node, feitos para Apple Silicon.

Velocidade com modelos populares

Tokens por segundo em uma conversa, cada chip com o seu maior tamanho de memória (512 GB e 128 GB), com a melhor versão do modelo que cabe.

Modelo	M5 Ultra	DGX Spark
Llama 3.1 8B Instruct8B	64–113 8 bits	14–26 8 bits
gpt-oss-20b21B · 3,6B ativos	284–505 4,25 bits nativo	65–115 4,25 bits nativo
Qwen3.6 35B A3B35B · 3B ativos	169–300 8 bits	38–68 8 bits
Qwen3.8 27B27B	19–33 8 bits	4–8 8 bits
Llama 3.3 70B Instruct70B	14–24 4 bits	2–3 8 bits
gpt-oss-120b117B · 5,1B ativos	200–356 4,25 bits nativo	45–81 4,25 bits nativo
Qwen3.5 122B A10B122B · 10B ativos	51–91 8 bits	22–39 4 bits
DeepSeek V4 Flash 0731284B · 13B ativos	39–70 8 bits	30–53 2 bits qualidade menor

Perguntas

O DGX Spark é mais rápido que o M5 Ultra para LLMs?: O M5 Ultra lê a memória cerca de 340% mais rápido que o DGX Spark (1.200 contra 273 GB/s), então escreve cerca de 340% mais rápido com qualquer modelo que caiba nos dois. No teste medido do llama.cpp, o M5 Ultra lê um prompt cerca de 1,6× mais rápido (4.945 contra 3.062 tokens por segundo). Ler um prompt depende do poder de cálculo da GPU, não da largura de banda da memória, e é isso que define a espera até a primeira palavra com um documento longo ou uma base de código.
Qual roda modelos maiores, o M5 Ultra ou o DGX Spark?: O M5 Ultra tem cerca de 384 GB para modelos, o DGX Spark cerca de 96 GB. 61 de 73 modelos abertos populares rodam bem no M5 Ultra, e 39 no DGX Spark.
O MLX Node roda no DGX Spark?: Não. O MLX Node e o MLX Harness rodam só em Macs com Apple Silicon, com o framework MLX da Apple.

Mais comparações

O M5 Ultra para IA local · Compare todos os modelos · O melhor Mac para LLMs locais

Como é calculado

Memória: os parâmetros do modelo com 8, 6, 4, 3 ou 2 bits por peso, mais as escalas por grupo do MLX (meio bit por peso), ou o formato nativo do modelo, com espaço extra para o contexto. Por padrão, o macOS deixa a GPU usar cerca de 75% da memória unificada. Velocidade: a largura de banda da memória dividida pelos bytes lidos por token é o teto para uma conversa; nos benchmarks públicos de Apple Silicon do llama.cpp, execuções reais chegam a cerca de 45% a 80% desse teto, que é a faixa mostrada. São estimativas, não medições: meça o seu Mac no MLX Bench. Dados dos modelos tirados de cada model card oficial; dados dos chips, das especificações técnicas da Apple. Verificado em 2026-10-19. Os mesmos dados de mlx.app/compare.

Dados do DGX Spark: NVIDIA: DGX Spark (specs).