O M5 Ultra é mais rápido que o M3 Ultra para LLMs?

O M5 Ultra lê a memória cerca de 47% mais rápido que o M3 Ultra (1.200 contra 819 GB/s), então escreve cerca de 47% mais rápido com qualquer modelo que caiba nos dois. Ler um prompt longo já depende do poder de computação da GPU, que esta comparação não cobre.

Qual roda modelos maiores, o M3 Ultra ou o M5 Ultra?

Nenhum: os dois vão até 512 GB. Nesse tamanho, o M3 Ultra roda bem 60 e o M5 Ultra 61 de 73 modelos abertos; o mais rápido passa de 10 tokens por segundo em mais deles.

M3 Ultra vs M5 Ultra para LLMs: memória, velocidade, qual comprar

Lado a lado

	M3 Ultra	M5 Ultra
Tamanhos de memória	96, 256, 512 GB	96, 256, 512 GB
Largura de banda da memória	819 GB/s	1.200 GB/s
Para modelos, no máximo	cerca de 384 GB	cerca de 384 GB
Modelos que rodam bem	60 de 73	61 de 73
Classe de vaga MLX	Ultra	Ultra Latest
Presente em	Mac Studio (2025)	Mac Studio (M5 Max or M5 Ultra)

Velocidade com modelos populares

Tokens por segundo em uma conversa, cada chip com o seu maior tamanho de memória (512 GB e 512 GB), com a melhor versão do modelo que cabe.

Modelo	M3 Ultra	M5 Ultra
Llama 3.1 8B Instruct8B	43–77 8 bits	64–113 8 bits
gpt-oss-20b21B · 3,6B ativos	194–345 4,25 bits nativo	284–505 4,25 bits nativo
Qwen3.6 35B A3B35B · 3B ativos	115–205 8 bits	169–300 8 bits
Qwen3.8 27B27B	13–23 8 bits	19–33 8 bits
Llama 3.3 70B Instruct70B	5–9 8 bits	14–24 4 bits
gpt-oss-120b117B · 5,1B ativos	137–243 4,25 bits nativo	200–356 4,25 bits nativo
Qwen3.5 122B A10B122B · 10B ativos	35–62 8 bits	51–91 8 bits
DeepSeek V4 Flash 0731284B · 13B ativos	27–47 8 bits	39–70 8 bits

Perguntas

O M5 Ultra é mais rápido que o M3 Ultra para LLMs?: O M5 Ultra lê a memória cerca de 47% mais rápido que o M3 Ultra (1.200 contra 819 GB/s), então escreve cerca de 47% mais rápido com qualquer modelo que caiba nos dois. Ler um prompt longo já depende do poder de computação da GPU, que esta comparação não cobre.
Qual roda modelos maiores, o M3 Ultra ou o M5 Ultra?: Nenhum: os dois vão até 512 GB. Nesse tamanho, o M3 Ultra roda bem 60 e o M5 Ultra 61 de 73 modelos abertos; o mais rápido passa de 10 tokens por segundo em mais deles.

Mais comparações

O M3 Ultra para IA local · O M5 Ultra para IA local · Compare todos os modelos · O melhor Mac para LLMs locais

Como é calculado

Memória: os parâmetros do modelo com 8, 6, 4, 3 ou 2 bits por peso, mais as escalas por grupo do MLX (meio bit por peso), ou o formato nativo do modelo, com espaço extra para o contexto. Por padrão, o macOS deixa a GPU usar cerca de 75% da memória unificada. Velocidade: a largura de banda da memória dividida pelos bytes lidos por token é o teto para uma conversa; nos benchmarks públicos de Apple Silicon do llama.cpp, execuções reais chegam a cerca de 45% a 80% desse teto, que é a faixa mostrada. São estimativas, não medições: meça o seu Mac no MLX Bench. Dados dos modelos tirados de cada model card oficial; dados dos chips, das especificações técnicas da Apple. Verificado em 2026-10-19. Os mesmos dados de mlx.app/compare.