Lado a lado
| M5 Ultra | RTX PRO 6000 | |
|---|---|---|
| O que é | Mac Studio (M5 Max or M5 Ultra) | Uma placa de vídeo para PC de mesa |
| Tamanhos de memória | 96, 256, 512 GB | 96 GB |
| Largura de banda da memória | 1.200 GB/s | 1.792 GB/s |
| Para modelos, no máximo | cerca de 384 GB | cerca de 95 GB |
| Modelos que rodam bem | 61 de 73 | 50 de 73 |
| Medido: escrita | 179 tok/s | 274 tok/s |
| Medido: leitura do prompt | 4.945 tok/s | 14.855 tok/s |
Linhas medidas: o resultado mais rápido de cada máquina nos benchmarks públicos do llama.cpp com Llama 2 7B Q4_0, escrevendo 128 tokens (tg128) e lendo um prompt de 512 tokens (pp512), em tokens por segundo. O Mac rodou em Metal, o RTX PRO 6000 em CUDA. Resultados do Apple Silicon · Resultados do RTX PRO 6000 Para modelos, contamos os 96 GB próprios do RTX PRO 6000 menos cerca de 1 GB, e cerca de 75% da memória unificada do Mac, o padrão do macOS.
Onde cada um vence
- Velocidade de escrita. O RTX PRO 6000 lê a memória cerca de 49% mais rápido que o M5 Ultra (1.792 contra 1.200 GB/s), então escreve cerca de 49% mais rápido com qualquer modelo que caiba nos dois.
- Tamanho do modelo. O M5 Ultra tem cerca de 384 GB para modelos, o RTX PRO 6000 cerca de 95 GB. 61 de 73 modelos abertos populares rodam bem no M5 Ultra, e 50 no RTX PRO 6000.
- Leitura de prompts longos. No teste medido do llama.cpp, o RTX PRO 6000 lê um prompt cerca de 3× mais rápido (14.855 contra 4.945 tokens por segundo). Ler um prompt depende do poder de cálculo da GPU, não da largura de banda da memória, e é isso que define a espera até a primeira palavra com um documento longo ou uma base de código.
- Software. O RTX PRO 6000 usa o CUDA da NVIDIA, que a maior parte dos softwares de IA suporta primeiro, incluindo código de treino e muitas ferramentas de imagem e vídeo. No Mac, os modelos rodam com MLX, o backend Metal do llama.cpp ou o backend MPS do PyTorch.
- Ao redor. Uma placa de vídeo precisa de um PC ao redor, e os 96 GB dela são o limite: um modelo que não cabe tem de rodar em parte na memória do sistema do PC, bem mais lenta, ou dividido numa segunda placa.
- O Mac. Também é um computador para o dia a dia, e roda o MLX Harness e o MLX Node, feitos para Apple Silicon.
Velocidade com modelos populares
Tokens por segundo em uma conversa, cada chip com o seu maior tamanho de memória (512 GB e 96 GB), com a melhor versão do modelo que cabe.
| Modelo | M5 Ultra | RTX PRO 6000 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 64–113 8 bits | 95–169 8 bits |
| gpt-oss-20b21B · 3,6B ativos | 284–505 4,25 bits nativo | 424–755 4,25 bits nativo |
| Qwen3.6 35B A3B35B · 3B ativos | 169–300 8 bits | 252–448 8 bits |
| Qwen3.8 27B27B | 19–33 8 bits | 28–50 8 bits |
| Llama 3.3 70B Instruct70B | 14–24 4 bits | 11–19 8 bits |
| gpt-oss-120b117B · 5,1B ativos | 200–356 4,25 bits nativo | 299–531 4,25 bits nativo |
| Qwen3.5 122B A10B122B · 10B ativos | 51–91 8 bits | 144–256 4 bits |
| DeepSeek V4 Flash 0731284B · 13B ativos | 39–70 8 bits | grande demais |
Perguntas
- O RTX PRO 6000 é mais rápido que o M5 Ultra para LLMs?
- O RTX PRO 6000 lê a memória cerca de 49% mais rápido que o M5 Ultra (1.792 contra 1.200 GB/s), então escreve cerca de 49% mais rápido com qualquer modelo que caiba nos dois. No teste medido do llama.cpp, o RTX PRO 6000 lê um prompt cerca de 3× mais rápido (14.855 contra 4.945 tokens por segundo). Ler um prompt depende do poder de cálculo da GPU, não da largura de banda da memória, e é isso que define a espera até a primeira palavra com um documento longo ou uma base de código.
- Qual roda modelos maiores, o M5 Ultra ou o RTX PRO 6000?
- O M5 Ultra tem cerca de 384 GB para modelos, o RTX PRO 6000 cerca de 95 GB. 61 de 73 modelos abertos populares rodam bem no M5 Ultra, e 50 no RTX PRO 6000.
- O MLX Node roda no RTX PRO 6000?
- Não. O MLX Node e o MLX Harness rodam só em Macs com Apple Silicon, com o framework MLX da Apple.
Mais comparações
O M5 Ultra para IA local · Compare todos os modelos · O melhor Mac para LLMs locais
Como é calculado
Memória: os parâmetros do modelo com 8, 6, 4, 3 ou 2 bits por peso, mais as escalas por grupo do MLX (meio bit por peso), ou o formato nativo do modelo, com espaço extra para o contexto. Por padrão, o macOS deixa a GPU usar cerca de 75% da memória unificada. Velocidade: a largura de banda da memória dividida pelos bytes lidos por token é o teto para uma conversa; nos benchmarks públicos de Apple Silicon do llama.cpp, execuções reais chegam a cerca de 45% a 80% desse teto, que é a faixa mostrada. São estimativas, não medições: meça o seu Mac no MLX Bench. Dados dos modelos tirados de cada model card oficial; dados dos chips, das especificações técnicas da Apple. Verificado em 2026-10-19. Os mesmos dados de mlx.app/compare.
Dados do RTX PRO 6000: NVIDIA: RTX PRO 6000 Blackwell Workstation Edition, NVIDIA: RTX PRO Desktop GPUs (compare table).