Roda bem 51
Cabe com espaço para o contexto, a 10 tokens por segundo ou mais.
| Modelo | Versão | Memória | Tokens/s |
|---|---|---|---|
| Qwen3.8 27B27B · Inteligência 33,7 | 6 bits | 21,9 GB | 11–20 |
| Nemotron 3.5 Bolt 74B A9B74B · 9B ativos · Inteligência 21,4 | 8 bits | 78,6 GB | 26–46 |
| Qwen3.6 35B A3B35B · 3B ativos · Inteligência 18,2 | 8 bits | 37,2 GB | 77–137 |
| Muse Glimmer 30B29,6B · Inteligência 17,5 | 6 bits | 24,1 GB | 10–18 |
| Qwen3.5 122B A10B122B · 10B ativos · Inteligência 15,6 | 4 bits | 68,6 GB | 44–78 |
| Gemma 4 31B30,7B · Inteligência 14,7 | 6 bits | 24,9 GB | 10–18 |
| Nemotron 3.5 Lightning 30B A3B30B · 3B ativos · Inteligência 12,9 | 8 bits | 31,9 GB | 77–137 |
| Granite 4.2 30B30B · Inteligência 12,7 | 6 bits | 24,4 GB | 10–18 |
| MiniCPM5 2B2,52B · Inteligência 12,5 | 8 bits | 2,7 GB | 91–162 |
| gpt-oss-120b117B · 5,1B ativos · Inteligência 11,6 | 4,25 bits nativo | 65,3 GB | 91–162 |
| Mistral Small 4 (119B)119B · 6,5B ativos · Inteligência 11,3 | 4 bits | 66,9 GB | 66–118 |
| Qwen3.5 9B9B · Inteligência 11,2 | 8 bits | 9,6 GB | 26–46 |
| Granite 4.2 8B8B · Inteligência 11,1 | 8 bits | 8,5 GB | 29–51 |
| Qwen3 Coder Next80B · 3B ativos · Inteligência 9,2 | 8 bits | 85 GB | 77–137 |
| Granite 4.2 3B3B · Inteligência 9,1 | 8 bits | 3,2 GB | 77–137 |
| gpt-oss-20b21B · 3,6B ativos · Inteligência 9 | 4,25 bits nativo | 13,8 GB | 129–230 |
| Nemotron 3 Nano 30B A3B30B · 3,5B ativos · Inteligência 8,9 | 8 bits | 31,9 GB | 66–118 |
| Gemma 4 E4B8B · Inteligência 8,9 | 8 bits | 8,5 GB | 51–91 |
| Llama 4 Scout 17B-16E Instruct109B · 17B ativos · Inteligência 6,5 | 6 bits | 88,6 GB | 18–32 |
| Ministral 3 8B8,9B · Inteligência 5,5 | 8 bits | 9,5 GB | 26–46 |
| Nemotron 3 Nano 4B3,97B · Inteligência 4,8 | 8 bits | 4,2 GB | 59–104 |
| Ornith 1.5 122B122B · 10B ativos | 4 bits | 68,6 GB | 44–78 |
| Nemotron 3 Super 120B A12B120B · 12B ativos | 4 bits | 67,5 GB | 36–64 |
| GLM-4.5 Air106B · 12B ativos | 6 bits | 86,1 GB | 25–45 |
| Qwen3 Coder 30B A3B Instruct30,5B · 3,3B ativos | 8 bits | 32,4 GB | 70–125 |
| GLM-4.7 Flash30B · 3B ativos | 8 bits | 31,9 GB | 77–137 |
| Qwen3.6 27B27B | 6 bits | 21,9 GB | 11–20 |
| Gemma 4 26B A4B25,2B · 3,8B ativos | 8 bits | 26,8 GB | 61–109 |
| Devstral Small 2 (24B)24B | 8 bits | 25,5 GB | 10–17 |
| Magistral Small 1.2 (2509)24B | 8 bits | 25,5 GB | 10–17 |
| Mistral Small 3.2 (24B)24B | 8 bits | 25,5 GB | 10–17 |
| LFM2.5 24B A2B24B · 2B ativos | 8 bits | 25,5 GB | 117–208 |
| Phi-4 Reasoning Vision 15B15B | 8 bits | 15,9 GB | 15–27 |
| Phi-4 (14B)14B | 8 bits | 14,9 GB | 16–29 |
| Gemma 4 12B Unified12B | 8 bits | 12,7 GB | 19–34 |
| Qwen3 8B8,2B | 8 bits | 8,7 GB | 28–50 |
| Llama 3.1 8B Instruct8B | 8 bits | 8,5 GB | 29–51 |
| Gemma 4 E2B5,1B | 8 bits | 5,4 GB | 102–182 |
| Qwen3.5 4B4B | 8 bits | 4,3 GB | 57–102 |
| Phi-4 mini instruct3,8B | 8 bits | 4 GB | 61–109 |
| Llama 3.2 3B Instruct3,21B | 8 bits | 3,4 GB | 72–128 |
| SmolLM3 3B3B | 8 bits | 3,2 GB | 77–137 |
| LFM2.5 2.6B2,69B | 8 bits | 2,9 GB | 85–151 |
| Qwen3.5 2B2B | 8 bits | 2,1 GB | 117–208 |
| Llama 3.2 1B Instruct1,23B | 8 bits | 1,3 GB | 189–336 |
| Qwen3.5 0.8B0,8B | 8 bits | 0,9 GB | 273–485 |
| Qwen3 0.6B0,6B | 8 bits | 0,6 GB | 410–728 |
| Qwen3.8 Flash Next180B · 6B ativos · Inteligência 39,8 | 3 bits qualidade menor | 78,8 GB | 95–168 |
| Inkling Small276B · 12B ativos · Inteligência 25,7 | 2 bits qualidade menor | 86,3 GB | 65–115 |
| DeepSeek V4 Flash 0731284B · 13B ativos | 2 bits qualidade menor | 88,8 GB | 60–107 |
| MiniMax M2.7230B · 10B ativos | 2 bits qualidade menor | 71,9 GB | 79–141 |
Roda, mas devagar 3
Cabe, mas abaixo de 10 tokens por segundo: serve para trabalho em lote, mas é lento para chat.
| Modelo | Versão | Memória | Tokens/s |
|---|---|---|---|
| Mistral Medium 3.5 (128B)128B · Inteligência 14,2 | 4 bits | 72 GB | 3–6 |
| Devstral 2 (123B)123B | 4 bits | 69,2 GB | 4–6 |
| Llama 3.3 70B Instruct70B | 8 bits | 74,4 GB | 3–6 |
Cabe no limite 3
Precisa de quase toda a memória: aumente o limite de memória da GPU e mantenha o contexto curto.
| Modelo | Versão | Memória | Tokens/s |
|---|---|---|---|
| GLM-5.3 Flash320B · 18B ativos · Inteligência 41,8 | 2 bits qualidade menor | 100 GB | 44–78 |
| MiMo V2.6 Flash309B · 15B ativos · Inteligência 37,9 | 2 bits qualidade menor | 96,6 GB | 52–93 |
| Hy3295B · 21B ativos · Inteligência 25,3 | 2 bits qualidade menor | 92,2 GB | 37–66 |
Grande demais 16
Precisa de mais de 128 GB de memória, mesmo com 2 bits.
- MiMo V2.6 Pro1.020B
- Kimi K32.800B
- Kimi K2.7 Code1.000B
- Kimi K2.61.000B
- DeepSeek V4.1 Flash 1017552B
- GLM-5.3744B
- Qwen3.8 2.4T A95B2.400B
- Muse Spark Open816B
- DeepSeek V4 Pro 08131.600B
- Beam 1.0501B
- MiniMax M3428B
- Inkling975B
- Nemotron 3 Ultra 550B A55B550B
- Qwen3.5 397B A17B397B
- Llama 4 Maverick 17B-128E Instruct400B
- Mistral Large 3 (675B)675B
Outros Macs
Todos os Macs com 128 GB, de qualquer chip.
O M4 Max com mais ou menos memória:
Chips vizinhos:
Frente a frente:
- M1 Max vs M4 Max
- M2 Max vs M4 Max
- M2 Ultra vs M4 Max
- M3 Max vs M4 Max
- M3 Ultra vs M4 Max
- M4 Pro vs M4 Max
- M4 Max vs M5 Max
- M4 Max vs M5 Ultra
Contra PCs e placas de vídeo:
Compare com qualquer Mac ou GPU · O M4 Max para IA local · O melhor Mac para LLMs locais · Todos os Macs
Perguntas
- Qual é o melhor LLM para um M4 Max com 128 GB?
- Entre os modelos com Intelligence Index publicado, Qwen3.8 27B tem a maior pontuação entre os que rodam bem aqui: 6 bits, cerca de 11–20 tokens por segundo. O maior que roda bem é Qwen3.5 122B A10B.
- Um M4 Max com 128 GB roda Llama 3.3 70B?
- Sim, mas devagar: 8 bits, a cerca de 3–6 tokens por segundo.
- Qual é a velocidade do gpt-oss-20b em um M4 Max?
- Cerca de 129–230 tokens por segundo (4,25 bits nativo), pelos 546 GB/s de largura de banda da memória do chip.
Rode os modelos com o MLX Harness (grátis, open source) ou com o mlx-lm da Apple no Terminal: passo a passo.
Como é calculado
Memória: os parâmetros do modelo com 8, 6, 4, 3 ou 2 bits por peso, mais as escalas por grupo do MLX (meio bit por peso), ou o formato nativo do modelo, com espaço extra para o contexto. Por padrão, o macOS deixa a GPU usar cerca de 75% da memória unificada. Velocidade: a largura de banda da memória dividida pelos bytes lidos por token é o teto para uma conversa; nos benchmarks públicos de Apple Silicon do llama.cpp, execuções reais chegam a cerca de 45% a 80% desse teto, que é a faixa mostrada. São estimativas, não medições: meça o seu Mac no MLX Bench. Dados dos modelos tirados de cada model card oficial; dados dos chips, das especificações técnicas da Apple. Verificado em 2026-10-19. Os mesmos dados de mlx.app/compare.