Por tamanho de memória
| Memória | Rodam bem | O maior que roda bem | gpt-oss-20b |
|---|---|---|---|
| 32 GB400 GB/s | 38 | Qwen3.6 35B A3B | 95–168 tok/s |
| 64 GB400 GB/s | 39 | Nemotron 3.5 Bolt 74B A9B | 95–168 tok/s |
Modelos de Mac: MacBook Pro (14-inch, 2021), MacBook Pro (16-inch, 2021). Nem todo tamanho de memória é oferecido em todo modelo; as especificações técnicas da Apple mostram com o que cada um vem.
Perguntas
- MacBook Pro com M1 Max é bom para LLMs locais?
- Com 64 GB, roda bem 39 de 73 modelos abertos, até Nemotron 3.5 Bolt 74B A9B, e escreve cerca de 95–168 tokens por segundo com gpt-oss-20b. O chip M1 Max lê a memória a 400 GB/s, o que define a velocidade de escrita.
- MacBook Pro com M1 Max: quanta memória ter para IA?
- Com 32 GB, roda bem 38 modelos abertos; com 64 GB, 39, até Nemotron 3.5 Bolt 74B A9B. A memória decide quais modelos cabem e não pode ser ampliada depois.
Outros Macs
MacBook Pro com outros chips:
- MacBook Pro M5
- MacBook Pro M5 Pro
- MacBook Pro M5 Max
- MacBook Pro M4
- MacBook Pro M4 Pro
- MacBook Pro M4 Max
- MacBook Pro M3
- MacBook Pro M3 Pro
- MacBook Pro M3 Max
- MacBook Pro M2
- MacBook Pro M2 Pro
- MacBook Pro M2 Max
- MacBook Pro M1
- MacBook Pro M1 Pro
Outros Macs com M1 Max:
Frente a frente:
O M1 Max para IA local · O melhor Mac para LLMs locais · Todos os Macs
Como é calculado
Memória: os parâmetros do modelo com 8, 6, 4, 3 ou 2 bits por peso, mais as escalas por grupo do MLX (meio bit por peso), ou o formato nativo do modelo, com espaço extra para o contexto. Por padrão, o macOS deixa a GPU usar cerca de 75% da memória unificada. Velocidade: a largura de banda da memória dividida pelos bytes lidos por token é o teto para uma conversa; nos benchmarks públicos de Apple Silicon do llama.cpp, execuções reais chegam a cerca de 45% a 80% desse teto, que é a faixa mostrada. São estimativas, não medições: meça o seu Mac no MLX Bench. Dados dos modelos tirados de cada model card oficial; dados dos chips, das especificações técnicas da Apple. Verificado em 2026-10-19. Os mesmos dados de mlx.app/compare.