Em resumo
- 16 GB: só modelos gerais pequenos rodam com folga; o Qwen3 Coder 30B A3B só cabe numa precisão menor. 24 GB: Devstral Small 2 (24B). 32–64 GB: Qwen3 Coder 30B A3B e Devstral Small 2 em 4 bits.
- 96 GB ou mais: Qwen3 Coder Next (80B, 3B ativos). 128 GB: também o Devstral 2 (123B), devagar. 512 GB: Kimi K2.7 Code, numa precisão baixa.
- Modelos de código de mistura de especialistas leem só alguns bilhões de pesos por token, então o Qwen3 Coder 30B A3B pode escrever várias vezes mais rápido que o denso Devstral Small 2 no mesmo Mac.
- Agentes de programação enviam prompts longos: deixe vários gigabytes para o contexto e veja quanta RAM um LLM precisa.
1Modelos de código que rodam bem, por memória
"Roda bem" quer dizer que cabe em 4 bits ou mais com espaço para o contexto, a 10 tokens por segundo ou mais, a mesma regra de todas as páginas de Mac. Modelos feitos para código do nosso catálogo de modelos abertos, mais o modelo geral com o maior Artificial Analysis Intelligence Index que roda bem naquele tamanho, que também escreve código:
| Memória do Mac | Feito para código | Modelo geral mais forte |
|---|---|---|
| 16 GB | Qwen3 Coder 30B A3B só numa precisão menor | MiniCPM5 2B |
| 24 GB | Devstral Small 2 | MiniCPM5 2B |
| 32 GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 48 GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 64 GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 96 GB | Qwen3 Coder Next, Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 128 GB | Qwen3 Coder Next, Devstral 2 (123B) (mais lento) | Qwen3.8 27B |
| 256 GB | Qwen3 Coder Next, Devstral 2 (mais lento) | Qwen3.8 Flash Next |
| 512 GB | Kimi K2.7 Code numa precisão menor, Qwen3 Coder Next | DeepSeek V4.1 Flash 1017 |
2Por que os modelos de código MoE parecem rápidos
A velocidade de escrita é limitada por quantos bytes de pesos são lidos a cada token. Um modelo denso lê todos; um modelo de mistura de especialistas lê só a parte ativa. Num Mac mini com M5 Pro (307 GB/s, Apple), em 4 bits:
| Modelo | Parâmetros | Lido por token | Teto para um chat |
|---|---|---|---|
| Qwen3 Coder 30B A3B | 30,5B no total, 3,3B ativos | cerca de 1,9 GB | cerca de 165 tokens/s |
| Devstral Small 2 | 24B, denso | cerca de 13,5 GB | cerca de 23 tokens/s |
Velocidade não é qualidade: um modelo denso pode programar melhor com a mesma memória. Teste os dois no seu próprio código.
3Deixe espaço para o contexto
Ferramentas de programação enviam muito texto: os arquivos em jogo, as descrições das ferramentas e a conversa até ali. Esse contexto fica na memória ao lado do modelo, no KV cache, e cresce a cada token. No Qwen3 8B, 32.000 tokens ocupam cerca de 4,8 GB (a conta está aqui). Modelos maiores precisam de mais por token.
Então, quando um modelo mal cabe, escolha o próximo menor, ou uma precisão menor, em vez de apertar o contexto. Prompts longos também levam tempo para ser lidos antes da primeira palavra aparecer; a geração M5 lê prompts mais rápido que a M4 (Apple).
4Use no seu editor ou agente
Ferramentas de programação falam com um modelo por uma API. Rode o modelo localmente e aponte a ferramenta para ele:
- O servidor local do LM Studio fala os formatos OpenAI e Anthropic, e o LM Studio tem guias de configuração para Claude Code, Codex, OpenClaw e Hermes Agent (LM Studio).
- mlx-lm:
mlx_lm.server --model <model>serve uma API no estilo OpenAI na porta 8080 (mlx-lm). - O Ollama também serve uma API compatível com a OpenAI: os melhores apps para rodar LLMs no Mac os compara.
Agentes chamam ferramentas, então o modelo precisa gerar chamadas de ferramenta num formato que o servidor entenda. Modelos feitos para código e agentes, como Qwen3 Coder e Devstral, são treinados para isso; modelos gerais pequenos muitas vezes não são confiáveis nisso.
A categoria de programação da AI App Store reúne agentes e editores de código, como Claude Code e Codex, cada um com o download oficial do desenvolvedor, o preço e para onde vão seus dados.
5Perguntas
- Qual é o melhor LLM local de programação para um Mac de 32 GB?
- O Qwen3 Coder 30B A3B e o Devstral Small 2 rodam bem em 4 bits. O Qwen3 Coder escreve bem mais rápido porque só 3,3B dos seus 30,5B parâmetros são lidos por token; teste os dois no seu próprio código.
- Um Mac de 16 GB roda um modelo de programação?
- Modelos pequenos, sim. O Qwen3 Coder 30B A3B só cabe em 16 GB numa precisão menor, com pouco espaço para o contexto. Para agentes de programação, 32 GB ou mais é um começo melhor.
- Dá para usar o Claude Code ou o Codex com um modelo local?
- Sim. O LM Studio tem guias de configuração para os dois: o servidor local dele fala o formato Anthropic que o Claude Code usa e o formato OpenAI que o Codex usa (LM Studio). O resultado depende do modelo que você carregar.
- Um modelo local de programação é tão bom quanto um na nuvem?
- Os maiores modelos abertos chegam perto em muitas tarefas, mas precisam de um Mac Studio com 256 ou 512 GB. Modelos que cabem em 32–64 GB são úteis para autocompletar, explicações e tarefas menores de agente, e mantêm o seu código no seu Mac.