In breve
- 16 GB: girano comodamente solo piccoli modelli generalisti; Qwen3 Coder 30B A3B ci sta solo a una precisione più bassa. 24 GB: Devstral Small 2 (24B). 32–64 GB: Qwen3 Coder 30B A3B e Devstral Small 2 a 4 bit.
- Da 96 GB in su: Qwen3 Coder Next (80B, 3B attivi). 128 GB: anche Devstral 2 (123B), lentamente. 512 GB: Kimi K2.7 Code, a una precisione bassa.
- I coder mixture-of-experts leggono solo pochi miliardi di pesi per token, quindi Qwen3 Coder 30B A3B può scrivere diverse volte più veloce del denso Devstral Small 2 sullo stesso Mac.
- Gli agenti di programmazione inviano prompt lunghi: lascia diversi gigabyte per il contesto e controlla quanta RAM serve a un LLM.
1Modelli per programmare che girano bene, per memoria
"Gira bene" significa che ci sta a 4 bit o meglio con spazio per il contesto, a 10 o più token al secondo, la stessa regola di ogni pagina Mac. Modelli fatti per il codice dal nostro catalogo di modelli aperti, più il modello generalista con l’Artificial Analysis Intelligence Index più alto che gira bene a quel taglio, e che scrive anche codice:
| Memoria del Mac | Fatti per il codice | Modello generalista più forte |
|---|---|---|
| 16 GB | Qwen3 Coder 30B A3B solo a una precisione più bassa | MiniCPM5 2B |
| 24 GB | Devstral Small 2 | MiniCPM5 2B |
| 32 GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 48 GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 64 GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 96 GB | Qwen3 Coder Next, Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 128 GB | Qwen3 Coder Next, Devstral 2 (123B) (più lento) | Qwen3.8 27B |
| 256 GB | Qwen3 Coder Next, Devstral 2 (più lento) | Qwen3.8 Flash Next |
| 512 GB | Kimi K2.7 Code a una precisione più bassa, Qwen3 Coder Next | DeepSeek V4.1 Flash 1017 |
2Perché i coder mixture-of-experts sembrano veloci
La velocità di scrittura è limitata da quanti byte di pesi vengono letti per ogni token. Un modello denso li legge tutti; un modello mixture-of-experts solo la sua parte attiva. Su un Mac mini con M5 Pro (307 GB/s, Apple), a 4 bit:
| Modello | Parametri | Letti per token | Tetto per una chat |
|---|---|---|---|
| Qwen3 Coder 30B A3B | 30,5B in totale, 3,3B attivi | circa 1,9 GB | circa 165 token/s |
| Devstral Small 2 | 24B, denso | circa 13,5 GB | circa 23 token/s |
Velocità non vuol dire qualità: a parità di memoria un modello denso può programmare meglio. Provali entrambi sul tuo codice.
3Lascia spazio per il contesto
Gli strumenti di programmazione inviano molto testo: i file coinvolti, le descrizioni degli strumenti e la conversazione fin lì. Quel contesto sta in memoria accanto al modello, nella KV cache, e cresce a ogni token. Per Qwen3 8B, 32.000 token occupano circa 4,8 GB (ecco il calcolo). I modelli più grandi richiedono di più per token.
Quindi, quando un modello ci sta appena, scegli quello un po’ più piccolo, o una precisione più bassa, invece di stringere il contesto. I prompt lunghi richiedono anche tempo per essere letti prima che appaia la prima parola; la generazione M5 legge i prompt più velocemente dell’M4 (Apple).
4Usalo nel tuo editor o agente
Gli strumenti di programmazione parlano con un modello tramite un’API. Esegui il modello in locale e punta lo strumento verso di esso:
- Il server locale di LM Studio parla i formati OpenAI e Anthropic, e LM Studio ha guide di configurazione per Claude Code, Codex, OpenClaw e Hermes Agent (LM Studio).
- mlx-lm:
mlx_lm.server --model <model>serve un’API in stile OpenAI sulla porta 8080 (mlx-lm). - Anche Ollama serve un'API compatibile con OpenAI: le migliori app per eseguire LLM su Mac le confronta.
Gli agenti chiamano strumenti, quindi il modello deve produrre chiamate agli strumenti in un formato che il server capisce. I modelli fatti per il codice e gli agenti, come Qwen3 Coder e Devstral, sono addestrati per questo; i piccoli modelli generalisti spesso non sono affidabili.
La categoria Programmazione dell’AI App Store elenca agenti ed editor per il codice, come Claude Code e Codex, ciascuno con il download ufficiale dello sviluppatore, il prezzo e dove vanno i tuoi dati.
5Domande
- Qual è il miglior LLM in locale per programmare su un Mac da 32 GB?
- Qwen3 Coder 30B A3B e Devstral Small 2 girano entrambi bene a 4 bit. Qwen3 Coder scrive molto più veloce perché per ogni token vengono letti solo 3,3B dei suoi 30,5B parametri; provali entrambi sul tuo codice.
- Un Mac da 16 GB può eseguire un modello per programmare?
- I modelli piccoli sì. Qwen3 Coder 30B A3B sta in 16 GB solo a una precisione più bassa, con poco spazio per il contesto. Per gli agenti di programmazione, 32 GB o più sono un punto di partenza migliore.
- Posso usare Claude Code o Codex con un modello locale?
- Sì. LM Studio ha guide di configurazione per entrambi: il suo server locale parla il formato Anthropic usato da Claude Code e il formato OpenAI usato da Codex (LM Studio). Quanto funzionano bene dipende dal modello che carichi.
- Un modello locale per programmare è buono quanto uno nel cloud?
- I modelli aperti più grandi ci si avvicinano in molti compiti, ma richiedono un Mac Studio con 256 o 512 GB. I modelli che stanno in 32–64 GB sono utili per completamento, spiegazioni e compiti da agente più piccoli, e tengono il codice sul tuo Mac.