In het kort
- 16 GB: alleen kleine algemene modellen draaien comfortabel; Qwen3 Coder 30B A3B past alleen op een lagere precisie. 24 GB: Devstral Small 2 (24B). 32–64 GB: Qwen3 Coder 30B A3B en Devstral Small 2 op 4 bit.
- 96 GB en meer: Qwen3 Coder Next (80B, 3B actief). 128 GB: ook Devstral 2 (123B), langzaam. 512 GB: Kimi K2.7 Code, op een lage precisie.
- Mixture-of-experts-coders lezen per token maar een paar miljard gewichten, dus Qwen3 Coder 30B A3B kan op dezelfde Mac meerdere keren sneller schrijven dan het dichte Devstral Small 2.
- Programmeeragents sturen lange prompts: houd enkele gigabytes vrij voor de context, en bekijk hoeveel RAM een LLM nodig heeft.
1Codeermodellen die goed draaien, per geheugen
"Draait goed" betekent: past op 4 bit of hoger met ruimte voor context, met 10 of meer tokens per seconde, dezelfde regel als op elke Mac-pagina. Modellen gemaakt voor code uit onze catalogus van open modellen, plus het algemene model met de hoogste Artificial Analysis Intelligence Index dat op die grootte goed draait en ook code schrijft:
| Geheugen van de Mac | Gemaakt voor code | Sterkste algemene model |
|---|---|---|
| 16 GB | Qwen3 Coder 30B A3B alleen op een lagere precisie | MiniCPM5 2B |
| 24 GB | Devstral Small 2 | MiniCPM5 2B |
| 32 GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 48 GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 64 GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 96 GB | Qwen3 Coder Next, Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 128 GB | Qwen3 Coder Next, Devstral 2 (123B) (langzamer) | Qwen3.8 27B |
| 256 GB | Qwen3 Coder Next, Devstral 2 (langzamer) | Qwen3.8 Flash Next |
| 512 GB | Kimi K2.7 Code op een lagere precisie, Qwen3 Coder Next | DeepSeek V4.1 Flash 1017 |
2Waarom mixture-of-experts-coders snel aanvoelen
De schrijfsnelheid wordt beperkt door hoeveel bytes aan gewichten per token worden gelezen. Een dicht model leest ze allemaal; een mixture-of-experts-model leest alleen zijn actieve deel. Op een Mac mini met M5 Pro (307 GB/s, Apple), op 4 bit:
| Model | Parameters | Gelezen per token | Plafond voor één chat |
|---|---|---|---|
| Qwen3 Coder 30B A3B | 30,5B totaal, 3,3B actief | ongeveer 1,9 GB | ongeveer 165 tokens/s |
| Devstral Small 2 | 24B, dicht | ongeveer 13,5 GB | ongeveer 23 tokens/s |
Snelheid is geen kwaliteit: een dicht model kan bij hetzelfde geheugen de betere programmeur zijn. Probeer beide op je eigen code.
3Houd ruimte vrij voor de context
Programmeertools sturen veel tekst mee: de bestanden waar het om gaat, toolbeschrijvingen en het gesprek tot nu toe. Die context staat naast het model in het geheugen, in de KV-cache, en groeit met elke token. Voor Qwen3 8B nemen 32.000 tokens ongeveer 4,8 GB in (hier berekend). Grotere modellen hebben per token meer nodig.
Past een model maar net, kies dan het eerstvolgende kleinere model of een lagere precisie in plaats van de context te beknotten. Lange prompts kosten ook tijd om in te lezen voordat het eerste woord verschijnt; de M5-generatie leest prompts sneller dan de M4 (Apple).
4Gebruik het in je editor of agent
Programmeertools praten met een model via een API. Draai het model lokaal en wijs de tool ernaar:
- De lokale server van LM Studio spreekt de formaten van OpenAI en Anthropic, en LM Studio heeft installatiehandleidingen voor Claude Code, Codex, OpenClaw en Hermes Agent (LM Studio).
- mlx-lm:
mlx_lm.server --model <model>biedt een API in OpenAI-stijl aan op poort 8080 (mlx-lm). - Ollama biedt ook een OpenAI-compatibele API: de beste apps om LLM's op een Mac te draaien vergelijkt ze.
Agents roepen tools aan, dus het model moet tool calls maken in een formaat dat de server begrijpt. Modellen gemaakt voor code en agents, zoals Qwen3 Coder en Devstral, zijn daarop getraind; kleine algemene modellen doen het vaak niet betrouwbaar.
De categorie Programmeren in de AI App Store toont codeeragents en editors, zoals Claude Code en Codex, elk met de officiële download van de maker, de prijs en waar je gegevens heen gaan.
5Vragen
- Wat is de beste lokale LLM voor programmeren op een Mac met 32 GB?
- Qwen3 Coder 30B A3B en Devstral Small 2 draaien allebei goed op 4 bit. Qwen3 Coder schrijft veel sneller, omdat van zijn 30,5B parameters per token maar 3,3B worden gelezen; probeer beide op je eigen code.
- Kan een Mac met 16 GB een codeermodel draaien?
- Kleine modellen wel. Qwen3 Coder 30B A3B past alleen op een lagere precisie in 16 GB, met weinig ruimte voor context. Voor programmeeragents is 32 GB of meer een beter begin.
- Kan ik Claude Code of Codex met een lokaal model gebruiken?
- Ja. LM Studio heeft installatiehandleidingen voor allebei: de lokale server spreekt het Anthropic-formaat dat Claude Code gebruikt en het OpenAI-formaat dat Codex gebruikt (LM Studio). Hoe goed ze werken, hangt af van het model dat je laadt.
- Is een lokaal codeermodel net zo goed als een cloudmodel?
- De grootste open modellen komen bij veel taken in de buurt, maar ze hebben een Mac Studio met 256 of 512 GB nodig. Modellen die in 32–64 GB passen, zijn nuttig voor aanvullen, uitleg en kleinere agenttaken, en houden je code op je Mac.