En resumen
- 16 GB: solo los modelos generales pequeños funcionan con soltura; Qwen3 Coder 30B A3B solo cabe con una precisión más baja. 24 GB: Devstral Small 2 (24B). De 32 a 64 GB: Qwen3 Coder 30B A3B y Devstral Small 2 a 4 bits.
- 96 GB o más: Qwen3 Coder Next (80B, 3B activos). 128 GB: también Devstral 2 (123B), despacio. 512 GB: Kimi K2.7 Code, con una precisión baja.
- Los modelos de programación de mezcla de expertos solo leen unos pocos miles de millones de pesos por token, así que Qwen3 Coder 30B A3B puede escribir varias veces más rápido que el denso Devstral Small 2 en la misma Mac.
- Los agentes de programación envían prompts largos: deja varios gigabytes para el contexto y consulta cuánta RAM necesita un LLM.
1Modelos de programación que funcionan bien, por memoria
"Funciona bien" significa que cabe a 4 bits o más con espacio para el contexto, a 10 tokens por segundo o más, la misma regla que en cada página de Mac. Los modelos hechos para código de nuestro catálogo de modelos abiertos, más el modelo general con el Artificial Analysis Intelligence Index más alto que funciona bien con ese tamaño, que también escribe código:
| Memoria de la Mac | Hechos para código | Modelo general más potente |
|---|---|---|
| 16 GB | Qwen3 Coder 30B A3B solo con una precisión más baja | MiniCPM5 2B |
| 24 GB | Devstral Small 2 | MiniCPM5 2B |
| 32 GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 48 GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 64 GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 96 GB | Qwen3 Coder Next, Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 128 GB | Qwen3 Coder Next, Devstral 2 (123B) (más lento) | Qwen3.8 27B |
| 256 GB | Qwen3 Coder Next, Devstral 2 (más lento) | Qwen3.8 Flash Next |
| 512 GB | Kimi K2.7 Code con una precisión más baja, Qwen3 Coder Next | DeepSeek V4.1 Flash 1017 |
2Por qué los modelos de mezcla de expertos se sienten rápidos
La velocidad de escritura depende de cuántos bytes de pesos se leen por cada token. Un modelo denso los lee todos; uno de mezcla de expertos, solo su parte activa. En una Mac mini con M5 Pro (307 GB/s, Apple), a 4 bits:
| Modelo | Parámetros | Leído por token | Techo para un solo chat |
|---|---|---|---|
| Qwen3 Coder 30B A3B | 30,5B en total, 3,3B activos | unos 1,9 GB | unos 165 tokens/s |
| Devstral Small 2 | 24B, denso | unos 13,5 GB | unos 23 tokens/s |
Velocidad no es calidad: un modelo denso puede programar mejor con la misma memoria. Prueba los dos con tu propio código.
3Deja espacio para el contexto
Las herramientas de programación envían mucho texto: los archivos en juego, las descripciones de herramientas y la conversación hasta ese momento. Ese contexto se guarda en memoria junto al modelo, en la KV cache, y crece con cada token. En Qwen3 8B, 32 000 tokens ocupan unos 4,8 GB (aquí está el cálculo). Los modelos más grandes necesitan más por token.
Así que, cuando un modelo cabe muy justo, elige el siguiente más pequeño, o una precisión más baja, en lugar de recortar el contexto. Los prompts largos también tardan en leerse antes de que aparezca la primera palabra; la generación M5 lee los prompts más rápido que la M4 (Apple).
4Úsalo en tu editor o agente
Las herramientas de programación hablan con un modelo a través de una API. Ejecuta el modelo en local y apunta la herramienta a él:
- El servidor local de LM Studio habla los formatos de OpenAI y Anthropic, y LM Studio tiene guías de configuración para Claude Code, Codex, OpenClaw y Hermes Agent (LM Studio).
- mlx-lm:
mlx_lm.server --model <model>sirve una API al estilo de OpenAI en el puerto 8080 (mlx-lm). - Ollama también sirve una API compatible con OpenAI: las mejores apps para ejecutar LLM en una Mac las compara.
Los agentes llaman a herramientas, así que el modelo tiene que producir llamadas a herramientas en un formato que el servidor entienda. Los modelos hechos para código y agentes, como Qwen3 Coder y Devstral, están entrenados para ello; los modelos generales pequeños a menudo no son fiables en esto.
La categoría de programación de la AI App Store reúne agentes y editores de código, como Claude Code y Codex, cada uno con la descarga oficial del fabricante, su precio y adónde van tus datos.
5Preguntas
- ¿Cuál es el mejor LLM local de programación para una Mac de 32 GB?
- Qwen3 Coder 30B A3B y Devstral Small 2 funcionan bien a 4 bits. Qwen3 Coder escribe mucho más rápido porque solo lee 3,3B de sus 30,5B parámetros por token; prueba los dos con tu propio código.
- ¿Puede una Mac de 16 GB ejecutar un modelo de programación?
- Modelos pequeños, sí. Qwen3 Coder 30B A3B solo cabe en 16 GB con una precisión más baja, con poco espacio para el contexto. Para agentes de programación, 32 GB o más es un mejor punto de partida.
- ¿Puedo usar Claude Code o Codex con un modelo local?
- Sí. LM Studio tiene guías de configuración para ambos: su servidor local habla el formato de Anthropic que usa Claude Code y el de OpenAI que usa Codex (LM Studio). Lo bien que funcionen depende del modelo que cargues.
- ¿Un modelo local de programación es tan bueno como uno en la nube?
- Los modelos abiertos más grandes se acercan en muchas tareas, pero necesitan una Mac Studio con 256 o 512 GB. Los que caben en 32–64 GB son útiles para autocompletar, explicaciones y tareas de agente más pequeñas, y mantienen tu código en tu Mac.