¿Cuál es el mejor LLM para una Mac con 36 GB?

De los modelos con un Intelligence Index publicado, Qwen3.8 27B obtiene la puntuación más alta entre los que van bien con 36 GB (4 bits). El más grande que va bien es Qwen3.6 35B A3B. Para código: Qwen3 Coder 30B A3B Instruct.

¿Bastan 36 GB para IA local en una Mac?

38 de los 73 modelos abiertos de esta lista van bien con esa memoria, a 4 bits o más. macOS deja que la GPU use unos 27 GB de forma predeterminada; el modelo y su contexto tienen que caber ahí.

¿Puede una Mac de 36 GB ejecutar gpt-oss-20b?

Sí, 4,25 bits nativo, a unos 36–63 tokens por segundo en un M3 Pro y 109–194 en un M5 Max.

Mejores LLM locales para una Mac de 36 GB (M3 a M5): qué corre

Mac con 36 GB

4 chips de M3 a M5 vienen con 36 GB. Abre uno para ver su propia lista y sus velocidades.

Va bien 40

Cabe con espacio para el contexto, a 10 tokens por segundo o más en el M5 Max.

Modelo	Versión	Memoria	M3 Pro	M5 Max
Qwen3.8 27B27B · Inteligencia 33,7	4 bits	15,2 GB	3–5	14–24
Qwen3.6 35B A3B35B · 3B activos · Inteligencia 18,2	4 bits	19,7 GB	40–71	122–216
Muse Glimmer 30B29,6B · Inteligencia 17,5	4 bits	16,7 GB	3–5	12–22
Gemma 4 31B30,7B · Inteligencia 14,7	4 bits	17,3 GB	3–5	12–21
Nemotron 3.5 Lightning 30B A3B30B · 3B activos · Inteligencia 12,9	6 bits	24,4 GB	28–50	86–153
Granite 4.2 30B30B · Inteligencia 12,7	4 bits	16,9 GB	3–5	12–22
MiniCPM5 2B2,52B · Inteligencia 12,5	8 bits	2,7 GB	25–44	77–136
Qwen3.5 9B9B · Inteligencia 11,2	8 bits	9,6 GB	13–24	22–38
Granite 4.2 8B8B · Inteligencia 11,1	8 bits	8,5 GB	10–18	24–43
Granite 4.2 3B3B · Inteligencia 9,1	8 bits	3,2 GB	21–38	65–115
gpt-oss-20b21B · 3,6B activos · Inteligencia 9	4,25 bits nativo	13,8 GB	36–63	109–194
Nemotron 3 Nano 30B A3B30B · 3,5B activos · Inteligencia 8,9	6 bits	24,4 GB	24–43	74–131
Gemma 4 E4B8B · Inteligencia 8,9	8 bits	8,5 GB	14–25	43–77
Ministral 3 8B8,9B · Inteligencia 5,5	8 bits	9,5 GB	14–24	22–39
Nemotron 3 Nano 4B3,97B · Inteligencia 4,8	8 bits	4,2 GB	16–29	49–88
Qwen3 Coder 30B A3B Instruct30,5B · 3,3B activos	6 bits	24,8 GB	25–44	77–136
GLM-4.7 Flash30B · 3B activos	6 bits	24,4 GB	28–50	86–153
Qwen3.6 27B27B	4 bits	15,2 GB	3–5	14–24
Gemma 4 26B A4B25,2B · 3,8B activos	6 bits	20,5 GB	22–39	67–119
Devstral Small 2 (24B)24B	6 bits	19,5 GB	3–6	11–19
Magistral Small 1.2 (2509)24B	6 bits	19,5 GB	3–6	11–19
Mistral Small 3.2 (24B)24B	6 bits	19,5 GB	3–6	11–19
LFM2.5 24B A2B24B · 2B activos	6 bits	19,5 GB	42–75	129–230
Phi-4 Reasoning Vision 15B15B	8 bits	15,9 GB	4–8	13–23
Phi-4 (14B)14B	8 bits	14,9 GB	5–8	14–25
Gemma 4 12B Unified12B	8 bits	12,7 GB	10–18	16–29
Qwen3 8B8,2B	8 bits	8,7 GB	10–18	24–42
Llama 3.1 8B Instruct8B	8 bits	8,5 GB	10–18	24–43
Gemma 4 E2B5,1B	8 bits	5,4 GB	28–50	86–153
Qwen3.5 4B4B	8 bits	4,3 GB	16–28	48–86
Phi-4 mini instruct3,8B	8 bits	4 GB	17–30	52–92
Llama 3.2 3B Instruct3,21B	8 bits	3,4 GB	20–35	61–108
SmolLM3 3B3B	8 bits	3,2 GB	21–38	65–115
LFM2.5 2.6B2,69B	8 bits	2,9 GB	23–41	71–127
Qwen3.5 2B2B	8 bits	2,1 GB	32–57	99–175
Llama 3.2 1B Instruct1,23B	8 bits	1,3 GB	52–92	159–283
Qwen3.5 0.8B0,8B	8 bits	0,9 GB	75–133	230–409
Qwen3 0.6B0,6B	8 bits	0,6 GB	113–200	345–613
Nemotron 3.5 Bolt 74B A9B74B · 9B activos · Inteligencia 21,4	2 bits menor calidad	23,1 GB	24–43	74–131
Qwen3 Coder Next80B · 3B activos · Inteligencia 9,2	2 bits menor calidad	25 GB	75–133	230–409

Funciona, pero lento 1

Cabe, pero a menos de 10 tokens por segundo: sirve para trabajos por lotes, pero es lento para chatear.

Modelo	Versión	Memoria	M3 Pro	M5 Max
Llama 3.3 70B Instruct70B	2 bits menor calidad	21,9 GB	3–5	9–17

Preguntas

¿Cuál es el mejor LLM para una Mac con 36 GB?: De los modelos con un Intelligence Index publicado, Qwen3.8 27B obtiene la puntuación más alta entre los que van bien con 36 GB (4 bits). El más grande que va bien es Qwen3.6 35B A3B. Para código: Qwen3 Coder 30B A3B Instruct.
¿Bastan 36 GB para IA local en una Mac?: 38 de los 73 modelos abiertos de esta lista van bien con esa memoria, a 4 bits o más. macOS deja que la GPU use unos 27 GB de forma predeterminada; el modelo y su contexto tienen que caber ahí.
¿Puede una Mac de 36 GB ejecutar gpt-oss-20b?: Sí, 4,25 bits nativo, a unos 36–63 tokens por segundo en un M3 Pro y 109–194 en un M5 Max.

Otros tamaños: 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB

Ejecútalos con MLX Harness (gratis, de código abierto) o con mlx-lm de Apple en Terminal: paso a paso.

Cómo se calcula

Memoria: los parámetros del modelo a 8, 6, 4, 3 o 2 bits por peso más las escalas por grupo de MLX (medio bit por peso), o su formato nativo, con espacio extra para el contexto. De forma predeterminada, macOS deja que la GPU use alrededor del 75 % de la memoria unificada. Velocidad: el ancho de banda de memoria dividido entre los bytes leídos por token es el techo para una conversación; en los benchmarks públicos de Apple Silicon de llama.cpp, las ejecuciones reales alcanzan entre el 45 % y el 80 % de ese techo, que es el rango que se muestra. Son estimaciones, no mediciones: mide tu propia Mac en MLX Bench. Datos de los modelos tomados de cada ficha oficial; datos de los chips, de las especificaciones técnicas de Apple. Revisado el 2026-10-19. Los mismos datos que mlx.app/compare.

Los mejores LLM para una Mac de 36 GB.