Iniciar sesiónCrear billetera

¿Qué puede ejecutar un M5 con 32 GB?

28 de 73 modelos abiertos van bien en ella. De forma predeterminada, la GPU puede usar unos 24 GB de sus 32 GB, y el chip lee la memoria a 153 GB/s, lo que marca su velocidad de escritura. Está en: MacBook Pro (14-inch, M5), MacBook Air (13-inch, M5), MacBook Air (15-inch, M5).

El más inteligente que va bienQwen3.6 35B A3B4 bits · 19,7 GB · 41–72 tok/sEl más grande que va bienQwen3.6 35B A3B4 bits · 19,7 GB · 41–72 tok/sPara códigoQwen3 Coder 30B A3B Instruct4 bits · 17,2 GB · 36–64 tok/s

Va bien 28

Cabe con espacio para el contexto, a 10 tokens por segundo o más.

ModeloVersiónMemoriaTokens/s
Qwen3.6 35B A3B35B · 3B activos · Inteligencia 18,24 bits19,7 GB41–72
Nemotron 3.5 Lightning 30B A3B30B · 3B activos · Inteligencia 12,94 bits16,9 GB41–72
MiniCPM5 2B2,52B · Inteligencia 12,58 bits2,7 GB26–45
Qwen3.5 9B9B · Inteligencia 11,24 bits5,1 GB14–24
Granite 4.2 8B8B · Inteligencia 11,16 bits6,5 GB11–19
Granite 4.2 3B3B · Inteligencia 9,18 bits3,2 GB22–38
gpt-oss-20b21B · 3,6B activos · Inteligencia 94,25 bits nativo13,8 GB36–64
Nemotron 3 Nano 30B A3B30B · 3,5B activos · Inteligencia 8,94 bits16,9 GB34–61
Gemma 4 E4B8B · Inteligencia 8,98 bits8,5 GB14–26
Ministral 3 8B8,9B · Inteligencia 5,56 bits7,2 GB10–17
Nemotron 3 Nano 4B3,97B · Inteligencia 4,88 bits4,2 GB16–29
Qwen3 Coder 30B A3B Instruct30,5B · 3,3B activos4 bits17,2 GB36–64
GLM-4.7 Flash30B · 3B activos4 bits16,9 GB41–72
Gemma 4 26B A4B25,2B · 3,8B activos6 bits20,5 GB22–39
LFM2.5 24B A2B24B · 2B activos6 bits19,5 GB43–77
Gemma 4 12B Unified12B4 bits6,7 GB10–18
Qwen3 8B8,2B6 bits6,7 GB10–18
Llama 3.1 8B Instruct8B6 bits6,5 GB11–19
Gemma 4 E2B5,1B8 bits5,4 GB29–51
Qwen3.5 4B4B8 bits4,3 GB16–28
Phi-4 mini instruct3,8B8 bits4 GB17–31
Llama 3.2 3B Instruct3,21B8 bits3,4 GB20–36
SmolLM3 3B3B8 bits3,2 GB22–38
LFM2.5 2.6B2,69B8 bits2,9 GB24–42
Qwen3.5 2B2B8 bits2,1 GB33–58
Llama 3.2 1B Instruct1,23B8 bits1,3 GB53–94
Qwen3.5 0.8B0,8B8 bits0,9 GB77–136
Qwen3 0.6B0,6B8 bits0,6 GB115–204

Funciona, pero lento 11

Cabe, pero a menos de 10 tokens por segundo: sirve para trabajos por lotes, pero es lento para chatear.

ModeloVersiónMemoriaTokens/s
Qwen3.8 27B27B · Inteligencia 33,76 bits21,9 GB3–6
Muse Glimmer 30B29,6B · Inteligencia 17,54 bits16,7 GB4–7
Gemma 4 31B30,7B · Inteligencia 14,74 bits17,3 GB4–7
Granite 4.2 30B30B · Inteligencia 12,74 bits16,9 GB4–7
Qwen3.6 27B27B6 bits21,9 GB3–6
Devstral Small 2 (24B)24B6 bits19,5 GB4–6
Magistral Small 1.2 (2509)24B6 bits19,5 GB4–6
Mistral Small 3.2 (24B)24B6 bits19,5 GB4–6
Phi-4 Reasoning Vision 15B15B8 bits15,9 GB4–8
Phi-4 (14B)14B8 bits14,9 GB5–8
Llama 3.3 70B Instruct70B2 bits menor calidad21,9 GB3–6

Cabe muy justo 2

Necesita casi toda la memoria: sube el límite de memoria de la GPU y usa un contexto corto.

ModeloVersiónMemoriaTokens/s
Nemotron 3.5 Bolt 74B A9B74B · 9B activos · Inteligencia 21,42 bits menor calidad23,1 GB25–44
Qwen3 Coder Next80B · 3B activos · Inteligencia 9,22 bits menor calidad25 GB77–136

Demasiado grande 32

Necesita más de 32 GB de memoria, incluso a 2 bits.

Otras Mac

Todas las Mac con 32 GB, con cualquier chip.

El M5 con más o menos memoria:

Chips vecinos:

Cara a cara:

Compáralo con cualquier Mac o GPU · El M5 para IA local · La mejor Mac para LLM en local · Todas las Mac

Preguntas

¿Cuál es el mejor LLM para un M5 con 32 GB?
De los modelos con un Intelligence Index publicado, Qwen3.6 35B A3B obtiene la puntuación más alta entre los que van bien aquí: 4 bits, unos 41–72 tokens por segundo.
¿Puede un M5 con 32 GB ejecutar Llama 3.3 70B?
Sí, pero lento: 2 bits (menor calidad), a unos 3–6 tokens por segundo.
¿Qué tan rápido va gpt-oss-20b en un M5?
Unos 36–64 tokens por segundo (4,25 bits nativo), según los 153 GB/s de ancho de banda de memoria del chip.

Ejecútalos con MLX Harness (gratis, de código abierto) o con mlx-lm de Apple en Terminal: paso a paso.

Cómo se calcula

Memoria: los parámetros del modelo a 8, 6, 4, 3 o 2 bits por peso más las escalas por grupo de MLX (medio bit por peso), o su formato nativo, con espacio extra para el contexto. De forma predeterminada, macOS deja que la GPU use alrededor del 75 % de la memoria unificada. Velocidad: el ancho de banda de memoria dividido entre los bytes leídos por token es el techo para una conversación; en los benchmarks públicos de Apple Silicon de llama.cpp, las ejecuciones reales alcanzan entre el 45 % y el 80 % de ese techo, que es el rango que se muestra. Son estimaciones, no mediciones: mide tu propia Mac en MLX Bench. Datos de los modelos tomados de cada ficha oficial; datos de los chips, de las especificaciones técnicas de Apple. Revisado el 2026-10-19. Los mismos datos que mlx.app/compare.

¿Qué LLM ejecuta un M5 con 32 GB? Modelos y velocidad