Por tamaño de memoria
| Memoria | Van bien | El más grande que va bien | gpt-oss-20b |
|---|---|---|---|
| 24 GB307 GB/s | 28 | Gemma 4 26B A4B | 73–129 tok/s |
| 48 GB307 GB/s | 33 | Qwen3.6 35B A3B | 73–129 tok/s |
| 64 GB307 GB/s | 34 | Nemotron 3.5 Bolt 74B A9B | 73–129 tok/s |
Modelos de Mac: MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max). No todos los tamaños de memoria se ofrecen con cada modelo; las especificaciones técnicas de Apple indican con qué viene cada uno.
Preguntas
- MacBook Pro con M5 Pro: ¿es buena opción para LLM locales?
- Con 64 GB ejecuta bien 34 de 73 modelos abiertos, hasta Nemotron 3.5 Bolt 74B A9B, y escribe unos 73–129 tokens por segundo con gpt-oss-20b. El chip M5 Pro lee la memoria a 307 GB/s, lo que marca su velocidad de escritura.
- MacBook Pro con M5 Pro: ¿cuánta memoria necesita para IA?
- Con 24 GB ejecuta bien 28 modelos abiertos; con 64 GB, 34, hasta Nemotron 3.5 Bolt 74B A9B. La memoria decide qué modelos caben y no se puede ampliar después.
Otras Mac
MacBook Pro con otros chips:
- MacBook Pro M5
- MacBook Pro M5 Max
- MacBook Pro M4
- MacBook Pro M4 Pro
- MacBook Pro M4 Max
- MacBook Pro M3
- MacBook Pro M3 Pro
- MacBook Pro M3 Max
- MacBook Pro M2
- MacBook Pro M2 Pro
- MacBook Pro M2 Max
- MacBook Pro M1
- MacBook Pro M1 Pro
- MacBook Pro M1 Max
Otras Mac con M5 Pro:
Cara a cara:
El M5 Pro para IA local · La mejor Mac para LLM en local · Todas las Mac
Cómo se calcula
Memoria: los parámetros del modelo a 8, 6, 4, 3 o 2 bits por peso más las escalas por grupo de MLX (medio bit por peso), o su formato nativo, con espacio extra para el contexto. De forma predeterminada, macOS deja que la GPU use alrededor del 75 % de la memoria unificada. Velocidad: el ancho de banda de memoria dividido entre los bytes leídos por token es el techo para una conversación; en los benchmarks públicos de Apple Silicon de llama.cpp, las ejecuciones reales alcanzan entre el 45 % y el 80 % de ese techo, que es el rango que se muestra. Son estimaciones, no mediciones: mide tu propia Mac en MLX Bench. Datos de los modelos tomados de cada ficha oficial; datos de los chips, de las especificaciones técnicas de Apple. Revisado el 2026-10-19. Los mismos datos que mlx.app/compare.