Mac con 192 GB
1 chips de M2 vienen con 192 GB. Abre uno para ver su propia lista y sus velocidades.
Va bien 56
Cabe con espacio para el contexto, a 10 tokens por segundo o más en el M2 Ultra.
| Modelo | Versión | Memoria | Tokens/s |
|---|---|---|---|
| Qwen3.8 Flash Next180B · 6B activos · Inteligencia 39,8 | 4 bits | 101 GB | 106–188 |
| Qwen3.8 27B27B · Inteligencia 33,7 | 8 bits | 28,7 GB | 13–22 |
| Nemotron 3.5 Bolt 74B A9B74B · 9B activos · Inteligencia 21,4 | 8 bits | 78,6 GB | 38–67 |
| Qwen3.6 35B A3B35B · 3B activos · Inteligencia 18,2 | 8 bits | 37,2 GB | 113–200 |
| Muse Glimmer 30B29,6B · Inteligencia 17,5 | 8 bits | 31,5 GB | 11–20 |
| Qwen3.5 122B A10B122B · 10B activos · Inteligencia 15,6 | 8 bits | 130 GB | 34–60 |
| Gemma 4 31B30,7B · Inteligencia 14,7 | 8 bits | 32,6 GB | 11–20 |
| Nemotron 3.5 Lightning 30B A3B30B · 3B activos · Inteligencia 12,9 | 8 bits | 31,9 GB | 113–200 |
| Granite 4.2 30B30B · Inteligencia 12,7 | 8 bits | 31,9 GB | 11–20 |
| MiniCPM5 2B2,52B · Inteligencia 12,5 | 8 bits | 2,7 GB | 133–237 |
| gpt-oss-120b117B · 5,1B activos · Inteligencia 11,6 | 4,25 bits nativo | 65,3 GB | 133–237 |
| Mistral Small 4 (119B)119B · 6,5B activos · Inteligencia 11,3 | 8 bits | 126 GB | 52–93 |
| Qwen3.5 9B9B · Inteligencia 11,2 | 8 bits | 9,6 GB | 38–67 |
| Granite 4.2 8B8B · Inteligencia 11,1 | 8 bits | 8,5 GB | 42–75 |
| Qwen3 Coder Next80B · 3B activos · Inteligencia 9,2 | 8 bits | 85 GB | 113–200 |
| Granite 4.2 3B3B · Inteligencia 9,1 | 8 bits | 3,2 GB | 113–200 |
| gpt-oss-20b21B · 3,6B activos · Inteligencia 9 | 4,25 bits nativo | 13,8 GB | 189–337 |
| Nemotron 3 Nano 30B A3B30B · 3,5B activos · Inteligencia 8,9 | 8 bits | 31,9 GB | 97–173 |
| Gemma 4 E4B8B · Inteligencia 8,9 | 8 bits | 8,5 GB | 75–133 |
| Llama 4 Scout 17B-16E Instruct109B · 17B activos · Inteligencia 6,5 | 8 bits | 116 GB | 20–35 |
| Ministral 3 8B8,9B · Inteligencia 5,5 | 8 bits | 9,5 GB | 38–67 |
| Nemotron 3 Nano 4B3,97B · Inteligencia 4,8 | 8 bits | 4,2 GB | 86–152 |
| MiniMax M2.7230B · 10B activos | 4 bits | 129 GB | 64–114 |
| Ornith 1.5 122B122B · 10B activos | 8 bits | 130 GB | 34–60 |
| Nemotron 3 Super 120B A12B120B · 12B activos | 8 bits | 128 GB | 28–50 |
| GLM-4.5 Air106B · 12B activos | 8 bits | 113 GB | 28–50 |
| Qwen3 Coder 30B A3B Instruct30,5B · 3,3B activos | 8 bits | 32,4 GB | 103–183 |
| GLM-4.7 Flash30B · 3B activos | 8 bits | 31,9 GB | 113–200 |
| Qwen3.6 27B27B | 8 bits | 28,7 GB | 13–22 |
| Gemma 4 26B A4B25,2B · 3,8B activos | 8 bits | 26,8 GB | 90–160 |
| Devstral Small 2 (24B)24B | 8 bits | 25,5 GB | 14–25 |
| Magistral Small 1.2 (2509)24B | 8 bits | 25,5 GB | 14–25 |
| Mistral Small 3.2 (24B)24B | 8 bits | 25,5 GB | 14–25 |
| LFM2.5 24B A2B24B · 2B activos | 8 bits | 25,5 GB | 171–305 |
| Phi-4 Reasoning Vision 15B15B | 8 bits | 15,9 GB | 23–40 |
| Phi-4 (14B)14B | 8 bits | 14,9 GB | 24–43 |
| Gemma 4 12B Unified12B | 8 bits | 12,7 GB | 28–50 |
| Qwen3 8B8,2B | 8 bits | 8,7 GB | 41–74 |
| Llama 3.1 8B Instruct8B | 8 bits | 8,5 GB | 42–75 |
| Gemma 4 E2B5,1B | 8 bits | 5,4 GB | 150–267 |
| Qwen3.5 4B4B | 8 bits | 4,3 GB | 84–149 |
| Phi-4 mini instruct3,8B | 8 bits | 4 GB | 90–160 |
| Llama 3.2 3B Instruct3,21B | 8 bits | 3,4 GB | 106–188 |
| SmolLM3 3B3B | 8 bits | 3,2 GB | 113–200 |
| LFM2.5 2.6B2,69B | 8 bits | 2,9 GB | 124–221 |
| Qwen3.5 2B2B | 8 bits | 2,1 GB | 171–305 |
| Llama 3.2 1B Instruct1,23B | 8 bits | 1,3 GB | 277–492 |
| Qwen3.5 0.8B0,8B | 8 bits | 0,9 GB | 400–711 |
| Qwen3 0.6B0,6B | 8 bits | 0,6 GB | 600–1067 |
| GLM-5.3 Flash320B · 18B activos · Inteligencia 41,8 | 2 bits menor calidad | 100 GB | 64–114 |
| MiMo V2.6 Flash309B · 15B activos · Inteligencia 37,9 | 2 bits menor calidad | 96,6 GB | 77–136 |
| Inkling Small276B · 12B activos · Inteligencia 25,7 | 3 bits menor calidad | 121 GB | 68–121 |
| Hy3295B · 21B activos · Inteligencia 25,3 | 3 bits menor calidad | 129 GB | 39–70 |
| Qwen3.5 397B A17B397B · 17B activos · Inteligencia 18,4 | 2 bits menor calidad | 124 GB | 68–121 |
| Llama 4 Maverick 17B-128E Instruct400B · 17B activos · Inteligencia 9,3 | 2 bits menor calidad | 125 GB | 68–121 |
| DeepSeek V4 Flash 0731284B · 13B activos | 3 bits menor calidad | 124 GB | 63–112 |
Funciona, pero lento 3
Cabe, pero a menos de 10 tokens por segundo: sirve para trabajos por lotes, pero es lento para chatear.
| Modelo | Versión | Memoria | Tokens/s |
|---|---|---|---|
| Mistral Medium 3.5 (128B)128B · Inteligencia 14,2 | 6 bits | 104 GB | 3–6 |
| Devstral 2 (123B)123B | 8 bits | 131 GB | 3–5 |
| Llama 3.3 70B Instruct70B | 8 bits | 74,4 GB | 5–9 |
Cabe muy justo 2
Necesita casi toda la memoria: sube el límite de memoria de la GPU y usa un contexto corto.
| Modelo | Versión | Memoria | Tokens/s |
|---|---|---|---|
| Beam 1.0501B · 23B activos · Inteligencia 30,3 | 2 bits menor calidad | 157 GB | 50–89 |
| MiniMax M3428B · 23B activos · Inteligencia 29,2 | 2 bits menor calidad | 134 GB | 50–89 |
Demasiado grande 12
Necesita más de 192 GB de memoria, incluso a 2 bits.
Preguntas
- ¿Cuál es el mejor LLM para una Mac con 192 GB?
- De los modelos con un Intelligence Index publicado, Qwen3.8 Flash Next obtiene la puntuación más alta entre los que van bien con 192 GB (4 bits). El más grande que va bien es MiniMax M2.7. Para código: Qwen3 Coder Next.
- ¿Bastan 192 GB para IA local en una Mac?
- 49 de los 73 modelos abiertos de esta lista van bien con esa memoria, a 4 bits o más. macOS deja que la GPU use unos 144 GB de forma predeterminada; el modelo y su contexto tienen que caber ahí.
- ¿Puede una Mac de 192 GB ejecutar gpt-oss-20b?
- Sí, 4,25 bits nativo, a unos 189–337 tokens por segundo en un M2 Ultra.
Otros tamaños: 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB
Ejecútalos con MLX Harness (gratis, de código abierto) o con mlx-lm de Apple en Terminal: paso a paso.
Cómo se calcula
Memoria: los parámetros del modelo a 8, 6, 4, 3 o 2 bits por peso más las escalas por grupo de MLX (medio bit por peso), o su formato nativo, con espacio extra para el contexto. De forma predeterminada, macOS deja que la GPU use alrededor del 75 % de la memoria unificada. Velocidad: el ancho de banda de memoria dividido entre los bytes leídos por token es el techo para una conversación; en los benchmarks públicos de Apple Silicon de llama.cpp, las ejecuciones reales alcanzan entre el 45 % y el 80 % de ese techo, que es el rango que se muestra. Son estimaciones, no mediciones: mide tu propia Mac en MLX Bench. Datos de los modelos tomados de cada ficha oficial; datos de los chips, de las especificaciones técnicas de Apple. Revisado el 2026-10-19. Los mismos datos que mlx.app/compare.