Iniciar sesiónCrear billetera

Los mejores LLM para una Mac de 96 GB.

44 de 73 modelos abiertos van bien con 96 GB. De forma predeterminada, la GPU puede usar unos 72 GB. La velocidad depende del chip: de 300 GB/s en el M3 Max a 1200 GB/s en el M5 Ultra.

El más inteligente que va bienQwen3.8 27B8 bits · 28,7 GB · 5–33 tok/sEl más grande que va biengpt-oss-120b4,25 bits nativo · 65,3 GB · 50–356 tok/sPara códigoQwen3 Coder Next6 bits · 65 GB · 56–400 tok/s

Mac con 96 GB

4 chips de M2 a M5 vienen con 96 GB. Abre uno para ver su propia lista y sus velocidades.

Va bien 51

Cabe con espacio para el contexto, a 10 tokens por segundo o más en el M5 Ultra.

ModeloVersiónMemoriaM3 MaxM5 Ultra
Qwen3.8 27B27B · Inteligencia 33,78 bits28,7 GB5–819–33
Nemotron 3.5 Bolt 74B A9B74B · 9B activos · Inteligencia 21,46 bits60,1 GB18–3374–132
Qwen3.6 35B A3B35B · 3B activos · Inteligencia 18,28 bits37,2 GB42–75169–300
Muse Glimmer 30B29,6B · Inteligencia 17,58 bits31,5 GB4–817–30
Gemma 4 31B30,7B · Inteligencia 14,78 bits32,6 GB4–717–29
Nemotron 3.5 Lightning 30B A3B30B · 3B activos · Inteligencia 12,98 bits31,9 GB42–75169–300
Granite 4.2 30B30B · Inteligencia 12,78 bits31,9 GB4–817–30
MiniCPM5 2B2,52B · Inteligencia 12,58 bits2,7 GB50–89200–356
gpt-oss-120b117B · 5,1B activos · Inteligencia 11,64,25 bits nativo65,3 GB50–89200–356
Qwen3.5 9B9B · Inteligencia 11,28 bits9,6 GB14–2556–100
Granite 4.2 8B8B · Inteligencia 11,18 bits8,5 GB16–2864–113
Qwen3 Coder Next80B · 3B activos · Inteligencia 9,26 bits65 GB56–100225–400
Granite 4.2 3B3B · Inteligencia 9,18 bits3,2 GB42–75169–300
gpt-oss-20b21B · 3,6B activos · Inteligencia 94,25 bits nativo13,8 GB71–126284–505
Nemotron 3 Nano 30B A3B30B · 3,5B activos · Inteligencia 8,98 bits31,9 GB36–65146–259
Gemma 4 E4B8B · Inteligencia 8,98 bits8,5 GB28–50113–200
Llama 4 Scout 17B-16E Instruct109B · 17B activos · Inteligencia 6,54 bits61,3 GB14–2556–100
Ministral 3 8B8,9B · Inteligencia 5,58 bits9,5 GB14–2557–101
Nemotron 3 Nano 4B3,97B · Inteligencia 4,88 bits4,2 GB32–57129–229
GLM-4.5 Air106B · 12B activos4 bits59,6 GB20–3579–141
Llama 3.3 70B Instruct70B4 bits39,4 GB2–414–24
Qwen3 Coder 30B A3B Instruct30,5B · 3,3B activos8 bits32,4 GB39–69154–274
GLM-4.7 Flash30B · 3B activos8 bits31,9 GB42–75169–300
Qwen3.6 27B27B8 bits28,7 GB5–819–33
Gemma 4 26B A4B25,2B · 3,8B activos8 bits26,8 GB34–60135–240
Devstral Small 2 (24B)24B8 bits25,5 GB10–1821–38
Magistral Small 1.2 (2509)24B8 bits25,5 GB10–1821–38
Mistral Small 3.2 (24B)24B8 bits25,5 GB10–1821–38
LFM2.5 24B A2B24B · 2B activos8 bits25,5 GB64–114257–457
Phi-4 Reasoning Vision 15B15B8 bits15,9 GB11–2034–60
Phi-4 (14B)14B8 bits14,9 GB12–2136–64
Gemma 4 12B Unified12B8 bits12,7 GB11–1943–76
Qwen3 8B8,2B8 bits8,7 GB16–2862–110
Llama 3.1 8B Instruct8B8 bits8,5 GB16–2864–113
Gemma 4 E2B5,1B8 bits5,4 GB56–100225–400
Qwen3.5 4B4B8 bits4,3 GB31–56126–223
Phi-4 mini instruct3,8B8 bits4 GB34–60135–240
Llama 3.2 3B Instruct3,21B8 bits3,4 GB40–71159–282
SmolLM3 3B3B8 bits3,2 GB42–75169–300
LFM2.5 2.6B2,69B8 bits2,9 GB47–83186–331
Qwen3.5 2B2B8 bits2,1 GB64–114257–457
Llama 3.2 1B Instruct1,23B8 bits1,3 GB104–185415–738
Qwen3.5 0.8B0,8B8 bits0,9 GB150–267600–1067
Qwen3 0.6B0,6B8 bits0,6 GB225–400900–1600
Qwen3.8 Flash Next180B · 6B activos · Inteligencia 39,82 bits menor calidad56,3 GB71–126284–505
Qwen3.5 122B A10B122B · 10B activos · Inteligencia 15,63 bits menor calidad53,4 GB31–55123–218
Mistral Medium 3.5 (128B)128B · Inteligencia 14,23 bits menor calidad56 GB2–410–17
Mistral Small 4 (119B)119B · 6,5B activos · Inteligencia 11,33 bits menor calidad52,1 GB48–86193–343
Devstral 2 (123B)123B3 bits menor calidad53,8 GB3–410–18
Ornith 1.5 122B122B · 10B activos3 bits menor calidad53,4 GB31–55123–218
Nemotron 3 Super 120B A12B120B · 12B activos3 bits menor calidad52,5 GB25–45102–181

Cabe muy justo 1

Necesita casi toda la memoria: sube el límite de memoria de la GPU y usa un contexto corto.

ModeloVersiónMemoriaM3 MaxM5 Ultra
MiniMax M2.7230B · 10B activos2 bits menor calidad71,9 GB44–77174–310

Demasiado grande 21

Necesita más de 96 GB de memoria, incluso a 2 bits.

Preguntas

¿Cuál es el mejor LLM para una Mac con 96 GB?
De los modelos con un Intelligence Index publicado, Qwen3.8 27B obtiene la puntuación más alta entre los que van bien con 96 GB (8 bits). El más grande que va bien es gpt-oss-120b. Para código: Qwen3 Coder Next.
¿Bastan 96 GB para IA local en una Mac?
44 de los 73 modelos abiertos de esta lista van bien con esa memoria, a 4 bits o más. macOS deja que la GPU use unos 72 GB de forma predeterminada; el modelo y su contexto tienen que caber ahí.
¿Puede una Mac de 96 GB ejecutar gpt-oss-20b?
Sí, 4,25 bits nativo, a unos 71–126 tokens por segundo en un M3 Max y 284–505 en un M5 Ultra.

Otros tamaños: 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB

Ejecútalos con MLX Harness (gratis, de código abierto) o con mlx-lm de Apple en Terminal: paso a paso.

Cómo se calcula

Memoria: los parámetros del modelo a 8, 6, 4, 3 o 2 bits por peso más las escalas por grupo de MLX (medio bit por peso), o su formato nativo, con espacio extra para el contexto. De forma predeterminada, macOS deja que la GPU use alrededor del 75 % de la memoria unificada. Velocidad: el ancho de banda de memoria dividido entre los bytes leídos por token es el techo para una conversación; en los benchmarks públicos de Apple Silicon de llama.cpp, las ejecuciones reales alcanzan entre el 45 % y el 80 % de ese techo, que es el rango que se muestra. Son estimaciones, no mediciones: mide tu propia Mac en MLX Bench. Datos de los modelos tomados de cada ficha oficial; datos de los chips, de las especificaciones técnicas de Apple. Revisado el 2026-10-19. Los mismos datos que mlx.app/compare.

Mejores LLM locales para una Mac de 96 GB (M2 a M5): qué corre