Iniciar sesiónCrear billetera

¿Qué puede ejecutar un M3 Max con 96 GB?

38 de 73 modelos abiertos van bien en ella. De forma predeterminada, la GPU puede usar unos 72 GB de sus 96 GB, y el chip lee la memoria a 300 GB/s, lo que marca su velocidad de escritura. Está en: MacBook Pro (14-inch, M3 Pro or M3 Max, Nov 2023), MacBook Pro (16-inch, Nov 2023).

El más inteligente que va bienNemotron 3.5 Bolt 74B A9B6 bits · 60,1 GB · 18–33 tok/sEl más grande que va biengpt-oss-120b4,25 bits nativo · 65,3 GB · 50–89 tok/sPara códigoQwen3 Coder Next6 bits · 65 GB · 56–100 tok/s

Va bien 43

Cabe con espacio para el contexto, a 10 tokens por segundo o más.

ModeloVersiónMemoriaTokens/s
Nemotron 3.5 Bolt 74B A9B74B · 9B activos · Inteligencia 21,46 bits60,1 GB18–33
Qwen3.6 35B A3B35B · 3B activos · Inteligencia 18,28 bits37,2 GB42–75
Nemotron 3.5 Lightning 30B A3B30B · 3B activos · Inteligencia 12,98 bits31,9 GB42–75
MiniCPM5 2B2,52B · Inteligencia 12,58 bits2,7 GB50–89
gpt-oss-120b117B · 5,1B activos · Inteligencia 11,64,25 bits nativo65,3 GB50–89
Qwen3.5 9B9B · Inteligencia 11,28 bits9,6 GB14–25
Granite 4.2 8B8B · Inteligencia 11,18 bits8,5 GB16–28
Qwen3 Coder Next80B · 3B activos · Inteligencia 9,26 bits65 GB56–100
Granite 4.2 3B3B · Inteligencia 9,18 bits3,2 GB42–75
gpt-oss-20b21B · 3,6B activos · Inteligencia 94,25 bits nativo13,8 GB71–126
Nemotron 3 Nano 30B A3B30B · 3,5B activos · Inteligencia 8,98 bits31,9 GB36–65
Gemma 4 E4B8B · Inteligencia 8,98 bits8,5 GB28–50
Llama 4 Scout 17B-16E Instruct109B · 17B activos · Inteligencia 6,54 bits61,3 GB14–25
Ministral 3 8B8,9B · Inteligencia 5,58 bits9,5 GB14–25
Nemotron 3 Nano 4B3,97B · Inteligencia 4,88 bits4,2 GB32–57
GLM-4.5 Air106B · 12B activos4 bits59,6 GB20–35
Qwen3 Coder 30B A3B Instruct30,5B · 3,3B activos8 bits32,4 GB39–69
GLM-4.7 Flash30B · 3B activos8 bits31,9 GB42–75
Gemma 4 26B A4B25,2B · 3,8B activos8 bits26,8 GB34–60
Devstral Small 2 (24B)24B4 bits13,5 GB10–18
Magistral Small 1.2 (2509)24B4 bits13,5 GB10–18
Mistral Small 3.2 (24B)24B4 bits13,5 GB10–18
LFM2.5 24B A2B24B · 2B activos8 bits25,5 GB64–114
Phi-4 Reasoning Vision 15B15B6 bits12,2 GB11–20
Phi-4 (14B)14B6 bits11,4 GB12–21
Gemma 4 12B Unified12B8 bits12,7 GB11–19
Qwen3 8B8,2B8 bits8,7 GB16–28
Llama 3.1 8B Instruct8B8 bits8,5 GB16–28
Gemma 4 E2B5,1B8 bits5,4 GB56–100
Qwen3.5 4B4B8 bits4,3 GB31–56
Phi-4 mini instruct3,8B8 bits4 GB34–60
Llama 3.2 3B Instruct3,21B8 bits3,4 GB40–71
SmolLM3 3B3B8 bits3,2 GB42–75
LFM2.5 2.6B2,69B8 bits2,9 GB47–83
Qwen3.5 2B2B8 bits2,1 GB64–114
Llama 3.2 1B Instruct1,23B8 bits1,3 GB104–185
Qwen3.5 0.8B0,8B8 bits0,9 GB150–267
Qwen3 0.6B0,6B8 bits0,6 GB225–400
Qwen3.8 Flash Next180B · 6B activos · Inteligencia 39,82 bits menor calidad56,3 GB71–126
Qwen3.5 122B A10B122B · 10B activos · Inteligencia 15,63 bits menor calidad53,4 GB31–55
Mistral Small 4 (119B)119B · 6,5B activos · Inteligencia 11,33 bits menor calidad52,1 GB48–86
Ornith 1.5 122B122B · 10B activos3 bits menor calidad53,4 GB31–55
Nemotron 3 Super 120B A12B120B · 12B activos3 bits menor calidad52,5 GB25–45

Funciona, pero lento 8

Cabe, pero a menos de 10 tokens por segundo: sirve para trabajos por lotes, pero es lento para chatear.

ModeloVersiónMemoriaTokens/s
Qwen3.8 27B27B · Inteligencia 33,78 bits28,7 GB5–8
Muse Glimmer 30B29,6B · Inteligencia 17,58 bits31,5 GB4–8
Gemma 4 31B30,7B · Inteligencia 14,78 bits32,6 GB4–7
Granite 4.2 30B30B · Inteligencia 12,78 bits31,9 GB4–8
Llama 3.3 70B Instruct70B6 bits56,9 GB2–4
Qwen3.6 27B27B8 bits28,7 GB5–8
Mistral Medium 3.5 (128B)128B · Inteligencia 14,23 bits menor calidad56 GB2–4
Devstral 2 (123B)123B3 bits menor calidad53,8 GB3–4

Cabe muy justo 1

Necesita casi toda la memoria: sube el límite de memoria de la GPU y usa un contexto corto.

ModeloVersiónMemoriaTokens/s
MiniMax M2.7230B · 10B activos2 bits menor calidad71,9 GB44–77

Demasiado grande 21

Necesita más de 96 GB de memoria, incluso a 2 bits.

Otras Mac

Todas las Mac con 96 GB, con cualquier chip.

El M3 Max con más o menos memoria:

Chips vecinos:

Cara a cara:

Compáralo con cualquier Mac o GPU · El M3 Max para IA local · La mejor Mac para LLM en local · Todas las Mac

Preguntas

¿Cuál es el mejor LLM para un M3 Max con 96 GB?
De los modelos con un Intelligence Index publicado, Nemotron 3.5 Bolt 74B A9B obtiene la puntuación más alta entre los que van bien aquí: 6 bits, unos 18–33 tokens por segundo. El más grande que va bien es gpt-oss-120b.
¿Puede un M3 Max con 96 GB ejecutar Llama 3.3 70B?
Sí, pero lento: 6 bits, a unos 2–4 tokens por segundo.
¿Qué tan rápido va gpt-oss-20b en un M3 Max?
Unos 71–126 tokens por segundo (4,25 bits nativo), según los 300 GB/s de ancho de banda de memoria del chip.

Ejecútalos con MLX Harness (gratis, de código abierto) o con mlx-lm de Apple en Terminal: paso a paso.

Cómo se calcula

Memoria: los parámetros del modelo a 8, 6, 4, 3 o 2 bits por peso más las escalas por grupo de MLX (medio bit por peso), o su formato nativo, con espacio extra para el contexto. De forma predeterminada, macOS deja que la GPU use alrededor del 75 % de la memoria unificada. Velocidad: el ancho de banda de memoria dividido entre los bytes leídos por token es el techo para una conversación; en los benchmarks públicos de Apple Silicon de llama.cpp, las ejecuciones reales alcanzan entre el 45 % y el 80 % de ese techo, que es el rango que se muestra. Son estimaciones, no mediciones: mide tu propia Mac en MLX Bench. Datos de los modelos tomados de cada ficha oficial; datos de los chips, de las especificaciones técnicas de Apple. Revisado el 2026-10-19. Los mismos datos que mlx.app/compare.

¿Qué LLM ejecuta un M3 Max con 96 GB? Modelos y velocidad