Iniciar sesiónCrear billetera

¿Qué puede ejecutar un M1 Ultra con 128 GB?

47 de 73 modelos abiertos van bien en ella. De forma predeterminada, la GPU puede usar unos 96 GB de sus 128 GB, y el chip lee la memoria a 800 GB/s, lo que marca su velocidad de escritura. Está en: Mac Studio (2022).

El más inteligente que va bienQwen3.8 27B8 bits · 28,7 GB · 13–22 tok/sEl más grande que va bienQwen3.5 122B A10B4 bits · 68,6 GB · 64–114 tok/sPara códigoQwen3 Coder Next8 bits · 85 GB · 113–200 tok/s

Va bien 51

Cabe con espacio para el contexto, a 10 tokens por segundo o más.

ModeloVersiónMemoriaTokens/s
Qwen3.8 27B27B · Inteligencia 33,78 bits28,7 GB13–22
Nemotron 3.5 Bolt 74B A9B74B · 9B activos · Inteligencia 21,48 bits78,6 GB38–67
Qwen3.6 35B A3B35B · 3B activos · Inteligencia 18,28 bits37,2 GB113–200
Muse Glimmer 30B29,6B · Inteligencia 17,58 bits31,5 GB11–20
Qwen3.5 122B A10B122B · 10B activos · Inteligencia 15,64 bits68,6 GB64–114
Gemma 4 31B30,7B · Inteligencia 14,78 bits32,6 GB11–20
Nemotron 3.5 Lightning 30B A3B30B · 3B activos · Inteligencia 12,98 bits31,9 GB113–200
Granite 4.2 30B30B · Inteligencia 12,78 bits31,9 GB11–20
MiniCPM5 2B2,52B · Inteligencia 12,58 bits2,7 GB133–237
gpt-oss-120b117B · 5,1B activos · Inteligencia 11,64,25 bits nativo65,3 GB133–237
Mistral Small 4 (119B)119B · 6,5B activos · Inteligencia 11,34 bits66,9 GB97–173
Qwen3.5 9B9B · Inteligencia 11,28 bits9,6 GB38–67
Granite 4.2 8B8B · Inteligencia 11,18 bits8,5 GB42–75
Qwen3 Coder Next80B · 3B activos · Inteligencia 9,28 bits85 GB113–200
Granite 4.2 3B3B · Inteligencia 9,18 bits3,2 GB113–200
gpt-oss-20b21B · 3,6B activos · Inteligencia 94,25 bits nativo13,8 GB189–337
Nemotron 3 Nano 30B A3B30B · 3,5B activos · Inteligencia 8,98 bits31,9 GB97–173
Gemma 4 E4B8B · Inteligencia 8,98 bits8,5 GB75–133
Llama 4 Scout 17B-16E Instruct109B · 17B activos · Inteligencia 6,56 bits88,6 GB26–46
Ministral 3 8B8,9B · Inteligencia 5,58 bits9,5 GB38–67
Nemotron 3 Nano 4B3,97B · Inteligencia 4,88 bits4,2 GB86–152
Ornith 1.5 122B122B · 10B activos4 bits68,6 GB64–114
Nemotron 3 Super 120B A12B120B · 12B activos4 bits67,5 GB53–94
GLM-4.5 Air106B · 12B activos6 bits86,1 GB37–65
Qwen3 Coder 30B A3B Instruct30,5B · 3,3B activos8 bits32,4 GB103–183
GLM-4.7 Flash30B · 3B activos8 bits31,9 GB113–200
Qwen3.6 27B27B8 bits28,7 GB13–22
Gemma 4 26B A4B25,2B · 3,8B activos8 bits26,8 GB90–160
Devstral Small 2 (24B)24B8 bits25,5 GB14–25
Magistral Small 1.2 (2509)24B8 bits25,5 GB14–25
Mistral Small 3.2 (24B)24B8 bits25,5 GB14–25
LFM2.5 24B A2B24B · 2B activos8 bits25,5 GB171–305
Phi-4 Reasoning Vision 15B15B8 bits15,9 GB23–40
Phi-4 (14B)14B8 bits14,9 GB24–43
Gemma 4 12B Unified12B8 bits12,7 GB28–50
Qwen3 8B8,2B8 bits8,7 GB41–74
Llama 3.1 8B Instruct8B8 bits8,5 GB42–75
Gemma 4 E2B5,1B8 bits5,4 GB150–267
Qwen3.5 4B4B8 bits4,3 GB84–149
Phi-4 mini instruct3,8B8 bits4 GB90–160
Llama 3.2 3B Instruct3,21B8 bits3,4 GB106–188
SmolLM3 3B3B8 bits3,2 GB113–200
LFM2.5 2.6B2,69B8 bits2,9 GB124–221
Qwen3.5 2B2B8 bits2,1 GB171–305
Llama 3.2 1B Instruct1,23B8 bits1,3 GB277–492
Qwen3.5 0.8B0,8B8 bits0,9 GB400–711
Qwen3 0.6B0,6B8 bits0,6 GB600–1067
Qwen3.8 Flash Next180B · 6B activos · Inteligencia 39,83 bits menor calidad78,8 GB138–246
Inkling Small276B · 12B activos · Inteligencia 25,72 bits menor calidad86,3 GB95–168
DeepSeek V4 Flash 0731284B · 13B activos2 bits menor calidad88,8 GB88–156
MiniMax M2.7230B · 10B activos2 bits menor calidad71,9 GB116–206

Funciona, pero lento 3

Cabe, pero a menos de 10 tokens por segundo: sirve para trabajos por lotes, pero es lento para chatear.

ModeloVersiónMemoriaTokens/s
Mistral Medium 3.5 (128B)128B · Inteligencia 14,24 bits72 GB5–9
Devstral 2 (123B)123B4 bits69,2 GB5–9
Llama 3.3 70B Instruct70B8 bits74,4 GB5–9

Cabe muy justo 3

Necesita casi toda la memoria: sube el límite de memoria de la GPU y usa un contexto corto.

ModeloVersiónMemoriaTokens/s
GLM-5.3 Flash320B · 18B activos · Inteligencia 41,82 bits menor calidad100 GB64–114
MiMo V2.6 Flash309B · 15B activos · Inteligencia 37,92 bits menor calidad96,6 GB77–136
Hy3295B · 21B activos · Inteligencia 25,32 bits menor calidad92,2 GB55–97

Demasiado grande 16

Necesita más de 128 GB de memoria, incluso a 2 bits.

Otras Mac

Todas las Mac con 128 GB, con cualquier chip.

El M1 Ultra con más o menos memoria:

Chips vecinos:

Cara a cara:

Compáralo con cualquier Mac o GPU · El M1 Ultra para IA local · La mejor Mac para LLM en local · Todas las Mac

Preguntas

¿Cuál es el mejor LLM para un M1 Ultra con 128 GB?
De los modelos con un Intelligence Index publicado, Qwen3.8 27B obtiene la puntuación más alta entre los que van bien aquí: 8 bits, unos 13–22 tokens por segundo. El más grande que va bien es Qwen3.5 122B A10B.
¿Puede un M1 Ultra con 128 GB ejecutar Llama 3.3 70B?
Sí, pero lento: 8 bits, a unos 5–9 tokens por segundo.
¿Qué tan rápido va gpt-oss-20b en un M1 Ultra?
Unos 189–337 tokens por segundo (4,25 bits nativo), según los 800 GB/s de ancho de banda de memoria del chip.

Ejecútalos con MLX Harness (gratis, de código abierto) o con mlx-lm de Apple en Terminal: paso a paso.

Cómo se calcula

Memoria: los parámetros del modelo a 8, 6, 4, 3 o 2 bits por peso más las escalas por grupo de MLX (medio bit por peso), o su formato nativo, con espacio extra para el contexto. De forma predeterminada, macOS deja que la GPU use alrededor del 75 % de la memoria unificada. Velocidad: el ancho de banda de memoria dividido entre los bytes leídos por token es el techo para una conversación; en los benchmarks públicos de Apple Silicon de llama.cpp, las ejecuciones reales alcanzan entre el 45 % y el 80 % de ese techo, que es el rango que se muestra. Son estimaciones, no mediciones: mide tu propia Mac en MLX Bench. Datos de los modelos tomados de cada ficha oficial; datos de los chips, de las especificaciones técnicas de Apple. Revisado el 2026-10-19. Los mismos datos que mlx.app/compare.

¿Qué LLM ejecuta un M1 Ultra con 128 GB? Modelos y velocidad