Iniciar sesiónCrear billetera

¿Qué puede ejecutar un M5 Ultra con 512 GB?

61 de 73 modelos abiertos van bien en ella. De forma predeterminada, la GPU puede usar unos 384 GB de sus 512 GB, y el chip lee la memoria a 1200 GB/s, lo que marca su velocidad de escritura. Está en: Mac Studio (M5 Max or M5 Ultra).

El más inteligente que va bienDeepSeek V4.1 Flash 10174 bits · 311 GB · 60–107 tok/sEl más grande que va bienDeepSeek V4.1 Flash 10174 bits · 311 GB · 60–107 tok/sPara códigoQwen3 Coder Next8 bits · 85 GB · 169–300 tok/s

Va bien 68

Cabe con espacio para el contexto, a 10 tokens por segundo o más.

ModeloVersiónMemoriaTokens/s
DeepSeek V4.1 Flash 1017552B · 16B activos · Inteligencia 45,14 bits311 GB60–107
GLM-5.3 Flash320B · 18B activos · Inteligencia 41,88 bits340 GB28–50
Qwen3.8 Flash Next180B · 6B activos · Inteligencia 39,88 bits191 GB84–150
MiMo V2.6 Flash309B · 15B activos · Inteligencia 37,94,48 bits nativo173 GB64–114
Qwen3.8 27B27B · Inteligencia 33,78 bits28,7 GB19–33
Beam 1.0501B · 23B activos · Inteligencia 30,34 bits282 GB42–74
MiniMax M3428B · 23B activos · Inteligencia 29,26 bits348 GB29–51
Inkling Small276B · 12B activos · Inteligencia 25,78 bits293 GB42–75
Hy3295B · 21B activos · Inteligencia 25,38 bits313 GB24–43
Nemotron 3 Ultra 550B A55B550B · 55B activos · Inteligencia 22,94 bits309 GB17–31
Nemotron 3.5 Bolt 74B A9B74B · 9B activos · Inteligencia 21,48 bits78,6 GB56–100
Qwen3.5 397B A17B397B · 17B activos · Inteligencia 18,46 bits323 GB39–70
Qwen3.6 35B A3B35B · 3B activos · Inteligencia 18,28 bits37,2 GB169–300
Muse Glimmer 30B29,6B · Inteligencia 17,58 bits31,5 GB17–30
Qwen3.5 122B A10B122B · 10B activos · Inteligencia 15,68 bits130 GB51–91
Gemma 4 31B30,7B · Inteligencia 14,78 bits32,6 GB17–29
Nemotron 3.5 Lightning 30B A3B30B · 3B activos · Inteligencia 12,98 bits31,9 GB169–300
Granite 4.2 30B30B · Inteligencia 12,78 bits31,9 GB17–30
MiniCPM5 2B2,52B · Inteligencia 12,58 bits2,7 GB200–356
gpt-oss-120b117B · 5,1B activos · Inteligencia 11,64,25 bits nativo65,3 GB200–356
Mistral Small 4 (119B)119B · 6,5B activos · Inteligencia 11,38 bits126 GB78–139
Qwen3.5 9B9B · Inteligencia 11,28 bits9,6 GB56–100
Granite 4.2 8B8B · Inteligencia 11,18 bits8,5 GB64–113
Llama 4 Maverick 17B-128E Instruct400B · 17B activos · Inteligencia 9,36 bits325 GB39–70
Qwen3 Coder Next80B · 3B activos · Inteligencia 9,28 bits85 GB169–300
Granite 4.2 3B3B · Inteligencia 9,18 bits3,2 GB169–300
gpt-oss-20b21B · 3,6B activos · Inteligencia 94,25 bits nativo13,8 GB284–505
Nemotron 3 Nano 30B A3B30B · 3,5B activos · Inteligencia 8,98 bits31,9 GB146–259
Gemma 4 E4B8B · Inteligencia 8,98 bits8,5 GB113–200
Llama 4 Scout 17B-16E Instruct109B · 17B activos · Inteligencia 6,58 bits116 GB30–53
Ministral 3 8B8,9B · Inteligencia 5,58 bits9,5 GB57–101
Nemotron 3 Nano 4B3,97B · Inteligencia 4,88 bits4,2 GB129–229
DeepSeek V4 Flash 0731284B · 13B activos8 bits302 GB39–70
MiniMax M2.7230B · 10B activos8 bits244 GB51–91
Ornith 1.5 122B122B · 10B activos8 bits130 GB51–91
Nemotron 3 Super 120B A12B120B · 12B activos8 bits128 GB42–75
GLM-4.5 Air106B · 12B activos8 bits113 GB42–75
Llama 3.3 70B Instruct70B4 bits39,4 GB14–24
Qwen3 Coder 30B A3B Instruct30,5B · 3,3B activos8 bits32,4 GB154–274
GLM-4.7 Flash30B · 3B activos8 bits31,9 GB169–300
Qwen3.6 27B27B8 bits28,7 GB19–33
Gemma 4 26B A4B25,2B · 3,8B activos8 bits26,8 GB135–240
Devstral Small 2 (24B)24B8 bits25,5 GB21–38
Magistral Small 1.2 (2509)24B8 bits25,5 GB21–38
Mistral Small 3.2 (24B)24B8 bits25,5 GB21–38
LFM2.5 24B A2B24B · 2B activos8 bits25,5 GB257–457
Phi-4 Reasoning Vision 15B15B8 bits15,9 GB34–60
Phi-4 (14B)14B8 bits14,9 GB36–64
Gemma 4 12B Unified12B8 bits12,7 GB43–76
Qwen3 8B8,2B8 bits8,7 GB62–110
Llama 3.1 8B Instruct8B8 bits8,5 GB64–113
Gemma 4 E2B5,1B8 bits5,4 GB225–400
Qwen3.5 4B4B8 bits4,3 GB126–223
Phi-4 mini instruct3,8B8 bits4 GB135–240
Llama 3.2 3B Instruct3,21B8 bits3,4 GB159–282
SmolLM3 3B3B8 bits3,2 GB169–300
LFM2.5 2.6B2,69B8 bits2,9 GB186–331
Qwen3.5 2B2B8 bits2,1 GB257–457
Llama 3.2 1B Instruct1,23B8 bits1,3 GB415–738
Qwen3.5 0.8B0,8B8 bits0,9 GB600–1067
Qwen3 0.6B0,6B8 bits0,6 GB900–1600
MiMo V2.6 Pro1020B · 42B activos · Inteligencia 46,32 bits menor calidad319 GB41–73
GLM-5.3744B · 40B activos · Inteligencia 44,83 bits menor calidad326 GB31–55
Muse Spark Open816B · 42B activos · Inteligencia 38,92 bits menor calidad255 GB41–73
Kimi K2.7 Code1000B · 32B activos · Inteligencia 25,82 bits menor calidad313 GB54–96
Inkling975B · 41B activos · Inteligencia 252 bits menor calidad305 GB42–75
Kimi K2.61000B · 32B activos2 bits menor calidad313 GB54–96
Mistral Large 3 (675B)675B · 41B activos3 bits menor calidad295 GB30–54

Funciona, pero lento 2

Cabe, pero a menos de 10 tokens por segundo: sirve para trabajos por lotes, pero es lento para chatear.

ModeloVersiónMemoriaTokens/s
Mistral Medium 3.5 (128B)128B · Inteligencia 14,28 bits136 GB4–7
Devstral 2 (123B)123B8 bits131 GB4–7

Demasiado grande 3

Necesita más de 512 GB de memoria, incluso a 2 bits.

Otras Mac

Todas las Mac con 512 GB, con cualquier chip.

El M5 Ultra con más o menos memoria:

Chips vecinos:

Cara a cara:

Contra PC y tarjetas gráficas:

Compáralo con cualquier Mac o GPU · El M5 Ultra para IA local · La mejor Mac para LLM en local · Todas las Mac

Preguntas

¿Cuál es el mejor LLM para un M5 Ultra con 512 GB?
De los modelos con un Intelligence Index publicado, DeepSeek V4.1 Flash 1017 obtiene la puntuación más alta entre los que van bien aquí: 4 bits, unos 60–107 tokens por segundo.
¿Puede un M5 Ultra con 512 GB ejecutar Llama 3.3 70B?
Sí: 4 bits, a unos 14–24 tokens por segundo.
¿Qué tan rápido va gpt-oss-20b en un M5 Ultra?
Unos 284–505 tokens por segundo (4,25 bits nativo), según los 1200 GB/s de ancho de banda de memoria del chip.

Ejecútalos con MLX Harness (gratis, de código abierto) o con mlx-lm de Apple en Terminal: paso a paso.

Cómo se calcula

Memoria: los parámetros del modelo a 8, 6, 4, 3 o 2 bits por peso más las escalas por grupo de MLX (medio bit por peso), o su formato nativo, con espacio extra para el contexto. De forma predeterminada, macOS deja que la GPU use alrededor del 75 % de la memoria unificada. Velocidad: el ancho de banda de memoria dividido entre los bytes leídos por token es el techo para una conversación; en los benchmarks públicos de Apple Silicon de llama.cpp, las ejecuciones reales alcanzan entre el 45 % y el 80 % de ese techo, que es el rango que se muestra. Son estimaciones, no mediciones: mide tu propia Mac en MLX Bench. Datos de los modelos tomados de cada ficha oficial; datos de los chips, de las especificaciones técnicas de Apple. Revisado el 2026-10-19. Los mismos datos que mlx.app/compare.

¿Qué LLM ejecuta un M5 Ultra con 512 GB? Modelos y velocidad