1Las especificaciones que importan para la IA
| Memoria unificada | 512 GB |
|---|---|
| Ancho de banda de memoria | 1,2 TB/s |
| Está en | Mac Studio (2026) |
| Plaza dedicada para él | Plaza Ultra Latest: mina hasta 480 MLX al día |
2Qué modelos caben
A 4 bits por peso, un modelo necesita algo más de medio gigabyte por cada mil millones de parámetros, más espacio para su contexto y para macOS. Con 512 GB, el M5 Ultra aloja con holgura modelos de hasta unos 682 mil millones de parámetros.
| Modelo a 4 bits | Memoria necesaria | Cabe en el M5 Ultra |
|---|---|---|
| Modelo de 8B | 4,5 GB | Sí |
| Modelo de 14B | 7,9 GB | Sí |
| Modelo de 32B | 18 GB | Sí |
| Modelo de 70B | 39,4 GB | Sí |
| gpt-oss-120b, mezcla de expertos | 65 GB | Sí |
| Qwen3.5-397B-A17B, mezcla de expertos | 223,3 GB | Sí |
| DeepSeek-V4.1-Flash, mezcla de expertos | 316 GB | Sí |
3Qué velocidad alcanza
Al escribir texto, el límite es el ancho de banda de memoria: cada token nuevo lee una vez los pesos activos del modelo. Al dividir los 1,2 TB/s del M5 Ultra entre los bytes leídos por token se obtiene el techo de abajo. En la práctica se suele llegar a entre el 45% y el 80% de ese techo (benchmarks de llama.cpp).
| Modelo a 4 bits | Lectura por token | Techo para un chat |
|---|---|---|
| Modelo de 8B | 4,5 GB | 267 tokens/s |
| Modelo de 14B | 7,9 GB | 152 tokens/s |
| Modelo de 32B | 18 GB | 67 tokens/s |
| Modelo de 70B | 39,4 GB | 30 tokens/s |
| gpt-oss-120b, mezcla de expertos | 2,7 GB | 444 tokens/s |
| Qwen3.5-397B-A17B, mezcla de expertos | 9,6 GB | 125 tokens/s |
| DeepSeek-V4.1-Flash, mezcla de expertos | 9 GB | 133 tokens/s |
Medido: con M5 Ultra (80-core GPU), llama.cpp genera 179 tokens por segundo con Llama-2-7B (Q4_0) en sus benchmarks públicos.
Los chips de la generación M5 añaden aceleradores neuronales a la GPU, así que leen los prompts varias veces más rápido que M4: Apple midió que el primer token llega entre 3,3 y 4,1 veces antes con MLX (Apple).
5Compara con otros chips
6Preguntas
- ¿Puede el M5 Ultra ejecutar un modelo de 70B?
- Sí. Un modelo de 70B a 4 bits necesita unos 40 GB, y el M5 Ultra tiene hasta 512 GB. Espera un techo de unos 30 tokens por segundo para un chat.
- ¿Cuántos tokens por segundo da el M5 Ultra?
- Con un modelo de 8B a 4 bits, el techo es de unos 267 tokens por segundo, y en la práctica se alcanza entre la mitad y cuatro quintos. Los modelos más grandes son proporcionalmente más lentos.
- ¿Es bueno el M5 Ultra para IA?
- Para ejecutar modelos en local, lo que más importa es la memoria y el ancho de banda. El M5 Ultra tiene hasta 512 GB a 1,2 TB/s, suficiente para modelos de hasta unos 682 mil millones de parámetros. Además puede ganar ejecutando trabajos de IA para MLX Network con MLX Node.
Fuentes
- Apple: M6 and M5 Ultraapple.com
- llama.cpp: Apple Silicon benchmarksgithub.com