Lado a lado
Velocidad con modelos populares
Tokens por segundo en una conversación, cada chip con su mayor tamaño de memoria (512 GB y 512 GB), con la mejor versión del modelo que cabe.
| Modelo | M3 Ultra | M5 Ultra |
|---|---|---|
| Llama 3.1 8B Instruct8B | 43–77 8 bits | 64–113 8 bits |
| gpt-oss-20b21B · 3,6B activos | 194–345 4,25 bits nativo | 284–505 4,25 bits nativo |
| Qwen3.6 35B A3B35B · 3B activos | 115–205 8 bits | 169–300 8 bits |
| Qwen3.8 27B27B | 13–23 8 bits | 19–33 8 bits |
| Llama 3.3 70B Instruct70B | 5–9 8 bits | 14–24 4 bits |
| gpt-oss-120b117B · 5,1B activos | 137–243 4,25 bits nativo | 200–356 4,25 bits nativo |
| Qwen3.5 122B A10B122B · 10B activos | 35–62 8 bits | 51–91 8 bits |
| DeepSeek V4 Flash 0731284B · 13B activos | 27–47 8 bits | 39–70 8 bits |
Preguntas
- ¿Es el M5 Ultra más rápido que el M3 Ultra para LLM?
- El M5 Ultra lee la memoria alrededor de un 47 % más rápido que el M3 Ultra (1200 frente a 819 GB/s), así que escribe alrededor de un 47 % más rápido con cualquier modelo que quepa en ambos. Leer un prompt largo depende, en cambio, de la potencia de cálculo de la GPU, que esta comparación no cubre.
- ¿Cuál ejecuta modelos más grandes, el M3 Ultra o el M5 Ultra?
- Ninguno: ambos llegan hasta 512 GB. Con ese tamaño, el M3 Ultra ejecuta bien 60 y el M5 Ultra 61 de 73 modelos abiertos; el más rápido supera los 10 tokens por segundo con más de ellos.
Más comparaciones
- M2 Ultra vs M3 Ultra
- M3 Max vs M3 Ultra
- M3 Ultra vs M4 Max
- M3 Ultra vs M5 Max
- M4 Max vs M5 Ultra
- M5 Max vs M5 Ultra
El M3 Ultra para IA local · El M5 Ultra para IA local · Compara todos los modelos · La mejor Mac para LLM en local
Cómo se calcula
Memoria: los parámetros del modelo a 8, 6, 4, 3 o 2 bits por peso más las escalas por grupo de MLX (medio bit por peso), o su formato nativo, con espacio extra para el contexto. De forma predeterminada, macOS deja que la GPU use alrededor del 75 % de la memoria unificada. Velocidad: el ancho de banda de memoria dividido entre los bytes leídos por token es el techo para una conversación; en los benchmarks públicos de Apple Silicon de llama.cpp, las ejecuciones reales alcanzan entre el 45 % y el 80 % de ese techo, que es el rango que se muestra. Son estimaciones, no mediciones: mide tu propia Mac en MLX Bench. Datos de los modelos tomados de cada ficha oficial; datos de los chips, de las especificaciones técnicas de Apple. Revisado el 2026-10-19. Los mismos datos que mlx.app/compare.