Lado a lado
Velocidad con modelos populares
Tokens por segundo en una conversación, cada chip con su mayor tamaño de memoria (128 GB y 192 GB), con la mejor versión del modelo que cabe.
| Modelo | M1 Ultra | M2 Ultra |
|---|---|---|
| Llama 3.1 8B Instruct8B | 42–75 8 bits | 42–75 8 bits |
| gpt-oss-20b21B · 3,6B activos | 189–337 4,25 bits nativo | 189–337 4,25 bits nativo |
| Qwen3.6 35B A3B35B · 3B activos | 113–200 8 bits | 113–200 8 bits |
| Qwen3.8 27B27B | 13–22 8 bits | 13–22 8 bits |
| Llama 3.3 70B Instruct70B | 5–9 8 bits | 5–9 8 bits |
| gpt-oss-120b117B · 5,1B activos | 133–237 4,25 bits nativo | 133–237 4,25 bits nativo |
| Qwen3.5 122B A10B122B · 10B activos | 64–114 4 bits | 34–60 8 bits |
| DeepSeek V4 Flash 0731284B · 13B activos | 88–156 2 bits menor calidad | 63–112 3 bits menor calidad |
Preguntas
- ¿Es el M2 Ultra más rápido que el M1 Ultra para LLM?
- Más o menos igual: su ancho de banda de memoria solo difiere en un pequeño porcentaje. El M2 Ultra llega hasta 192 GB de memoria; el M1 Ultra, hasta 128 GB.
- ¿Cuál ejecuta modelos más grandes, el M1 Ultra o el M2 Ultra?
- El M2 Ultra: El M2 Ultra llega hasta 192 GB de memoria; el M1 Ultra, hasta 128 GB. En su mayor tamaño ejecuta bien 49 de 73 modelos abiertos, frente a 47.
Más comparaciones
El M1 Ultra para IA local · El M2 Ultra para IA local · Compara todos los modelos · La mejor Mac para LLM en local
Cómo se calcula
Memoria: los parámetros del modelo a 8, 6, 4, 3 o 2 bits por peso más las escalas por grupo de MLX (medio bit por peso), o su formato nativo, con espacio extra para el contexto. De forma predeterminada, macOS deja que la GPU use alrededor del 75 % de la memoria unificada. Velocidad: el ancho de banda de memoria dividido entre los bytes leídos por token es el techo para una conversación; en los benchmarks públicos de Apple Silicon de llama.cpp, las ejecuciones reales alcanzan entre el 45 % y el 80 % de ese techo, que es el rango que se muestra. Son estimaciones, no mediciones: mide tu propia Mac en MLX Bench. Datos de los modelos tomados de cada ficha oficial; datos de los chips, de las especificaciones técnicas de Apple. Revisado el 2026-10-19. Los mismos datos que mlx.app/compare.