Naast elkaar
Snelheid met populaire modellen
Tokens per seconde voor één gesprek, elke chip met zijn grootste geheugen (128 GB en 192 GB), met de beste versie van het model die past.
| Model | M1 Ultra | M2 Ultra |
|---|---|---|
| Llama 3.1 8B Instruct8B | 42–75 8 bits | 42–75 8 bits |
| gpt-oss-20b21B · 3,6B actief | 189–337 4,25 bits native | 189–337 4,25 bits native |
| Qwen3.6 35B A3B35B · 3B actief | 113–200 8 bits | 113–200 8 bits |
| Qwen3.8 27B27B | 13–22 8 bits | 13–22 8 bits |
| Llama 3.3 70B Instruct70B | 5–9 8 bits | 5–9 8 bits |
| gpt-oss-120b117B · 5,1B actief | 133–237 4,25 bits native | 133–237 4,25 bits native |
| Qwen3.5 122B A10B122B · 10B actief | 64–114 4 bits | 34–60 8 bits |
| DeepSeek V4 Flash 0731284B · 13B actief | 88–156 2 bits lagere kwaliteit | 63–112 3 bits lagere kwaliteit |
Vragen
- Is de M2 Ultra sneller dan de M1 Ultra voor LLM's?
- Ongeveer even snel: hun geheugenbandbreedte verschilt maar een paar procent. De M2 Ultra gaat tot 192 GB geheugen, de M1 Ultra tot 128 GB.
- Welke draait grotere modellen, de M1 Ultra of de M2 Ultra?
- De M2 Ultra: De M2 Ultra gaat tot 192 GB geheugen, de M1 Ultra tot 128 GB. In de grootste uitvoering draait hij 49 van de 73 open modellen goed, tegen 47.
Meer vergelijkingen
De M1 Ultra voor lokale AI · De M2 Ultra voor lokale AI · Vergelijk alle modellen · De beste Mac voor lokale LLM's
Zo is het berekend
Geheugen: de parameters van het model op 8, 6, 4, 3 of 2 bits per gewicht plus de groepsschalen van MLX (een halve bit per gewicht), of het eigen formaat van het model, met daarbovenop ruimte voor de context. Standaard laat macOS de GPU ongeveer 75% van het geïntegreerde geheugen gebruiken. Snelheid: de geheugenbandbreedte gedeeld door het aantal bytes dat per token wordt gelezen, is het plafond voor één gesprek; in de openbare Apple Silicon-benchmarks van llama.cpp halen echte runs ongeveer 45% tot 80% daarvan, en dat is het bereik dat we tonen. Dit zijn schattingen, geen metingen: meet je eigen Mac op MLX Bench. Modelgegevens uit elke officiële modelkaart, chipgegevens uit de technische specificaties van Apple. Gecontroleerd op 2026-10-19. Dezelfde gegevens als mlx.app/compare.