Is de M2 Ultra sneller dan de M2 Max voor LLM's?

De M2 Ultra leest het geheugen ongeveer 100% sneller dan de M2 Max (800 tegen 400 GB/s), dus hij schrijft ongeveer 100% sneller met elk model dat in beide past. Het inlezen van een lange prompt hangt juist af van de rekenkracht van de GPU, en die valt buiten deze vergelijking.

Welke draait grotere modellen, de M2 Max of de M2 Ultra?

De M2 Ultra: De M2 Ultra gaat tot 192 GB geheugen, de M2 Max tot 96 GB. In de grootste uitvoering draait hij 49 van de 73 open modellen goed, tegen 43.

M2 Max vs M2 Ultra voor LLM's: geheugen, snelheid, welke kopen

Naast elkaar

	M2 Max	M2 Ultra
Geheugengroottes	32, 64, 96 GB	64, 128, 192 GB
Geheugenbandbreedte	400 GB/s	800 GB/s
Voor modellen, hooguit	ongeveer 72 GB	ongeveer 144 GB
Modellen die goed draaien	43 van 73	49 van 73
MLX-plekklasse	Pro	Ultra
Zit in	MacBook Pro (14-inch, 2023), MacBook Pro (16-inch, 2023), Mac Studio (2023)	Mac Studio (2023), Mac Pro (2023), Mac Pro (Rack, 2023)

Snelheid met populaire modellen

Tokens per seconde voor één gesprek, elke chip met zijn grootste geheugen (96 GB en 192 GB), met de beste versie van het model die past.

Model	M2 Max	M2 Ultra
Llama 3.1 8B Instruct8B	21–38 8 bits	42–75 8 bits
gpt-oss-20b21B · 3,6B actief	95–168 4,25 bits native	189–337 4,25 bits native
Qwen3.6 35B A3B35B · 3B actief	56–100 8 bits	113–200 8 bits
Qwen3.8 27B27B	12–21 4 bits	13–22 8 bits
Llama 3.3 70B Instruct70B	3–6 6 bits	5–9 8 bits
gpt-oss-120b117B · 5,1B actief	67–119 4,25 bits native	133–237 4,25 bits native
Qwen3.5 122B A10B122B · 10B actief	41–73 3 bits lagere kwaliteit	34–60 8 bits
DeepSeek V4 Flash 0731284B · 13B actief	te groot	63–112 3 bits lagere kwaliteit

Vragen

Is de M2 Ultra sneller dan de M2 Max voor LLM's?: De M2 Ultra leest het geheugen ongeveer 100% sneller dan de M2 Max (800 tegen 400 GB/s), dus hij schrijft ongeveer 100% sneller met elk model dat in beide past. Het inlezen van een lange prompt hangt juist af van de rekenkracht van de GPU, en die valt buiten deze vergelijking.
Welke draait grotere modellen, de M2 Max of de M2 Ultra?: De M2 Ultra: De M2 Ultra gaat tot 192 GB geheugen, de M2 Max tot 96 GB. In de grootste uitvoering draait hij 49 van de 73 open modellen goed, tegen 43.

Meer vergelijkingen

De M2 Max voor lokale AI · De M2 Ultra voor lokale AI · Vergelijk alle modellen · De beste Mac voor lokale LLM's

Zo is het berekend

Geheugen: de parameters van het model op 8, 6, 4, 3 of 2 bits per gewicht plus de groepsschalen van MLX (een halve bit per gewicht), of het eigen formaat van het model, met daarbovenop ruimte voor de context. Standaard laat macOS de GPU ongeveer 75% van het geïntegreerde geheugen gebruiken. Snelheid: de geheugenbandbreedte gedeeld door het aantal bytes dat per token wordt gelezen, is het plafond voor één gesprek; in de openbare Apple Silicon-benchmarks van llama.cpp halen echte runs ongeveer 45% tot 80% daarvan, en dat is het bereik dat we tonen. Dit zijn schattingen, geen metingen: meet je eigen Mac op MLX Bench. Modelgegevens uit elke officiële modelkaart, chipgegevens uit de technische specificaties van Apple. Gecontroleerd op 2026-10-19. Dezelfde gegevens als mlx.app/compare.