Is de M5 Ultra sneller dan de M3 Ultra voor LLM's?

De M5 Ultra leest het geheugen ongeveer 47% sneller dan de M3 Ultra (1.200 tegen 819 GB/s), dus hij schrijft ongeveer 47% sneller met elk model dat in beide past. Het inlezen van een lange prompt hangt juist af van de rekenkracht van de GPU, en die valt buiten deze vergelijking.

Welke draait grotere modellen, de M3 Ultra of de M5 Ultra?

Geen van beide: ze gaan allebei tot 512 GB. Bij die grootte draait de M3 Ultra 60 en de M5 Ultra 61 van de 73 open modellen goed; de snellere haalt bij meer ervan 10 tokens per seconde.

M3 Ultra vs M5 Ultra voor LLM's: geheugen, snelheid, welke kopen

Naast elkaar

	M3 Ultra	M5 Ultra
Geheugengroottes	96, 256, 512 GB	96, 256, 512 GB
Geheugenbandbreedte	819 GB/s	1.200 GB/s
Voor modellen, hooguit	ongeveer 384 GB	ongeveer 384 GB
Modellen die goed draaien	60 van 73	61 van 73
MLX-plekklasse	Ultra	Ultra Latest
Zit in	Mac Studio (2025)	Mac Studio (M5 Max or M5 Ultra)

Snelheid met populaire modellen

Tokens per seconde voor één gesprek, elke chip met zijn grootste geheugen (512 GB en 512 GB), met de beste versie van het model die past.

Model	M3 Ultra	M5 Ultra
Llama 3.1 8B Instruct8B	43–77 8 bits	64–113 8 bits
gpt-oss-20b21B · 3,6B actief	194–345 4,25 bits native	284–505 4,25 bits native
Qwen3.6 35B A3B35B · 3B actief	115–205 8 bits	169–300 8 bits
Qwen3.8 27B27B	13–23 8 bits	19–33 8 bits
Llama 3.3 70B Instruct70B	5–9 8 bits	14–24 4 bits
gpt-oss-120b117B · 5,1B actief	137–243 4,25 bits native	200–356 4,25 bits native
Qwen3.5 122B A10B122B · 10B actief	35–62 8 bits	51–91 8 bits
DeepSeek V4 Flash 0731284B · 13B actief	27–47 8 bits	39–70 8 bits

Vragen

Is de M5 Ultra sneller dan de M3 Ultra voor LLM's?: De M5 Ultra leest het geheugen ongeveer 47% sneller dan de M3 Ultra (1.200 tegen 819 GB/s), dus hij schrijft ongeveer 47% sneller met elk model dat in beide past. Het inlezen van een lange prompt hangt juist af van de rekenkracht van de GPU, en die valt buiten deze vergelijking.
Welke draait grotere modellen, de M3 Ultra of de M5 Ultra?: Geen van beide: ze gaan allebei tot 512 GB. Bij die grootte draait de M3 Ultra 60 en de M5 Ultra 61 van de 73 open modellen goed; de snellere haalt bij meer ervan 10 tokens per seconde.

Meer vergelijkingen

De M3 Ultra voor lokale AI · De M5 Ultra voor lokale AI · Vergelijk alle modellen · De beste Mac voor lokale LLM's

Zo is het berekend

Geheugen: de parameters van het model op 8, 6, 4, 3 of 2 bits per gewicht plus de groepsschalen van MLX (een halve bit per gewicht), of het eigen formaat van het model, met daarbovenop ruimte voor de context. Standaard laat macOS de GPU ongeveer 75% van het geïntegreerde geheugen gebruiken. Snelheid: de geheugenbandbreedte gedeeld door het aantal bytes dat per token wordt gelezen, is het plafond voor één gesprek; in de openbare Apple Silicon-benchmarks van llama.cpp halen echte runs ongeveer 45% tot 80% daarvan, en dat is het bereik dat we tonen. Dit zijn schattingen, geen metingen: meet je eigen Mac op MLX Bench. Modelgegevens uit elke officiële modelkaart, chipgegevens uit de technische specificaties van Apple. Gecontroleerd op 2026-10-19. Dezelfde gegevens als mlx.app/compare.