Is de M3 Ultra sneller dan de M2 Ultra voor LLM's?

Ongeveer even snel: hun geheugenbandbreedte verschilt maar een paar procent. De M3 Ultra gaat tot 512 GB geheugen, de M2 Ultra tot 192 GB.

Welke draait grotere modellen, de M2 Ultra of de M3 Ultra?

De M3 Ultra: De M3 Ultra gaat tot 512 GB geheugen, de M2 Ultra tot 192 GB. In de grootste uitvoering draait hij 60 van de 73 open modellen goed, tegen 49.

M2 Ultra vs M3 Ultra voor LLM's: geheugen, snelheid, welke kopen

Naast elkaar

	M2 Ultra	M3 Ultra
Geheugengroottes	64, 128, 192 GB	96, 256, 512 GB
Geheugenbandbreedte	800 GB/s	819 GB/s
Voor modellen, hooguit	ongeveer 144 GB	ongeveer 384 GB
Modellen die goed draaien	49 van 73	60 van 73
MLX-plekklasse	Ultra	Ultra
Zit in	Mac Studio (2023), Mac Pro (2023), Mac Pro (Rack, 2023)	Mac Studio (2025)

Snelheid met populaire modellen

Tokens per seconde voor één gesprek, elke chip met zijn grootste geheugen (192 GB en 512 GB), met de beste versie van het model die past.

Model	M2 Ultra	M3 Ultra
Llama 3.1 8B Instruct8B	42–75 8 bits	43–77 8 bits
gpt-oss-20b21B · 3,6B actief	189–337 4,25 bits native	194–345 4,25 bits native
Qwen3.6 35B A3B35B · 3B actief	113–200 8 bits	115–205 8 bits
Qwen3.8 27B27B	13–22 8 bits	13–23 8 bits
Llama 3.3 70B Instruct70B	5–9 8 bits	5–9 8 bits
gpt-oss-120b117B · 5,1B actief	133–237 4,25 bits native	137–243 4,25 bits native
Qwen3.5 122B A10B122B · 10B actief	34–60 8 bits	35–62 8 bits
DeepSeek V4 Flash 0731284B · 13B actief	63–112 3 bits lagere kwaliteit	27–47 8 bits

Vragen

Is de M3 Ultra sneller dan de M2 Ultra voor LLM's?: Ongeveer even snel: hun geheugenbandbreedte verschilt maar een paar procent. De M3 Ultra gaat tot 512 GB geheugen, de M2 Ultra tot 192 GB.
Welke draait grotere modellen, de M2 Ultra of de M3 Ultra?: De M3 Ultra: De M3 Ultra gaat tot 512 GB geheugen, de M2 Ultra tot 192 GB. In de grootste uitvoering draait hij 60 van de 73 open modellen goed, tegen 49.

Meer vergelijkingen

De M2 Ultra voor lokale AI · De M3 Ultra voor lokale AI · Vergelijk alle modellen · De beste Mac voor lokale LLM's

Zo is het berekend

Geheugen: de parameters van het model op 8, 6, 4, 3 of 2 bits per gewicht plus de groepsschalen van MLX (een halve bit per gewicht), of het eigen formaat van het model, met daarbovenop ruimte voor de context. Standaard laat macOS de GPU ongeveer 75% van het geïntegreerde geheugen gebruiken. Snelheid: de geheugenbandbreedte gedeeld door het aantal bytes dat per token wordt gelezen, is het plafond voor één gesprek; in de openbare Apple Silicon-benchmarks van llama.cpp halen echte runs ongeveer 45% tot 80% daarvan, en dat is het bereik dat we tonen. Dit zijn schattingen, geen metingen: meet je eigen Mac op MLX Bench. Modelgegevens uit elke officiële modelkaart, chipgegevens uit de technische specificaties van Apple. Gecontroleerd op 2026-10-19. Dezelfde gegevens als mlx.app/compare.