Is de M3 sneller dan de M2 voor LLM's?

Ongeveer even snel: hun geheugenbandbreedte verschilt maar een paar procent. Beide gaan tot 24 GB geheugen.

Welke draait grotere modellen, de M2 of de M3?

Geen van beide: ze gaan allebei tot 24 GB. Bij die grootte draait de M2 20 en de M3 20 van de 73 open modellen goed; de snellere haalt bij meer ervan 10 tokens per seconde.

M2 vs M3 voor LLM's: geheugen, snelheid, welke kopen

Naast elkaar

	M2	M3
Geheugengroottes	8, 16, 24 GB	8, 16, 24 GB
Geheugenbandbreedte	100 GB/s	100 GB/s
Voor modellen, hooguit	ongeveer 18 GB	ongeveer 18 GB
Modellen die goed draaien	20 van 73	20 van 73
MLX-plekklasse	Core	Core
Zit in	MacBook Air (M2, 2022), MacBook Pro (13-inch, M2, 2022), MacBook Air (15-inch, M2, 2023), Mac mini (2023)	MacBook Pro (14-inch, M3, Nov 2023), iMac (24-inch, M3, 2023, Two ports), iMac (24-inch, M3, 2023, Four ports), MacBook Air (13-inch, M3, 2024), MacBook Air (15-inch, M3, 2024)

Snelheid met populaire modellen

Tokens per seconde voor één gesprek, elke chip met zijn grootste geheugen (24 GB en 24 GB), met de beste versie van het model die past.

Model	M2	M3
Llama 3.1 8B Instruct8B	10–18 4 bits	10–18 4 bits
gpt-oss-20b21B · 3,6B actief	24–42 4,25 bits native	24–42 4,25 bits native
Qwen3.6 35B A3B35B · 3B actief	35–62 3 bits lagere kwaliteit	35–62 3 bits lagere kwaliteit
Qwen3.8 27B27B	3–5 4 bits	3–5 4 bits
Llama 3.3 70B Instruct70B	te groot	te groot
gpt-oss-120b117B · 5,1B actief	te groot	te groot
Qwen3.5 122B A10B122B · 10B actief	te groot	te groot
DeepSeek V4 Flash 0731284B · 13B actief	te groot	te groot

Vragen

Is de M3 sneller dan de M2 voor LLM's?: Ongeveer even snel: hun geheugenbandbreedte verschilt maar een paar procent. Beide gaan tot 24 GB geheugen.
Welke draait grotere modellen, de M2 of de M3?: Geen van beide: ze gaan allebei tot 24 GB. Bij die grootte draait de M2 20 en de M3 20 van de 73 open modellen goed; de snellere haalt bij meer ervan 10 tokens per seconde.

Meer vergelijkingen

De M2 voor lokale AI · De M3 voor lokale AI · Vergelijk alle modellen · De beste Mac voor lokale LLM's

Zo is het berekend

Geheugen: de parameters van het model op 8, 6, 4, 3 of 2 bits per gewicht plus de groepsschalen van MLX (een halve bit per gewicht), of het eigen formaat van het model, met daarbovenop ruimte voor de context. Standaard laat macOS de GPU ongeveer 75% van het geïntegreerde geheugen gebruiken. Snelheid: de geheugenbandbreedte gedeeld door het aantal bytes dat per token wordt gelezen, is het plafond voor één gesprek; in de openbare Apple Silicon-benchmarks van llama.cpp halen echte runs ongeveer 45% tot 80% daarvan, en dat is het bereik dat we tonen. Dit zijn schattingen, geen metingen: meet je eigen Mac op MLX Bench. Modelgegevens uit elke officiële modelkaart, chipgegevens uit de technische specificaties van Apple. Gecontroleerd op 2026-10-19. Dezelfde gegevens als mlx.app/compare.