Is de RTX 5090 sneller dan de M5 Max voor LLM's?

De RTX 5090 leest het geheugen ongeveer 192% sneller dan de M5 Max (1.792 tegen 614 GB/s), dus hij schrijft ongeveer 192% sneller met elk model dat in beide past. In de gemeten test van llama.cpp leest de RTX 5090 een prompt ongeveer 4,4× zo snel (14.073 tegen 3.220 tokens per seconde). Een prompt lezen hangt af van de rekenkracht van de GPU, niet van de geheugenbandbreedte, en bepaalt hoe lang je wacht op het eerste woord bij een lang document of een codebase.

Welke draait grotere modellen, de M5 Max of de RTX 5090?

De M5 Max heeft ongeveer 96 GB voor modellen, de RTX 5090 ongeveer 31 GB. 47 van de 73 populaire open modellen draaien goed op de M5 Max, 38 op de RTX 5090.

Draait MLX Node op de RTX 5090?

Nee. MLX Node en MLX Harness draaien alleen op Macs met Apple Silicon, met Apples MLX-framework.

M5 Max vs RTX 5090 voor LLM's: geheugen, snelheid, welke kopen

Naast elkaar

	M5 Max	RTX 5090
Wat het is	MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra)	Een videokaart voor een desktop-pc
Geheugengroottes	36, 48, 64, 128 GB	32 GB
Geheugenbandbreedte	460–614 GB/s	1.792 GB/s
Voor modellen, hooguit	ongeveer 96 GB	ongeveer 31 GB
Modellen die goed draaien	47 van 73	38 van 73
Gemeten: schrijven	120 tok/s	290 tok/s
Gemeten: prompt lezen	3.220 tok/s	14.073 tok/s

Gemeten rijen: het snelste resultaat van elke machine in de openbare benchmarks van llama.cpp met Llama 2 7B Q4_0, bij het schrijven van 128 tokens (tg128) en het lezen van een prompt van 512 tokens (pp512), in tokens per seconde. De Mac draaide op Metal, de RTX 5090 op CUDA. Resultaten Apple Silicon · Resultaten RTX 5090 Voor modellen rekenen we bij de RTX 5090 met zijn eigen 32 GB min ongeveer 1 GB, en bij de Mac met ongeveer 75% van het gedeelde geheugen, de standaard van macOS.

Waar elk wint

Schrijfsnelheid. De RTX 5090 leest het geheugen ongeveer 192% sneller dan de M5 Max (1.792 tegen 614 GB/s), dus hij schrijft ongeveer 192% sneller met elk model dat in beide past.
Modelgrootte. De M5 Max heeft ongeveer 96 GB voor modellen, de RTX 5090 ongeveer 31 GB. 47 van de 73 populaire open modellen draaien goed op de M5 Max, 38 op de RTX 5090.
Lange prompts lezen. In de gemeten test van llama.cpp leest de RTX 5090 een prompt ongeveer 4,4× zo snel (14.073 tegen 3.220 tokens per seconde). Een prompt lezen hangt af van de rekenkracht van de GPU, niet van de geheugenbandbreedte, en bepaalt hoe lang je wacht op het eerste woord bij een lang document of een codebase.
Software. De RTX 5090 gebruikt NVIDIA’s CUDA, dat de meeste AI-software als eerste ondersteunt, waaronder trainingscode en veel beeld- en videotools. Op een Mac draai je modellen in plaats daarvan met MLX, de Metal-backend van llama.cpp of de MPS-backend van PyTorch.
Eromheen. Een videokaart heeft een pc eromheen nodig, en zijn eigen 32 GB is de grens: een model dat niet past, moet deels uit het veel tragere werkgeheugen van de pc draaien, of over een tweede kaart verdeeld worden.
De Mac. Het is ook een computer voor elke dag, en hij draait MLX Harness en MLX Node, gemaakt voor Apple Silicon.

Snelheid met populaire modellen

Tokens per seconde voor één gesprek, elke chip met zijn grootste geheugen (128 GB en 32 GB), met de beste versie van het model die past.

Model	M5 Max	RTX 5090
Llama 3.1 8B Instruct8B	33–58 8 bits	95–169 8 bits
gpt-oss-20b21B · 3,6B actief	145–259 4,25 bits native	424–755 4,25 bits native
Qwen3.6 35B A3B35B · 3B actief	86–154 8 bits	336–597 6 bits
Qwen3.8 27B27B	10–17 8 bits	28–50 8 bits
Llama 3.3 70B Instruct70B	4–7 8 bits	37–65 2 bits lagere kwaliteit
gpt-oss-120b117B · 5,1B actief	102–182 4,25 bits native	te groot
Qwen3.5 122B A10B122B · 10B actief	49–88 4 bits	te groot
DeepSeek V4 Flash 0731284B · 13B actief	67–120 2 bits lagere kwaliteit	te groot

Vragen

Is de RTX 5090 sneller dan de M5 Max voor LLM's?: De RTX 5090 leest het geheugen ongeveer 192% sneller dan de M5 Max (1.792 tegen 614 GB/s), dus hij schrijft ongeveer 192% sneller met elk model dat in beide past. In de gemeten test van llama.cpp leest de RTX 5090 een prompt ongeveer 4,4× zo snel (14.073 tegen 3.220 tokens per seconde). Een prompt lezen hangt af van de rekenkracht van de GPU, niet van de geheugenbandbreedte, en bepaalt hoe lang je wacht op het eerste woord bij een lang document of een codebase.
Welke draait grotere modellen, de M5 Max of de RTX 5090?: De M5 Max heeft ongeveer 96 GB voor modellen, de RTX 5090 ongeveer 31 GB. 47 van de 73 populaire open modellen draaien goed op de M5 Max, 38 op de RTX 5090.
Draait MLX Node op de RTX 5090?: Nee. MLX Node en MLX Harness draaien alleen op Macs met Apple Silicon, met Apples MLX-framework.

Meer vergelijkingen

De M5 Max voor lokale AI · Vergelijk alle modellen · De beste Mac voor lokale LLM's

Zo is het berekend

Geheugen: de parameters van het model op 8, 6, 4, 3 of 2 bits per gewicht plus de groepsschalen van MLX (een halve bit per gewicht), of het eigen formaat van het model, met daarbovenop ruimte voor de context. Standaard laat macOS de GPU ongeveer 75% van het geïntegreerde geheugen gebruiken. Snelheid: de geheugenbandbreedte gedeeld door het aantal bytes dat per token wordt gelezen, is het plafond voor één gesprek; in de openbare Apple Silicon-benchmarks van llama.cpp halen echte runs ongeveer 45% tot 80% daarvan, en dat is het bereik dat we tonen. Dit zijn schattingen, geen metingen: meet je eigen Mac op MLX Bench. Modelgegevens uit elke officiële modelkaart, chipgegevens uit de technische specificaties van Apple. Gecontroleerd op 2026-10-19. Dezelfde gegevens als mlx.app/compare.

Gegevens van de RTX 5090: NVIDIA: GeForce RTX 5090 (specs: 32 GB GDDR7, 512-bit, 575 W TGP), NVIDIA RTX Blackwell GPU Architecture whitepaper (Tables 1 and 4).