Is de Mac Studio met M5 Ultra goed voor lokale LLM's?

Met 512 GB draait hij 61 van de 73 open modellen goed, tot DeepSeek V4.1 Flash 1017, en schrijft hij ongeveer 284–505 tokens per seconde met gpt-oss-20b. De M5 Ultra leest het geheugen met 1.200 GB/s; dat bepaalt hoe snel hij schrijft.

Hoeveel geheugen moet een Mac Studio met M5 Ultra hebben voor AI?

Met 96 GB draait hij 44 open modellen goed; met 512 GB 61, tot DeepSeek V4.1 Flash 1017. Het geheugen bepaalt welke modellen passen en kan later niet worden uitgebreid.

Mac Studio M5 Ultra voor lokale AI: welke LLM's per geheugen

Per geheugengrootte

Geheugen	Draaien goed	Grootste dat goed draait	gpt-oss-20b
96 GB1.200 GB/s	44	gpt-oss-120b	284–505 tok/s
256 GB1.200 GB/s	54	MiMo V2.6 Flash	284–505 tok/s
512 GB1.200 GB/s	61	DeepSeek V4.1 Flash 1017	284–505 tok/s

Modellen: Mac Studio (M5 Max or M5 Ultra). Niet elke geheugengrootte is bij elk model leverbaar; de technische specificaties van Apple vermelden waarmee elk model komt.

Vragen

Is de Mac Studio met M5 Ultra goed voor lokale LLM's?: Met 512 GB draait hij 61 van de 73 open modellen goed, tot DeepSeek V4.1 Flash 1017, en schrijft hij ongeveer 284–505 tokens per seconde met gpt-oss-20b. De M5 Ultra leest het geheugen met 1.200 GB/s; dat bepaalt hoe snel hij schrijft.
Hoeveel geheugen moet een Mac Studio met M5 Ultra hebben voor AI?: Met 96 GB draait hij 44 open modellen goed; met 512 GB 61, tot DeepSeek V4.1 Flash 1017. Het geheugen bepaalt welke modellen passen en kan later niet worden uitgebreid.

Andere Macs

De Mac Studio met andere chips:

Rechtstreeks vergeleken:

Tegen pc’s en videokaarten:

De M5 Ultra voor lokale AI · De beste Mac voor lokale LLM's · Alle Macs

Zo is het berekend

Geheugen: de parameters van het model op 8, 6, 4, 3 of 2 bits per gewicht plus de groepsschalen van MLX (een halve bit per gewicht), of het eigen formaat van het model, met daarbovenop ruimte voor de context. Standaard laat macOS de GPU ongeveer 75% van het geïntegreerde geheugen gebruiken. Snelheid: de geheugenbandbreedte gedeeld door het aantal bytes dat per token wordt gelezen, is het plafond voor één gesprek; in de openbare Apple Silicon-benchmarks van llama.cpp halen echte runs ongeveer 45% tot 80% daarvan, en dat is het bereik dat we tonen. Dit zijn schattingen, geen metingen: meet je eigen Mac op MLX Bench. Modelgegevens uit elke officiële modelkaart, chipgegevens uit de technische specificaties van Apple. Gecontroleerd op 2026-10-19. Dezelfde gegevens als mlx.app/compare.