Per geheugengrootte
| Geheugen | Draaien goed | Grootste dat goed draait | gpt-oss-20b |
|---|---|---|---|
| 24 GB273 GB/s | 25 | Gemma 4 26B A4B | 65–115 tok/s |
| 48 GB273 GB/s | 30 | Qwen3.6 35B A3B | 65–115 tok/s |
| 64 GB273 GB/s | 31 | Nemotron 3.5 Bolt 74B A9B | 65–115 tok/s |
Modellen: Mac mini (2024). Niet elke geheugengrootte is bij elk model leverbaar; de technische specificaties van Apple vermelden waarmee elk model komt.
Vragen
- Is de Mac mini met M4 Pro goed voor lokale LLM's?
- Met 64 GB draait hij 31 van de 73 open modellen goed, tot Nemotron 3.5 Bolt 74B A9B, en schrijft hij ongeveer 65–115 tokens per seconde met gpt-oss-20b. De M4 Pro leest het geheugen met 273 GB/s; dat bepaalt hoe snel hij schrijft.
- Hoeveel geheugen moet een Mac mini met M4 Pro hebben voor AI?
- Met 24 GB draait hij 25 open modellen goed; met 64 GB 31, tot Nemotron 3.5 Bolt 74B A9B. Het geheugen bepaalt welke modellen passen en kan later niet worden uitgebreid.
Andere Macs
De Mac mini met andere chips:
Andere Macs met de M4 Pro:
Rechtstreeks vergeleken:
Tegen pc’s en videokaarten:
De M4 Pro voor lokale AI · De beste Mac voor lokale LLM's · Alle Macs
Zo is het berekend
Geheugen: de parameters van het model op 8, 6, 4, 3 of 2 bits per gewicht plus de groepsschalen van MLX (een halve bit per gewicht), of het eigen formaat van het model, met daarbovenop ruimte voor de context. Standaard laat macOS de GPU ongeveer 75% van het geïntegreerde geheugen gebruiken. Snelheid: de geheugenbandbreedte gedeeld door het aantal bytes dat per token wordt gelezen, is het plafond voor één gesprek; in de openbare Apple Silicon-benchmarks van llama.cpp halen echte runs ongeveer 45% tot 80% daarvan, en dat is het bereik dat we tonen. Dit zijn schattingen, geen metingen: meet je eigen Mac op MLX Bench. Modelgegevens uit elke officiële modelkaart, chipgegevens uit de technische specificaties van Apple. Gecontroleerd op 2026-10-19. Dezelfde gegevens als mlx.app/compare.