Per geheugengrootte
| Geheugen | Draaien goed | Grootste dat goed draait | gpt-oss-20b |
|---|---|---|---|
| 18 GB150 GB/s | 20 | Gemma 4 12B Unified | 36–63 tok/s |
| 36 GB150 GB/s | 28 | Qwen3.6 35B A3B | 36–63 tok/s |
Modellen: MacBook Pro (14-inch, M3 Pro or M3 Max, Nov 2023), MacBook Pro (16-inch, Nov 2023). Niet elke geheugengrootte is bij elk model leverbaar; de technische specificaties van Apple vermelden waarmee elk model komt.
Vragen
- Is de MacBook Pro met M3 Pro goed voor lokale LLM's?
- Met 36 GB draait hij 28 van de 73 open modellen goed, tot Qwen3.6 35B A3B, en schrijft hij ongeveer 36–63 tokens per seconde met gpt-oss-20b. De M3 Pro leest het geheugen met 150 GB/s; dat bepaalt hoe snel hij schrijft.
- Hoeveel geheugen moet een MacBook Pro met M3 Pro hebben voor AI?
- Met 18 GB draait hij 20 open modellen goed; met 36 GB 28, tot Qwen3.6 35B A3B. Het geheugen bepaalt welke modellen passen en kan later niet worden uitgebreid.
Andere Macs
De MacBook Pro met andere chips:
- MacBook Pro M5
- MacBook Pro M5 Pro
- MacBook Pro M5 Max
- MacBook Pro M4
- MacBook Pro M4 Pro
- MacBook Pro M4 Max
- MacBook Pro M3
- MacBook Pro M3 Max
- MacBook Pro M2
- MacBook Pro M2 Pro
- MacBook Pro M2 Max
- MacBook Pro M1
- MacBook Pro M1 Pro
- MacBook Pro M1 Max
Rechtstreeks vergeleken:
De M3 Pro voor lokale AI · De beste Mac voor lokale LLM's · Alle Macs
Zo is het berekend
Geheugen: de parameters van het model op 8, 6, 4, 3 of 2 bits per gewicht plus de groepsschalen van MLX (een halve bit per gewicht), of het eigen formaat van het model, met daarbovenop ruimte voor de context. Standaard laat macOS de GPU ongeveer 75% van het geïntegreerde geheugen gebruiken. Snelheid: de geheugenbandbreedte gedeeld door het aantal bytes dat per token wordt gelezen, is het plafond voor één gesprek; in de openbare Apple Silicon-benchmarks van llama.cpp halen echte runs ongeveer 45% tot 80% daarvan, en dat is het bereik dat we tonen. Dit zijn schattingen, geen metingen: meet je eigen Mac op MLX Bench. Modelgegevens uit elke officiële modelkaart, chipgegevens uit de technische specificaties van Apple. Gecontroleerd op 2026-10-19. Dezelfde gegevens als mlx.app/compare.