Geheugen bij elke precisie
| Versie | Gewichten | Met context | Kleinste Mac |
|---|---|---|---|
| 8 bits | 25,5 GB | 27,5 GB | 48 GB |
| 6 bits | 19,5 GB | 21,1 GB | 32 GB |
| 4 bits | 13,5 GB | 15 GB | 24 GB |
| 3 bits lagere kwaliteit | 10,5 GB | 12 GB | 16 GB |
| 2 bits lagere kwaliteit | 7,5 GB | 9 GB | 16 GB |
Op elke Apple-chip
Per chip de kleinste geheugengrootte die Magistral Small 1.2 (2509) draait, de beste versie die erin past en de schrijfsnelheid die je kunt verwachten.
| Chip | Nodig | Versie | Tokens/s |
|---|---|---|---|
| M6 | 24 GB | 4 bits Traag | 6–10 |
| M5 Ultra | 96 GB | 8 bits Draait goed | 21–38 |
| M5 Max | 36 GB | 6 bits Draait goed | 11–19 |
| M5 Pro | 24 GB | 4 bits Draait goed | 10–18 |
| M5 | 24 GB | 4 bits Traag | 5–9 |
| M4 Max | 36 GB | 4 bits Draait goed | 14–24 |
| M4 Pro | 24 GB | 4 bits Traag | 9–16 |
| M4 | 24 GB | 4 bits Traag | 4–7 |
| M3 Ultra | 96 GB | 8 bits Draait goed | 14–26 |
| M3 Max | 36 GB | 4 bits Draait goed | 10–18 |
| M3 Pro | 36 GB | 6 bits Traag | 3–6 |
| M3 | 24 GB | 4 bits Traag | 3–6 |
| M2 Ultra | 64 GB | 8 bits Draait goed | 14–25 |
| M2 Max | 32 GB | 4 bits Draait goed | 13–24 |
| M2 Pro | 32 GB | 6 bits Traag | 5–8 |
| M2 | 24 GB | 4 bits Traag | 3–6 |
| M1 Ultra | 64 GB | 8 bits Draait goed | 14–25 |
| M1 Max | 32 GB | 4 bits Draait goed | 13–24 |
| M1 Pro | 32 GB | 6 bits Traag | 5–8 |
| M1 | 16 GB | 3 bits Traag | 3–5 |
Zo draai je het
- De makkelijke manier: download MLX Harness, gratis en open source. Zoek Magistral Small 1.2 (2509), download de versie die bij je Mac past en begin te chatten. MLX Harness stelt het model ook beschikbaar aan je andere apps via een OpenAI-compatibele API.Download MLX HarnessGratis · Apple Silicon · macOS 14.5 of nieuwer
- In Terminal, met Apples MLX: Er is nog geen MLX-build uit de community, dus maak er zelf een van de officiële gewichten:
pip install mlx-lmmlx_lm.convert --hf-path mistralai/Magistral-Small-2509 -q
Stap voor stap: LLM's downloaden en draaien op een Mac · zo gebruik je MLX Harness · MLX vs Ollama vs llama.cpp
Over Magistral Small 1.2 (2509)
| Gemaakt door | Mistral AI |
|---|---|
| Parameters | 24B (dense model) |
| Context | 128K tokens |
| Licentie | Apache-2.0 |
| Uitgebracht | 2025-09 |
| Invoer | Tekst en afbeeldingen |
| Gewichten | mistralai/Magistral-Small-2509 |
Vragen
- Hoeveel geheugen heeft Magistral Small 1.2 (2509) nodig?
- Ongeveer 13,5 GB aan gewichten op 4 bits, plus ruimte voor de context: 15 GB in totaal. Op een Mac betekent dat 24 GB geïntegreerd geheugen of meer, omdat macOS de GPU standaard ongeveer 75% ervan laat gebruiken.
- Hoe snel is Magistral Small 1.2 (2509) op een Mac?
- De schrijfsnelheid hangt af van de geheugenbandbreedte. De snelste Mac hiervoor is een M5 Ultra met 96 GB, met ongeveer 21–38 tokens per seconde (8 bits). De kleinste Mac die het draait, met 24 GB, haalt ongeveer 10–18 op een M5 Pro.
- Gaat Magistral Small 1.2 (2509) achteruit door kwantisatie?
- Op 4 bits blijven de meeste modellen dicht bij de oorspronkelijke kwaliteit; onder 4 bits daalt de kwaliteit sneller. Kies de hoogste precisie die met wat ruimte over in je Mac past.
Vergelijkbare modellen
Voor je modelkaart of README
Toont de kleinste Mac die Magistral Small 1.2 (2509) goed draait en linkt naar deze pagina.
[](https://mlx.app/run/magistral-small-2509)Zo is het berekend
Geheugen: de parameters van het model op 8, 6, 4, 3 of 2 bits per gewicht plus de groepsschalen van MLX (een halve bit per gewicht), of het eigen formaat van het model, met daarbovenop ruimte voor de context. Standaard laat macOS de GPU ongeveer 75% van het geïntegreerde geheugen gebruiken. Snelheid: de geheugenbandbreedte gedeeld door het aantal bytes dat per token wordt gelezen, is het plafond voor één gesprek; in de openbare Apple Silicon-benchmarks van llama.cpp halen echte runs ongeveer 45% tot 80% daarvan, en dat is het bereik dat we tonen. Dit zijn schattingen, geen metingen: meet je eigen Mac op MLX Bench. Modelgegevens uit elke officiële modelkaart, chipgegevens uit de technische specificaties van Apple. Gecontroleerd op 2026-10-19. Dezelfde gegevens als mlx.app/compare.