Geheugen bij elke precisie
| Versie | Gewichten | Met context | Kleinste Mac |
|---|---|---|---|
| 8 bits | 2,6 TB | 2,8 TB | meer dan elke Mac |
| 6 bits | 2 TB | 2,1 TB | meer dan elke Mac |
| 4 bits | 1,4 TB | 1,5 TB | meer dan elke Mac |
| 3 bits lagere kwaliteit | 1,1 TB | 1,1 TB | meer dan elke Mac |
| 2 bits lagere kwaliteit | 750 GB | 810 GB | meer dan elke Mac |
Op elke Apple-chip
Per chip de kleinste geheugengrootte die Qwen3.8 2.4T A95B draait, de beste versie die erin past en de schrijfsnelheid die je kunt verwachten.
| Chip | Nodig | Versie | Tokens/s |
|---|---|---|---|
| M6 | geen grootte past | Te groot | – |
| M5 Ultra | geen grootte past | Te groot | – |
| M5 Max | geen grootte past | Te groot | – |
| M5 Pro | geen grootte past | Te groot | – |
| M5 | geen grootte past | Te groot | – |
| M4 Max | geen grootte past | Te groot | – |
| M4 Pro | geen grootte past | Te groot | – |
| M4 | geen grootte past | Te groot | – |
| M3 Ultra | geen grootte past | Te groot | – |
| M3 Max | geen grootte past | Te groot | – |
| M3 Pro | geen grootte past | Te groot | – |
| M3 | geen grootte past | Te groot | – |
| M2 Ultra | geen grootte past | Te groot | – |
| M2 Max | geen grootte past | Te groot | – |
| M2 Pro | geen grootte past | Te groot | – |
| M2 | geen grootte past | Te groot | – |
| M1 Ultra | geen grootte past | Te groot | – |
| M1 Max | geen grootte past | Te groot | – |
| M1 Pro | geen grootte past | Te groot | – |
| M1 | geen grootte past | Te groot | – |
Zo draai je het
Geen enkele Mac kan het alleen aan. De kleinere modellen hieronder draaien goed, en de gids over Mac-clusters legt uit hoe je een model over meerdere Macs verdeelt.
Stap voor stap: LLM's downloaden en draaien op een Mac · zo gebruik je MLX Harness · MLX vs Ollama vs llama.cpp
Over Qwen3.8 2.4T A95B
| Gemaakt door | Qwen (Alibaba) |
|---|---|
| Parameters | 2.400B totaal · 95B actief (mixture-of-experts) |
| Context | 256K tokens |
| Licentie | Qwen3.8-Max license (qwen3.8-max) |
| Uitgebracht | 2026-08 |
| Invoer | Tekst |
| Intelligentie | 39,9 op de Artificial Analysis Intelligence Index |
| Gewichten | Qwen/Qwen3.8-2.4T-A95B |
Vragen
- Hoeveel geheugen heeft Qwen3.8 2.4T A95B nodig?
- Ongeveer 1,4 TB aan gewichten op 4 bits, plus ruimte voor de context: 1,5 TB in totaal. Dat is meer dan welke Mac nu ook heeft.
- Kan een Mac Qwen3.8 2.4T A95B überhaupt draaien?
- Niet in zijn eentje: zelfs op 2 bits heeft het meer geheugen nodig dan de grootste Mac heeft. Gebruik een kleiner model, of verdeel het over meerdere Macs met clustersoftware.
- Waarom draait Qwen3.8 2.4T A95B sneller dan je op basis van de grootte zou verwachten?
- Het is een mixture-of-expertsmodel: het houdt 2.400B parameters in het geheugen, maar leest per token maar 95B, dus het schrijft zo snel als een veel kleiner model.
Vergelijkbare modellen
Voor je modelkaart of README
Toont de kleinste Mac die Qwen3.8 2.4T A95B goed draait en linkt naar deze pagina.
[](https://mlx.app/run/qwen3.8-2.4t-a95b)Zo is het berekend
Geheugen: de parameters van het model op 8, 6, 4, 3 of 2 bits per gewicht plus de groepsschalen van MLX (een halve bit per gewicht), of het eigen formaat van het model, met daarbovenop ruimte voor de context. Standaard laat macOS de GPU ongeveer 75% van het geïntegreerde geheugen gebruiken. Snelheid: de geheugenbandbreedte gedeeld door het aantal bytes dat per token wordt gelezen, is het plafond voor één gesprek; in de openbare Apple Silicon-benchmarks van llama.cpp halen echte runs ongeveer 45% tot 80% daarvan, en dat is het bereik dat we tonen. Dit zijn schattingen, geen metingen: meet je eigen Mac op MLX Bench. Modelgegevens uit elke officiële modelkaart, chipgegevens uit de technische specificaties van Apple. Gecontroleerd op 2026-10-19. Dezelfde gegevens als mlx.app/compare.