Geheugen bij elke precisie
| Versie | Gewichten | Met context | Kleinste Mac |
|---|---|---|---|
| 8 bits | 191 GB | 207 GB | 512 GB |
| 6 bits | 146 GB | 158 GB | 256 GB |
| 4 bits | 101 GB | 109 GB | 192 GB |
| 3 bits lagere kwaliteit | 78,8 GB | 85,1 GB | 128 GB |
| 2 bits lagere kwaliteit | 56,3 GB | 60,8 GB | 96 GB |
Op elke Apple-chip
Per chip de kleinste geheugengrootte die Qwen3.8 Flash Next draait, de beste versie die erin past en de schrijfsnelheid die je kunt verwachten.
| Chip | Nodig | Versie | Tokens/s |
|---|---|---|---|
| M6 | geen grootte past | Te groot | – |
| M5 Ultra | 256 GB | 6 bits Draait goed | 110–196 |
| M5 Max | 128 GB | 3 bits Draait goed | 106–189 |
| M5 Pro | geen grootte past | Te groot | – |
| M5 | geen grootte past | Te groot | – |
| M4 Max | 128 GB | 3 bits Draait goed | 95–168 |
| M4 Pro | geen grootte past | Te groot | – |
| M4 | geen grootte past | Te groot | – |
| M3 Ultra | 256 GB | 6 bits Draait goed | 75–134 |
| M3 Max | 96 GB | 2 bits Draait goed | 71–126 |
| M3 Pro | geen grootte past | Te groot | – |
| M3 | geen grootte past | Te groot | – |
| M2 Ultra | 192 GB | 4 bits Draait goed | 106–188 |
| M2 Max | 96 GB | 2 bits Draait goed | 95–168 |
| M2 Pro | geen grootte past | Te groot | – |
| M2 | geen grootte past | Te groot | – |
| M1 Ultra | 128 GB | 3 bits Draait goed | 138–246 |
| M1 Max | geen grootte past | Te groot | – |
| M1 Pro | geen grootte past | Te groot | – |
| M1 | geen grootte past | Te groot | – |
Zo draai je het
- De makkelijke manier: download MLX Harness, gratis en open source. Zoek Qwen3.8 Flash Next, download de versie die bij je Mac past en begin te chatten. MLX Harness stelt het model ook beschikbaar aan je andere apps via een OpenAI-compatibele API.Download MLX HarnessGratis · Apple Silicon · macOS 14.5 of nieuwer
- In Terminal, met Apples MLX:
pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3.8-Flash-Next-4bitBuild: mlx-community/Qwen3.8-Flash-Next-4bit op Hugging Face. Andere precisies staan ernaast.
Stap voor stap: LLM's downloaden en draaien op een Mac · zo gebruik je MLX Harness · MLX vs Ollama vs llama.cpp
Over Qwen3.8 Flash Next
| Gemaakt door | Qwen (Alibaba) |
|---|---|
| Parameters | 180B totaal · 6B actief (mixture-of-experts) |
| Context | 256K tokens |
| Licentie | Qwen Community License 1.0 (qwen-community-1.0) |
| Uitgebracht | 2026-08 |
| Invoer | Tekst en afbeeldingen |
| Intelligentie | 39,8 op de Artificial Analysis Intelligence Index |
| Gewichten | Qwen/Qwen3.8-Flash-Next |
Vragen
- Hoeveel geheugen heeft Qwen3.8 Flash Next nodig?
- Ongeveer 101 GB aan gewichten op 4 bits, plus ruimte voor de context: 109 GB in totaal. Op een Mac betekent dat 192 GB geïntegreerd geheugen of meer, omdat macOS de GPU standaard ongeveer 75% ervan laat gebruiken.
- Hoe snel is Qwen3.8 Flash Next op een Mac?
- De schrijfsnelheid hangt af van de geheugenbandbreedte. De snelste Mac hiervoor is een M5 Ultra met 256 GB, met ongeveer 110–196 tokens per seconde (6 bits). De kleinste Mac die het draait, met 192 GB, haalt ongeveer 106–188 op een M2 Ultra.
- Waarom draait Qwen3.8 Flash Next sneller dan je op basis van de grootte zou verwachten?
- Het is een mixture-of-expertsmodel: het houdt 180B parameters in het geheugen, maar leest per token maar 6B, dus het schrijft zo snel als een veel kleiner model.
Vergelijkbare modellen
Voor je modelkaart of README
Toont de kleinste Mac die Qwen3.8 Flash Next goed draait en linkt naar deze pagina.
[](https://mlx.app/run/qwen3.8-flash-next)Zo is het berekend
Geheugen: de parameters van het model op 8, 6, 4, 3 of 2 bits per gewicht plus de groepsschalen van MLX (een halve bit per gewicht), of het eigen formaat van het model, met daarbovenop ruimte voor de context. Standaard laat macOS de GPU ongeveer 75% van het geïntegreerde geheugen gebruiken. Snelheid: de geheugenbandbreedte gedeeld door het aantal bytes dat per token wordt gelezen, is het plafond voor één gesprek; in de openbare Apple Silicon-benchmarks van llama.cpp halen echte runs ongeveer 45% tot 80% daarvan, en dat is het bereik dat we tonen. Dit zijn schattingen, geen metingen: meet je eigen Mac op MLX Bench. Modelgegevens uit elke officiële modelkaart, chipgegevens uit de technische specificaties van Apple. Gecontroleerd op 2026-10-19. Dezelfde gegevens als mlx.app/compare.