Hoeveel geheugen heeft Qwen3 Coder 30B A3B Instruct nodig?

Ongeveer 17,2 GB aan gewichten op 4 bits, plus ruimte voor de context: 18,7 GB in totaal. Op een Mac betekent dat 32 GB geïntegreerd geheugen of meer, omdat macOS de GPU standaard ongeveer 75% ervan laat gebruiken.

Hoe snel is Qwen3 Coder 30B A3B Instruct op een Mac?

De schrijfsnelheid hangt af van de geheugenbandbreedte. De snelste Mac hiervoor is een M5 Ultra met 96 GB, met ongeveer 154–274 tokens per seconde (8 bits). De kleinste Mac die het draait, met 32 GB, haalt ongeveer 95–168 op een M2 Max.

Waarom draait Qwen3 Coder 30B A3B Instruct sneller dan je op basis van de grootte zou verwachten?

Het is een mixture-of-expertsmodel: het houdt 30,5B parameters in het geheugen, maar leest per token maar 3,3B, dus het schrijft zo snel als een veel kleiner model.

Draait Qwen3 Coder 30B A3B Instruct op een Mac? Geheugen, snelheid

Geheugen bij elke precisie

Versie	Gewichten	Met context	Kleinste Mac
8 bits	32,4 GB	35 GB	48 GB
6 bits	24,8 GB	26,8 GB	36 GB
4 bits	17,2 GB	18,7 GB	32 GB
3 bits lagere kwaliteit	13,3 GB	14,8 GB	24 GB
2 bits lagere kwaliteit	9,5 GB	11 GB	16 GB

Op elke Apple-chip

Per chip de kleinste geheugengrootte die Qwen3 Coder 30B A3B Instruct draait, de beste versie die erin past en de schrijfsnelheid die je kunt verwachten.

Chip	Nodig	Versie	Tokens/s
M6	32 GB	4 bits Draait goed	40–72
M5 Ultra	96 GB	8 bits Draait goed	154–274
M5 Max	36 GB	6 bits Draait goed	77–136
M5 Pro	48 GB	8 bits Draait goed	39–70
M5	32 GB	4 bits Draait goed	36–64
M4 Max	36 GB	6 bits Draait goed	68–121
M4 Pro	48 GB	8 bits Draait goed	35–62
M4	32 GB	4 bits Draait goed	28–51
M3 Ultra	96 GB	8 bits Draait goed	105–187
M3 Max	36 GB	6 bits Draait goed	50–89
M3 Pro	36 GB	6 bits Draait goed	25–44
M3	16 GB	2 bits Draait goed	45–80
M2 Ultra	64 GB	8 bits Draait goed	103–183
M2 Max	32 GB	4 bits Draait goed	95–168
M2 Pro	32 GB	4 bits Draait goed	47–84
M2	16 GB	2 bits Draait goed	45–80
M1 Ultra	64 GB	8 bits Draait goed	103–183
M1 Max	32 GB	4 bits Draait goed	95–168
M1 Pro	32 GB	4 bits Draait goed	47–84
M1	16 GB	2 bits Draait goed	31–54

Zo draai je het

De makkelijke manier: download MLX Harness, gratis en open source. Zoek Qwen3 Coder 30B A3B Instruct, download de versie die bij je Mac past en begin te chatten. MLX Harness stelt het model ook beschikbaar aan je andere apps via een OpenAI-compatibele API.Download MLX HarnessGratis · Apple Silicon · macOS 14.5 of nieuwer
In Terminal, met Apples MLX:pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3-Coder-30B-A3B-Instruct-4bitBuild: mlx-community/Qwen3-Coder-30B-A3B-Instruct-4bit op Hugging Face. Andere precisies staan ernaast.

Stap voor stap: LLM's downloaden en draaien op een Mac · zo gebruik je MLX Harness · MLX vs Ollama vs llama.cpp

Over Qwen3 Coder 30B A3B Instruct

Gemaakt door	Qwen (Alibaba)
Parameters	30,5B totaal · 3,3B actief (mixture-of-experts)
Context	256K tokens
Licentie	Apache-2.0
Uitgebracht	2025-07
Invoer	Tekst
Gewichten	Qwen/Qwen3-Coder-30B-A3B-Instruct

Vragen

Hoeveel geheugen heeft Qwen3 Coder 30B A3B Instruct nodig?: Ongeveer 17,2 GB aan gewichten op 4 bits, plus ruimte voor de context: 18,7 GB in totaal. Op een Mac betekent dat 32 GB geïntegreerd geheugen of meer, omdat macOS de GPU standaard ongeveer 75% ervan laat gebruiken.
Hoe snel is Qwen3 Coder 30B A3B Instruct op een Mac?: De schrijfsnelheid hangt af van de geheugenbandbreedte. De snelste Mac hiervoor is een M5 Ultra met 96 GB, met ongeveer 154–274 tokens per seconde (8 bits). De kleinste Mac die het draait, met 32 GB, haalt ongeveer 95–168 op een M2 Max.
Waarom draait Qwen3 Coder 30B A3B Instruct sneller dan je op basis van de grootte zou verwachten?: Het is een mixture-of-expertsmodel: het houdt 30,5B parameters in het geheugen, maar leest per token maar 3,3B, dus het schrijft zo snel als een veel kleiner model.

Vergelijkbare modellen

Alle modellen · Alle Macs · Vergelijk je Mac

Voor je modelkaart of README

Toont de kleinste Mac die Qwen3 Coder 30B A3B Instruct goed draait en linkt naar deze pagina.

[![Runs on a Mac](https://mlx.app/badge/run/qwen3-coder-30b-a3b.svg)](https://mlx.app/run/qwen3-coder-30b-a3b)

Zo is het berekend

Geheugen: de parameters van het model op 8, 6, 4, 3 of 2 bits per gewicht plus de groepsschalen van MLX (een halve bit per gewicht), of het eigen formaat van het model, met daarbovenop ruimte voor de context. Standaard laat macOS de GPU ongeveer 75% van het geïntegreerde geheugen gebruiken. Snelheid: de geheugenbandbreedte gedeeld door het aantal bytes dat per token wordt gelezen, is het plafond voor één gesprek; in de openbare Apple Silicon-benchmarks van llama.cpp halen echte runs ongeveer 45% tot 80% daarvan, en dat is het bereik dat we tonen. Dit zijn schattingen, geen metingen: meet je eigen Mac op MLX Bench. Modelgegevens uit elke officiële modelkaart, chipgegevens uit de technische specificaties van Apple. Gecontroleerd op 2026-10-19. Dezelfde gegevens als mlx.app/compare.