Wat is het beste LLM voor een Mac met 8 GB?

Van de modellen met een gepubliceerde Intelligence Index scoort MiniCPM5 2B het hoogst van de modellen die goed draaien in 8 GB (8 bits). Het grootste dat goed draait, is Granite 4.2 8B.

Is 8 GB genoeg voor lokale AI op een Mac?

16 van de 73 open modellen op deze lijst draaien er goed in, op 4 bits of beter. macOS laat de GPU standaard ongeveer 6 GB ervan gebruiken; het model en de context moeten daarin passen.

Kan een Mac met 8 GB gpt-oss-20b draaien?

Nee: het heeft meer nodig dan de 6 GB die de GPU standaard kan gebruiken.

Beste lokale LLM's voor een 8 GB-Mac (M1 tot M3): wat draait

Macs met 8 GB

3 chips van M1 tot M3 zijn er met 8 GB. Open er een voor de eigen lijst en snelheden.

Draait goed 21

Past met ruimte voor de context, op 10 of meer tokens per seconde op de M2.

Model	Versie	Geheugen	M1	M2
MiniCPM5 2B2,52B · Intelligentie 12,5	8 bits	2,7 GB	11–20	17–30
Granite 4.2 8B8B · Intelligentie 11,1	4 bits	4,5 GB	7–12	10–18
Granite 4.2 3B3B · Intelligentie 9,1	8 bits	3,2 GB	10–17	14–25
Gemma 4 E4B8B · Intelligentie 8,9	4 bits	4,5 GB	12–22	18–32
Nemotron 3 Nano 4B3,97B · Intelligentie 4,8	8 bits	4,2 GB	10–17	11–19
Llama 3.1 8B Instruct8B	4 bits	4,5 GB	7–12	10–18
Gemma 4 E2B5,1B	6 bits	4,1 GB	16–29	24–42
Qwen3.5 4B4B	8 bits	4,3 GB	13–24	10–19
Phi-4 mini instruct3,8B	8 bits	4 GB	10–18	11–20
Llama 3.2 3B Instruct3,21B	8 bits	3,4 GB	12–21	13–24
SmolLM3 3B3B	8 bits	3,2 GB	10–17	14–25
LFM2.5 2.6B2,69B	8 bits	2,9 GB	11–19	16–28
Qwen3.5 2B2B	8 bits	2,1 GB	15–26	21–38
Llama 3.2 1B Instruct1,23B	8 bits	1,3 GB	24–42	35–62
Qwen3.5 0.8B0,8B	8 bits	0,9 GB	34–60	50–89
Qwen3 0.6B0,6B	8 bits	0,6 GB	51–91	75–133
Qwen3.5 9B9B · Intelligentie 11,2	3 bits lagere kwaliteit	3,9 GB	8–14	12–21
Ministral 3 8B8,9B · Intelligentie 5,5	3 bits lagere kwaliteit	3,9 GB	8–14	12–21
Phi-4 (14B)14B	2 bits lagere kwaliteit	4,4 GB	7–12	10–18
Gemma 4 12B Unified12B	2 bits lagere kwaliteit	3,7 GB	8–15	12–22
Qwen3 8B8,2B	3 bits lagere kwaliteit	3,6 GB	9–15	13–22

Past net 1

Heeft bijna al het geheugen nodig: verhoog de geheugenlimiet van de GPU en houd de context kort.

Model	Versie	Geheugen	M1	M2
Phi-4 Reasoning Vision 15B15B	2 bits lagere kwaliteit	4,7 GB	7–12	10–17

Te groot 51

Heeft meer dan 8 GB geheugen nodig, zelfs op 2 bits.

Vragen

Wat is het beste LLM voor een Mac met 8 GB?: Van de modellen met een gepubliceerde Intelligence Index scoort MiniCPM5 2B het hoogst van de modellen die goed draaien in 8 GB (8 bits). Het grootste dat goed draait, is Granite 4.2 8B.
Is 8 GB genoeg voor lokale AI op een Mac?: 16 van de 73 open modellen op deze lijst draaien er goed in, op 4 bits of beter. macOS laat de GPU standaard ongeveer 6 GB ervan gebruiken; het model en de context moeten daarin passen.
Kan een Mac met 8 GB gpt-oss-20b draaien?: Nee: het heeft meer nodig dan de 6 GB die de GPU standaard kan gebruiken.

Andere groottes: 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB

Draai ze met MLX Harness (gratis, open source) of met Apples mlx-lm in Terminal: stap voor stap.

Zo is het berekend

Geheugen: de parameters van het model op 8, 6, 4, 3 of 2 bits per gewicht plus de groepsschalen van MLX (een halve bit per gewicht), of het eigen formaat van het model, met daarbovenop ruimte voor de context. Standaard laat macOS de GPU ongeveer 75% van het geïntegreerde geheugen gebruiken. Snelheid: de geheugenbandbreedte gedeeld door het aantal bytes dat per token wordt gelezen, is het plafond voor één gesprek; in de openbare Apple Silicon-benchmarks van llama.cpp halen echte runs ongeveer 45% tot 80% daarvan, en dat is het bereik dat we tonen. Dit zijn schattingen, geen metingen: meet je eigen Mac op MLX Bench. Modelgegevens uit elke officiële modelkaart, chipgegevens uit de technische specificaties van Apple. Gecontroleerd op 2026-10-19. Dezelfde gegevens als mlx.app/compare.