Welches LLM ist das beste für einen Mac mit 24 GB?

Unter den Modellen mit veröffentlichtem Intelligence Index erzielt MiniCPM5 2B den höchsten Wert von denen, die in 24 GB gut laufen (8 Bit). Das größte, das gut läuft, ist Gemma 4 26B A4B. Für Code: Devstral Small 2 (24B).

Reichen 24 GB für lokale KI auf dem Mac?

28 der 73 offenen Modelle hier laufen darin gut, mit 4 Bit oder mehr. macOS lässt die GPU standardmäßig etwa 18 GB davon nutzen; Modell und Kontext müssen da hineinpassen.

Kann ein Mac mit 24 GB gpt-oss-20b ausführen?

Ja, 4,25 Bit nativ, mit etwa 24–42 Tokens pro Sekunde auf dem M3 und 73–129 auf dem M5 Pro.

Beste lokale LLMs für Macs mit 24 GB (M2 bis M6): was läuft

Macs mit 24 GB

7 Chips von M2 bis M6 gibt es mit 24 GB. Öffne einen für seine eigene Liste und sein Tempo.

Läuft gut 36

Passt mit Platz für den Kontext, bei 10 oder mehr Tokens pro Sekunde auf dem M5 Pro.

Modell	Version	Speicher	M3	M5 Pro
MiniCPM5 2B2,52B · Intelligenz 12,5	8 Bit	2,7 GB	17–30	51–91
Qwen3.5 9B9B · Intelligenz 11,2	8 Bit	9,6 GB	5–8	14–26
Granite 4.2 8B8B · Intelligenz 11,1	8 Bit	8,5 GB	10–18	16–29
Granite 4.2 3B3B · Intelligenz 9,1	8 Bit	3,2 GB	14–25	43–77
gpt-oss-20b21B · 3,6B aktiv · Intelligenz 9	4,25 Bit nativ	13,8 GB	24–42	73–129
Gemma 4 E4B8B · Intelligenz 8,9	8 Bit	8,5 GB	12–22	29–51
Ministral 3 8B8,9B · Intelligenz 5,5	8 Bit	9,5 GB	5–8	15–26
Nemotron 3 Nano 4B3,97B · Intelligenz 4,8	8 Bit	4,2 GB	11–19	33–58
Gemma 4 26B A4B25,2B · 3,8B aktiv	4 Bit	14,2 GB	21–38	66–117
Devstral Small 2 (24B)24B	4 Bit	13,5 GB	3–6	10–18
Magistral Small 1.2 (2509)24B	4 Bit	13,5 GB	3–6	10–18
Mistral Small 3.2 (24B)24B	4 Bit	13,5 GB	3–6	10–18
LFM2.5 24B A2B24B · 2B aktiv	4 Bit	13,5 GB	41–73	126–223
Phi-4 Reasoning Vision 15B15B	6 Bit	12,2 GB	3–5	11–20
Phi-4 (14B)14B	6 Bit	11,4 GB	3–5	12–22
Gemma 4 12B Unified12B	8 Bit	12,7 GB	4–6	11–19
Qwen3 8B8,2B	8 Bit	8,7 GB	10–17	16–28
Llama 3.1 8B Instruct8B	8 Bit	8,5 GB	10–18	16–29
Gemma 4 E2B5,1B	8 Bit	5,4 GB	19–33	58–102
Qwen3.5 4B4B	8 Bit	4,3 GB	10–19	32–57
Phi-4 mini instruct3,8B	8 Bit	4 GB	11–20	35–61
Llama 3.2 3B Instruct3,21B	8 Bit	3,4 GB	13–24	41–72
SmolLM3 3B3B	8 Bit	3,2 GB	14–25	43–77
LFM2.5 2.6B2,69B	8 Bit	2,9 GB	16–28	48–85
Qwen3.5 2B2B	8 Bit	2,1 GB	21–38	66–117
Llama 3.2 1B Instruct1,23B	8 Bit	1,3 GB	35–62	106–189
Qwen3.5 0.8B0,8B	8 Bit	0,9 GB	50–89	154–273
Qwen3 0.6B0,6B	8 Bit	0,6 GB	75–133	230–409
Qwen3.6 35B A3B35B · 3B aktiv · Intelligenz 18,2	3 Bit geringere Qualität	15,3 GB	35–62	106–189
Muse Glimmer 30B29,6B · Intelligenz 17,5	3 Bit geringere Qualität	13 GB	3–6	11–19
Gemma 4 31B30,7B · Intelligenz 14,7	3 Bit geringere Qualität	13,4 GB	3–6	10–18
Nemotron 3.5 Lightning 30B A3B30B · 3B aktiv · Intelligenz 12,9	3 Bit geringere Qualität	13,1 GB	35–62	106–189
Granite 4.2 30B30B · Intelligenz 12,7	3 Bit geringere Qualität	13,1 GB	3–6	11–19
Nemotron 3 Nano 30B A3B30B · 3,5B aktiv · Intelligenz 8,9	3 Bit geringere Qualität	13,1 GB	30–53	92–164
Qwen3 Coder 30B A3B Instruct30,5B · 3,3B aktiv	3 Bit geringere Qualität	13,3 GB	32–57	99–175
GLM-4.7 Flash30B · 3B aktiv	3 Bit geringere Qualität	13,1 GB	35–62	106–189

Läuft, aber langsam 2

Passt, aber unter 10 Tokens pro Sekunde: gut für Stapelverarbeitung, langsam für Chats.

Modell	Version	Speicher	M3	M5 Pro
Qwen3.8 27B27B · Intelligenz 33,7	4 Bit	15,2 GB	3–5	9–16
Qwen3.6 27B27B	4 Bit	15,2 GB	3–5	9–16

Fragen

Welches LLM ist das beste für einen Mac mit 24 GB?: Unter den Modellen mit veröffentlichtem Intelligence Index erzielt MiniCPM5 2B den höchsten Wert von denen, die in 24 GB gut laufen (8 Bit). Das größte, das gut läuft, ist Gemma 4 26B A4B. Für Code: Devstral Small 2 (24B).
Reichen 24 GB für lokale KI auf dem Mac?: 28 der 73 offenen Modelle hier laufen darin gut, mit 4 Bit oder mehr. macOS lässt die GPU standardmäßig etwa 18 GB davon nutzen; Modell und Kontext müssen da hineinpassen.
Kann ein Mac mit 24 GB gpt-oss-20b ausführen?: Ja, 4,25 Bit nativ, mit etwa 24–42 Tokens pro Sekunde auf dem M3 und 73–129 auf dem M5 Pro.

Andere Größen: 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB

Führ sie mit MLX Harness (kostenlos, Open Source) oder mit Apples mlx-lm im Terminal aus: Schritt für Schritt.

So wird gerechnet

Speicher: die Parameter des Modells mit 8, 6, 4, 3 oder 2 Bit pro Gewicht plus die Gruppenskalen von MLX (ein halbes Bit pro Gewicht) oder in seinem nativen Format, dazu Platz für den Kontext. Standardmäßig lässt macOS die GPU etwa 75 % des gemeinsamen Arbeitsspeichers nutzen. Tempo: Speicherbandbreite geteilt durch die pro Token gelesenen Bytes ergibt die Obergrenze für eine Unterhaltung; in den öffentlichen Apple Silicon Benchmarks von llama.cpp erreichen echte Läufe etwa 45 % bis 80 % davon, und diese Spanne zeigen wir. Das sind Schätzungen, keine Messungen: Miss deinen eigenen Mac mit MLX Bench. Modellwerte aus der jeweiligen offiziellen Model Card, Chipwerte aus Apples technischen Daten. Geprüft am 2026-10-19. Dieselben Daten wie auf mlx.app/compare.

Die besten LLMs für einen Mac mit 24 GB.