MacBook Pro mit M4 Pro: gut für lokale LLMs?

Mit 64 GB laufen 31 von 73 offenen Modellen gut darauf, bis hin zu Nemotron 3.5 Bolt 74B A9B; mit gpt-oss-20b sind es etwa 65–115 Tokens pro Sekunde. Der Chip M4 Pro liest den Speicher mit 273 GB/s. Das bestimmt, wie schnell er schreibt.

MacBook Pro mit M4 Pro: wie viel Speicher für KI?

Mit 24 GB laufen 25 offene Modelle gut, mit 64 GB 31, bis hin zu Nemotron 3.5 Bolt 74B A9B. Der Speicher entscheidet, welche Modelle passen, und lässt sich später nicht aufrüsten.

MacBook Pro M4 Pro für lokale KI: welche LLMs je Speicher laufen

Nach Speichergröße

Speicher	Laufen gut	Größtes, das gut läuft	gpt-oss-20b
24 GB273 GB/s	25	Gemma 4 26B A4B	65–115 tok/s
48 GB273 GB/s	30	Qwen3.6 35B A3B	65–115 tok/s
64 GB273 GB/s	31	Nemotron 3.5 Bolt 74B A9B	65–115 tok/s

Mac-Modelle: MacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024). Nicht jede Speichergröße gibt es für jedes Modell; Apples technische Daten nennen, womit jedes einzelne erhältlich ist.

Fragen

MacBook Pro mit M4 Pro: gut für lokale LLMs?: Mit 64 GB laufen 31 von 73 offenen Modellen gut darauf, bis hin zu Nemotron 3.5 Bolt 74B A9B; mit gpt-oss-20b sind es etwa 65–115 Tokens pro Sekunde. Der Chip M4 Pro liest den Speicher mit 273 GB/s. Das bestimmt, wie schnell er schreibt.
MacBook Pro mit M4 Pro: wie viel Speicher für KI?: Mit 24 GB laufen 25 offene Modelle gut, mit 64 GB 31, bis hin zu Nemotron 3.5 Bolt 74B A9B. Der Speicher entscheidet, welche Modelle passen, und lässt sich später nicht aufrüsten.

Andere Macs

MacBook Pro mit anderen Chips:

Andere Macs mit M4 Pro:

Mac mini M4 Pro

Im direkten Vergleich:

Gegen PCs und Grafikkarten:

M4 Pro vs Ryzen AI Max+ 395

Der M4 Pro für lokale KI · Der beste Mac für lokale LLMs · Alle Macs

So wird gerechnet

Speicher: die Parameter des Modells mit 8, 6, 4, 3 oder 2 Bit pro Gewicht plus die Gruppenskalen von MLX (ein halbes Bit pro Gewicht) oder in seinem nativen Format, dazu Platz für den Kontext. Standardmäßig lässt macOS die GPU etwa 75 % des gemeinsamen Arbeitsspeichers nutzen. Tempo: Speicherbandbreite geteilt durch die pro Token gelesenen Bytes ergibt die Obergrenze für eine Unterhaltung; in den öffentlichen Apple Silicon Benchmarks von llama.cpp erreichen echte Läufe etwa 45 % bis 80 % davon, und diese Spanne zeigen wir. Das sind Schätzungen, keine Messungen: Miss deinen eigenen Mac mit MLX Bench. Modellwerte aus der jeweiligen offiziellen Model Card, Chipwerte aus Apples technischen Daten. Geprüft am 2026-10-19. Dieselben Daten wie auf mlx.app/compare.