Mac Studio mit M5 Max für lokale KI.

Der Chip M5 Max liest den Speicher mit 614 GB/s. Das bestimmt, wie schnell er schreibt. Der Speicher entscheidet, welche Modelle passen, und lässt sich später nicht aufrüsten. Wähle die Größe deshalb hier.

48 GB38 Modelle laufen gutQwen3.6 35B A3B · 115–205 tok/s64 GB39 Modelle laufen gutNemotron 3.5 Bolt 74B A9B · 54–96 tok/s128 GB47 Modelle laufen gutQwen3.5 122B A10B · 49–88 tok/s

Nach Speichergröße

SpeicherLaufen gutGrößtes, das gut läuftgpt-oss-20b
36 GB460 GB/s38Qwen3.6 35B A3B109–194 tok/s
48 GB614 GB/s38Qwen3.6 35B A3B145–259 tok/s
64 GB614 GB/s39Nemotron 3.5 Bolt 74B A9B145–259 tok/s
128 GB614 GB/s47Qwen3.5 122B A10B145–259 tok/s

Mac-Modelle: Mac Studio (M5 Max or M5 Ultra). Nicht jede Speichergröße gibt es für jedes Modell; Apples technische Daten nennen, womit jedes einzelne erhältlich ist.

Fragen

Mac Studio mit M5 Max: gut für lokale LLMs?
Mit 128 GB laufen 47 von 73 offenen Modellen gut darauf, bis hin zu Qwen3.5 122B A10B; mit gpt-oss-20b sind es etwa 145–259 Tokens pro Sekunde. Der Chip M5 Max liest den Speicher mit 614 GB/s. Das bestimmt, wie schnell er schreibt.
Mac Studio mit M5 Max: wie viel Speicher für KI?
Mit 36 GB laufen 38 offene Modelle gut, mit 128 GB 47, bis hin zu Qwen3.5 122B A10B. Der Speicher entscheidet, welche Modelle passen, und lässt sich später nicht aufrüsten.

Andere Macs

Mac Studio mit anderen Chips:

Andere Macs mit M5 Max:

Im direkten Vergleich:

Gegen PCs und Grafikkarten:

Der M5 Max für lokale KI · Der beste Mac für lokale LLMs · Alle Macs

So wird gerechnet

Speicher: die Parameter des Modells mit 8, 6, 4, 3 oder 2 Bit pro Gewicht plus die Gruppenskalen von MLX (ein halbes Bit pro Gewicht) oder in seinem nativen Format, dazu Platz für den Kontext. Standardmäßig lässt macOS die GPU etwa 75 % des gemeinsamen Arbeitsspeichers nutzen. Tempo: Speicherbandbreite geteilt durch die pro Token gelesenen Bytes ergibt die Obergrenze für eine Unterhaltung; in den öffentlichen Apple Silicon Benchmarks von llama.cpp erreichen echte Läufe etwa 45 % bis 80 % davon, und diese Spanne zeigen wir. Das sind Schätzungen, keine Messungen: Miss deinen eigenen Mac mit MLX Bench. Modellwerte aus der jeweiligen offiziellen Model Card, Chipwerte aus Apples technischen Daten. Geprüft am 2026-10-19. Dieselben Daten wie auf mlx.app/compare.

Mac Studio M5 Max für lokale KI: welche LLMs je Speicher laufen