Mac Studio mit M2 Max: gut für lokale LLMs?

Mit 96 GB laufen 43 von 73 offenen Modellen gut darauf, bis hin zu gpt-oss-120b; mit gpt-oss-20b sind es etwa 95–168 Tokens pro Sekunde. Der Chip M2 Max liest den Speicher mit 400 GB/s. Das bestimmt, wie schnell er schreibt.

Mac Studio mit M2 Max: wie viel Speicher für KI?

Mit 32 GB laufen 38 offene Modelle gut, mit 96 GB 43, bis hin zu gpt-oss-120b. Der Speicher entscheidet, welche Modelle passen, und lässt sich später nicht aufrüsten.

Mac Studio M2 Max für lokale KI: welche LLMs je Speicher laufen

Nach Speichergröße

Speicher	Laufen gut	Größtes, das gut läuft	gpt-oss-20b
32 GB400 GB/s	38	Qwen3.6 35B A3B	95–168 tok/s
64 GB400 GB/s	39	Nemotron 3.5 Bolt 74B A9B	95–168 tok/s
96 GB400 GB/s	43	gpt-oss-120b	95–168 tok/s

Mac-Modelle: Mac Studio (2023). Nicht jede Speichergröße gibt es für jedes Modell; Apples technische Daten nennen, womit jedes einzelne erhältlich ist.

Fragen

Mac Studio mit M2 Max: gut für lokale LLMs?: Mit 96 GB laufen 43 von 73 offenen Modellen gut darauf, bis hin zu gpt-oss-120b; mit gpt-oss-20b sind es etwa 95–168 Tokens pro Sekunde. Der Chip M2 Max liest den Speicher mit 400 GB/s. Das bestimmt, wie schnell er schreibt.
Mac Studio mit M2 Max: wie viel Speicher für KI?: Mit 32 GB laufen 38 offene Modelle gut, mit 96 GB 43, bis hin zu gpt-oss-120b. Der Speicher entscheidet, welche Modelle passen, und lässt sich später nicht aufrüsten.

Andere Macs

Mac Studio mit anderen Chips:

Andere Macs mit M2 Max:

MacBook Pro M2 Max

Im direkten Vergleich:

Der M2 Max für lokale KI · Der beste Mac für lokale LLMs · Alle Macs

So wird gerechnet

Speicher: die Parameter des Modells mit 8, 6, 4, 3 oder 2 Bit pro Gewicht plus die Gruppenskalen von MLX (ein halbes Bit pro Gewicht) oder in seinem nativen Format, dazu Platz für den Kontext. Standardmäßig lässt macOS die GPU etwa 75 % des gemeinsamen Arbeitsspeichers nutzen. Tempo: Speicherbandbreite geteilt durch die pro Token gelesenen Bytes ergibt die Obergrenze für eine Unterhaltung; in den öffentlichen Apple Silicon Benchmarks von llama.cpp erreichen echte Läufe etwa 45 % bis 80 % davon, und diese Spanne zeigen wir. Das sind Schätzungen, keine Messungen: Miss deinen eigenen Mac mit MLX Bench. Modellwerte aus der jeweiligen offiziellen Model Card, Chipwerte aus Apples technischen Daten. Geprüft am 2026-10-19. Dieselben Daten wie auf mlx.app/compare.