Mac Studio mit M5 Ultra: gut für lokale LLMs?

Mit 512 GB laufen 61 von 73 offenen Modellen gut darauf, bis hin zu DeepSeek V4.1 Flash 1017; mit gpt-oss-20b sind es etwa 284–505 Tokens pro Sekunde. Der Chip M5 Ultra liest den Speicher mit 1.200 GB/s. Das bestimmt, wie schnell er schreibt.

Mac Studio mit M5 Ultra: wie viel Speicher für KI?

Mit 96 GB laufen 44 offene Modelle gut, mit 512 GB 61, bis hin zu DeepSeek V4.1 Flash 1017. Der Speicher entscheidet, welche Modelle passen, und lässt sich später nicht aufrüsten.

Mac Studio M5 Ultra für lokale KI: welche LLMs je Speicher laufen

Nach Speichergröße

Speicher	Laufen gut	Größtes, das gut läuft	gpt-oss-20b
96 GB1.200 GB/s	44	gpt-oss-120b	284–505 tok/s
256 GB1.200 GB/s	54	MiMo V2.6 Flash	284–505 tok/s
512 GB1.200 GB/s	61	DeepSeek V4.1 Flash 1017	284–505 tok/s

Mac-Modelle: Mac Studio (M5 Max or M5 Ultra). Nicht jede Speichergröße gibt es für jedes Modell; Apples technische Daten nennen, womit jedes einzelne erhältlich ist.

Fragen

Mac Studio mit M5 Ultra: gut für lokale LLMs?: Mit 512 GB laufen 61 von 73 offenen Modellen gut darauf, bis hin zu DeepSeek V4.1 Flash 1017; mit gpt-oss-20b sind es etwa 284–505 Tokens pro Sekunde. Der Chip M5 Ultra liest den Speicher mit 1.200 GB/s. Das bestimmt, wie schnell er schreibt.
Mac Studio mit M5 Ultra: wie viel Speicher für KI?: Mit 96 GB laufen 44 offene Modelle gut, mit 512 GB 61, bis hin zu DeepSeek V4.1 Flash 1017. Der Speicher entscheidet, welche Modelle passen, und lässt sich später nicht aufrüsten.

Andere Macs

Mac Studio mit anderen Chips:

Im direkten Vergleich:

Gegen PCs und Grafikkarten:

Der M5 Ultra für lokale KI · Der beste Mac für lokale LLMs · Alle Macs

So wird gerechnet

Speicher: die Parameter des Modells mit 8, 6, 4, 3 oder 2 Bit pro Gewicht plus die Gruppenskalen von MLX (ein halbes Bit pro Gewicht) oder in seinem nativen Format, dazu Platz für den Kontext. Standardmäßig lässt macOS die GPU etwa 75 % des gemeinsamen Arbeitsspeichers nutzen. Tempo: Speicherbandbreite geteilt durch die pro Token gelesenen Bytes ergibt die Obergrenze für eine Unterhaltung; in den öffentlichen Apple Silicon Benchmarks von llama.cpp erreichen echte Läufe etwa 45 % bis 80 % davon, und diese Spanne zeigen wir. Das sind Schätzungen, keine Messungen: Miss deinen eigenen Mac mit MLX Bench. Modellwerte aus der jeweiligen offiziellen Model Card, Chipwerte aus Apples technischen Daten. Geprüft am 2026-10-19. Dieselben Daten wie auf mlx.app/compare.