Ist der M2 Ultra schneller als der M2 Max für LLMs?

Der M2 Ultra liest den Speicher etwa 100 % schneller als der M2 Max (800 gegenüber 400 GB/s) und schreibt daher mit jedem Modell, das in beide passt, etwa 100 % schneller. Das Einlesen eines langen Prompts hängt dagegen von der Rechenleistung der GPU ab, die dieser Vergleich nicht abdeckt.

Welcher führt größere Modelle aus, der M2 Max oder der M2 Ultra?

Der M2 Ultra: Den M2 Ultra gibt es mit bis zu 192 GB Speicher, den M2 Max mit bis zu 96 GB. In seiner größten Ausführung führt er 49 von 73 offenen Modellen gut aus, der andere 43.

M2 Max vs. M2 Ultra für LLMs: Speicher, Tempo, Kaufberatung

Im Vergleich

	M2 Max	M2 Ultra
Speichergrößen	32, 64, 96 GB	64, 128, 192 GB
Speicherbandbreite	400 GB/s	800 GB/s
Für Modelle, höchstens	etwa 72 GB	etwa 144 GB
Modelle, die gut laufen	43 von 73	49 von 73
MLX-Platzklasse	Pro	Ultra
Steckt in	MacBook Pro (14-inch, 2023), MacBook Pro (16-inch, 2023), Mac Studio (2023)	Mac Studio (2023), Mac Pro (2023), Mac Pro (Rack, 2023)

Tempo mit beliebten Modellen

Tokens pro Sekunde für eine Unterhaltung, jeder Chip mit seiner größten Speichergröße (96 GB und 192 GB), mit der besten Version des Modells, die passt.

Modell	M2 Max	M2 Ultra
Llama 3.1 8B Instruct8B	21–38 8 Bit	42–75 8 Bit
gpt-oss-20b21B · 3,6B aktiv	95–168 4,25 Bit nativ	189–337 4,25 Bit nativ
Qwen3.6 35B A3B35B · 3B aktiv	56–100 8 Bit	113–200 8 Bit
Qwen3.8 27B27B	12–21 4 Bit	13–22 8 Bit
Llama 3.3 70B Instruct70B	3–6 6 Bit	5–9 8 Bit
gpt-oss-120b117B · 5,1B aktiv	67–119 4,25 Bit nativ	133–237 4,25 Bit nativ
Qwen3.5 122B A10B122B · 10B aktiv	41–73 3 Bit geringere Qualität	34–60 8 Bit
DeepSeek V4 Flash 0731284B · 13B aktiv	zu groß	63–112 3 Bit geringere Qualität

Fragen

Ist der M2 Ultra schneller als der M2 Max für LLMs?: Der M2 Ultra liest den Speicher etwa 100 % schneller als der M2 Max (800 gegenüber 400 GB/s) und schreibt daher mit jedem Modell, das in beide passt, etwa 100 % schneller. Das Einlesen eines langen Prompts hängt dagegen von der Rechenleistung der GPU ab, die dieser Vergleich nicht abdeckt.
Welcher führt größere Modelle aus, der M2 Max oder der M2 Ultra?: Der M2 Ultra: Den M2 Ultra gibt es mit bis zu 192 GB Speicher, den M2 Max mit bis zu 96 GB. In seiner größten Ausführung führt er 49 von 73 offenen Modellen gut aus, der andere 43.

Weitere Vergleiche

Der M2 Max für lokale KI · Der M2 Ultra für lokale KI · Alle Modelle vergleichen · Der beste Mac für lokale LLMs

So wird gerechnet

Speicher: die Parameter des Modells mit 8, 6, 4, 3 oder 2 Bit pro Gewicht plus die Gruppenskalen von MLX (ein halbes Bit pro Gewicht) oder in seinem nativen Format, dazu Platz für den Kontext. Standardmäßig lässt macOS die GPU etwa 75 % des gemeinsamen Arbeitsspeichers nutzen. Tempo: Speicherbandbreite geteilt durch die pro Token gelesenen Bytes ergibt die Obergrenze für eine Unterhaltung; in den öffentlichen Apple Silicon Benchmarks von llama.cpp erreichen echte Läufe etwa 45 % bis 80 % davon, und diese Spanne zeigen wir. Das sind Schätzungen, keine Messungen: Miss deinen eigenen Mac mit MLX Bench. Modellwerte aus der jeweiligen offiziellen Model Card, Chipwerte aus Apples technischen Daten. Geprüft am 2026-10-19. Dieselben Daten wie auf mlx.app/compare.