Ist der M5 Ultra schneller als der M3 Ultra für LLMs?

Der M5 Ultra liest den Speicher etwa 47 % schneller als der M3 Ultra (1.200 gegenüber 819 GB/s) und schreibt daher mit jedem Modell, das in beide passt, etwa 47 % schneller. Das Einlesen eines langen Prompts hängt dagegen von der Rechenleistung der GPU ab, die dieser Vergleich nicht abdeckt.

Welcher führt größere Modelle aus, der M3 Ultra oder der M5 Ultra?

Keiner: Beide gibt es mit bis zu 512 GB. In dieser Größe führt der M3 Ultra 60 und der M5 Ultra 61 von 73 offenen Modellen gut aus; der schnellere schafft bei mehr davon 10 Tokens pro Sekunde.

M3 Ultra vs. M5 Ultra für LLMs: Speicher, Tempo, Kaufberatung

Im Vergleich

	M3 Ultra	M5 Ultra
Speichergrößen	96, 256, 512 GB	96, 256, 512 GB
Speicherbandbreite	819 GB/s	1.200 GB/s
Für Modelle, höchstens	etwa 384 GB	etwa 384 GB
Modelle, die gut laufen	60 von 73	61 von 73
MLX-Platzklasse	Ultra	Ultra Latest
Steckt in	Mac Studio (2025)	Mac Studio (M5 Max or M5 Ultra)

Tempo mit beliebten Modellen

Tokens pro Sekunde für eine Unterhaltung, jeder Chip mit seiner größten Speichergröße (512 GB und 512 GB), mit der besten Version des Modells, die passt.

Modell	M3 Ultra	M5 Ultra
Llama 3.1 8B Instruct8B	43–77 8 Bit	64–113 8 Bit
gpt-oss-20b21B · 3,6B aktiv	194–345 4,25 Bit nativ	284–505 4,25 Bit nativ
Qwen3.6 35B A3B35B · 3B aktiv	115–205 8 Bit	169–300 8 Bit
Qwen3.8 27B27B	13–23 8 Bit	19–33 8 Bit
Llama 3.3 70B Instruct70B	5–9 8 Bit	14–24 4 Bit
gpt-oss-120b117B · 5,1B aktiv	137–243 4,25 Bit nativ	200–356 4,25 Bit nativ
Qwen3.5 122B A10B122B · 10B aktiv	35–62 8 Bit	51–91 8 Bit
DeepSeek V4 Flash 0731284B · 13B aktiv	27–47 8 Bit	39–70 8 Bit

Fragen

Ist der M5 Ultra schneller als der M3 Ultra für LLMs?: Der M5 Ultra liest den Speicher etwa 47 % schneller als der M3 Ultra (1.200 gegenüber 819 GB/s) und schreibt daher mit jedem Modell, das in beide passt, etwa 47 % schneller. Das Einlesen eines langen Prompts hängt dagegen von der Rechenleistung der GPU ab, die dieser Vergleich nicht abdeckt.
Welcher führt größere Modelle aus, der M3 Ultra oder der M5 Ultra?: Keiner: Beide gibt es mit bis zu 512 GB. In dieser Größe führt der M3 Ultra 60 und der M5 Ultra 61 von 73 offenen Modellen gut aus; der schnellere schafft bei mehr davon 10 Tokens pro Sekunde.

Weitere Vergleiche

Der M3 Ultra für lokale KI · Der M5 Ultra für lokale KI · Alle Modelle vergleichen · Der beste Mac für lokale LLMs

So wird gerechnet

Speicher: die Parameter des Modells mit 8, 6, 4, 3 oder 2 Bit pro Gewicht plus die Gruppenskalen von MLX (ein halbes Bit pro Gewicht) oder in seinem nativen Format, dazu Platz für den Kontext. Standardmäßig lässt macOS die GPU etwa 75 % des gemeinsamen Arbeitsspeichers nutzen. Tempo: Speicherbandbreite geteilt durch die pro Token gelesenen Bytes ergibt die Obergrenze für eine Unterhaltung; in den öffentlichen Apple Silicon Benchmarks von llama.cpp erreichen echte Läufe etwa 45 % bis 80 % davon, und diese Spanne zeigen wir. Das sind Schätzungen, keine Messungen: Miss deinen eigenen Mac mit MLX Bench. Modellwerte aus der jeweiligen offiziellen Model Card, Chipwerte aus Apples technischen Daten. Geprüft am 2026-10-19. Dieselben Daten wie auf mlx.app/compare.