AnmeldenWallet erstellen

M5 Ultra vs. RTX PRO 6000 für lokale KI.

Der RTX PRO 6000 liest den Speicher etwa 49 % schneller als der M5 Ultra (1.792 gegenüber 1.200 GB/s) und schreibt daher mit jedem Modell, das in beide passt, etwa 49 % schneller. Der M5 Ultra hat etwa 384 GB für Modelle, der RTX PRO 6000 etwa 95 GB.

M5 Ultra1.200 GB/sbis 512 GB · 61 Modelle laufen gutRTX PRO 60001.792 GB/sbis 96 GB · 50 Modelle laufen gut

Im Vergleich

M5 UltraRTX PRO 6000
Was es istMac Studio (M5 Max or M5 Ultra)Eine Grafikkarte für einen Desktop-PC
Speichergrößen96, 256, 512 GB96 GB
Speicherbandbreite1.200 GB/s1.792 GB/s
Für Modelle, höchstensetwa 384 GBetwa 95 GB
Modelle, die gut laufen61 von 7350 von 73
Gemessen: Schreiben179 tok/s274 tok/s
Gemessen: Prompt lesen4.945 tok/s14.855 tok/s

Gemessene Zeilen: das schnellste Ergebnis jedes Geräts in den öffentlichen Benchmarks von llama.cpp mit Llama 2 7B Q4_0, 128 Tokens schreiben (tg128) und einen Prompt mit 512 Tokens lesen (pp512), in Tokens pro Sekunde. Der Mac lief mit Metal, der RTX PRO 6000 mit CUDA. Ergebnisse für Apple Silicon · Ergebnisse für RTX PRO 6000 Für Modelle rechnen wir beim RTX PRO 6000 mit seinen eigenen 96 GB abzüglich etwa 1 GB und beim Mac mit etwa 75 % des gemeinsamen Speichers, dem Standard von macOS.

Wo welcher gewinnt

  • Schreibtempo. Der RTX PRO 6000 liest den Speicher etwa 49 % schneller als der M5 Ultra (1.792 gegenüber 1.200 GB/s) und schreibt daher mit jedem Modell, das in beide passt, etwa 49 % schneller.
  • Modellgröße. Der M5 Ultra hat etwa 384 GB für Modelle, der RTX PRO 6000 etwa 95 GB. 61 von 73 beliebten offenen Modellen laufen gut auf dem M5 Ultra, 50 auf dem RTX PRO 6000.
  • Lange Prompts lesen. Im gemessenen Test von llama.cpp liest der RTX PRO 6000 einen Prompt etwa 3× so schnell (14.855 gegenüber 4.945 Tokens pro Sekunde). Das Lesen eines Prompts hängt von der Rechenleistung der GPU ab, nicht von der Speicherbandbreite, und bestimmt die Wartezeit bis zum ersten Wort bei einem langen Dokument oder einer Codebasis.
  • Software. Der RTX PRO 6000 nutzt NVIDIAs CUDA, das die meiste KI-Software zuerst unterstützt, darunter Trainingscode und viele Bild- und Videowerkzeuge. Auf einem Mac laufen Modelle stattdessen mit MLX, dem Metal-Backend von llama.cpp oder dem MPS-Backend von PyTorch.
  • Drumherum. Eine Grafikkarte braucht einen PC drumherum, und ihre eigenen 96 GB sind die Grenze: Ein Modell, das nicht hineinpasst, muss teilweise aus dem viel langsameren Arbeitsspeicher des PCs laufen oder auf eine zweite Karte verteilt werden.
  • Der Mac. Er ist auch ein Computer für jeden Tag und führt MLX Harness und MLX Node aus, die für Apple Silicon gemacht sind.

Tempo mit beliebten Modellen

Tokens pro Sekunde für eine Unterhaltung, jeder Chip mit seiner größten Speichergröße (512 GB und 96 GB), mit der besten Version des Modells, die passt.

ModellM5 UltraRTX PRO 6000
Llama 3.1 8B Instruct8B64–113 8 Bit95–169 8 Bit
gpt-oss-20b21B · 3,6B aktiv284–505 4,25 Bit nativ424–755 4,25 Bit nativ
Qwen3.6 35B A3B35B · 3B aktiv169–300 8 Bit252–448 8 Bit
Qwen3.8 27B27B19–33 8 Bit28–50 8 Bit
Llama 3.3 70B Instruct70B14–24 4 Bit11–19 8 Bit
gpt-oss-120b117B · 5,1B aktiv200–356 4,25 Bit nativ299–531 4,25 Bit nativ
Qwen3.5 122B A10B122B · 10B aktiv51–91 8 Bit144–256 4 Bit
DeepSeek V4 Flash 0731284B · 13B aktiv39–70 8 Bitzu groß

Fragen

Ist der RTX PRO 6000 schneller als der M5 Ultra für LLMs?
Der RTX PRO 6000 liest den Speicher etwa 49 % schneller als der M5 Ultra (1.792 gegenüber 1.200 GB/s) und schreibt daher mit jedem Modell, das in beide passt, etwa 49 % schneller. Im gemessenen Test von llama.cpp liest der RTX PRO 6000 einen Prompt etwa 3× so schnell (14.855 gegenüber 4.945 Tokens pro Sekunde). Das Lesen eines Prompts hängt von der Rechenleistung der GPU ab, nicht von der Speicherbandbreite, und bestimmt die Wartezeit bis zum ersten Wort bei einem langen Dokument oder einer Codebasis.
Welcher führt größere Modelle aus, der M5 Ultra oder der RTX PRO 6000?
Der M5 Ultra hat etwa 384 GB für Modelle, der RTX PRO 6000 etwa 95 GB. 61 von 73 beliebten offenen Modellen laufen gut auf dem M5 Ultra, 50 auf dem RTX PRO 6000.
Läuft MLX Node auf dem RTX PRO 6000?
Nein. MLX Node und MLX Harness laufen nur auf Macs mit Apple Silicon, mit Apples MLX-Framework.

Weitere Vergleiche

Der M5 Ultra für lokale KI · Alle Modelle vergleichen · Der beste Mac für lokale LLMs

So wird gerechnet

Speicher: die Parameter des Modells mit 8, 6, 4, 3 oder 2 Bit pro Gewicht plus die Gruppenskalen von MLX (ein halbes Bit pro Gewicht) oder in seinem nativen Format, dazu Platz für den Kontext. Standardmäßig lässt macOS die GPU etwa 75 % des gemeinsamen Arbeitsspeichers nutzen. Tempo: Speicherbandbreite geteilt durch die pro Token gelesenen Bytes ergibt die Obergrenze für eine Unterhaltung; in den öffentlichen Apple Silicon Benchmarks von llama.cpp erreichen echte Läufe etwa 45 % bis 80 % davon, und diese Spanne zeigen wir. Das sind Schätzungen, keine Messungen: Miss deinen eigenen Mac mit MLX Bench. Modellwerte aus der jeweiligen offiziellen Model Card, Chipwerte aus Apples technischen Daten. Geprüft am 2026-10-19. Dieselben Daten wie auf mlx.app/compare.

Angaben zum RTX PRO 6000: NVIDIA: RTX PRO 6000 Blackwell Workstation Edition, NVIDIA: RTX PRO Desktop GPUs (compare table).

M5 Ultra vs. RTX PRO 6000 für LLMs: Speicher, Tempo, Kaufberatung