Ist der DGX Spark schneller als der M3 Ultra für LLMs?

Der M3 Ultra liest den Speicher etwa 200 % schneller als der DGX Spark (819 gegenüber 273 GB/s) und schreibt daher mit jedem Modell, das in beide passt, etwa 200 % schneller. Im gemessenen Test von llama.cpp liest der DGX Spark einen Prompt etwa 2,1× so schnell (3.062 gegenüber 1.471 Tokens pro Sekunde). Das Lesen eines Prompts hängt von der Rechenleistung der GPU ab, nicht von der Speicherbandbreite, und bestimmt die Wartezeit bis zum ersten Wort bei einem langen Dokument oder einer Codebasis.

Welcher führt größere Modelle aus, der M3 Ultra oder der DGX Spark?

Der M3 Ultra hat etwa 384 GB für Modelle, der DGX Spark etwa 96 GB. 60 von 73 beliebten offenen Modellen laufen gut auf dem M3 Ultra, 39 auf dem DGX Spark.

Läuft MLX Node auf dem DGX Spark?

Nein. MLX Node und MLX Harness laufen nur auf Macs mit Apple Silicon, mit Apples MLX-Framework.

M3 Ultra vs. DGX Spark für LLMs: Speicher, Tempo, Kaufberatung

Im Vergleich

	M3 Ultra	DGX Spark
Was es ist	Mac Studio (2025)	Ein kompletter kleiner Computer
Speichergrößen	96, 256, 512 GB	128 GB
Speicherbandbreite	819 GB/s	273 GB/s
Für Modelle, höchstens	etwa 384 GB	etwa 96 GB
Modelle, die gut laufen	60 von 73	39 von 73
Gemessen: Schreiben	92 tok/s	57 tok/s
Gemessen: Prompt lesen	1.471 tok/s	3.062 tok/s

Gemessene Zeilen: das schnellste Ergebnis jedes Geräts in den öffentlichen Benchmarks von llama.cpp mit Llama 2 7B Q4_0, 128 Tokens schreiben (tg128) und einen Prompt mit 512 Tokens lesen (pp512), in Tokens pro Sekunde. Der Mac lief mit Metal, der DGX Spark mit CUDA. Ergebnisse für Apple Silicon · Ergebnisse für DGX Spark Für Modelle rechnen wir bei beiden mit etwa 75 % des Speichers, dem Standard von macOS, weil auch der DGX Spark einen gemeinsamen Speicher für CPU und GPU hat. Wie viel seine GPU wirklich nutzen darf, hängt von Betriebssystem und Einstellungen ab.

Wo welcher gewinnt

Schreibtempo. Der M3 Ultra liest den Speicher etwa 200 % schneller als der DGX Spark (819 gegenüber 273 GB/s) und schreibt daher mit jedem Modell, das in beide passt, etwa 200 % schneller.
Modellgröße. Der M3 Ultra hat etwa 384 GB für Modelle, der DGX Spark etwa 96 GB. 60 von 73 beliebten offenen Modellen laufen gut auf dem M3 Ultra, 39 auf dem DGX Spark.
Lange Prompts lesen. Im gemessenen Test von llama.cpp liest der DGX Spark einen Prompt etwa 2,1× so schnell (3.062 gegenüber 1.471 Tokens pro Sekunde). Das Lesen eines Prompts hängt von der Rechenleistung der GPU ab, nicht von der Speicherbandbreite, und bestimmt die Wartezeit bis zum ersten Wort bei einem langen Dokument oder einer Codebasis.
Software. Der DGX Spark nutzt NVIDIAs CUDA, das die meiste KI-Software zuerst unterstützt, darunter Trainingscode und viele Bild- und Videowerkzeuge. Auf einem Mac laufen Modelle stattdessen mit MLX, dem Metal-Backend von llama.cpp oder dem MPS-Backend von PyTorch.
Drumherum. Beide sind komplette Computer, die das Modell in einem gemeinsamen Speicher für CPU und GPU halten.
Der Mac. Er ist auch ein Computer für jeden Tag und führt MLX Harness und MLX Node aus, die für Apple Silicon gemacht sind.

Tempo mit beliebten Modellen

Tokens pro Sekunde für eine Unterhaltung, jeder Chip mit seiner größten Speichergröße (512 GB und 128 GB), mit der besten Version des Modells, die passt.

Modell	M3 Ultra	DGX Spark
Llama 3.1 8B Instruct8B	43–77 8 Bit	14–26 8 Bit
gpt-oss-20b21B · 3,6B aktiv	194–345 4,25 Bit nativ	65–115 4,25 Bit nativ
Qwen3.6 35B A3B35B · 3B aktiv	115–205 8 Bit	38–68 8 Bit
Qwen3.8 27B27B	13–23 8 Bit	4–8 8 Bit
Llama 3.3 70B Instruct70B	5–9 8 Bit	2–3 8 Bit
gpt-oss-120b117B · 5,1B aktiv	137–243 4,25 Bit nativ	45–81 4,25 Bit nativ
Qwen3.5 122B A10B122B · 10B aktiv	35–62 8 Bit	22–39 4 Bit
DeepSeek V4 Flash 0731284B · 13B aktiv	27–47 8 Bit	30–53 2 Bit geringere Qualität

Fragen

Ist der DGX Spark schneller als der M3 Ultra für LLMs?: Der M3 Ultra liest den Speicher etwa 200 % schneller als der DGX Spark (819 gegenüber 273 GB/s) und schreibt daher mit jedem Modell, das in beide passt, etwa 200 % schneller. Im gemessenen Test von llama.cpp liest der DGX Spark einen Prompt etwa 2,1× so schnell (3.062 gegenüber 1.471 Tokens pro Sekunde). Das Lesen eines Prompts hängt von der Rechenleistung der GPU ab, nicht von der Speicherbandbreite, und bestimmt die Wartezeit bis zum ersten Wort bei einem langen Dokument oder einer Codebasis.
Welcher führt größere Modelle aus, der M3 Ultra oder der DGX Spark?: Der M3 Ultra hat etwa 384 GB für Modelle, der DGX Spark etwa 96 GB. 60 von 73 beliebten offenen Modellen laufen gut auf dem M3 Ultra, 39 auf dem DGX Spark.
Läuft MLX Node auf dem DGX Spark?: Nein. MLX Node und MLX Harness laufen nur auf Macs mit Apple Silicon, mit Apples MLX-Framework.

Weitere Vergleiche

Der M3 Ultra für lokale KI · Alle Modelle vergleichen · Der beste Mac für lokale LLMs

So wird gerechnet

Speicher: die Parameter des Modells mit 8, 6, 4, 3 oder 2 Bit pro Gewicht plus die Gruppenskalen von MLX (ein halbes Bit pro Gewicht) oder in seinem nativen Format, dazu Platz für den Kontext. Standardmäßig lässt macOS die GPU etwa 75 % des gemeinsamen Arbeitsspeichers nutzen. Tempo: Speicherbandbreite geteilt durch die pro Token gelesenen Bytes ergibt die Obergrenze für eine Unterhaltung; in den öffentlichen Apple Silicon Benchmarks von llama.cpp erreichen echte Läufe etwa 45 % bis 80 % davon, und diese Spanne zeigen wir. Das sind Schätzungen, keine Messungen: Miss deinen eigenen Mac mit MLX Bench. Modellwerte aus der jeweiligen offiziellen Model Card, Chipwerte aus Apples technischen Daten. Geprüft am 2026-10-19. Dieselben Daten wie auf mlx.app/compare.

Angaben zum DGX Spark: NVIDIA: DGX Spark (specs).