Czy DGX Spark jest szybszy od M5 Ultra w LLM?

M5 Ultra odczytuje pamięć o około 340% szybciej niż DGX Spark (1200 wobec 273 GB/s), więc z każdym modelem, który mieści się w obu, generuje o około 340% szybciej. W zmierzonym teście llama.cpp M5 Ultra czyta prompt około 1,6× szybciej (4945 wobec 3062 tokenów na sekundę). Czytanie promptu zależy od mocy obliczeniowej GPU, a nie od przepustowości pamięci, i to ono decyduje, jak długo czekasz na pierwsze słowo przy długim dokumencie lub repozytorium kodu.

Który uruchomi większe modele: M5 Ultra czy DGX Spark?

M5 Ultra ma około 384 GB na modele, DGX Spark około 96 GB. 61 z 73 popularnych otwartych modeli działa dobrze na M5 Ultra, 39 na DGX Spark.

Czy MLX Node działa na DGX Spark?

Nie. MLX Node i MLX Harness działają tylko na Macach z Apple Silicon, z frameworkiem MLX firmy Apple.

M5 Ultra czy DGX Spark do LLM: pamięć, szybkość, co kupić

Obok siebie

	M5 Ultra	DGX Spark
Co to jest	Mac Studio (M5 Max or M5 Ultra)	Kompletny mały komputer
Rozmiary pamięci	96, 256, 512 GB	128 GB
Przepustowość pamięci	1200 GB/s	273 GB/s
Dla modeli, maksymalnie	około 384 GB	około 96 GB
Modele działające dobrze	61 z 73	39 z 73
Zmierzone: generowanie	179 tok/s	57 tok/s
Zmierzone: czytanie promptu	4945 tok/s	3062 tok/s

Wiersze z pomiarami: najszybszy wynik każdej maszyny w publicznych benchmarkach llama.cpp z Llama 2 7B Q4_0, przy generowaniu 128 tokenów (tg128) i czytaniu promptu z 512 tokenów (pp512), w tokenach na sekundę. Mac działał z Metal, DGX Spark z CUDA. Wyniki Apple Silicon · Wyniki DGX Spark Dla modeli liczymy około 75% pamięci w obu, domyślną wartość macOS, bo DGX Spark także dzieli jedną pamięć między CPU i GPU. Ile naprawdę może użyć jego GPU, zależy od systemu operacyjnego i ustawień.

Gdzie który wygrywa

Szybkość generowania. M5 Ultra odczytuje pamięć o około 340% szybciej niż DGX Spark (1200 wobec 273 GB/s), więc z każdym modelem, który mieści się w obu, generuje o około 340% szybciej.
Wielkość modelu. M5 Ultra ma około 384 GB na modele, DGX Spark około 96 GB. 61 z 73 popularnych otwartych modeli działa dobrze na M5 Ultra, 39 na DGX Spark.
Czytanie długich promptów. W zmierzonym teście llama.cpp M5 Ultra czyta prompt około 1,6× szybciej (4945 wobec 3062 tokenów na sekundę). Czytanie promptu zależy od mocy obliczeniowej GPU, a nie od przepustowości pamięci, i to ono decyduje, jak długo czekasz na pierwsze słowo przy długim dokumencie lub repozytorium kodu.
Oprogramowanie. DGX Spark korzysta z CUDA firmy NVIDIA, którą większość oprogramowania AI obsługuje w pierwszej kolejności, w tym kod do trenowania i wiele narzędzi do obrazu i wideo. Na Macu modele uruchamia się zamiast tego w MLX, w backendzie Metal llama.cpp albo w backendzie MPS PyTorcha.
Otoczenie. Oba to kompletne komputery, które trzymają model w jednej pamięci wspólnej dla CPU i GPU.
Mac. To także komputer na co dzień i uruchamia MLX Harness oraz MLX Node, stworzone dla Apple Silicon.

Szybkość z popularnymi modelami

Tokeny na sekundę w jednej rozmowie, każdy układ z największą pamięcią (512 GB i 128 GB), z najlepszą wersją modelu, która się mieści.

Model	M5 Ultra	DGX Spark
Llama 3.1 8B Instruct8B	64–113 8-bit	14–26 8-bit
gpt-oss-20b21B · aktywne: 3,6B	284–505 natywnie 4,25-bit	65–115 natywnie 4,25-bit
Qwen3.6 35B A3B35B · aktywne: 3B	169–300 8-bit	38–68 8-bit
Qwen3.8 27B27B	19–33 8-bit	4–8 8-bit
Llama 3.3 70B Instruct70B	14–24 4-bit	2–3 8-bit
gpt-oss-120b117B · aktywne: 5,1B	200–356 natywnie 4,25-bit	45–81 natywnie 4,25-bit
Qwen3.5 122B A10B122B · aktywne: 10B	51–91 8-bit	22–39 4-bit
DeepSeek V4 Flash 0731284B · aktywne: 13B	39–70 8-bit	30–53 2-bit niższa jakość

Pytania

Czy DGX Spark jest szybszy od M5 Ultra w LLM?: M5 Ultra odczytuje pamięć o około 340% szybciej niż DGX Spark (1200 wobec 273 GB/s), więc z każdym modelem, który mieści się w obu, generuje o około 340% szybciej. W zmierzonym teście llama.cpp M5 Ultra czyta prompt około 1,6× szybciej (4945 wobec 3062 tokenów na sekundę). Czytanie promptu zależy od mocy obliczeniowej GPU, a nie od przepustowości pamięci, i to ono decyduje, jak długo czekasz na pierwsze słowo przy długim dokumencie lub repozytorium kodu.
Który uruchomi większe modele: M5 Ultra czy DGX Spark?: M5 Ultra ma około 384 GB na modele, DGX Spark około 96 GB. 61 z 73 popularnych otwartych modeli działa dobrze na M5 Ultra, 39 na DGX Spark.
Czy MLX Node działa na DGX Spark?: Nie. MLX Node i MLX Harness działają tylko na Macach z Apple Silicon, z frameworkiem MLX firmy Apple.

Więcej porównań

M5 Ultra do lokalnej AI · Porównaj wszystkie modele · Najlepszy Mac do lokalnych LLM

Jak to liczymy

Pamięć: parametry modelu przy 8, 6, 4, 3 lub 2 bitach na wagę plus skale grup MLX (pół bita na wagę) albo jego natywny format, a do tego miejsce na kontekst. Domyślnie macOS pozwala GPU używać około 75% pamięci zunifikowanej. Szybkość: przepustowość pamięci podzielona przez liczbę bajtów odczytywanych na token to górna granica dla jednej rozmowy; w publicznych testach llama.cpp na Apple Silicon rzeczywiste uruchomienia osiągają od około 45% do 80% tej wartości i właśnie ten zakres pokazujemy. To szacunki, nie pomiary: zmierz swojego Maca w MLX Bench. Dane modeli pochodzą z oficjalnych kart modeli, dane układów ze specyfikacji technicznych Apple. Sprawdzono 2026-10-19. Te same dane co na mlx.app/compare.

Dane DGX Spark: NVIDIA: DGX Spark (specs).