Czy DGX Spark jest szybszy od M5 Max w LLM?

M5 Max odczytuje pamięć o około 125% szybciej niż DGX Spark (614 wobec 273 GB/s), więc z każdym modelem, który mieści się w obu, generuje o około 125% szybciej. W zmierzonym teście llama.cpp oba czytają prompt w podobnym tempie (3220 i 3062 tokenów na sekundę).

Który uruchomi większe modele: M5 Max czy DGX Spark?

Oba mają około 96 GB na modele. 47 z 73 popularnych otwartych modeli działa dobrze na M5 Max, 39 na DGX Spark.

Czy MLX Node działa na DGX Spark?

Nie. MLX Node i MLX Harness działają tylko na Macach z Apple Silicon, z frameworkiem MLX firmy Apple.

M5 Max czy DGX Spark do LLM: pamięć, szybkość, co kupić

Obok siebie

	M5 Max	DGX Spark
Co to jest	MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra)	Kompletny mały komputer
Rozmiary pamięci	36, 48, 64, 128 GB	128 GB
Przepustowość pamięci	460–614 GB/s	273 GB/s
Dla modeli, maksymalnie	około 96 GB	około 96 GB
Modele działające dobrze	47 z 73	39 z 73
Zmierzone: generowanie	120 tok/s	57 tok/s
Zmierzone: czytanie promptu	3220 tok/s	3062 tok/s

Wiersze z pomiarami: najszybszy wynik każdej maszyny w publicznych benchmarkach llama.cpp z Llama 2 7B Q4_0, przy generowaniu 128 tokenów (tg128) i czytaniu promptu z 512 tokenów (pp512), w tokenach na sekundę. Mac działał z Metal, DGX Spark z CUDA. Wyniki Apple Silicon · Wyniki DGX Spark Dla modeli liczymy około 75% pamięci w obu, domyślną wartość macOS, bo DGX Spark także dzieli jedną pamięć między CPU i GPU. Ile naprawdę może użyć jego GPU, zależy od systemu operacyjnego i ustawień.

Gdzie który wygrywa

Szybkość generowania. M5 Max odczytuje pamięć o około 125% szybciej niż DGX Spark (614 wobec 273 GB/s), więc z każdym modelem, który mieści się w obu, generuje o około 125% szybciej.
Wielkość modelu. Oba mają około 96 GB na modele. 47 z 73 popularnych otwartych modeli działa dobrze na M5 Max, 39 na DGX Spark.
Czytanie długich promptów. W zmierzonym teście llama.cpp oba czytają prompt w podobnym tempie (3220 i 3062 tokenów na sekundę).
Oprogramowanie. DGX Spark korzysta z CUDA firmy NVIDIA, którą większość oprogramowania AI obsługuje w pierwszej kolejności, w tym kod do trenowania i wiele narzędzi do obrazu i wideo. Na Macu modele uruchamia się zamiast tego w MLX, w backendzie Metal llama.cpp albo w backendzie MPS PyTorcha.
Otoczenie. Oba to kompletne komputery, które trzymają model w jednej pamięci wspólnej dla CPU i GPU.
Mac. To także komputer na co dzień i uruchamia MLX Harness oraz MLX Node, stworzone dla Apple Silicon.

Szybkość z popularnymi modelami

Tokeny na sekundę w jednej rozmowie, każdy układ z największą pamięcią (128 GB i 128 GB), z najlepszą wersją modelu, która się mieści.

Model	M5 Max	DGX Spark
Llama 3.1 8B Instruct8B	33–58 8-bit	14–26 8-bit
gpt-oss-20b21B · aktywne: 3,6B	145–259 natywnie 4,25-bit	65–115 natywnie 4,25-bit
Qwen3.6 35B A3B35B · aktywne: 3B	86–154 8-bit	38–68 8-bit
Qwen3.8 27B27B	10–17 8-bit	4–8 8-bit
Llama 3.3 70B Instruct70B	4–7 8-bit	2–3 8-bit
gpt-oss-120b117B · aktywne: 5,1B	102–182 natywnie 4,25-bit	45–81 natywnie 4,25-bit
Qwen3.5 122B A10B122B · aktywne: 10B	49–88 4-bit	22–39 4-bit
DeepSeek V4 Flash 0731284B · aktywne: 13B	67–120 2-bit niższa jakość	30–53 2-bit niższa jakość

Pytania

Czy DGX Spark jest szybszy od M5 Max w LLM?: M5 Max odczytuje pamięć o około 125% szybciej niż DGX Spark (614 wobec 273 GB/s), więc z każdym modelem, który mieści się w obu, generuje o około 125% szybciej. W zmierzonym teście llama.cpp oba czytają prompt w podobnym tempie (3220 i 3062 tokenów na sekundę).
Który uruchomi większe modele: M5 Max czy DGX Spark?: Oba mają około 96 GB na modele. 47 z 73 popularnych otwartych modeli działa dobrze na M5 Max, 39 na DGX Spark.
Czy MLX Node działa na DGX Spark?: Nie. MLX Node i MLX Harness działają tylko na Macach z Apple Silicon, z frameworkiem MLX firmy Apple.

Więcej porównań

M5 Max do lokalnej AI · Porównaj wszystkie modele · Najlepszy Mac do lokalnych LLM

Jak to liczymy

Pamięć: parametry modelu przy 8, 6, 4, 3 lub 2 bitach na wagę plus skale grup MLX (pół bita na wagę) albo jego natywny format, a do tego miejsce na kontekst. Domyślnie macOS pozwala GPU używać około 75% pamięci zunifikowanej. Szybkość: przepustowość pamięci podzielona przez liczbę bajtów odczytywanych na token to górna granica dla jednej rozmowy; w publicznych testach llama.cpp na Apple Silicon rzeczywiste uruchomienia osiągają od około 45% do 80% tej wartości i właśnie ten zakres pokazujemy. To szacunki, nie pomiary: zmierz swojego Maca w MLX Bench. Dane modeli pochodzą z oficjalnych kart modeli, dane układów ze specyfikacji technicznych Apple. Sprawdzono 2026-10-19. Te same dane co na mlx.app/compare.

Dane DGX Spark: NVIDIA: DGX Spark (specs).