Είναι το DGX Spark πιο γρήγορο από το M5 Ultra για LLM;

Το M5 Ultra γράφει περίπου 340% πιο γρήγορα από το DGX Spark με κάθε μοντέλο που χωράει και στα δύο. Διαβάζει τη μνήμη 340% πιο γρήγορα: 1.200 έναντι 273 GB/s. Στη μετρημένη δοκιμή του llama.cpp, το M5 Ultra διαβάζει ένα prompt περίπου 1,6× πιο γρήγορα (4.945 έναντι 3.062 tokens ανά δευτερόλεπτο). Η ανάγνωση ενός prompt εξαρτάται από την υπολογιστική ισχύ της GPU και όχι από το εύρος ζώνης μνήμης, οπότε αυτό καθορίζει την αναμονή μέχρι την πρώτη λέξη με ένα μεγάλο έγγραφο ή codebase.

Ποιο τρέχει μεγαλύτερα μοντέλα, το M5 Ultra ή το DGX Spark;

Για μοντέλα, το M5 Ultra έχει περίπου 384 GB και το DGX Spark περίπου 96 GB. 70 από 82 δημοφιλή ανοιχτά μοντέλα τρέχουν καλά στο M5 Ultra, 47 στο DGX Spark.

Μπορεί το MLX Node να τρέξει στο DGX Spark;

Όχι. Το MLX Node τρέχει μόνο σε Mac με Apple Silicon.

M5 Ultra vs DGX Spark για LLM: μνήμη, ταχύτητα, ποιο να αγοράσετε

Δίπλα δίπλα

	M5 Ultra	DGX Spark
Τι είναι	Mac Studio (M5 Max or M5 Ultra)	Ένας πλήρης μικρός υπολογιστής
Μεγέθη μνήμης	96, 256, 512 GB	128 GB
Εύρος ζώνης μνήμης	1.200 GB/s	273 GB/s
Για μοντέλα, το πολύ	περίπου 384 GB	περίπου 96 GB
Μοντέλα που τρέχουν καλά	70 από 82	47 από 82
Μετρημένο: γραφή	179 tok/s	57 tok/s
Μετρημένο: ανάγνωση prompt	4.945 tok/s	3.062 tok/s

Γραμμές με μετρήσεις: το ταχύτερο αποτέλεσμα κάθε μηχανήματος στα δημόσια benchmarks του llama.cpp με Llama 2 7B Q4_0, γραφή 128 tokens (tg128) και ανάγνωση prompt 512 tokens (pp512), σε tokens ανά δευτερόλεπτο. Ο Mac έτρεξε με Metal, το DGX Spark με CUDA. Αποτελέσματα Apple Silicon · Αποτελέσματα DGX Spark Για τα μοντέλα υπολογίζουμε περίπου το 75% της μνήμης και στα δύο, την προεπιλογή του macOS, επειδή και το DGX Spark μοιράζεται μία ενιαία μνήμη ανάμεσα σε CPU και GPU. Πόση μπορεί πραγματικά να χρησιμοποιήσει η GPU του εξαρτάται από το λειτουργικό σύστημα και τις ρυθμίσεις του.

Πού κερδίζει το καθένα

Ταχύτητα γραφής. Το M5 Ultra γράφει περίπου 340% πιο γρήγορα από το DGX Spark με κάθε μοντέλο που χωράει και στα δύο. Διαβάζει τη μνήμη 340% πιο γρήγορα: 1.200 έναντι 273 GB/s.
Μέγεθος μοντέλου. Για μοντέλα, το M5 Ultra έχει περίπου 384 GB και το DGX Spark περίπου 96 GB. 70 από 82 δημοφιλή ανοιχτά μοντέλα τρέχουν καλά στο M5 Ultra, 47 στο DGX Spark.
Ανάγνωση μεγάλων prompt. Στη μετρημένη δοκιμή του llama.cpp, το M5 Ultra διαβάζει ένα prompt περίπου 1,6× πιο γρήγορα (4.945 έναντι 3.062 tokens ανά δευτερόλεπτο). Η ανάγνωση ενός prompt εξαρτάται από την υπολογιστική ισχύ της GPU και όχι από το εύρος ζώνης μνήμης, οπότε αυτό καθορίζει την αναμονή μέχρι την πρώτη λέξη με ένα μεγάλο έγγραφο ή codebase.
Λογισμικό. Το DGX Spark τρέχει το CUDA της NVIDIA, που το περισσότερο λογισμικό AI υποστηρίζει πρώτο, μαζί με κώδικα εκπαίδευσης και πολλά εργαλεία εικόνας και βίντεο. Σε Mac τρέχετε τα μοντέλα με MLX, το backend Metal του llama.cpp ή το backend MPS του PyTorch.
Το υπόλοιπο σύστημα. Και τα δύο είναι πλήρεις υπολογιστές που κρατούν το μοντέλο σε μία ενιαία μνήμη, κοινή για CPU και GPU.
Ο Mac. Είναι επίσης υπολογιστής για κάθε μέρα και τρέχει το MLX Node, που είναι φτιαγμένο για Apple Silicon.

Ταχύτητα με δημοφιλή μοντέλα

Tokens ανά δευτερόλεπτο για μία συνομιλία, κάθε τσιπ στο μεγαλύτερο μέγεθος μνήμης του (512 GB και 128 GB), με την καλύτερη έκδοση του μοντέλου που χωράει.

Μοντέλο	M5 Ultra	DGX Spark
Llama 3.1 8B Instruct8B	64–113 8-bit	14–26 8-bit
gpt-oss-20b21B · 3,6B ενεργές	284–505 εγγενές 4,25-bit	65–115 εγγενές 4,25-bit
Qwen3.6 35B A3B35B · 3B ενεργές	169–300 8-bit	38–68 8-bit
Qwen3.8 27B27B	19–33 8-bit	4–8 8-bit
Llama 3.3 70B Instruct70B	14–24 4-bit	2–3 8-bit
gpt-oss-120b117B · 5,1B ενεργές	200–356 εγγενές 4,25-bit	45–81 εγγενές 4,25-bit
Qwen3.5 122B A10B122B · 10B ενεργές	51–91 8-bit	22–39 4-bit
DeepSeek V4 Flash 0731284B · 13B ενεργές	39–70 8-bit	30–53 2-bit χαμηλότερη ποιότητα

Οι καλύτερες εφαρμογές AI για ένα Mac σαν αυτό στο AI App Store: τιμή, άδεια και πού πηγαίνουν τα δεδομένα σας.

Ερωτήσεις

Είναι το DGX Spark πιο γρήγορο από το M5 Ultra για LLM;: Το M5 Ultra γράφει περίπου 340% πιο γρήγορα από το DGX Spark με κάθε μοντέλο που χωράει και στα δύο. Διαβάζει τη μνήμη 340% πιο γρήγορα: 1.200 έναντι 273 GB/s. Στη μετρημένη δοκιμή του llama.cpp, το M5 Ultra διαβάζει ένα prompt περίπου 1,6× πιο γρήγορα (4.945 έναντι 3.062 tokens ανά δευτερόλεπτο). Η ανάγνωση ενός prompt εξαρτάται από την υπολογιστική ισχύ της GPU και όχι από το εύρος ζώνης μνήμης, οπότε αυτό καθορίζει την αναμονή μέχρι την πρώτη λέξη με ένα μεγάλο έγγραφο ή codebase.
Ποιο τρέχει μεγαλύτερα μοντέλα, το M5 Ultra ή το DGX Spark;: Για μοντέλα, το M5 Ultra έχει περίπου 384 GB και το DGX Spark περίπου 96 GB. 70 από 82 δημοφιλή ανοιχτά μοντέλα τρέχουν καλά στο M5 Ultra, 47 στο DGX Spark.
Μπορεί το MLX Node να τρέξει στο DGX Spark;: Όχι. Το MLX Node τρέχει μόνο σε Mac με Apple Silicon.

Περισσότερες συγκρίσεις

Το M5 Ultra για τοπικό AI · Συγκρίνετε όλα τα μοντέλα · Ο καλύτερος Mac για τοπικά LLM

Πώς υπολογίζεται

Μνήμη: οι παράμετροι του μοντέλου σε 8, 6, 4, 3 ή 2 bit ανά βάρος συν τις κλίμακες ομάδων του MLX (μισό bit ανά βάρος), ή στην εγγενή του μορφή, με χώρο για τα συμφραζόμενα από πάνω. Από προεπιλογή το macOS αφήνει την GPU να χρησιμοποιεί περίπου το 75% της ενοποιημένης μνήμης. Ταχύτητα: το εύρος ζώνης μνήμης διαιρεμένο με τα bytes που διαβάζονται ανά token είναι το ανώτατο όριο για μία συνομιλία· στα δημόσια benchmarks Apple Silicon του llama.cpp οι πραγματικές εκτελέσεις φτάνουν περίπου το 45% έως 80% του ορίου, και αυτό το εύρος δείχνουμε. Είναι εκτιμήσεις, όχι μετρήσεις: μετρήστε τον δικό σας Mac στο MLX Bench. Στοιχεία μοντέλων από την επίσημη κάρτα κάθε μοντέλου, στοιχεία τσιπ από τα Τεχνικά χαρακτηριστικά της Apple. Ελέγχθηκε 2026-10-19. Ίδια δεδομένα με το mlx.app/compare.

Ανοιχτά δεδομένα: mlx.app/data (JSON, CSV)

Στοιχεία για το DGX Spark: NVIDIA: DGX Spark (specs).