M3 Ultra vs DGX Spark για τοπικό AI.

Το M3 Ultra γράφει περίπου 200% πιο γρήγορα από το DGX Spark με κάθε μοντέλο που χωράει και στα δύο. Διαβάζει τη μνήμη 200% πιο γρήγορα: 819 έναντι 273 GB/s. Για μοντέλα, το M3 Ultra έχει περίπου 384 GB και το DGX Spark περίπου 96 GB.

Ενημέρωση

M3 Ultra819 GB/sέως 512 GB · 69 μοντέλα τρέχουν καλάDGX Spark273 GB/sέως 128 GB · 47 μοντέλα τρέχουν καλά

Δίπλα δίπλα

M3 UltraDGX Spark
Τι είναιMac Studio (2025)Ένας πλήρης μικρός υπολογιστής
Μεγέθη μνήμης96, 256, 512 GB128 GB
Εύρος ζώνης μνήμης819 GB/s273 GB/s
Για μοντέλα, το πολύπερίπου 384 GBπερίπου 96 GB
Μοντέλα που τρέχουν καλά69 από 8247 από 82
Μετρημένο: γραφή92 tok/s57 tok/s
Μετρημένο: ανάγνωση prompt1.471 tok/s3.062 tok/s

Γραμμές με μετρήσεις: το ταχύτερο αποτέλεσμα κάθε μηχανήματος στα δημόσια benchmarks του llama.cpp με Llama 2 7B Q4_0, γραφή 128 tokens (tg128) και ανάγνωση prompt 512 tokens (pp512), σε tokens ανά δευτερόλεπτο. Ο Mac έτρεξε με Metal, το DGX Spark με CUDA. Αποτελέσματα Apple Silicon · Αποτελέσματα DGX Spark Για τα μοντέλα υπολογίζουμε περίπου το 75% της μνήμης και στα δύο, την προεπιλογή του macOS, επειδή και το DGX Spark μοιράζεται μία ενιαία μνήμη ανάμεσα σε CPU και GPU. Πόση μπορεί πραγματικά να χρησιμοποιήσει η GPU του εξαρτάται από το λειτουργικό σύστημα και τις ρυθμίσεις του.

Πού κερδίζει το καθένα

  • Ταχύτητα γραφής. Το M3 Ultra γράφει περίπου 200% πιο γρήγορα από το DGX Spark με κάθε μοντέλο που χωράει και στα δύο. Διαβάζει τη μνήμη 200% πιο γρήγορα: 819 έναντι 273 GB/s.
  • Μέγεθος μοντέλου. Για μοντέλα, το M3 Ultra έχει περίπου 384 GB και το DGX Spark περίπου 96 GB. 69 από 82 δημοφιλή ανοιχτά μοντέλα τρέχουν καλά στο M3 Ultra, 47 στο DGX Spark.
  • Ανάγνωση μεγάλων prompt. Στη μετρημένη δοκιμή του llama.cpp, το DGX Spark διαβάζει ένα prompt περίπου 2,1× πιο γρήγορα (3.062 έναντι 1.471 tokens ανά δευτερόλεπτο). Η ανάγνωση ενός prompt εξαρτάται από την υπολογιστική ισχύ της GPU και όχι από το εύρος ζώνης μνήμης, οπότε αυτό καθορίζει την αναμονή μέχρι την πρώτη λέξη με ένα μεγάλο έγγραφο ή codebase.
  • Λογισμικό. Το DGX Spark τρέχει το CUDA της NVIDIA, που το περισσότερο λογισμικό AI υποστηρίζει πρώτο, μαζί με κώδικα εκπαίδευσης και πολλά εργαλεία εικόνας και βίντεο. Σε Mac τρέχετε τα μοντέλα με MLX, το backend Metal του llama.cpp ή το backend MPS του PyTorch.
  • Το υπόλοιπο σύστημα. Και τα δύο είναι πλήρεις υπολογιστές που κρατούν το μοντέλο σε μία ενιαία μνήμη, κοινή για CPU και GPU.
  • Ο Mac. Είναι επίσης υπολογιστής για κάθε μέρα και τρέχει το MLX Node, που είναι φτιαγμένο για Apple Silicon.

Ταχύτητα με δημοφιλή μοντέλα

Tokens ανά δευτερόλεπτο για μία συνομιλία, κάθε τσιπ στο μεγαλύτερο μέγεθος μνήμης του (512 GB και 128 GB), με την καλύτερη έκδοση του μοντέλου που χωράει.

ΜοντέλοM3 UltraDGX Spark
Llama 3.1 8B Instruct8B43–77 8-bit14–26 8-bit
gpt-oss-20b21B · 3,6B ενεργές194–345 εγγενές 4,25-bit65–115 εγγενές 4,25-bit
Qwen3.6 35B A3B35B · 3B ενεργές115–205 8-bit38–68 8-bit
Qwen3.8 27B27B13–23 8-bit4–8 8-bit
Llama 3.3 70B Instruct70B5–9 8-bit2–3 8-bit
gpt-oss-120b117B · 5,1B ενεργές137–243 εγγενές 4,25-bit45–81 εγγενές 4,25-bit
Qwen3.5 122B A10B122B · 10B ενεργές35–62 8-bit22–39 4-bit
DeepSeek V4 Flash 0731284B · 13B ενεργές27–47 8-bit30–53 2-bit χαμηλότερη ποιότητα

Οι καλύτερες εφαρμογές AI για ένα Mac σαν αυτό στο AI App Store: τιμή, άδεια και πού πηγαίνουν τα δεδομένα σας.

Ερωτήσεις

Είναι το DGX Spark πιο γρήγορο από το M3 Ultra για LLM;
Το M3 Ultra γράφει περίπου 200% πιο γρήγορα από το DGX Spark με κάθε μοντέλο που χωράει και στα δύο. Διαβάζει τη μνήμη 200% πιο γρήγορα: 819 έναντι 273 GB/s. Στη μετρημένη δοκιμή του llama.cpp, το DGX Spark διαβάζει ένα prompt περίπου 2,1× πιο γρήγορα (3.062 έναντι 1.471 tokens ανά δευτερόλεπτο). Η ανάγνωση ενός prompt εξαρτάται από την υπολογιστική ισχύ της GPU και όχι από το εύρος ζώνης μνήμης, οπότε αυτό καθορίζει την αναμονή μέχρι την πρώτη λέξη με ένα μεγάλο έγγραφο ή codebase.
Ποιο τρέχει μεγαλύτερα μοντέλα, το M3 Ultra ή το DGX Spark;
Για μοντέλα, το M3 Ultra έχει περίπου 384 GB και το DGX Spark περίπου 96 GB. 69 από 82 δημοφιλή ανοιχτά μοντέλα τρέχουν καλά στο M3 Ultra, 47 στο DGX Spark.
Μπορεί το MLX Node να τρέξει στο DGX Spark;
Όχι. Το MLX Node τρέχει μόνο σε Mac με Apple Silicon.

Περισσότερες συγκρίσεις

Το M3 Ultra για τοπικό AI · Συγκρίνετε όλα τα μοντέλα · Ο καλύτερος Mac για τοπικά LLM

Πώς υπολογίζεται

Μνήμη: οι παράμετροι του μοντέλου σε 8, 6, 4, 3 ή 2 bit ανά βάρος συν τις κλίμακες ομάδων του MLX (μισό bit ανά βάρος), ή στην εγγενή του μορφή, με χώρο για τα συμφραζόμενα από πάνω. Από προεπιλογή το macOS αφήνει την GPU να χρησιμοποιεί περίπου το 75% της ενοποιημένης μνήμης. Ταχύτητα: το εύρος ζώνης μνήμης διαιρεμένο με τα bytes που διαβάζονται ανά token είναι το ανώτατο όριο για μία συνομιλία· στα δημόσια benchmarks Apple Silicon του llama.cpp οι πραγματικές εκτελέσεις φτάνουν περίπου το 45% έως 80% του ορίου, και αυτό το εύρος δείχνουμε. Είναι εκτιμήσεις, όχι μετρήσεις: μετρήστε τον δικό σας Mac στο MLX Bench. Στοιχεία μοντέλων από την επίσημη κάρτα κάθε μοντέλου, στοιχεία τσιπ από τα Τεχνικά χαρακτηριστικά της Apple. Ελέγχθηκε 2026-10-19. Ίδια δεδομένα με το mlx.app/compare.

Ανοιχτά δεδομένα: mlx.app/data (JSON, CSV)

Στοιχεία για το DGX Spark: NVIDIA: DGX Spark (specs).