Δίπλα δίπλα
| M5 Ultra | RTX PRO 6000 | |
|---|---|---|
| Τι είναι | Mac Studio (M5 Max or M5 Ultra) | Κάρτα γραφικών για επιτραπέζιο PC |
| Μεγέθη μνήμης | 96, 256, 512 GB | 96 GB |
| Εύρος ζώνης μνήμης | 1.200 GB/s | 1.792 GB/s |
| Για μοντέλα, το πολύ | περίπου 384 GB | περίπου 95 GB |
| Μοντέλα που τρέχουν καλά | 70 από 82 | 58 από 82 |
| Μετρημένο: γραφή | 179 tok/s | 274 tok/s |
| Μετρημένο: ανάγνωση prompt | 4.945 tok/s | 14.855 tok/s |
Γραμμές με μετρήσεις: το ταχύτερο αποτέλεσμα κάθε μηχανήματος στα δημόσια benchmarks του llama.cpp με Llama 2 7B Q4_0, γραφή 128 tokens (tg128) και ανάγνωση prompt 512 tokens (pp512), σε tokens ανά δευτερόλεπτο. Ο Mac έτρεξε με Metal, το RTX PRO 6000 με CUDA. Αποτελέσματα Apple Silicon · Αποτελέσματα RTX PRO 6000 Για τα μοντέλα υπολογίζουμε τα 96 GB του ίδιου του RTX PRO 6000 μείον περίπου 1 GB, και περίπου το 75% της ενοποιημένης μνήμης του Mac, την προεπιλογή του macOS.
Πού κερδίζει το καθένα
- Ταχύτητα γραφής. Το RTX PRO 6000 γράφει περίπου 49% πιο γρήγορα από το M5 Ultra με κάθε μοντέλο που χωράει και στα δύο. Διαβάζει τη μνήμη 49% πιο γρήγορα: 1.792 έναντι 1.200 GB/s.
- Μέγεθος μοντέλου. Για μοντέλα, το M5 Ultra έχει περίπου 384 GB και το RTX PRO 6000 περίπου 95 GB. 70 από 82 δημοφιλή ανοιχτά μοντέλα τρέχουν καλά στο M5 Ultra, 58 στο RTX PRO 6000.
- Ανάγνωση μεγάλων prompt. Στη μετρημένη δοκιμή του llama.cpp, το RTX PRO 6000 διαβάζει ένα prompt περίπου 3× πιο γρήγορα (14.855 έναντι 4.945 tokens ανά δευτερόλεπτο). Η ανάγνωση ενός prompt εξαρτάται από την υπολογιστική ισχύ της GPU και όχι από το εύρος ζώνης μνήμης, οπότε αυτό καθορίζει την αναμονή μέχρι την πρώτη λέξη με ένα μεγάλο έγγραφο ή codebase.
- Λογισμικό. Το RTX PRO 6000 τρέχει το CUDA της NVIDIA, που το περισσότερο λογισμικό AI υποστηρίζει πρώτο, μαζί με κώδικα εκπαίδευσης και πολλά εργαλεία εικόνας και βίντεο. Σε Mac τρέχετε τα μοντέλα με MLX, το backend Metal του llama.cpp ή το backend MPS του PyTorch.
- Το υπόλοιπο σύστημα. Μια κάρτα γραφικών χρειάζεται ένα PC γύρω της, και τα δικά της 96 GB είναι το όριο: ένα μοντέλο που δεν χωράει πρέπει να τρέξει εν μέρει από την πολύ πιο αργή μνήμη συστήματος του PC ή σε δεύτερη κάρτα.
- Ο Mac. Είναι επίσης υπολογιστής για κάθε μέρα και τρέχει το MLX Node, που είναι φτιαγμένο για Apple Silicon.
Ταχύτητα με δημοφιλή μοντέλα
Tokens ανά δευτερόλεπτο για μία συνομιλία, κάθε τσιπ στο μεγαλύτερο μέγεθος μνήμης του (512 GB και 96 GB), με την καλύτερη έκδοση του μοντέλου που χωράει.
| Μοντέλο | M5 Ultra | RTX PRO 6000 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 64–113 8-bit | 95–169 8-bit |
| gpt-oss-20b21B · 3,6B ενεργές | 284–505 εγγενές 4,25-bit | 424–755 εγγενές 4,25-bit |
| Qwen3.6 35B A3B35B · 3B ενεργές | 169–300 8-bit | 252–448 8-bit |
| Qwen3.8 27B27B | 19–33 8-bit | 28–50 8-bit |
| Llama 3.3 70B Instruct70B | 14–24 4-bit | 11–19 8-bit |
| gpt-oss-120b117B · 5,1B ενεργές | 200–356 εγγενές 4,25-bit | 299–531 εγγενές 4,25-bit |
| Qwen3.5 122B A10B122B · 10B ενεργές | 51–91 8-bit | 144–256 4-bit |
| DeepSeek V4 Flash 0731284B · 13B ενεργές | 39–70 8-bit | πολύ μεγάλο |
Οι καλύτερες εφαρμογές AI για ένα Mac σαν αυτό στο AI App Store: τιμή, άδεια και πού πηγαίνουν τα δεδομένα σας.
Ερωτήσεις
- Είναι το RTX PRO 6000 πιο γρήγορο από το M5 Ultra για LLM;
- Το RTX PRO 6000 γράφει περίπου 49% πιο γρήγορα από το M5 Ultra με κάθε μοντέλο που χωράει και στα δύο. Διαβάζει τη μνήμη 49% πιο γρήγορα: 1.792 έναντι 1.200 GB/s. Στη μετρημένη δοκιμή του llama.cpp, το RTX PRO 6000 διαβάζει ένα prompt περίπου 3× πιο γρήγορα (14.855 έναντι 4.945 tokens ανά δευτερόλεπτο). Η ανάγνωση ενός prompt εξαρτάται από την υπολογιστική ισχύ της GPU και όχι από το εύρος ζώνης μνήμης, οπότε αυτό καθορίζει την αναμονή μέχρι την πρώτη λέξη με ένα μεγάλο έγγραφο ή codebase.
- Ποιο τρέχει μεγαλύτερα μοντέλα, το M5 Ultra ή το RTX PRO 6000;
- Για μοντέλα, το M5 Ultra έχει περίπου 384 GB και το RTX PRO 6000 περίπου 95 GB. 70 από 82 δημοφιλή ανοιχτά μοντέλα τρέχουν καλά στο M5 Ultra, 58 στο RTX PRO 6000.
- Μπορεί το MLX Node να τρέξει στο RTX PRO 6000;
- Όχι. Το MLX Node τρέχει μόνο σε Mac με Apple Silicon.
Περισσότερες συγκρίσεις
Το M5 Ultra για τοπικό AI · Συγκρίνετε όλα τα μοντέλα · Ο καλύτερος Mac για τοπικά LLM
Πώς υπολογίζεται
Μνήμη: οι παράμετροι του μοντέλου σε 8, 6, 4, 3 ή 2 bit ανά βάρος συν τις κλίμακες ομάδων του MLX (μισό bit ανά βάρος), ή στην εγγενή του μορφή, με χώρο για τα συμφραζόμενα από πάνω. Από προεπιλογή το macOS αφήνει την GPU να χρησιμοποιεί περίπου το 75% της ενοποιημένης μνήμης. Ταχύτητα: το εύρος ζώνης μνήμης διαιρεμένο με τα bytes που διαβάζονται ανά token είναι το ανώτατο όριο για μία συνομιλία· στα δημόσια benchmarks Apple Silicon του llama.cpp οι πραγματικές εκτελέσεις φτάνουν περίπου το 45% έως 80% του ορίου, και αυτό το εύρος δείχνουμε. Είναι εκτιμήσεις, όχι μετρήσεις: μετρήστε τον δικό σας Mac στο MLX Bench. Στοιχεία μοντέλων από την επίσημη κάρτα κάθε μοντέλου, στοιχεία τσιπ από τα Τεχνικά χαρακτηριστικά της Apple. Ελέγχθηκε 2026-10-19. Ίδια δεδομένα με το mlx.app/compare.
Ανοιχτά δεδομένα: mlx.app/data (JSON, CSV)
Στοιχεία για το RTX PRO 6000: NVIDIA: RTX PRO 6000 Blackwell Workstation Edition, NVIDIA: RTX PRO Desktop GPUs (compare table).