Δίπλα δίπλα
Ταχύτητα με δημοφιλή μοντέλα
Tokens ανά δευτερόλεπτο για μία συνομιλία, κάθε τσιπ στο μεγαλύτερο μέγεθος μνήμης του (512 GB και 512 GB), με την καλύτερη έκδοση του μοντέλου που χωράει.
| Μοντέλο | M3 Ultra | M5 Ultra |
|---|---|---|
| Llama 3.1 8B Instruct8B | 43–77 8-bit | 64–113 8-bit |
| gpt-oss-20b21B · 3,6B ενεργές | 194–345 εγγενές 4,25-bit | 284–505 εγγενές 4,25-bit |
| Qwen3.6 35B A3B35B · 3B ενεργές | 115–205 8-bit | 169–300 8-bit |
| Qwen3.8 27B27B | 13–23 8-bit | 19–33 8-bit |
| Llama 3.3 70B Instruct70B | 5–9 8-bit | 14–24 4-bit |
| gpt-oss-120b117B · 5,1B ενεργές | 137–243 εγγενές 4,25-bit | 200–356 εγγενές 4,25-bit |
| Qwen3.5 122B A10B122B · 10B ενεργές | 35–62 8-bit | 51–91 8-bit |
| DeepSeek V4 Flash 0731284B · 13B ενεργές | 27–47 8-bit | 39–70 8-bit |
Οι καλύτερες εφαρμογές AI για ένα Mac σαν αυτό στο AI App Store: τιμή, άδεια και πού πηγαίνουν τα δεδομένα σας.
Ερωτήσεις
- Είναι το M5 Ultra πιο γρήγορο από το M3 Ultra για LLM;
- Το M5 Ultra γράφει περίπου 47% πιο γρήγορα από το M3 Ultra με κάθε μοντέλο που χωράει και στα δύο. Διαβάζει τη μνήμη 47% πιο γρήγορα: 1.200 έναντι 819 GB/s. Η ανάγνωση ενός μεγάλου prompt εξαρτάται αντίθετα από την υπολογιστική ισχύ της GPU, που αυτή η σύγκριση δεν καλύπτει.
- Ποιο τρέχει μεγαλύτερα μοντέλα, το M3 Ultra ή το M5 Ultra;
- Κανένα: και τα δύο φτάνουν έως τα 512 GB. Σε αυτό το μέγεθος το M3 Ultra τρέχει καλά 69 και το M5 Ultra 70 από 82 ανοιχτά μοντέλα· το ταχύτερο φτάνει τα 10 tokens ανά δευτερόλεπτο σε περισσότερα από αυτά.
Περισσότερες συγκρίσεις
- M2 Ultra vs M3 Ultra
- M3 Max vs M3 Ultra
- M3 Ultra vs M4 Max
- M3 Ultra vs M5 Max
- M4 Max vs M5 Ultra
- M5 Max vs M5 Ultra
Το M3 Ultra για τοπικό AI · Το M5 Ultra για τοπικό AI · Συγκρίνετε όλα τα μοντέλα · Ο καλύτερος Mac για τοπικά LLM
Πώς υπολογίζεται
Μνήμη: οι παράμετροι του μοντέλου σε 8, 6, 4, 3 ή 2 bit ανά βάρος συν τις κλίμακες ομάδων του MLX (μισό bit ανά βάρος), ή στην εγγενή του μορφή, με χώρο για τα συμφραζόμενα από πάνω. Από προεπιλογή το macOS αφήνει την GPU να χρησιμοποιεί περίπου το 75% της ενοποιημένης μνήμης. Ταχύτητα: το εύρος ζώνης μνήμης διαιρεμένο με τα bytes που διαβάζονται ανά token είναι το ανώτατο όριο για μία συνομιλία· στα δημόσια benchmarks Apple Silicon του llama.cpp οι πραγματικές εκτελέσεις φτάνουν περίπου το 45% έως 80% του ορίου, και αυτό το εύρος δείχνουμε. Είναι εκτιμήσεις, όχι μετρήσεις: μετρήστε τον δικό σας Mac στο MLX Bench. Στοιχεία μοντέλων από την επίσημη κάρτα κάθε μοντέλου, στοιχεία τσιπ από τα Τεχνικά χαρακτηριστικά της Apple. Ελέγχθηκε 2026-10-19. Ίδια δεδομένα με το mlx.app/compare.
Ανοιχτά δεδομένα: mlx.app/data (JSON, CSV)