Ανά μέγεθος μνήμης
| Μνήμη | Τρέχουν καλά | Το μεγαλύτερο που τρέχει καλά | gpt-oss-20b |
|---|---|---|---|
| 36 GB460 GB/s | 45 | Recursive Flint | 109–194 tok/s |
| 48 GB614 GB/s | 45 | Recursive Flint | 145–259 tok/s |
| 64 GB614 GB/s | 46 | Nemotron 3.5 Bolt 74B A9B | 145–259 tok/s |
| 128 GB614 GB/s | 55 | Qwen3.5 122B A10B | 145–259 tok/s |
Μοντέλα: Mac Studio (M5 Max or M5 Ultra). Δεν διατίθεται κάθε μέγεθος μνήμης με κάθε μοντέλο· τα Τεχνικά χαρακτηριστικά της Apple αναφέρουν τι προσφέρει το καθένα.
Οι καλύτερες εφαρμογές AI για ένα Mac σαν αυτό στο AI App Store: τιμή, άδεια και πού πηγαίνουν τα δεδομένα σας.
Ερωτήσεις
- Είναι ο Mac Studio με M5 Max καλός για τοπικά LLM;
- Με 128 GB τρέχει καλά 55 από 82 ανοιχτά μοντέλα, έως και το Qwen3.5 122B A10B, και γράφει περίπου 145–259 tokens ανά δευτερόλεπτο με το gpt-oss-20b. Το M5 Max διαβάζει τη μνήμη με 614 GB/s, κάτι που καθορίζει πόσο γρήγορα γράφει.
- Πόση μνήμη πρέπει να έχει ένας Mac Studio με M5 Max για AI;
- Με 36 GB τρέχει καλά 45 ανοιχτά μοντέλα· με 128 GB, 55, έως και το Qwen3.5 122B A10B. Η μνήμη καθορίζει ποια μοντέλα χωρούν και δεν αναβαθμίζεται αργότερα.
Άλλοι Mac
Ο Mac Studio με άλλα τσιπ:
- Mac Studio M5 Ultra
- Mac Studio M4 Max
- Mac Studio M3 Ultra
- Mac Studio M2 Max
- Mac Studio M2 Ultra
- Mac Studio M1 Max
- Mac Studio M1 Ultra
Άλλοι Mac με M5 Max:
Κατά μέτωπο:
- M1 Max vs M5 Max
- M3 Ultra vs M5 Max
- M4 Pro vs M5 Max
- M4 Max vs M5 Max
- M5 Pro vs M5 Max
- M5 Max vs M5 Ultra
Απέναντι σε PC και κάρτες γραφικών:
Το M5 Max για τοπικό AI · Mac mini ή Mac Studio για AI · Ο καλύτερος Mac για τοπικά LLM · Πόση RAM χρειάζεται ένα LLM · Όλοι οι Mac
Πώς υπολογίζεται
Μνήμη: οι παράμετροι του μοντέλου σε 8, 6, 4, 3 ή 2 bit ανά βάρος συν τις κλίμακες ομάδων του MLX (μισό bit ανά βάρος), ή στην εγγενή του μορφή, με χώρο για τα συμφραζόμενα από πάνω. Από προεπιλογή το macOS αφήνει την GPU να χρησιμοποιεί περίπου το 75% της ενοποιημένης μνήμης. Ταχύτητα: το εύρος ζώνης μνήμης διαιρεμένο με τα bytes που διαβάζονται ανά token είναι το ανώτατο όριο για μία συνομιλία· στα δημόσια benchmarks Apple Silicon του llama.cpp οι πραγματικές εκτελέσεις φτάνουν περίπου το 45% έως 80% του ορίου, και αυτό το εύρος δείχνουμε. Είναι εκτιμήσεις, όχι μετρήσεις: μετρήστε τον δικό σας Mac στο MLX Bench. Στοιχεία μοντέλων από την επίσημη κάρτα κάθε μοντέλου, στοιχεία τσιπ από τα Τεχνικά χαρακτηριστικά της Apple. Ελέγχθηκε 2026-10-19. Ίδια δεδομένα με το mlx.app/compare.
Ανοιχτά δεδομένα: mlx.app/data (JSON, CSV)