Ανά μέγεθος μνήμης
| Μνήμη | Τρέχουν καλά | Το μεγαλύτερο που τρέχει καλά | gpt-oss-20b |
|---|---|---|---|
| 24 GB273 GB/s | 29 | Raon-1 mini Preview | 65–115 tok/s |
| 48 GB273 GB/s | 37 | Recursive Flint | 65–115 tok/s |
| 64 GB273 GB/s | 38 | Nemotron 3.5 Bolt 74B A9B | 65–115 tok/s |
Μοντέλα: MacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024). Δεν διατίθεται κάθε μέγεθος μνήμης με κάθε μοντέλο· τα Τεχνικά χαρακτηριστικά της Apple αναφέρουν τι προσφέρει το καθένα.
Οι καλύτερες εφαρμογές AI για ένα Mac σαν αυτό στο AI App Store: τιμή, άδεια και πού πηγαίνουν τα δεδομένα σας.
Ερωτήσεις
- Είναι ο MacBook Pro με M4 Pro καλός για τοπικά LLM;
- Με 64 GB τρέχει καλά 38 από 82 ανοιχτά μοντέλα, έως και το Nemotron 3.5 Bolt 74B A9B, και γράφει περίπου 65–115 tokens ανά δευτερόλεπτο με το gpt-oss-20b. Το M4 Pro διαβάζει τη μνήμη με 273 GB/s, κάτι που καθορίζει πόσο γρήγορα γράφει.
- Πόση μνήμη πρέπει να έχει ένας MacBook Pro με M4 Pro για AI;
- Με 24 GB τρέχει καλά 29 ανοιχτά μοντέλα· με 64 GB, 38, έως και το Nemotron 3.5 Bolt 74B A9B. Η μνήμη καθορίζει ποια μοντέλα χωρούν και δεν αναβαθμίζεται αργότερα.
Άλλοι Mac
Ο MacBook Pro με άλλα τσιπ:
- MacBook Pro M5
- MacBook Pro M5 Pro
- MacBook Pro M5 Max
- MacBook Pro M4
- MacBook Pro M4 Max
- MacBook Pro M3
- MacBook Pro M3 Pro
- MacBook Pro M3 Max
- MacBook Pro M2
- MacBook Pro M2 Pro
- MacBook Pro M2 Max
- MacBook Pro M1
- MacBook Pro M1 Pro
- MacBook Pro M1 Max
Άλλοι Mac με M4 Pro:
Κατά μέτωπο:
Απέναντι σε PC και κάρτες γραφικών:
Το M4 Pro για τοπικό AI · Ο καλύτερος Mac για τοπικά LLM · Πόση RAM χρειάζεται ένα LLM · Όλοι οι Mac
Πώς υπολογίζεται
Μνήμη: οι παράμετροι του μοντέλου σε 8, 6, 4, 3 ή 2 bit ανά βάρος συν τις κλίμακες ομάδων του MLX (μισό bit ανά βάρος), ή στην εγγενή του μορφή, με χώρο για τα συμφραζόμενα από πάνω. Από προεπιλογή το macOS αφήνει την GPU να χρησιμοποιεί περίπου το 75% της ενοποιημένης μνήμης. Ταχύτητα: το εύρος ζώνης μνήμης διαιρεμένο με τα bytes που διαβάζονται ανά token είναι το ανώτατο όριο για μία συνομιλία· στα δημόσια benchmarks Apple Silicon του llama.cpp οι πραγματικές εκτελέσεις φτάνουν περίπου το 45% έως 80% του ορίου, και αυτό το εύρος δείχνουμε. Είναι εκτιμήσεις, όχι μετρήσεις: μετρήστε τον δικό σας Mac στο MLX Bench. Στοιχεία μοντέλων από την επίσημη κάρτα κάθε μοντέλου, στοιχεία τσιπ από τα Τεχνικά χαρακτηριστικά της Apple. Ελέγχθηκε 2026-10-19. Ίδια δεδομένα με το mlx.app/compare.
Ανοιχτά δεδομένα: mlx.app/data (JSON, CSV)