Μνήμη σε κάθε ακρίβεια
| Έκδοση | Βάρη | Με συμφραζόμενα | Μικρότερος Mac |
|---|---|---|---|
| 8-bit | 4 GB | 5,5 GB | 8 GB |
| 6-bit | 3,1 GB | 4,6 GB | 8 GB |
| 4-bit | 2,1 GB | 3,6 GB | 8 GB |
| 3-bit χαμηλότερη ποιότητα | 1,7 GB | 3,2 GB | 8 GB |
| 2-bit χαμηλότερη ποιότητα | 1,2 GB | 2,7 GB | 8 GB |
Σε κάθε τσιπ της Apple
Το μικρότερο μέγεθος μνήμης κάθε τσιπ που τρέχει το Phi-4 mini instruct, η καλύτερη έκδοση που χωράει και η ταχύτητα γραφής που μπορείτε να περιμένετε.
| Τσιπ | Απαιτεί | Έκδοση | Tokens/s |
|---|---|---|---|
| M6 | 16 GB | 8-bit Τρέχει καλά | 17–31 |
| M5 Ultra | 96 GB | 8-bit Τρέχει καλά | 135–240 |
| M5 Max | 36 GB | 8-bit Τρέχει καλά | 52–92 |
| M5 Pro | 24 GB | 8-bit Τρέχει καλά | 35–61 |
| M5 | 16 GB | 8-bit Τρέχει καλά | 17–31 |
| M4 Max | 36 GB | 8-bit Τρέχει καλά | 46–82 |
| M4 Pro | 24 GB | 8-bit Τρέχει καλά | 31–55 |
| M4 | 16 GB | 8-bit Τρέχει καλά | 14–24 |
| M3 Ultra | 96 GB | 8-bit Τρέχει καλά | 92–164 |
| M3 Max | 36 GB | 8-bit Τρέχει καλά | 34–60 |
| M3 Pro | 18 GB | 8-bit Τρέχει καλά | 17–30 |
| M3 | 8 GB | 8-bit Τρέχει καλά | 11–20 |
| M2 Ultra | 64 GB | 8-bit Τρέχει καλά | 90–160 |
| M2 Max | 32 GB | 8-bit Τρέχει καλά | 45–80 |
| M2 Pro | 16 GB | 8-bit Τρέχει καλά | 23–40 |
| M2 | 8 GB | 8-bit Τρέχει καλά | 11–20 |
| M1 Ultra | 64 GB | 8-bit Τρέχει καλά | 90–160 |
| M1 Max | 32 GB | 8-bit Τρέχει καλά | 45–80 |
| M1 Pro | 16 GB | 8-bit Τρέχει καλά | 23–40 |
| M1 | 8 GB | 6-bit Τρέχει καλά | 10–18 |
Πώς να το τρέξετε
pip install mlx-lmmlx_lm.chat --model mlx-community/Phi-4-mini-instruct-4bitBuild: mlx-community/Phi-4-mini-instruct-4bit στο Hugging Face. Οι άλλες ακρίβειες βρίσκονται ακριβώς δίπλα.Βήμα προς βήμα: λήψη και εκτέλεση LLM σε Mac · MLX vs Ollama vs llama.cpp
Το Phi-4 mini instruct στο AI App Store · Προτιμάτε μια εφαρμογή από το Τερματικό; Συγκρίνετε τις εφαρμογές Mac που τρέχουν τοπικά μοντέλα στο AI App Store: τιμή, άδεια και πού πηγαίνουν τα δεδομένα σας.
Σχετικά με το Phi-4 mini instruct
| Δημιουργός | Microsoft |
|---|---|
| Παράμετροι | 3,8B (dense) |
| Συμφραζόμενα | 128K tokens |
| Άδεια | MIT |
| Κυκλοφορία | 2025-02 |
| Είσοδος | Κείμενο |
| Βάρη | microsoft/Phi-4-mini-instruct |
Ερωτήσεις
- Πόση μνήμη χρειάζεται το Phi-4 mini instruct;
- Περίπου 2,1 GB για τα βάρη σε 4-bit, συν χώρο για τα συμφραζόμενα: 3,6 GB συνολικά. Σε Mac αυτό σημαίνει 8 GB ενοποιημένης μνήμης ή περισσότερα, αφού το macOS αφήνει από προεπιλογή την GPU να χρησιμοποιεί περίπου το 75% της.
- Πόσο γρήγορο είναι το Phi-4 mini instruct σε Mac;
- Η ταχύτητα γραφής εξαρτάται από το εύρος ζώνης μνήμης. Ο ταχύτερος Mac γι’ αυτό εδώ είναι ένας Mac με M5 Ultra και 96 GB, με περίπου 135–240 tokens ανά δευτερόλεπτο (8-bit). Ο μικρότερος Mac που το τρέχει, με 8 GB, φτάνει περίπου τα 11–20 με M3.
- Βλάπτει η κβαντοποίηση το Phi-4 mini instruct;
- Στα 4 bit τα περισσότερα μοντέλα μένουν κοντά στην αρχική ποιότητα· κάτω από τα 4 bit η ποιότητα πέφτει πιο γρήγορα. Επιλέξτε την υψηλότερη ακρίβεια που χωράει στον Mac σας με περιθώριο.
Παρόμοια μοντέλα
Για την κάρτα μοντέλου ή το README σας
Δείχνει τον μικρότερο Mac που τρέχει καλά το Phi-4 mini instruct και οδηγεί εδώ.
[](https://mlx.app/run/phi-4-mini)Πώς υπολογίζεται
Μνήμη: οι παράμετροι του μοντέλου σε 8, 6, 4, 3 ή 2 bit ανά βάρος συν τις κλίμακες ομάδων του MLX (μισό bit ανά βάρος), ή στην εγγενή του μορφή, με χώρο για τα συμφραζόμενα από πάνω. Από προεπιλογή το macOS αφήνει την GPU να χρησιμοποιεί περίπου το 75% της ενοποιημένης μνήμης. Ταχύτητα: το εύρος ζώνης μνήμης διαιρεμένο με τα bytes που διαβάζονται ανά token είναι το ανώτατο όριο για μία συνομιλία· στα δημόσια benchmarks Apple Silicon του llama.cpp οι πραγματικές εκτελέσεις φτάνουν περίπου το 45% έως 80% του ορίου, και αυτό το εύρος δείχνουμε. Είναι εκτιμήσεις, όχι μετρήσεις: μετρήστε τον δικό σας Mac στο MLX Bench. Στοιχεία μοντέλων από την επίσημη κάρτα κάθε μοντέλου, στοιχεία τσιπ από τα Τεχνικά χαρακτηριστικά της Apple. Ελέγχθηκε 2026-10-19. Ίδια δεδομένα με το mlx.app/compare.
Ανοιχτά δεδομένα: mlx.app/data (JSON, CSV)