Μπορεί ένας Mac να τρέξει το Recursive Flint;

Μνήμη σε κάθε ακρίβεια

Πόση RAM χρειάζεται ένα LLM

Σε κάθε τσιπ της Apple

Το μικρότερο μέγεθος μνήμης κάθε τσιπ που τρέχει το Recursive Flint, η καλύτερη έκδοση που χωράει και η ταχύτητα γραφής που μπορείτε να περιμένετε.

Μετρήσεις άλλων

Ταχύτητες decode του Recursive Flint που μέτρησαν άλλοι στους δικούς τους Mac και δημοσίευσαν. Είναι μετρήσεις τρίτων, όχι δικές μας, και όχι οι παραπάνω εκτιμήσεις.

Τα αποτελέσματα διαφέρουν ανάλογα με το runtime και τις ρυθμίσεις: η έκδοσή του, η ακρίβεια, το μήκος των συμφραζομένων, το prompt και το αν το reasoning είναι ενεργό αλλάζουν την ταχύτητα.

Πώς να το τρέξετε

Βήμα προς βήμα: λήψη και εκτέλεση LLM σε Mac · MLX vs Ollama vs llama.cpp

Προτιμάτε μια εφαρμογή από το Τερματικό; Συγκρίνετε τις εφαρμογές Mac που τρέχουν τοπικά μοντέλα στο AI App Store: τιμή, άδεια και πού πηγαίνουν τα δεδομένα σας.

Σχετικά με το Recursive Flint

Ερωτήσεις

Πόση μνήμη χρειάζεται το Recursive Flint;

Περίπου 22,4 GB για τα βάρη σε 4-bit, συν χώρο για τα συμφραζόμενα: 24,2 GB συνολικά. Σε Mac αυτό σημαίνει 36 GB ενοποιημένης μνήμης ή περισσότερα, αφού το macOS αφήνει από προεπιλογή την GPU να χρησιμοποιεί περίπου το 75% της. Η μηχανή του κατασκευαστή (Recursive), το Rec, χρειάζεται Mac με M4 Pro, M5 Pro ή M5 Max και τουλάχιστον 48 GB ενοποιημένης μνήμης (απαίτηση του κατασκευαστή).

Πόσο γρήγορο είναι το Recursive Flint σε Mac;

Η ταχύτητα γραφής εξαρτάται από το εύρος ζώνης μνήμης. Ο ταχύτερος Mac γι’ αυτό εδώ είναι ένας Mac με M5 Ultra και 96 GB, με περίπου 200–356 tokens ανά δευτερόλεπτο (8-bit). Ο μικρότερος Mac που το τρέχει, με 36 GB, φτάνει περίπου τα 148–263 με M5 Max.

Γιατί το Recursive Flint τρέχει πιο γρήγορα απ’ ό,τι δείχνει το μέγεθός του;

Είναι μοντέλο mixture of experts: κρατά 39,8B παραμέτρους στη μνήμη αλλά διαβάζει μόνο 2,5B για κάθε token, οπότε γράφει με την ταχύτητα ενός πολύ μικρότερου μοντέλου.

Παρόμοια μοντέλα

• Qwen3.6 35B A3Bαπό 32 GB
• Sage-A1.5από 32 GB
• Gemma 4 31Bαπό 32 GB
• Qwen3 Coder 30B A3B Instructαπό 32 GB
• Hy-Memory-30B-A3Bαπό 32 GB
• GLM-4.7 Flashαπό 32 GB

Όλα τα μοντέλα · Όλοι οι Mac · Συγκρίνετε τον Mac σας