Μπορεί ένας Mac να τρέξει το Llama 4 Scout 17B-16E Instruct;

Μνήμη σε κάθε ακρίβεια

Πόση RAM χρειάζεται ένα LLM

Σε κάθε τσιπ της Apple

Το μικρότερο μέγεθος μνήμης κάθε τσιπ που τρέχει το Llama 4 Scout 17B-16E Instruct, η καλύτερη έκδοση που χωράει και η ταχύτητα γραφής που μπορείτε να περιμένετε.

Πώς να το τρέξετε

Βήμα προς βήμα: λήψη και εκτέλεση LLM σε Mac · MLX vs Ollama vs llama.cpp

Προτιμάτε μια εφαρμογή από το Τερματικό; Συγκρίνετε τις εφαρμογές Mac που τρέχουν τοπικά μοντέλα στο AI App Store: τιμή, άδεια και πού πηγαίνουν τα δεδομένα σας.

Σχετικά με το Llama 4 Scout 17B-16E Instruct

Ερωτήσεις

Πόση μνήμη χρειάζεται το Llama 4 Scout 17B-16E Instruct;

Περίπου 61,3 GB για τα βάρη σε 4-bit, συν χώρο για τα συμφραζόμενα: 66,2 GB συνολικά. Σε Mac αυτό σημαίνει 96 GB ενοποιημένης μνήμης ή περισσότερα, αφού το macOS αφήνει από προεπιλογή την GPU να χρησιμοποιεί περίπου το 75% της.

Πόσο γρήγορο είναι το Llama 4 Scout 17B-16E Instruct σε Mac;

Η ταχύτητα γραφής εξαρτάται από το εύρος ζώνης μνήμης. Ο ταχύτερος Mac γι’ αυτό εδώ είναι ένας Mac με M5 Ultra και 96 GB, με περίπου 56–100 tokens ανά δευτερόλεπτο (4-bit). Ο μικρότερος Mac που το τρέχει, με 96 GB, φτάνει περίπου τα 56–100 με M5 Ultra.

Γιατί το Llama 4 Scout 17B-16E Instruct τρέχει πιο γρήγορα απ’ ό,τι δείχνει το μέγεθός του;

Είναι μοντέλο mixture of experts: κρατά 109B παραμέτρους στη μνήμη αλλά διαβάζει μόνο 17B για κάθε token, οπότε γράφει με την ταχύτητα ενός πολύ μικρότερου μοντέλου.

Παρόμοια μοντέλα

• Llama 3.3 70B Instructαπό 64 GB
• Llama 4 Maverick 17B-128E Instructαπό 512 GB
• Llama 3.1 8B Instructαπό 8 GB
• GLM-4.5 Airαπό 96 GB
• gpt-oss-120bαπό 96 GB
• Mistral Small 4 (119B)από 128 GB

Όλα τα μοντέλα · Όλοι οι Mac · Συγκρίνετε τον Mac σας