Πόση μνήμη χρειάζεται το Nemotron 3.5 Bolt 74B A9B;

Περίπου 41,6 GB για τα βάρη σε 4-bit, συν χώρο για τα συμφραζόμενα: 44,9 GB συνολικά. Σε Mac αυτό σημαίνει 64 GB ενοποιημένης μνήμης ή περισσότερα, αφού το macOS αφήνει από προεπιλογή την GPU να χρησιμοποιεί περίπου το 75% της.

Πόσο γρήγορο είναι το Nemotron 3.5 Bolt 74B A9B σε Mac;

Η ταχύτητα γραφής εξαρτάται από το εύρος ζώνης μνήμης. Ο ταχύτερος Mac γι’ αυτό εδώ είναι ένας Mac με M5 Ultra και 96 GB, με περίπου 74–132 tokens ανά δευτερόλεπτο (6-bit). Ο μικρότερος Mac που το τρέχει, με 64 GB, φτάνει περίπου τα 71–125 με M2 Ultra.

Γιατί το Nemotron 3.5 Bolt 74B A9B τρέχει πιο γρήγορα απ’ ό,τι δείχνει το μέγεθός του;

Είναι μοντέλο mixture of experts: κρατά 74B παραμέτρους στη μνήμη αλλά διαβάζει μόνο 9B για κάθε token, οπότε γράφει με την ταχύτητα ενός πολύ μικρότερου μοντέλου.

Nemotron 3.5 Bolt 74B A9B σε Mac: RAM και ταχύτητα

Μνήμη σε κάθε ακρίβεια

Έκδοση	Βάρη	Με συμφραζόμενα	Μικρότερος Mac
8-bit	78,6 GB	84,9 GB	128 GB
6-bit	60,1 GB	64,9 GB	96 GB
4-bit	41,6 GB	44,9 GB	64 GB
3-bit χαμηλότερη ποιότητα	32,4 GB	35 GB	48 GB
2-bit χαμηλότερη ποιότητα	23,1 GB	24,9 GB	36 GB

Πόση RAM χρειάζεται ένα LLM

Σε κάθε τσιπ της Apple

Το μικρότερο μέγεθος μνήμης κάθε τσιπ που τρέχει το Nemotron 3.5 Bolt 74B A9B, η καλύτερη έκδοση που χωράει και η ταχύτητα γραφής που μπορείτε να περιμένετε.

Τσιπ	Απαιτεί	Έκδοση	Tokens/s
M6	32 GB	2-bit Οριακά	27–49
M5 Ultra	96 GB	6-bit Τρέχει καλά	74–132
M5 Max	64 GB	4-bit Τρέχει καλά	54–96
M5 Pro	64 GB	4-bit Τρέχει καλά	27–48
M5	32 GB	2-bit Οριακά	25–44
M4 Max	64 GB	4-bit Τρέχει καλά	48–86
M4 Pro	64 GB	4-bit Τρέχει καλά	24–43
M4	32 GB	2-bit Οριακά	19–34
M3 Ultra	96 GB	6-bit Τρέχει καλά	50–90
M3 Max	64 GB	4-bit Τρέχει καλά	35–63
M3 Pro	36 GB	2-bit Τρέχει καλά	24–43
M3	κανένα μέγεθος δεν χωράει	Πολύ μεγάλο	–
M2 Ultra	64 GB	4-bit Τρέχει καλά	71–125
M2 Max	64 GB	4-bit Τρέχει καλά	35–63
M2 Pro	32 GB	2-bit Οριακά	32–57
M2	κανένα μέγεθος δεν χωράει	Πολύ μεγάλο	–
M1 Ultra	64 GB	4-bit Τρέχει καλά	71–125
M1 Max	64 GB	4-bit Τρέχει καλά	35–63
M1 Pro	32 GB	2-bit Οριακά	32–57
M1	κανένα μέγεθος δεν χωράει	Πολύ μεγάλο	–

Πώς να το τρέξετε

Στο Terminal με το MLX της Apple: Δεν υπάρχει ακόμη build MLX από την κοινότητα, οπότε φτιάξτε ένα από τα επίσημα βάρη:pip install mlx-lmmlx_lm.convert --hf-path nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-BF16 -q

Βήμα προς βήμα: λήψη και εκτέλεση LLM σε Mac · MLX vs Ollama vs llama.cpp

Προτιμάτε μια εφαρμογή από το Τερματικό; Συγκρίνετε τις εφαρμογές Mac που τρέχουν τοπικά μοντέλα στο AI App Store: τιμή, άδεια και πού πηγαίνουν τα δεδομένα σας.

Σχετικά με το Nemotron 3.5 Bolt 74B A9B

Δημιουργός	NVIDIA
Παράμετροι	74B συνολικά · 9B ενεργές (mixture of experts)
Συμφραζόμενα	256K tokens
Άδεια	OpenMDW-1.1
Κυκλοφορία	2026-10
Είσοδος	Κείμενο και εικόνες
Νοημοσύνη	21,4 στον Artificial Analysis Intelligence Index
Βάρη	nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-BF16

Ερωτήσεις

Πόση μνήμη χρειάζεται το Nemotron 3.5 Bolt 74B A9B;: Περίπου 41,6 GB για τα βάρη σε 4-bit, συν χώρο για τα συμφραζόμενα: 44,9 GB συνολικά. Σε Mac αυτό σημαίνει 64 GB ενοποιημένης μνήμης ή περισσότερα, αφού το macOS αφήνει από προεπιλογή την GPU να χρησιμοποιεί περίπου το 75% της.
Πόσο γρήγορο είναι το Nemotron 3.5 Bolt 74B A9B σε Mac;: Η ταχύτητα γραφής εξαρτάται από το εύρος ζώνης μνήμης. Ο ταχύτερος Mac γι’ αυτό εδώ είναι ένας Mac με M5 Ultra και 96 GB, με περίπου 74–132 tokens ανά δευτερόλεπτο (6-bit). Ο μικρότερος Mac που το τρέχει, με 64 GB, φτάνει περίπου τα 71–125 με M2 Ultra.
Γιατί το Nemotron 3.5 Bolt 74B A9B τρέχει πιο γρήγορα απ’ ό,τι δείχνει το μέγεθός του;: Είναι μοντέλο mixture of experts: κρατά 74B παραμέτρους στη μνήμη αλλά διαβάζει μόνο 9B για κάθε token, οπότε γράφει με την ταχύτητα ενός πολύ μικρότερου μοντέλου.

Παρόμοια μοντέλα

Όλα τα μοντέλα · Όλοι οι Mac · Συγκρίνετε τον Mac σας

Για την κάρτα μοντέλου ή το README σας

Δείχνει τον μικρότερο Mac που τρέχει καλά το Nemotron 3.5 Bolt 74B A9B και οδηγεί εδώ.

[![Runs on a Mac](https://mlx.app/badge/run/nemotron-3.5-bolt-74b-a9b.svg)](https://mlx.app/run/nemotron-3.5-bolt-74b-a9b)

Πώς υπολογίζεται

Μνήμη: οι παράμετροι του μοντέλου σε 8, 6, 4, 3 ή 2 bit ανά βάρος συν τις κλίμακες ομάδων του MLX (μισό bit ανά βάρος), ή στην εγγενή του μορφή, με χώρο για τα συμφραζόμενα από πάνω. Από προεπιλογή το macOS αφήνει την GPU να χρησιμοποιεί περίπου το 75% της ενοποιημένης μνήμης. Ταχύτητα: το εύρος ζώνης μνήμης διαιρεμένο με τα bytes που διαβάζονται ανά token είναι το ανώτατο όριο για μία συνομιλία· στα δημόσια benchmarks Apple Silicon του llama.cpp οι πραγματικές εκτελέσεις φτάνουν περίπου το 45% έως 80% του ορίου, και αυτό το εύρος δείχνουμε. Είναι εκτιμήσεις, όχι μετρήσεις: μετρήστε τον δικό σας Mac στο MLX Bench. Στοιχεία μοντέλων από την επίσημη κάρτα κάθε μοντέλου, στοιχεία τσιπ από τα Τεχνικά χαρακτηριστικά της Apple. Ελέγχθηκε 2026-10-19. Ίδια δεδομένα με το mlx.app/compare.

Ανοιχτά δεδομένα: mlx.app/data (JSON, CSV)