Quanta memoria richiede Nemotron 3.5 Bolt 74B A9B?

Circa 41,6 GB di pesi a 4 bit, più lo spazio per il contesto: 44,9 GB in tutto. Su un Mac significa 64 GB di memoria unificata o più, perché di default macOS lascia usare alla GPU circa il 75% della memoria.

Quanto è veloce Nemotron 3.5 Bolt 74B A9B su un Mac?

La velocità di scrittura dipende dalla larghezza di banda della memoria. Qui il Mac più veloce per questo modello è un M5 Ultra con 96 GB, a circa 74–132 token al secondo (6 bit). Il Mac più piccolo che lo esegue, con 64 GB, arriva a circa 71–125 su un M2 Ultra.

Perché Nemotron 3.5 Bolt 74B A9B è più veloce di quanto suggeriscano le sue dimensioni?

È un modello mixture-of-experts: tiene in memoria 74B parametri ma per ogni token ne legge solo 9B, quindi scrive alla velocità di un modello molto più piccolo.

Un Mac può eseguire Nemotron 3.5 Bolt 74B A9B? Memoria, velocità

Memoria a ogni precisione

Versione	Pesi	Con contesto	Mac più piccolo
8 bit	78,6 GB	84,9 GB	128 GB
6 bit	60,1 GB	64,9 GB	96 GB
4 bit	41,6 GB	44,9 GB	64 GB
3 bit qualità inferiore	32,4 GB	35 GB	48 GB
2 bit qualità inferiore	23,1 GB	24,9 GB	36 GB

Su ogni chip Apple

Per ogni chip, il taglio di memoria più piccolo che esegue Nemotron 3.5 Bolt 74B A9B, la versione migliore che ci sta e la velocità di scrittura che puoi aspettarti.

Chip	Richiede	Versione	Token/s
M6	32 GB	2 bit Al limite	27–49
M5 Ultra	96 GB	6 bit Gira bene	74–132
M5 Max	64 GB	4 bit Gira bene	54–96
M5 Pro	64 GB	4 bit Gira bene	27–48
M5	32 GB	2 bit Al limite	25–44
M4 Max	64 GB	4 bit Gira bene	48–86
M4 Pro	64 GB	4 bit Gira bene	24–43
M4	32 GB	2 bit Al limite	19–34
M3 Ultra	96 GB	6 bit Gira bene	50–90
M3 Max	64 GB	4 bit Gira bene	35–63
M3 Pro	36 GB	2 bit Gira bene	24–43
M3	nessun taglio basta	Troppo grande	–
M2 Ultra	64 GB	4 bit Gira bene	71–125
M2 Max	64 GB	4 bit Gira bene	35–63
M2 Pro	32 GB	2 bit Al limite	32–57
M2	nessun taglio basta	Troppo grande	–
M1 Ultra	64 GB	4 bit Gira bene	71–125
M1 Max	64 GB	4 bit Gira bene	35–63
M1 Pro	32 GB	2 bit Al limite	32–57
M1	nessun taglio basta	Troppo grande	–

Come eseguirlo

Il modo più semplice: scarica MLX Harness, gratuito e open source. Cerca Nemotron 3.5 Bolt 74B A9B, scarica la versione adatta al tuo Mac e inizia a chattare. MLX Harness rende disponibile il modello anche alle tue altre app tramite un’API compatibile con OpenAI.Scarica MLX HarnessGratuito · Apple Silicon · macOS 14.5 o successivo
Nel Terminale, con MLX di Apple: Non esiste ancora una build MLX della community, quindi creane una dai pesi ufficiali:pip install mlx-lmmlx_lm.convert --hf-path nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-BF16 -q

Passo dopo passo: scaricare ed eseguire LLM su Mac · come usare MLX Harness · MLX vs Ollama vs llama.cpp

Informazioni su Nemotron 3.5 Bolt 74B A9B

Creato da	NVIDIA
Parametri	74B in totale · 9B attivi (mixture-of-experts)
Contesto	256K token
Licenza	OpenMDW-1.1
Uscita	2026-10
Input	Testo e immagini
Intelligenza	21,4 nell’Artificial Analysis Intelligence Index
Pesi	nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-BF16

Domande

Quanta memoria richiede Nemotron 3.5 Bolt 74B A9B?: Circa 41,6 GB di pesi a 4 bit, più lo spazio per il contesto: 44,9 GB in tutto. Su un Mac significa 64 GB di memoria unificata o più, perché di default macOS lascia usare alla GPU circa il 75% della memoria.
Quanto è veloce Nemotron 3.5 Bolt 74B A9B su un Mac?: La velocità di scrittura dipende dalla larghezza di banda della memoria. Qui il Mac più veloce per questo modello è un M5 Ultra con 96 GB, a circa 74–132 token al secondo (6 bit). Il Mac più piccolo che lo esegue, con 64 GB, arriva a circa 71–125 su un M2 Ultra.
Perché Nemotron 3.5 Bolt 74B A9B è più veloce di quanto suggeriscano le sue dimensioni?: È un modello mixture-of-experts: tiene in memoria 74B parametri ma per ogni token ne legge solo 9B, quindi scrive alla velocità di un modello molto più piccolo.

Modelli simili

Tutti i modelli · Tutti i Mac · Confronta il tuo Mac

Per la scheda del tuo modello o il README

Mostra il Mac più piccolo che esegue bene Nemotron 3.5 Bolt 74B A9B e rimanda a questa pagina.

[![Runs on a Mac](https://mlx.app/badge/run/nemotron-3.5-bolt-74b-a9b.svg)](https://mlx.app/run/nemotron-3.5-bolt-74b-a9b)

Come è calcolato

Memoria: i parametri del modello a 8, 6, 4, 3 o 2 bit per peso più le scale per gruppo di MLX (mezzo bit per peso), oppure il suo formato nativo, con in più lo spazio per il contesto. Di default macOS lascia usare alla GPU circa il 75% della memoria unificata. Velocità: la larghezza di banda della memoria divisa per i byte letti per ogni token è il limite massimo per una conversazione; nei benchmark pubblici su Apple Silicon di llama.cpp, le esecuzioni reali arrivano a circa il 45%–80% di quel limite, ed è l’intervallo mostrato. Sono stime, non misurazioni: misura il tuo Mac su MLX Bench. Dati dei modelli dalla rispettiva scheda ufficiale, dati dei chip dalle specifiche tecniche di Apple. Verificato il 2026-10-19. Stessi dati di mlx.app/compare.