Memoria a ogni precisione
| Versione | Pesi | Con contesto | Mac più piccolo |
|---|---|---|---|
| 8 bit | 128 GB | 138 GB | 192 GB |
| 6 bit | 97,5 GB | 105 GB | 192 GB |
| 4 bit | 67,5 GB | 72,9 GB | 128 GB |
| 3 bit qualità inferiore | 52,5 GB | 56,7 GB | 96 GB |
| 2 bit qualità inferiore | 37,5 GB | 40,5 GB | 64 GB |
Su ogni chip Apple
Per ogni chip, il taglio di memoria più piccolo che esegue Nemotron 3.5 Super VL 120B A12B, la versione migliore che ci sta e la velocità di scrittura che puoi aspettarti.
| Chip | Richiede | Versione | Token/s |
|---|---|---|---|
| M6 | nessun taglio basta | Troppo grande | – |
| M5 Ultra | 256 GB | 8 bit Gira bene | 42–75 |
| M5 Max | 128 GB | 4 bit Gira bene | 41–72 |
| M5 Pro | 64 GB | 2 bit Gira bene | 36–65 |
| M5 | nessun taglio basta | Troppo grande | – |
| M4 Max | 128 GB | 4 bit Gira bene | 36–64 |
| M4 Pro | 64 GB | 2 bit Gira bene | 32–57 |
| M4 | nessun taglio basta | Troppo grande | – |
| M3 Ultra | 256 GB | 8 bit Gira bene | 29–51 |
| M3 Max | 128 GB | 4 bit Gira bene | 26–47 |
| M3 Pro | nessun taglio basta | Troppo grande | – |
| M3 | nessun taglio basta | Troppo grande | – |
| M2 Ultra | 128 GB | 4 bit Gira bene | 53–94 |
| M2 Max | 64 GB | 2 bit Gira bene | 47–84 |
| M2 Pro | nessun taglio basta | Troppo grande | – |
| M2 | nessun taglio basta | Troppo grande | – |
| M1 Ultra | 128 GB | 4 bit Gira bene | 53–94 |
| M1 Max | 64 GB | 2 bit Gira bene | 47–84 |
| M1 Pro | nessun taglio basta | Troppo grande | – |
| M1 | nessun taglio basta | Troppo grande | – |
Come eseguirlo
Passo dopo passo: scaricare ed eseguire LLM su Mac · MLX vs Ollama vs llama.cpp
Preferisci un’app al Terminale? Confronta le app per Mac che eseguono modelli in locale nell’AI App Store: prezzo, licenza e dove vanno i tuoi dati.
Informazioni su Nemotron 3.5 Super VL 120B A12B
| Creato da | NVIDIA |
|---|---|
| Parametri | 120B in totale · 12B attivi (mixture-of-experts) |
| Contesto | 1M token |
| Licenza | OpenMDW-1.1 |
| Uscita | 2026-10 |
| Input | Testo e immagini |
| Intelligenza | 26,5 nell’Artificial Analysis Intelligence Index |
| Pesi | nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16 |
Domande
- Quanta memoria richiede Nemotron 3.5 Super VL 120B A12B?
- Circa 67,5 GB di pesi a 4 bit, più lo spazio per il contesto: 72,9 GB in tutto. Su un Mac significa 128 GB di memoria unificata o più, perché di default macOS lascia usare alla GPU circa il 75% della memoria.
- Quanto è veloce Nemotron 3.5 Super VL 120B A12B su un Mac?
- La velocità di scrittura dipende dalla larghezza di banda della memoria. Qui il Mac più veloce per questo modello è un M2 Ultra con 128 GB, a circa 53–94 token al secondo (4 bit). Il Mac più piccolo che lo esegue, con 128 GB, arriva a circa 53–94 su un M2 Ultra.
- Perché Nemotron 3.5 Super VL 120B A12B è più veloce di quanto suggeriscano le sue dimensioni?
- È un modello mixture-of-experts: tiene in memoria 120B parametri ma per ogni token ne legge solo 12B, quindi scrive alla velocità di un modello molto più piccolo.
Modelli simili
Per la scheda del tuo modello o il README
Mostra il Mac più piccolo che esegue bene Nemotron 3.5 Super VL 120B A12B e rimanda a questa pagina.
[](https://mlx.app/run/nemotron-3.5-super-vl-120b-a12b)Come è calcolato
Memoria: i parametri del modello a 8, 6, 4, 3 o 2 bit per peso più le scale per gruppo di MLX (mezzo bit per peso), oppure il suo formato nativo, con in più lo spazio per il contesto. Di default macOS lascia usare alla GPU circa il 75% della memoria unificata. Velocità: la larghezza di banda della memoria divisa per i byte letti per ogni token è il limite massimo per una conversazione; nei benchmark pubblici su Apple Silicon di llama.cpp, le esecuzioni reali arrivano a circa il 45%–80% di quel limite, ed è l’intervallo mostrato. Sono stime, non misurazioni: misura il tuo Mac su MLX Bench. Dati dei modelli dalla rispettiva scheda ufficiale, dati dei chip dalle specifiche tecniche di Apple. Verificato il 2026-10-19. Stessi dati di mlx.app/compare.
Dati aperti: mlx.app/data (JSON, CSV)