Memoria a ogni precisione
| Versione | Pesi | Con contesto | Mac più piccolo |
|---|---|---|---|
| 8 bit | 4,2 GB | 5,7 GB | 8 GB |
| 6 bit | 3,2 GB | 4,7 GB | 8 GB |
| 4 bit | 2,2 GB | 3,7 GB | 8 GB |
| 3 bit qualità inferiore | 1,7 GB | 3,2 GB | 8 GB |
| 2 bit qualità inferiore | 1,2 GB | 2,7 GB | 8 GB |
Su ogni chip Apple
Per ogni chip, il taglio di memoria più piccolo che esegue Nemotron-Labs Dory 1.0 4B, la versione migliore che ci sta e la velocità di scrittura che puoi aspettarti.
| Chip | Richiede | Versione | Token/s |
|---|---|---|---|
| M6 | 16 GB | 8 bit Gira bene | 11–20 |
| M5 Ultra | 96 GB | 8 bit Gira bene | 87–155 |
| M5 Max | 36 GB | 8 bit Gira bene | 33–59 |
| M5 Pro | 24 GB | 8 bit Gira bene | 22–40 |
| M5 | 16 GB | 8 bit Gira bene | 11–20 |
| M4 Max | 36 GB | 8 bit Gira bene | 30–53 |
| M4 Pro | 24 GB | 8 bit Gira bene | 20–35 |
| M4 | 16 GB | 6 bit Gira bene | 11–20 |
| M3 Ultra | 96 GB | 8 bit Gira bene | 59–106 |
| M3 Max | 36 GB | 8 bit Gira bene | 22–39 |
| M3 Pro | 18 GB | 8 bit Gira bene | 11–19 |
| M3 | 8 GB | 6 bit Gira bene | 10–17 |
| M2 Ultra | 64 GB | 8 bit Gira bene | 58–103 |
| M2 Max | 32 GB | 8 bit Gira bene | 29–52 |
| M2 Pro | 16 GB | 8 bit Gira bene | 15–26 |
| M2 | 8 GB | 6 bit Gira bene | 10–17 |
| M1 Ultra | 64 GB | 8 bit Gira bene | 58–103 |
| M1 Max | 32 GB | 8 bit Gira bene | 29–52 |
| M1 Pro | 16 GB | 8 bit Gira bene | 15–26 |
| M1 | 8 GB | 8 bit Lento | 5–9 |
Misurato da altri
Velocità di generazione di Nemotron-Labs Dory 1.0 4B misurate da altre persone sui propri Mac e pubblicate online. Sono misure di terzi, non nostre, e non sono le stime qui sopra.
| Mac | Runtime | Precisione | Decodifica tok/s | Fonte |
|---|---|---|---|---|
| MacBook Pro M5 Max 128 GB | dory-mlx | 8-bit (MLX) | 69 | NetProjects @netprojects |
| MacBook Pro M5 Max 128 GB | dory-mlx | 8-bit (MLX) | 54con 32K di contesto | NetProjects @netprojects |
I risultati variano in base al runtime e alle impostazioni: versione, precisione, lunghezza del contesto, prompt e ragionamento attivo o no cambiano la velocità.
Come eseguirlo
Passo dopo passo: scaricare ed eseguire LLM su Mac · MLX vs Ollama vs llama.cpp
Preferisci un’app al Terminale? Confronta le app per Mac che eseguono modelli in locale nell’AI App Store: prezzo, licenza e dove vanno i tuoi dati.
Informazioni su Nemotron-Labs Dory 1.0 4B
| Creato da | NVIDIA |
|---|---|
| Parametri | 3,98B (denso) |
| Contesto | 256K token |
| Licenza | OpenMDW-1.1 |
| Uscita | 2026-10 |
| Input | Testo |
| Pesi | nvidia/NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16 |
Domande
- Quanta memoria richiede Nemotron-Labs Dory 1.0 4B?
- Circa 2,2 GB di pesi a 4 bit, più lo spazio per il contesto: 3,7 GB in tutto. Su un Mac significa 8 GB di memoria unificata o più, perché di default macOS lascia usare alla GPU circa il 75% della memoria.
- Quanto è veloce Nemotron-Labs Dory 1.0 4B su un Mac?
- La velocità di scrittura dipende dalla larghezza di banda della memoria. Qui il Mac più veloce per questo modello è un M5 Ultra con 96 GB, a circa 87–155 token al secondo (8 bit). Il Mac più piccolo che lo esegue, con 8 GB, arriva a circa 10–17 su un M3.
- La quantizzazione peggiora Nemotron-Labs Dory 1.0 4B?
- A 4 bit la maggior parte dei modelli resta vicina alla qualità originale; sotto i 4 bit la qualità cala più in fretta. Scegli la precisione più alta che sta nel tuo Mac con margine.
Modelli simili
Per la scheda del tuo modello o il README
Mostra il Mac più piccolo che esegue bene Nemotron-Labs Dory 1.0 4B e rimanda a questa pagina.
[](https://mlx.app/run/nemotron-labs-dory-1.0-4b)Come è calcolato
Memoria: i parametri del modello a 8, 6, 4, 3 o 2 bit per peso più le scale per gruppo di MLX (mezzo bit per peso), oppure il suo formato nativo, con in più lo spazio per il contesto. Di default macOS lascia usare alla GPU circa il 75% della memoria unificata. Velocità: la larghezza di banda della memoria divisa per i byte letti per ogni token è il limite massimo per una conversazione; nei benchmark pubblici su Apple Silicon di llama.cpp, le esecuzioni reali arrivano a circa il 45%–80% di quel limite, ed è l’intervallo mostrato. Sono stime, non misurazioni: misura il tuo Mac su MLX Bench. Dati dei modelli dalla rispettiva scheda ufficiale, dati dei chip dalle specifiche tecniche di Apple. Verificato il 2026-10-19. Stessi dati di mlx.app/compare.
Dati aperti: mlx.app/data (JSON, CSV)