Mémoire à chaque précision
| Version | Poids | Avec contexte | Plus petit Mac |
|---|---|---|---|
| 8 bits | 4,2 GB | 5,7 GB | 8 GB |
| 6 bits | 3,2 GB | 4,7 GB | 8 GB |
| 4 bits | 2,2 GB | 3,7 GB | 8 GB |
| 3 bits qualité moindre | 1,7 GB | 3,2 GB | 8 GB |
| 2 bits qualité moindre | 1,2 GB | 2,7 GB | 8 GB |
Sur chaque puce Apple
Pour chaque puce, la plus petite capacité de mémoire qui fait tourner Nemotron-Labs Dory 1.0 4B, la meilleure version qui y tient et la vitesse d’écriture à attendre.
| Puce | Demande | Version | Tokens/s |
|---|---|---|---|
| M6 | 16 GB | 8 bits Tourne bien | 11–20 |
| M5 Ultra | 96 GB | 8 bits Tourne bien | 87–155 |
| M5 Max | 36 GB | 8 bits Tourne bien | 33–59 |
| M5 Pro | 24 GB | 8 bits Tourne bien | 22–40 |
| M5 | 16 GB | 8 bits Tourne bien | 11–20 |
| M4 Max | 36 GB | 8 bits Tourne bien | 30–53 |
| M4 Pro | 24 GB | 8 bits Tourne bien | 20–35 |
| M4 | 16 GB | 6 bits Tourne bien | 11–20 |
| M3 Ultra | 96 GB | 8 bits Tourne bien | 59–106 |
| M3 Max | 36 GB | 8 bits Tourne bien | 22–39 |
| M3 Pro | 18 GB | 8 bits Tourne bien | 11–19 |
| M3 | 8 GB | 6 bits Tourne bien | 10–17 |
| M2 Ultra | 64 GB | 8 bits Tourne bien | 58–103 |
| M2 Max | 32 GB | 8 bits Tourne bien | 29–52 |
| M2 Pro | 16 GB | 8 bits Tourne bien | 15–26 |
| M2 | 8 GB | 6 bits Tourne bien | 10–17 |
| M1 Ultra | 64 GB | 8 bits Tourne bien | 58–103 |
| M1 Max | 32 GB | 8 bits Tourne bien | 29–52 |
| M1 Pro | 16 GB | 8 bits Tourne bien | 15–26 |
| M1 | 8 GB | 8 bits Lent | 5–9 |
Mesuré par d’autres
Vitesses de génération de Nemotron-Labs Dory 1.0 4B mesurées par d’autres personnes sur leurs propres Mac et publiées en ligne. Ce sont des mesures de tiers, pas les nôtres, ni les estimations ci-dessus.
| Mac | Moteur | Précision | Décodage tok/s | Source |
|---|---|---|---|---|
| MacBook Pro M5 Max 128 GB | dory-mlx | 8-bit (MLX) | 69 | NetProjects @netprojects |
| MacBook Pro M5 Max 128 GB | dory-mlx | 8-bit (MLX) | 54avec 32K de contexte | NetProjects @netprojects |
Les résultats varient selon le moteur d’exécution et les réglages : sa version, la précision, la longueur de contexte, le prompt et le raisonnement activé ou non changent la vitesse.
Comment le faire tourner
Pas à pas : télécharger et exécuter des LLM sur Mac · MLX, Ollama ou llama.cpp
Vous préférez une app au Terminal ? Comparez les apps Mac qui font tourner des modèles en local dans l’AI App Store : prix, licence et où vont vos données.
À propos de Nemotron-Labs Dory 1.0 4B
| Créé par | NVIDIA |
|---|---|
| Paramètres | 3,98B (modèle dense) |
| Contexte | 256K tokens |
| Licence | OpenMDW-1.1 |
| Sortie | 2026-10 |
| Entrée | Texte |
| Poids | nvidia/NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16 |
Questions
- De combien de mémoire Nemotron-Labs Dory 1.0 4B a-t-il besoin ?
- Environ 2,2 GB de poids en 4 bits, plus de la place pour le contexte : 3,7 GB au total. Sur un Mac, il faut donc 8 GB de mémoire unifiée ou plus, car macOS laisse le GPU en utiliser environ 75 % par défaut.
- À quelle vitesse Nemotron-Labs Dory 1.0 4B tourne-t-il sur un Mac ?
- La vitesse d’écriture dépend de la bande passante mémoire. Ici, le Mac le plus rapide pour ce modèle est équipé d’une puce M5 Ultra avec 96 GB, à environ 87–155 tokens par seconde (8 bits). Le plus petit Mac qui le fait tourner, avec 8 GB, atteint environ 10–17 avec une puce M3.
- La quantification dégrade-t-elle Nemotron-Labs Dory 1.0 4B ?
- En 4 bits, la plupart des modèles restent proches de la qualité d’origine ; en dessous de 4 bits, la qualité baisse plus vite. Choisissez la précision la plus élevée qui tient dans votre Mac avec de la marge.
Modèles similaires
Pour votre fiche de modèle ou votre README
Affiche le plus petit Mac qui fait bien tourner Nemotron-Labs Dory 1.0 4B et renvoie vers cette page.
[](https://mlx.app/run/nemotron-labs-dory-1.0-4b)Comment c’est calculé
Mémoire : les paramètres du modèle à 8, 6, 4, 3 ou 2 bits par poids, plus les facteurs d’échelle par groupe de MLX (un demi-bit par poids), ou son format natif, avec en plus de la place pour le contexte. Par défaut, macOS laisse le GPU utiliser environ 75 % de la mémoire unifiée. Vitesse : la bande passante mémoire divisée par les octets lus pour chaque token donne le plafond pour une conversation ; dans les benchmarks Apple Silicon publics de llama.cpp, les exécutions réelles atteignent environ 45 % à 80 % de ce plafond, et c’est la fourchette affichée. Ce sont des estimations, pas des mesures : mesurez votre propre Mac sur MLX Bench. Chiffres des modèles tirés de chaque fiche officielle, chiffres des puces tirés des caractéristiques techniques d’Apple. Vérifié le 2026-10-19. Mêmes données que mlx.app/compare.
Données ouvertes: mlx.app/data (JSON, CSV)