Memori di setiap presisi
| Versi | Bobot | Dengan konteks | Mac terkecil |
|---|---|---|---|
| 8-bit | 4,2 GB | 5,7 GB | 8 GB |
| 6-bit | 3,2 GB | 4,7 GB | 8 GB |
| 4-bit | 2,2 GB | 3,7 GB | 8 GB |
| 3-bit kualitas lebih rendah | 1,7 GB | 3,2 GB | 8 GB |
| 2-bit kualitas lebih rendah | 1,2 GB | 2,7 GB | 8 GB |
Di setiap chip Apple
Ukuran memori terkecil setiap chip yang bisa menjalankan Nemotron 3 Nano 4B, versi terbaik yang muat, dan kecepatan menulis yang bisa Anda harapkan.
| Chip | Butuh | Versi | Token/s |
|---|---|---|---|
| M6 | 16 GB | 8-bit Berjalan baik | 16–29 |
| M5 Ultra | 96 GB | 8-bit Berjalan baik | 129–229 |
| M5 Max | 36 GB | 8-bit Berjalan baik | 49–88 |
| M5 Pro | 24 GB | 8-bit Berjalan baik | 33–58 |
| M5 | 16 GB | 8-bit Berjalan baik | 16–29 |
| M4 Max | 36 GB | 8-bit Berjalan baik | 44–78 |
| M4 Pro | 24 GB | 8-bit Berjalan baik | 29–52 |
| M4 | 16 GB | 8-bit Berjalan baik | 13–23 |
| M3 Ultra | 96 GB | 8-bit Berjalan baik | 88–156 |
| M3 Max | 36 GB | 8-bit Berjalan baik | 32–57 |
| M3 Pro | 18 GB | 8-bit Berjalan baik | 16–29 |
| M3 | 8 GB | 8-bit Berjalan baik | 11–19 |
| M2 Ultra | 64 GB | 8-bit Berjalan baik | 86–152 |
| M2 Max | 32 GB | 8-bit Berjalan baik | 43–76 |
| M2 Pro | 16 GB | 8-bit Berjalan baik | 21–38 |
| M2 | 8 GB | 8-bit Berjalan baik | 11–19 |
| M1 Ultra | 64 GB | 8-bit Berjalan baik | 86–152 |
| M1 Max | 32 GB | 8-bit Berjalan baik | 43–76 |
| M1 Pro | 16 GB | 8-bit Berjalan baik | 21–38 |
| M1 | 8 GB | 6-bit Berjalan baik | 10–17 |
Cara menjalankannya
- Cara mudah: unduh MLX Harness, gratis dan open source. Cari Nemotron 3 Nano 4B, unduh versi yang cocok untuk Mac Anda, lalu mulai chat. Aplikasi ini juga menyajikan model ke aplikasi Anda yang lain melalui API yang kompatibel dengan OpenAI.Unduh MLX HarnessGratis · Apple Silicon · macOS 14.5 atau lebih baru
- Di Terminal dengan MLX dari Apple:
pip install mlx-lmmlx_lm.chat --model mlx-community/NVIDIA-Nemotron-3-Nano-4B-4bitBuild: mlx-community/NVIDIA-Nemotron-3-Nano-4B-4bit di Hugging Face. Presisi lain ada di sebelahnya.
Langkah demi langkah: unduh dan jalankan LLM di Mac · cara memakai MLX Harness · MLX vs Ollama vs llama.cpp
Tentang Nemotron 3 Nano 4B
| Dibuat oleh | NVIDIA |
|---|---|
| Parameter | 3,97B (dense) |
| Konteks | 256K token |
| Lisensi | NVIDIA Nemotron Open Model License |
| Dirilis | 2026-03 |
| Input | Teks |
| Kecerdasan | 4,8 di Artificial Analysis Intelligence Index |
| Bobot | nvidia/NVIDIA-Nemotron-3-Nano-4B-BF16 |
Pertanyaan
- Berapa memori yang dibutuhkan Nemotron 3 Nano 4B?
- Sekitar 2,2 GB untuk bobot pada 4-bit, ditambah ruang untuk konteks: total 3,7 GB. Di Mac artinya memori terpadu 8 GB atau lebih, karena secara bawaan macOS mengizinkan GPU memakai sekitar 75% darinya.
- Seberapa cepat Nemotron 3 Nano 4B di Mac?
- Kecepatan menulis bergantung pada bandwidth memori. Mac tercepat untuknya di sini adalah M5 Ultra dengan 96 GB, sekitar 129–229 token per detik (8-bit). Mac terkecil yang bisa menjalankannya, dengan 8 GB, mencapai sekitar 11–19 pada M3.
- Apakah kuantisasi menurunkan kualitas Nemotron 3 Nano 4B?
- Pada 4 bit, sebagian besar model tetap mendekati kualitas aslinya; di bawah 4 bit kualitas turun lebih cepat. Pilih presisi tertinggi yang muat di Mac Anda dengan ruang tersisa.
Model serupa
Untuk kartu model atau README Anda
Menampilkan Mac terkecil yang menjalankan Nemotron 3 Nano 4B dengan baik dan menautkan ke sini.
[](https://mlx.app/run/nemotron-3-nano-4b)Cara menghitungnya
Memori: parameter model pada 8, 6, 4, 3, atau 2 bit per bobot ditambah skala grup MLX (setengah bit per bobot), atau format bawaannya, ditambah ruang untuk konteks. Secara bawaan macOS mengizinkan GPU memakai sekitar 75% memori terpadu. Kecepatan: bandwidth memori dibagi jumlah byte yang dibaca per token adalah batas atas untuk satu percakapan; dalam benchmark Apple Silicon publik llama.cpp, proses nyata mencapai sekitar 45% hingga 80% darinya, dan rentang itulah yang ditampilkan. Ini perkiraan, bukan pengukuran: ukur Mac Anda sendiri di MLX Bench. Angka model dari kartu model resmi masing-masing, angka chip dari Spesifikasi Teknis Apple. Diperiksa 2026-10-19. Data sama dengan mlx.app/compare.