Her hassasiyette bellek
| Sürüm | Ağırlıklar | Bağlamla | En küçük Mac |
|---|---|---|---|
| 8 bit | 128 GB | 138 GB | 192 GB |
| 6 bit | 97,5 GB | 105 GB | 192 GB |
| 4 bit | 67,5 GB | 72,9 GB | 128 GB |
| 3 bit daha düşük kalite | 52,5 GB | 56,7 GB | 96 GB |
| 2 bit daha düşük kalite | 37,5 GB | 40,5 GB | 64 GB |
Her Apple çipinde
Her çipin Nemotron 3.5 Super VL 120B A12B modelini çalıştıran en küçük bellek boyutu, ona sığan en iyi sürüm ve bekleyebileceğiniz yazma hızı.
| Çip | Gereken | Sürüm | Token/s |
|---|---|---|---|
| M6 | hiçbir boyut yetmez | Çok büyük | – |
| M5 Ultra | 256 GB | 8 bit İyi çalışır | 42–75 |
| M5 Max | 128 GB | 4 bit İyi çalışır | 41–72 |
| M5 Pro | 64 GB | 2 bit İyi çalışır | 36–65 |
| M5 | hiçbir boyut yetmez | Çok büyük | – |
| M4 Max | 128 GB | 4 bit İyi çalışır | 36–64 |
| M4 Pro | 64 GB | 2 bit İyi çalışır | 32–57 |
| M4 | hiçbir boyut yetmez | Çok büyük | – |
| M3 Ultra | 256 GB | 8 bit İyi çalışır | 29–51 |
| M3 Max | 128 GB | 4 bit İyi çalışır | 26–47 |
| M3 Pro | hiçbir boyut yetmez | Çok büyük | – |
| M3 | hiçbir boyut yetmez | Çok büyük | – |
| M2 Ultra | 128 GB | 4 bit İyi çalışır | 53–94 |
| M2 Max | 64 GB | 2 bit İyi çalışır | 47–84 |
| M2 Pro | hiçbir boyut yetmez | Çok büyük | – |
| M2 | hiçbir boyut yetmez | Çok büyük | – |
| M1 Ultra | 128 GB | 4 bit İyi çalışır | 53–94 |
| M1 Max | 64 GB | 2 bit İyi çalışır | 47–84 |
| M1 Pro | hiçbir boyut yetmez | Çok büyük | – |
| M1 | hiçbir boyut yetmez | Çok büyük | – |
Nasıl çalıştırılır
Adım adım: Mac'te LLM indirip çalıştırma · MLX, Ollama ve llama.cpp karşılaştırması
Terminal yerine bir uygulama mı? Yerel model çalıştıran Mac uygulamalarını karşılaştırın, AI App Store’da: fiyat, lisans ve verilerinizin nereye gittiği.
Nemotron 3.5 Super VL 120B A12B hakkında
| Geliştiren | NVIDIA |
|---|---|
| Parametreler | 120B toplam · 12B etkin (mixture of experts) |
| Bağlam | 1M token |
| Lisans | OpenMDW-1.1 |
| Yayın tarihi | 2026-10 |
| Girdi | Metin ve görseller |
| Zekâ | Artificial Analysis Intelligence Index puanı: 26,5 |
| Ağırlıklar | nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16 |
Sorular
- Nemotron 3.5 Super VL 120B A12B ne kadar bellek gerektirir?
- 4 bit ile yaklaşık 67,5 GB ağırlık, artı bağlam için yer: toplam 72,9 GB. macOS varsayılan olarak GPU'nun belleğin yaklaşık %75'ini kullanmasına izin verdiği için bu, Mac'te 128 GB veya daha fazla birleşik bellek demektir.
- Nemotron 3.5 Super VL 120B A12B Mac'te ne kadar hızlı?
- Yazma hızı bellek bant genişliğine bağlıdır. Burada onun için en hızlı Mac, 128 GB'lık M2 Ultra: saniyede yaklaşık 53–94 token (4 bit). Onu çalıştıran en küçük Mac, 128 GB'lık M2 Ultra, yaklaşık 53–94 token yazar.
- Nemotron 3.5 Super VL 120B A12B neden boyutunun düşündürdüğünden hızlı çalışır?
- Bu bir mixture-of-experts modeli: bellekte 120B parametre tutar ama her token için yalnızca 12B kadarını okur, bu yüzden çok daha küçük bir modelin hızında yazar.
Benzer modeller
Model kartınız veya README için
Nemotron 3.5 Super VL 120B A12B modelini iyi çalıştıran en küçük Mac'i gösterir ve buraya bağlantı verir.
[](https://mlx.app/run/nemotron-3.5-super-vl-120b-a12b)Nasıl hesaplanır
Bellek: modelin parametreleri ağırlık başına 8, 6, 4, 3 veya 2 bitte, artı MLX'in grup ölçekleri (ağırlık başına yarım bit) ya da modelin yerel biçimi; üstüne bağlam için yer. macOS varsayılan olarak GPU'nun birleşik belleğin yaklaşık %75'ini kullanmasına izin verir. Hız: bellek bant genişliğinin token başına okunan bayt sayısına bölümü, tek bir sohbet için üst sınırdır; llama.cpp'nin herkese açık Apple Silicon karşılaştırmalarında gerçek çalıştırmalar bunun yaklaşık %45 ile %80'ine ulaşır ve gösterilen aralık budur. Bunlar ölçüm değil tahmindir: kendi Mac'inizi MLX Bench ile ölçün. Model verileri her modelin resmî model kartından, çip verileri Apple'ın Teknik Özellikler sayfalarından alınmıştır. Kontrol tarihi: 2026-10-19. mlx.app/compare ile aynı veriler.
Açık veri: mlx.app/data (JSON, CSV)