લૉગ ઇનવૉલેટ બનાવો

શું Mac પર Nemotron 3 Nano 4B ચાલી શકે?

હા, 8 GB કે વધુ યુનિફાઇડ મેમરી સાથે. Nemotron 3 Nano 4Bમાં 3.97B પૅરામીટર છે; દરેક પ્રિસિઝન પર તેને કેટલી મેમરી જોઈએ અને દરેક Apple ચિપ તેને કેટલી ઝડપે ચલાવે છે, તે અહીં જુઓ.

4-બિટ પર મેમરી3.7 GBવેઇટ 2.2 GB + કૉન્ટેક્સ્ટ
સૌથી નાનું Mac8 GB8-બિટ · 58 Mac કૉન્ફિગરેશન
સૌથી ઝડપી Mac129–229ટોકન/સેકન્ડ · M5 Ultra 96 GB (અંદાજ)

દરેક પ્રિસિઝન પર મેમરી

વર્ઝનવેઇટકૉન્ટેક્સ્ટ સાથેસૌથી નાનું Mac
8-બિટ4.2 GB5.7 GB8 GB
6-બિટ3.2 GB4.7 GB8 GB
4-બિટ2.2 GB3.7 GB8 GB
3-બિટ ઓછી ગુણવત્તા1.7 GB3.2 GB8 GB
2-બિટ ઓછી ગુણવત્તા1.2 GB2.7 GB8 GB

દરેક Apple ચિપ પર

દરેક ચિપની Nemotron 3 Nano 4B ચલાવતી સૌથી નાની મેમરી સાઇઝ, તેમાં સમાતું શ્રેષ્ઠ વર્ઝન, અને લખવાની અપેક્ષિત ઝડપ.

ચિપજરૂરવર્ઝનટોકન/સેકન્ડ
M616 GB8-બિટ સારું ચાલે છે16–29
M5 Ultra96 GB8-બિટ સારું ચાલે છે129–229
M5 Max36 GB8-બિટ સારું ચાલે છે49–88
M5 Pro24 GB8-બિટ સારું ચાલે છે33–58
M516 GB8-બિટ સારું ચાલે છે16–29
M4 Max36 GB8-બિટ સારું ચાલે છે44–78
M4 Pro24 GB8-બિટ સારું ચાલે છે29–52
M416 GB8-બિટ સારું ચાલે છે13–23
M3 Ultra96 GB8-બિટ સારું ચાલે છે88–156
M3 Max36 GB8-બિટ સારું ચાલે છે32–57
M3 Pro18 GB8-બિટ સારું ચાલે છે16–29
M38 GB8-બિટ સારું ચાલે છે11–19
M2 Ultra64 GB8-બિટ સારું ચાલે છે86–152
M2 Max32 GB8-બિટ સારું ચાલે છે43–76
M2 Pro16 GB8-બિટ સારું ચાલે છે21–38
M28 GB8-બિટ સારું ચાલે છે11–19
M1 Ultra64 GB8-બિટ સારું ચાલે છે86–152
M1 Max32 GB8-બિટ સારું ચાલે છે43–76
M1 Pro16 GB8-બિટ સારું ચાલે છે21–38
M18 GB6-બિટ સારું ચાલે છે10–17

તેને કેવી રીતે ચલાવવું

  1. સરળ રીત: MLX Harness ડાઉનલોડ કરો, જે મફત અને ઓપન સોર્સ છે. Nemotron 3 Nano 4B શોધો, તમારા Macમાં સમાતું વર્ઝન ડાઉનલોડ કરો, અને ચૅટ કરો. તે OpenAI-compatible API દ્વારા આ મૉડલ તમારી બીજી ઍપને પણ આપે છે.MLX Harness ડાઉનલોડ કરોમફત · Apple Silicon · macOS 14.5 કે પછીનું
  2. Terminalમાં Appleના MLX સાથે:pip install mlx-lmmlx_lm.chat --model mlx-community/NVIDIA-Nemotron-3-Nano-4B-4bitબિલ્ડ: Hugging Face પર mlx-community/NVIDIA-Nemotron-3-Nano-4B-4bit. બીજાં પ્રિસિઝન તેની બાજુમાં જ છે.

સ્ટેપ બાય સ્ટેપ: Mac પર LLM ડાઉનલોડ કરો અને ચલાવો · MLX Harness કેવી રીતે વાપરવું · MLX વિ. Ollama વિ. llama.cpp

Nemotron 3 Nano 4B વિશે

બનાવનારNVIDIA
પૅરામીટર3.97B (ડેન્સ)
કૉન્ટેક્સ્ટ256K ટોકન
લાઇસન્સNVIDIA Nemotron Open Model License
રિલીઝ2026-03
ઇનપુટટેક્સ્ટ
ઇન્ટેલિજન્સArtificial Analysis Intelligence Index પર 4.8
વેઇટnvidia/NVIDIA-Nemotron-3-Nano-4B-BF16

પ્રશ્નો

Nemotron 3 Nano 4Bને કેટલી મેમરી જોઈએ?
4-બિટ પર આશરે 2.2 GB વેઇટ, ઉપરાંત કૉન્ટેક્સ્ટ માટે જગ્યા: કુલ 3.7 GB. Mac પર એનો અર્થ 8 GB કે વધુ યુનિફાઇડ મેમરી, કારણ કે ડિફૉલ્ટ રીતે macOS GPUને તેનો આશરે 75% ભાગ વાપરવા દે છે.
Mac પર Nemotron 3 Nano 4B કેટલું ઝડપી ચાલે છે?
લખવાની ઝડપ મેમરી બૅન્ડવિડ્થ પર આધાર રાખે છે. અહીં તેના માટે સૌથી ઝડપી Mac 96 GBવાળું M5 Ultra છે, સેકન્ડના આશરે 129–229 ટોકન (8-બિટ). તેને ચલાવતું સૌથી નાનું Mac, 8 GBવાળું M3, આશરે 11–19 સુધી પહોંચે છે.
શું ક્વૉન્ટાઇઝેશનથી Nemotron 3 Nano 4Bની ગુણવત્તા ઘટે છે?
4 બિટ પર મોટા ભાગનાં મૉડલ મૂળ ગુણવત્તાની નજીક રહે છે; 4 બિટથી નીચે ગુણવત્તા ઝડપથી ઘટે છે. તમારા Macમાં જગ્યા રાખીને સમાય તેવું સૌથી ઊંચું પ્રિસિઝન પસંદ કરો.

મળતાં આવતાં મૉડલ

દરેક મૉડલ · દરેક Mac · તમારા Macની સરખામણી કરો

તમારા મૉડલ કાર્ડ કે README માટે

Runs on a Mac: Nemotron 3 Nano 4B Nemotron 3 Nano 4Bને સારી રીતે ચલાવતું સૌથી નાનું Mac બતાવે છે અને અહીં લિંક કરે છે.

[![Runs on a Mac](https://mlx.app/badge/run/nemotron-3-nano-4b.svg)](https://mlx.app/run/nemotron-3-nano-4b)

ગણતરી કેવી રીતે થઈ

મેમરી: મૉડલના પૅરામીટર પ્રતિ વેઇટ 8, 6, 4, 3 કે 2 બિટ પર, ઉપરાંત MLXના ગ્રુપ સ્કેલ (પ્રતિ વેઇટ અડધો બિટ), અથવા તેનું નેટિવ ફૉર્મેટ, અને ઉપરથી કૉન્ટેક્સ્ટ માટે જગ્યા. ડિફૉલ્ટ રીતે macOS GPUને યુનિફાઇડ મેમરીનો આશરે 75% ભાગ વાપરવા દે છે. ઝડપ: મેમરી બૅન્ડવિડ્થને દરેક ટોકન માટે વંચાતા બાઇટથી ભાગતાં એક વાતચીતની ઉપલી મર્યાદા મળે છે; llama.cppના જાહેર Apple Silicon બેન્ચમાર્કમાં ખરા રન તેના આશરે 45%થી 80% સુધી પહોંચે છે, અને એ જ રેન્જ બતાવી છે. આ અંદાજ છે, માપ નથી: તમારું Mac MLX Bench પર માપો. મૉડલના આંકડા દરેક સત્તાવાર મૉડલ કાર્ડમાંથી, ચિપના આંકડા Appleના Tech Specsમાંથી. 2026-10-19ના રોજ ચકાસ્યું. mlx.app/compare જેવો જ ડેટા.

શું Mac પર Nemotron 3 Nano 4B ચાલી શકે? મેમરી અને ઝડપ