લૉગ ઇનવૉલેટ બનાવો

શું Mac પર SmolLM3 3B ચાલી શકે?

હા, 8 GB કે વધુ યુનિફાઇડ મેમરી સાથે. SmolLM3 3Bમાં 3B પૅરામીટર છે; દરેક પ્રિસિઝન પર તેને કેટલી મેમરી જોઈએ અને દરેક Apple ચિપ તેને કેટલી ઝડપે ચલાવે છે, તે અહીં જુઓ.

4-બિટ પર મેમરી3.2 GBવેઇટ 1.7 GB + કૉન્ટેક્સ્ટ
સૌથી નાનું Mac8 GB8-બિટ · 58 Mac કૉન્ફિગરેશન
સૌથી ઝડપી Mac169–300ટોકન/સેકન્ડ · M5 Ultra 96 GB (અંદાજ)

દરેક પ્રિસિઝન પર મેમરી

વર્ઝનવેઇટકૉન્ટેક્સ્ટ સાથેસૌથી નાનું Mac
8-બિટ3.2 GB4.7 GB8 GB
6-બિટ2.4 GB3.9 GB8 GB
4-બિટ1.7 GB3.2 GB8 GB
3-બિટ ઓછી ગુણવત્તા1.3 GB2.8 GB8 GB
2-બિટ ઓછી ગુણવત્તા0.9 GB2.4 GB8 GB

દરેક Apple ચિપ પર

દરેક ચિપની SmolLM3 3B ચલાવતી સૌથી નાની મેમરી સાઇઝ, તેમાં સમાતું શ્રેષ્ઠ વર્ઝન, અને લખવાની અપેક્ષિત ઝડપ.

ચિપજરૂરવર્ઝનટોકન/સેકન્ડ
M616 GB8-બિટ સારું ચાલે છે22–38
M5 Ultra96 GB8-બિટ સારું ચાલે છે169–300
M5 Max36 GB8-બિટ સારું ચાલે છે65–115
M5 Pro24 GB8-બિટ સારું ચાલે છે43–77
M516 GB8-બિટ સારું ચાલે છે22–38
M4 Max36 GB8-બિટ સારું ચાલે છે58–103
M4 Pro24 GB8-બિટ સારું ચાલે છે38–68
M416 GB8-બિટ સારું ચાલે છે17–30
M3 Ultra96 GB8-બિટ સારું ચાલે છે115–205
M3 Max36 GB8-બિટ સારું ચાલે છે42–75
M3 Pro18 GB8-બિટ સારું ચાલે છે21–38
M38 GB8-બિટ સારું ચાલે છે14–25
M2 Ultra64 GB8-બિટ સારું ચાલે છે113–200
M2 Max32 GB8-બિટ સારું ચાલે છે56–100
M2 Pro16 GB8-બિટ સારું ચાલે છે28–50
M28 GB8-બિટ સારું ચાલે છે14–25
M1 Ultra64 GB8-બિટ સારું ચાલે છે113–200
M1 Max32 GB8-બિટ સારું ચાલે છે56–100
M1 Pro16 GB8-બિટ સારું ચાલે છે28–50
M18 GB8-બિટ સારું ચાલે છે10–17

તેને કેવી રીતે ચલાવવું

  1. સરળ રીત: MLX Harness ડાઉનલોડ કરો, જે મફત અને ઓપન સોર્સ છે. SmolLM3 3B શોધો, તમારા Macમાં સમાતું વર્ઝન ડાઉનલોડ કરો, અને ચૅટ કરો. તે OpenAI-compatible API દ્વારા આ મૉડલ તમારી બીજી ઍપને પણ આપે છે.MLX Harness ડાઉનલોડ કરોમફત · Apple Silicon · macOS 14.5 કે પછીનું
  2. Terminalમાં Appleના MLX સાથે:pip install mlx-lmmlx_lm.chat --model mlx-community/SmolLM3-3B-4bitબિલ્ડ: Hugging Face પર mlx-community/SmolLM3-3B-4bit. બીજાં પ્રિસિઝન તેની બાજુમાં જ છે.

સ્ટેપ બાય સ્ટેપ: Mac પર LLM ડાઉનલોડ કરો અને ચલાવો · MLX Harness કેવી રીતે વાપરવું · MLX વિ. Ollama વિ. llama.cpp

SmolLM3 3B વિશે

બનાવનારHugging Face
પૅરામીટર3B (ડેન્સ)
કૉન્ટેક્સ્ટ64K ટોકન
લાઇસન્સApache-2.0
રિલીઝ2025-07
ઇનપુટટેક્સ્ટ
વેઇટHuggingFaceTB/SmolLM3-3B

પ્રશ્નો

SmolLM3 3Bને કેટલી મેમરી જોઈએ?
4-બિટ પર આશરે 1.7 GB વેઇટ, ઉપરાંત કૉન્ટેક્સ્ટ માટે જગ્યા: કુલ 3.2 GB. Mac પર એનો અર્થ 8 GB કે વધુ યુનિફાઇડ મેમરી, કારણ કે ડિફૉલ્ટ રીતે macOS GPUને તેનો આશરે 75% ભાગ વાપરવા દે છે.
Mac પર SmolLM3 3B કેટલું ઝડપી ચાલે છે?
લખવાની ઝડપ મેમરી બૅન્ડવિડ્થ પર આધાર રાખે છે. અહીં તેના માટે સૌથી ઝડપી Mac 96 GBવાળું M5 Ultra છે, સેકન્ડના આશરે 169–300 ટોકન (8-બિટ). તેને ચલાવતું સૌથી નાનું Mac, 8 GBવાળું M3, આશરે 14–25 સુધી પહોંચે છે.
શું ક્વૉન્ટાઇઝેશનથી SmolLM3 3Bની ગુણવત્તા ઘટે છે?
4 બિટ પર મોટા ભાગનાં મૉડલ મૂળ ગુણવત્તાની નજીક રહે છે; 4 બિટથી નીચે ગુણવત્તા ઝડપથી ઘટે છે. તમારા Macમાં જગ્યા રાખીને સમાય તેવું સૌથી ઊંચું પ્રિસિઝન પસંદ કરો.

મળતાં આવતાં મૉડલ

દરેક મૉડલ · દરેક Mac · તમારા Macની સરખામણી કરો

તમારા મૉડલ કાર્ડ કે README માટે

Runs on a Mac: SmolLM3 3B SmolLM3 3Bને સારી રીતે ચલાવતું સૌથી નાનું Mac બતાવે છે અને અહીં લિંક કરે છે.

[![Runs on a Mac](https://mlx.app/badge/run/smollm3-3b.svg)](https://mlx.app/run/smollm3-3b)

ગણતરી કેવી રીતે થઈ

મેમરી: મૉડલના પૅરામીટર પ્રતિ વેઇટ 8, 6, 4, 3 કે 2 બિટ પર, ઉપરાંત MLXના ગ્રુપ સ્કેલ (પ્રતિ વેઇટ અડધો બિટ), અથવા તેનું નેટિવ ફૉર્મેટ, અને ઉપરથી કૉન્ટેક્સ્ટ માટે જગ્યા. ડિફૉલ્ટ રીતે macOS GPUને યુનિફાઇડ મેમરીનો આશરે 75% ભાગ વાપરવા દે છે. ઝડપ: મેમરી બૅન્ડવિડ્થને દરેક ટોકન માટે વંચાતા બાઇટથી ભાગતાં એક વાતચીતની ઉપલી મર્યાદા મળે છે; llama.cppના જાહેર Apple Silicon બેન્ચમાર્કમાં ખરા રન તેના આશરે 45%થી 80% સુધી પહોંચે છે, અને એ જ રેન્જ બતાવી છે. આ અંદાજ છે, માપ નથી: તમારું Mac MLX Bench પર માપો. મૉડલના આંકડા દરેક સત્તાવાર મૉડલ કાર્ડમાંથી, ચિપના આંકડા Appleના Tech Specsમાંથી. 2026-10-19ના રોજ ચકાસ્યું. mlx.app/compare જેવો જ ડેટા.

શું Mac પર SmolLM3 3B ચાલી શકે? મેમરી અને ઝડપ