લૉગ ઇનવૉલેટ બનાવો

શું Mac પર Qwen3 0.6B ચાલી શકે?

હા, 8 GB કે વધુ યુનિફાઇડ મેમરી સાથે. Qwen3 0.6Bમાં 0.6B પૅરામીટર છે; દરેક પ્રિસિઝન પર તેને કેટલી મેમરી જોઈએ અને દરેક Apple ચિપ તેને કેટલી ઝડપે ચલાવે છે, તે અહીં જુઓ.

4-બિટ પર મેમરી1.8 GBવેઇટ 0.3 GB + કૉન્ટેક્સ્ટ
સૌથી નાનું Mac8 GB8-બિટ · 58 Mac કૉન્ફિગરેશન
સૌથી ઝડપી Mac900–1600ટોકન/સેકન્ડ · M5 Ultra 96 GB (અંદાજ)

દરેક પ્રિસિઝન પર મેમરી

વર્ઝનવેઇટકૉન્ટેક્સ્ટ સાથેસૌથી નાનું Mac
8-બિટ0.6 GB2.1 GB8 GB
6-બિટ0.5 GB2 GB8 GB
4-બિટ0.3 GB1.8 GB8 GB
3-બિટ ઓછી ગુણવત્તા0.3 GB1.8 GB8 GB
2-બિટ ઓછી ગુણવત્તા0.2 GB1.7 GB8 GB

દરેક Apple ચિપ પર

દરેક ચિપની Qwen3 0.6B ચલાવતી સૌથી નાની મેમરી સાઇઝ, તેમાં સમાતું શ્રેષ્ઠ વર્ઝન, અને લખવાની અપેક્ષિત ઝડપ.

ચિપજરૂરવર્ઝનટોકન/સેકન્ડ
M616 GB8-બિટ સારું ચાલે છે115–204
M5 Ultra96 GB8-બિટ સારું ચાલે છે900–1600
M5 Max36 GB8-બિટ સારું ચાલે છે345–613
M5 Pro24 GB8-બિટ સારું ચાલે છે230–409
M516 GB8-બિટ સારું ચાલે છે115–204
M4 Max36 GB8-બિટ સારું ચાલે છે308–547
M4 Pro24 GB8-બિટ સારું ચાલે છે205–364
M416 GB8-બિટ સારું ચાલે છે90–160
M3 Ultra96 GB8-બિટ સારું ચાલે છે614–1092
M3 Max36 GB8-બિટ સારું ચાલે છે225–400
M3 Pro18 GB8-બિટ સારું ચાલે છે113–200
M38 GB8-બિટ સારું ચાલે છે75–133
M2 Ultra64 GB8-બિટ સારું ચાલે છે600–1067
M2 Max32 GB8-બિટ સારું ચાલે છે300–533
M2 Pro16 GB8-બિટ સારું ચાલે છે150–267
M28 GB8-બિટ સારું ચાલે છે75–133
M1 Ultra64 GB8-બિટ સારું ચાલે છે600–1067
M1 Max32 GB8-બિટ સારું ચાલે છે300–533
M1 Pro16 GB8-બિટ સારું ચાલે છે150–267
M18 GB8-બિટ સારું ચાલે છે51–91

તેને કેવી રીતે ચલાવવું

  1. સરળ રીત: MLX Harness ડાઉનલોડ કરો, જે મફત અને ઓપન સોર્સ છે. Qwen3 0.6B શોધો, તમારા Macમાં સમાતું વર્ઝન ડાઉનલોડ કરો, અને ચૅટ કરો. તે OpenAI-compatible API દ્વારા આ મૉડલ તમારી બીજી ઍપને પણ આપે છે.MLX Harness ડાઉનલોડ કરોમફત · Apple Silicon · macOS 14.5 કે પછીનું
  2. Terminalમાં Appleના MLX સાથે:pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3-0.6B-4bitબિલ્ડ: Hugging Face પર mlx-community/Qwen3-0.6B-4bit. બીજાં પ્રિસિઝન તેની બાજુમાં જ છે.

સ્ટેપ બાય સ્ટેપ: Mac પર LLM ડાઉનલોડ કરો અને ચલાવો · MLX Harness કેવી રીતે વાપરવું · MLX વિ. Ollama વિ. llama.cpp

Qwen3 0.6B વિશે

બનાવનારQwen (Alibaba)
પૅરામીટર0.6B (ડેન્સ)
કૉન્ટેક્સ્ટ40K ટોકન
લાઇસન્સApache-2.0
રિલીઝ2025-04
ઇનપુટટેક્સ્ટ
વેઇટQwen/Qwen3-0.6B

પ્રશ્નો

Qwen3 0.6Bને કેટલી મેમરી જોઈએ?
4-બિટ પર આશરે 0.3 GB વેઇટ, ઉપરાંત કૉન્ટેક્સ્ટ માટે જગ્યા: કુલ 1.8 GB. Mac પર એનો અર્થ 8 GB કે વધુ યુનિફાઇડ મેમરી, કારણ કે ડિફૉલ્ટ રીતે macOS GPUને તેનો આશરે 75% ભાગ વાપરવા દે છે.
Mac પર Qwen3 0.6B કેટલું ઝડપી ચાલે છે?
લખવાની ઝડપ મેમરી બૅન્ડવિડ્થ પર આધાર રાખે છે. અહીં તેના માટે સૌથી ઝડપી Mac 96 GBવાળું M5 Ultra છે, સેકન્ડના આશરે 900–1600 ટોકન (8-બિટ). તેને ચલાવતું સૌથી નાનું Mac, 8 GBવાળું M3, આશરે 75–133 સુધી પહોંચે છે.
શું ક્વૉન્ટાઇઝેશનથી Qwen3 0.6Bની ગુણવત્તા ઘટે છે?
4 બિટ પર મોટા ભાગનાં મૉડલ મૂળ ગુણવત્તાની નજીક રહે છે; 4 બિટથી નીચે ગુણવત્તા ઝડપથી ઘટે છે. તમારા Macમાં જગ્યા રાખીને સમાય તેવું સૌથી ઊંચું પ્રિસિઝન પસંદ કરો.

મળતાં આવતાં મૉડલ

દરેક મૉડલ · દરેક Mac · તમારા Macની સરખામણી કરો

તમારા મૉડલ કાર્ડ કે README માટે

Runs on a Mac: Qwen3 0.6B Qwen3 0.6Bને સારી રીતે ચલાવતું સૌથી નાનું Mac બતાવે છે અને અહીં લિંક કરે છે.

[![Runs on a Mac](https://mlx.app/badge/run/qwen3-0.6b.svg)](https://mlx.app/run/qwen3-0.6b)

ગણતરી કેવી રીતે થઈ

મેમરી: મૉડલના પૅરામીટર પ્રતિ વેઇટ 8, 6, 4, 3 કે 2 બિટ પર, ઉપરાંત MLXના ગ્રુપ સ્કેલ (પ્રતિ વેઇટ અડધો બિટ), અથવા તેનું નેટિવ ફૉર્મેટ, અને ઉપરથી કૉન્ટેક્સ્ટ માટે જગ્યા. ડિફૉલ્ટ રીતે macOS GPUને યુનિફાઇડ મેમરીનો આશરે 75% ભાગ વાપરવા દે છે. ઝડપ: મેમરી બૅન્ડવિડ્થને દરેક ટોકન માટે વંચાતા બાઇટથી ભાગતાં એક વાતચીતની ઉપલી મર્યાદા મળે છે; llama.cppના જાહેર Apple Silicon બેન્ચમાર્કમાં ખરા રન તેના આશરે 45%થી 80% સુધી પહોંચે છે, અને એ જ રેન્જ બતાવી છે. આ અંદાજ છે, માપ નથી: તમારું Mac MLX Bench પર માપો. મૉડલના આંકડા દરેક સત્તાવાર મૉડલ કાર્ડમાંથી, ચિપના આંકડા Appleના Tech Specsમાંથી. 2026-10-19ના રોજ ચકાસ્યું. mlx.app/compare જેવો જ ડેટા.

શું Mac પર Qwen3 0.6B ચાલી શકે? મેમરી અને ઝડપ