લૉગ ઇનવૉલેટ બનાવો

શું Mac પર Qwen3.8 2.4T A95B ચાલી શકે?

એક Mac પર નહીં. Qwen3.8 2.4T A95Bમાં 2,400B પૅરામીટર છે, અને 2 બિટ પર પણ તે સૌથી મોટા Macની મેમરી કરતાં વધુ છે. તેના માટે શું જોઈએ અને કયાં નાનાં મૉડલ સારાં ચાલે છે, તે અહીં જુઓ.

4-બિટ પર મેમરી1.5 TBવેઇટ 1.4 TB + કૉન્ટેક્સ્ટ
સૌથી નાનું Macકોઈ નહીં2 બિટ પર પણ
સૌથી ઝડપી Mac–કોઈ Macમાં સમાતું નથી

દરેક પ્રિસિઝન પર મેમરી

વર્ઝનવેઇટકૉન્ટેક્સ્ટ સાથેસૌથી નાનું Mac
8-બિટ2.6 TB2.8 TBકોઈ પણ Mac કરતાં વધુ
6-બિટ2 TB2.1 TBકોઈ પણ Mac કરતાં વધુ
4-બિટ1.4 TB1.5 TBકોઈ પણ Mac કરતાં વધુ
3-બિટ ઓછી ગુણવત્તા1.1 TB1.1 TBકોઈ પણ Mac કરતાં વધુ
2-બિટ ઓછી ગુણવત્તા750 GB810 GBકોઈ પણ Mac કરતાં વધુ

દરેક Apple ચિપ પર

દરેક ચિપની Qwen3.8 2.4T A95B ચલાવતી સૌથી નાની મેમરી સાઇઝ, તેમાં સમાતું શ્રેષ્ઠ વર્ઝન, અને લખવાની અપેક્ષિત ઝડપ.

ચિપજરૂરવર્ઝનટોકન/સેકન્ડ
M6કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M5 Ultraકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M5 Maxકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M5 Proકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M5કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M4 Maxકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M4 Proકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M4કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M3 Ultraકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M3 Maxકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M3 Proકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M3કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M2 Ultraકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M2 Maxકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M2 Proકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M2કોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M1 Ultraકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M1 Maxકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M1 Proકોઈ સાઇઝ સમાતી નથીબહુ મોટું–
M1કોઈ સાઇઝ સમાતી નથીબહુ મોટું–

તેને કેવી રીતે ચલાવવું

કોઈ એક Macમાં તે સમાતું નથી. નીચેનાં નાનાં મૉડલ સારાં ચાલે છે, અને Mac ક્લસ્ટરની ગાઇડ એક મૉડલને ઘણાં Mac પર કેવી રીતે વહેંચવું તે સમજાવે છે.

સ્ટેપ બાય સ્ટેપ: Mac પર LLM ડાઉનલોડ કરો અને ચલાવો · MLX Harness કેવી રીતે વાપરવું · MLX વિ. Ollama વિ. llama.cpp

Qwen3.8 2.4T A95B વિશે

બનાવનારQwen (Alibaba)
પૅરામીટર2,400B કુલ · 95B સક્રિય (mixture of experts)
કૉન્ટેક્સ્ટ256K ટોકન
લાઇસન્સQwen3.8-Max license (qwen3.8-max)
રિલીઝ2026-08
ઇનપુટટેક્સ્ટ
ઇન્ટેલિજન્સArtificial Analysis Intelligence Index પર 39.9
વેઇટQwen/Qwen3.8-2.4T-A95B

પ્રશ્નો

Qwen3.8 2.4T A95Bને કેટલી મેમરી જોઈએ?
4-બિટ પર આશરે 1.4 TB વેઇટ, ઉપરાંત કૉન્ટેક્સ્ટ માટે જગ્યા: કુલ 1.5 TB. આજે કોઈ Mac પાસે આટલી મેમરી નથી.
શું કોઈ Mac Qwen3.8 2.4T A95B ચલાવી શકે?
એકલું નહીં: 2 બિટ પર પણ તેને સૌથી મોટા Mac કરતાં વધુ મેમરી જોઈએ. નાનું મૉડલ વાપરો, અથવા ક્લસ્ટર રનટાઇમથી તેને ઘણાં Mac પર વહેંચો.
Qwen3.8 2.4T A95B તેની સાઇઝના પ્રમાણમાં ઝડપી કેમ ચાલે છે?
તે mixture-of-experts મૉડલ છે: તે મેમરીમાં 2,400B પૅરામીટર રાખે છે, પણ દરેક ટોકન માટે ફક્ત 95B વાંચે છે, એટલે તે ઘણા નાના મૉડલની ઝડપે લખે છે.

મળતાં આવતાં મૉડલ

દરેક મૉડલ · દરેક Mac · તમારા Macની સરખામણી કરો

તમારા મૉડલ કાર્ડ કે README માટે

Runs on a Mac: Qwen3.8 2.4T A95B Qwen3.8 2.4T A95Bને સારી રીતે ચલાવતું સૌથી નાનું Mac બતાવે છે અને અહીં લિંક કરે છે.

[![Runs on a Mac](https://mlx.app/badge/run/qwen3.8-2.4t-a95b.svg)](https://mlx.app/run/qwen3.8-2.4t-a95b)

ગણતરી કેવી રીતે થઈ

મેમરી: મૉડલના પૅરામીટર પ્રતિ વેઇટ 8, 6, 4, 3 કે 2 બિટ પર, ઉપરાંત MLXના ગ્રુપ સ્કેલ (પ્રતિ વેઇટ અડધો બિટ), અથવા તેનું નેટિવ ફૉર્મેટ, અને ઉપરથી કૉન્ટેક્સ્ટ માટે જગ્યા. ડિફૉલ્ટ રીતે macOS GPUને યુનિફાઇડ મેમરીનો આશરે 75% ભાગ વાપરવા દે છે. ઝડપ: મેમરી બૅન્ડવિડ્થને દરેક ટોકન માટે વંચાતા બાઇટથી ભાગતાં એક વાતચીતની ઉપલી મર્યાદા મળે છે; llama.cppના જાહેર Apple Silicon બેન્ચમાર્કમાં ખરા રન તેના આશરે 45%થી 80% સુધી પહોંચે છે, અને એ જ રેન્જ બતાવી છે. આ અંદાજ છે, માપ નથી: તમારું Mac MLX Bench પર માપો. મૉડલના આંકડા દરેક સત્તાવાર મૉડલ કાર્ડમાંથી, ચિપના આંકડા Appleના Tech Specsમાંથી. 2026-10-19ના રોજ ચકાસ્યું. mlx.app/compare જેવો જ ડેટા.

શું Mac પર Qwen3.8 2.4T A95B ચાલી શકે? મેમરી અને ઝડપ