લૉગ ઇનવૉલેટ બનાવો

શું Mac પર LFM2.5 24B A2B ચાલી શકે?

હા, 24 GB કે વધુ યુનિફાઇડ મેમરી સાથે. LFM2.5 24B A2Bમાં 24B પૅરામીટર છે, જેમાંથી દરેક ટોકન માટે 2B સક્રિય રહે છે; દરેક પ્રિસિઝન પર તેને કેટલી મેમરી જોઈએ અને દરેક Apple ચિપ તેને કેટલી ઝડપે ચલાવે છે, તે અહીં જુઓ.

4-બિટ પર મેમરી15 GBવેઇટ 13.5 GB + કૉન્ટેક્સ્ટ
સૌથી નાનું Mac24 GB4-બિટ · 55 Mac કૉન્ફિગરેશન
સૌથી ઝડપી Mac257–457ટોકન/સેકન્ડ · M5 Ultra 96 GB (અંદાજ)

દરેક પ્રિસિઝન પર મેમરી

વર્ઝનવેઇટકૉન્ટેક્સ્ટ સાથેસૌથી નાનું Mac
8-બિટ25.5 GB27.5 GB48 GB
6-બિટ19.5 GB21.1 GB32 GB
4-બિટ13.5 GB15 GB24 GB
3-બિટ ઓછી ગુણવત્તા10.5 GB12 GB16 GB
2-બિટ ઓછી ગુણવત્તા7.5 GB9 GB16 GB

દરેક Apple ચિપ પર

દરેક ચિપની LFM2.5 24B A2B ચલાવતી સૌથી નાની મેમરી સાઇઝ, તેમાં સમાતું શ્રેષ્ઠ વર્ઝન, અને લખવાની અપેક્ષિત ઝડપ.

ચિપજરૂરવર્ઝનટોકન/સેકન્ડ
M624 GB4-બિટ સારું ચાલે છે70–124
M5 Ultra96 GB8-બિટ સારું ચાલે છે257–457
M5 Max36 GB6-બિટ સારું ચાલે છે129–230
M5 Pro24 GB4-બિટ સારું ચાલે છે126–223
M524 GB4-બિટ સારું ચાલે છે63–111
M4 Max36 GB6-બિટ સારું ચાલે છે115–205
M4 Pro24 GB4-બિટ સારું ચાલે છે112–199
M424 GB4-બિટ સારું ચાલે છે49–87
M3 Ultra96 GB8-બિટ સારું ચાલે છે176–312
M3 Max36 GB6-બિટ સારું ચાલે છે84–150
M3 Pro36 GB6-બિટ સારું ચાલે છે42–75
M324 GB4-બિટ સારું ચાલે છે41–73
M2 Ultra64 GB8-બિટ સારું ચાલે છે171–305
M2 Max32 GB6-બિટ સારું ચાલે છે113–200
M2 Pro32 GB6-બિટ સારું ચાલે છે56–100
M224 GB4-બિટ સારું ચાલે છે41–73
M1 Ultra64 GB8-બિટ સારું ચાલે છે171–305
M1 Max32 GB6-બિટ સારું ચાલે છે113–200
M1 Pro32 GB6-બિટ સારું ચાલે છે56–100
M116 GB3-બિટ સારું ચાલે છે34–60

તેને કેવી રીતે ચલાવવું

  1. સરળ રીત: MLX Harness ડાઉનલોડ કરો, જે મફત અને ઓપન સોર્સ છે. LFM2.5 24B A2B શોધો, તમારા Macમાં સમાતું વર્ઝન ડાઉનલોડ કરો, અને ચૅટ કરો. તે OpenAI-compatible API દ્વારા આ મૉડલ તમારી બીજી ઍપને પણ આપે છે.MLX Harness ડાઉનલોડ કરોમફત · Apple Silicon · macOS 14.5 કે પછીનું
  2. Terminalમાં Appleના MLX સાથે:pip install mlx-lmmlx_lm.chat --model mlx-community/LFM2.5-24B-A2B-OptiQ-4bitબિલ્ડ: Hugging Face પર mlx-community/LFM2.5-24B-A2B-OptiQ-4bit. બીજાં પ્રિસિઝન તેની બાજુમાં જ છે.

સ્ટેપ બાય સ્ટેપ: Mac પર LLM ડાઉનલોડ કરો અને ચલાવો · MLX Harness કેવી રીતે વાપરવું · MLX વિ. Ollama વિ. llama.cpp

LFM2.5 24B A2B વિશે

બનાવનારLiquid AI
પૅરામીટર24B કુલ · 2B સક્રિય (mixture of experts)
કૉન્ટેક્સ્ટ128K ટોકન
લાઇસન્સLFM Open License v1.0 (lfm1.0)
રિલીઝ2026-10
ઇનપુટટેક્સ્ટ
વેઇટLiquidAI/LFM2.5-24B-A2B

પ્રશ્નો

LFM2.5 24B A2Bને કેટલી મેમરી જોઈએ?
4-બિટ પર આશરે 13.5 GB વેઇટ, ઉપરાંત કૉન્ટેક્સ્ટ માટે જગ્યા: કુલ 15 GB. Mac પર એનો અર્થ 24 GB કે વધુ યુનિફાઇડ મેમરી, કારણ કે ડિફૉલ્ટ રીતે macOS GPUને તેનો આશરે 75% ભાગ વાપરવા દે છે.
Mac પર LFM2.5 24B A2B કેટલું ઝડપી ચાલે છે?
લખવાની ઝડપ મેમરી બૅન્ડવિડ્થ પર આધાર રાખે છે. અહીં તેના માટે સૌથી ઝડપી Mac 96 GBવાળું M5 Ultra છે, સેકન્ડના આશરે 257–457 ટોકન (8-બિટ). તેને ચલાવતું સૌથી નાનું Mac, 24 GBવાળું M5 Pro, આશરે 126–223 સુધી પહોંચે છે.
LFM2.5 24B A2B તેની સાઇઝના પ્રમાણમાં ઝડપી કેમ ચાલે છે?
તે mixture-of-experts મૉડલ છે: તે મેમરીમાં 24B પૅરામીટર રાખે છે, પણ દરેક ટોકન માટે ફક્ત 2B વાંચે છે, એટલે તે ઘણા નાના મૉડલની ઝડપે લખે છે.

મળતાં આવતાં મૉડલ

દરેક મૉડલ · દરેક Mac · તમારા Macની સરખામણી કરો

તમારા મૉડલ કાર્ડ કે README માટે

Runs on a Mac: LFM2.5 24B A2B LFM2.5 24B A2Bને સારી રીતે ચલાવતું સૌથી નાનું Mac બતાવે છે અને અહીં લિંક કરે છે.

[![Runs on a Mac](https://mlx.app/badge/run/lfm2.5-24b-a2b.svg)](https://mlx.app/run/lfm2.5-24b-a2b)

ગણતરી કેવી રીતે થઈ

મેમરી: મૉડલના પૅરામીટર પ્રતિ વેઇટ 8, 6, 4, 3 કે 2 બિટ પર, ઉપરાંત MLXના ગ્રુપ સ્કેલ (પ્રતિ વેઇટ અડધો બિટ), અથવા તેનું નેટિવ ફૉર્મેટ, અને ઉપરથી કૉન્ટેક્સ્ટ માટે જગ્યા. ડિફૉલ્ટ રીતે macOS GPUને યુનિફાઇડ મેમરીનો આશરે 75% ભાગ વાપરવા દે છે. ઝડપ: મેમરી બૅન્ડવિડ્થને દરેક ટોકન માટે વંચાતા બાઇટથી ભાગતાં એક વાતચીતની ઉપલી મર્યાદા મળે છે; llama.cppના જાહેર Apple Silicon બેન્ચમાર્કમાં ખરા રન તેના આશરે 45%થી 80% સુધી પહોંચે છે, અને એ જ રેન્જ બતાવી છે. આ અંદાજ છે, માપ નથી: તમારું Mac MLX Bench પર માપો. મૉડલના આંકડા દરેક સત્તાવાર મૉડલ કાર્ડમાંથી, ચિપના આંકડા Appleના Tech Specsમાંથી. 2026-10-19ના રોજ ચકાસ્યું. mlx.app/compare જેવો જ ડેટા.

શું Mac પર LFM2.5 24B A2B ચાલી શકે? મેમરી અને ઝડપ