દરેક પ્રિસિઝન પર મેમરી
| વર્ઝન | વેઇટ | કૉન્ટેક્સ્ટ સાથે | સૌથી નાનું Mac |
|---|---|---|---|
| 8-બિટ | 8.5 GB | 10 GB | 16 GB |
| 6-બિટ | 6.5 GB | 8 GB | 16 GB |
| 4-બિટ | 4.5 GB | 6 GB | 8 GB |
| 3-બિટ ઓછી ગુણવત્તા | 3.5 GB | 5 GB | 8 GB |
| 2-બિટ ઓછી ગુણવત્તા | 2.5 GB | 4 GB | 8 GB |
દરેક Apple ચિપ પર
દરેક ચિપની Gemma 4 E4B ચલાવતી સૌથી નાની મેમરી સાઇઝ, તેમાં સમાતું શ્રેષ્ઠ વર્ઝન, અને લખવાની અપેક્ષિત ઝડપ.
| ચિપ | જરૂર | વર્ઝન | ટોકન/સેકન્ડ |
|---|---|---|---|
| M6 | 16 GB | 8-બિટ સારું ચાલે છે | 14–26 |
| M5 Ultra | 96 GB | 8-બિટ સારું ચાલે છે | 113–200 |
| M5 Max | 36 GB | 8-બિટ સારું ચાલે છે | 43–77 |
| M5 Pro | 24 GB | 8-બિટ સારું ચાલે છે | 29–51 |
| M5 | 16 GB | 8-બિટ સારું ચાલે છે | 14–26 |
| M4 Max | 36 GB | 8-બિટ સારું ચાલે છે | 38–68 |
| M4 Pro | 24 GB | 8-બિટ સારું ચાલે છે | 26–46 |
| M4 | 16 GB | 8-બિટ સારું ચાલે છે | 11–20 |
| M3 Ultra | 96 GB | 8-બિટ સારું ચાલે છે | 77–137 |
| M3 Max | 36 GB | 8-બિટ સારું ચાલે છે | 28–50 |
| M3 Pro | 18 GB | 8-બિટ સારું ચાલે છે | 14–25 |
| M3 | 8 GB | 4-બિટ સારું ચાલે છે | 18–32 |
| M2 Ultra | 64 GB | 8-બિટ સારું ચાલે છે | 75–133 |
| M2 Max | 32 GB | 8-બિટ સારું ચાલે છે | 38–67 |
| M2 Pro | 16 GB | 8-બિટ સારું ચાલે છે | 19–33 |
| M2 | 8 GB | 4-બિટ સારું ચાલે છે | 18–32 |
| M1 Ultra | 64 GB | 8-બિટ સારું ચાલે છે | 75–133 |
| M1 Max | 32 GB | 8-બિટ સારું ચાલે છે | 38–67 |
| M1 Pro | 16 GB | 8-બિટ સારું ચાલે છે | 19–33 |
| M1 | 8 GB | 4-બિટ સારું ચાલે છે | 12–22 |
તેને કેવી રીતે ચલાવવું
- સરળ રીત: MLX Harness ડાઉનલોડ કરો, જે મફત અને ઓપન સોર્સ છે. Gemma 4 E4B શોધો, તમારા Macમાં સમાતું વર્ઝન ડાઉનલોડ કરો, અને ચૅટ કરો. તે OpenAI-compatible API દ્વારા આ મૉડલ તમારી બીજી ઍપને પણ આપે છે.MLX Harness ડાઉનલોડ કરોમફત · Apple Silicon · macOS 14.5 કે પછીનું
- Terminalમાં Appleના MLX સાથે:
pip install mlx-lmmlx_lm.chat --model mlx-community/gemma-4-e4b-it-4bitબિલ્ડ: Hugging Face પર mlx-community/gemma-4-e4b-it-4bit. બીજાં પ્રિસિઝન તેની બાજુમાં જ છે.
સ્ટેપ બાય સ્ટેપ: Mac પર LLM ડાઉનલોડ કરો અને ચલાવો · MLX Harness કેવી રીતે વાપરવું · MLX વિ. Ollama વિ. llama.cpp
Gemma 4 E4B વિશે
| બનાવનાર | Google DeepMind |
|---|---|
| પૅરામીટર | 8B (ડેન્સ) |
| કૉન્ટેક્સ્ટ | 128K ટોકન |
| લાઇસન્સ | Apache-2.0 |
| રિલીઝ | 2026-03 |
| ઇનપુટ | ટેક્સ્ટ અને ઇમેજ |
| ઇન્ટેલિજન્સ | Artificial Analysis Intelligence Index પર 8.9 |
| વેઇટ | google/gemma-4-E4B-it |
પ્રશ્નો
- Gemma 4 E4Bને કેટલી મેમરી જોઈએ?
- 4-બિટ પર આશરે 4.5 GB વેઇટ, ઉપરાંત કૉન્ટેક્સ્ટ માટે જગ્યા: કુલ 6 GB. Mac પર એનો અર્થ 8 GB કે વધુ યુનિફાઇડ મેમરી, કારણ કે ડિફૉલ્ટ રીતે macOS GPUને તેનો આશરે 75% ભાગ વાપરવા દે છે.
- Mac પર Gemma 4 E4B કેટલું ઝડપી ચાલે છે?
- લખવાની ઝડપ મેમરી બૅન્ડવિડ્થ પર આધાર રાખે છે. અહીં તેના માટે સૌથી ઝડપી Mac 96 GBવાળું M5 Ultra છે, સેકન્ડના આશરે 113–200 ટોકન (8-બિટ). તેને ચલાવતું સૌથી નાનું Mac, 8 GBવાળું M3, આશરે 18–32 સુધી પહોંચે છે.
- શું ક્વૉન્ટાઇઝેશનથી Gemma 4 E4Bની ગુણવત્તા ઘટે છે?
- 4 બિટ પર મોટા ભાગનાં મૉડલ મૂળ ગુણવત્તાની નજીક રહે છે; 4 બિટથી નીચે ગુણવત્તા ઝડપથી ઘટે છે. તમારા Macમાં જગ્યા રાખીને સમાય તેવું સૌથી ઊંચું પ્રિસિઝન પસંદ કરો.
મળતાં આવતાં મૉડલ
તમારા મૉડલ કાર્ડ કે README માટે
Gemma 4 E4Bને સારી રીતે ચલાવતું સૌથી નાનું Mac બતાવે છે અને અહીં લિંક કરે છે.
[](https://mlx.app/run/gemma-4-e4b)ગણતરી કેવી રીતે થઈ
મેમરી: મૉડલના પૅરામીટર પ્રતિ વેઇટ 8, 6, 4, 3 કે 2 બિટ પર, ઉપરાંત MLXના ગ્રુપ સ્કેલ (પ્રતિ વેઇટ અડધો બિટ), અથવા તેનું નેટિવ ફૉર્મેટ, અને ઉપરથી કૉન્ટેક્સ્ટ માટે જગ્યા. ડિફૉલ્ટ રીતે macOS GPUને યુનિફાઇડ મેમરીનો આશરે 75% ભાગ વાપરવા દે છે. ઝડપ: મેમરી બૅન્ડવિડ્થને દરેક ટોકન માટે વંચાતા બાઇટથી ભાગતાં એક વાતચીતની ઉપલી મર્યાદા મળે છે; llama.cppના જાહેર Apple Silicon બેન્ચમાર્કમાં ખરા રન તેના આશરે 45%થી 80% સુધી પહોંચે છે, અને એ જ રેન્જ બતાવી છે. આ અંદાજ છે, માપ નથી: તમારું Mac MLX Bench પર માપો. મૉડલના આંકડા દરેક સત્તાવાર મૉડલ કાર્ડમાંથી, ચિપના આંકડા Appleના Tech Specsમાંથી. 2026-10-19ના રોજ ચકાસ્યું. mlx.app/compare જેવો જ ડેટા.