શું LLM માટે M4, M2 કરતાં ઝડપી છે?

M4, M2 કરતાં આશરે 20% ઝડપથી મેમરી વાંચે છે (120 વિ. 100 GB/s), એટલે બંનેમાં સમાતા કોઈ પણ મૉડલ સાથે તે આશરે 20% ઝડપથી લખે છે. લાંબો પ્રૉમ્પ્ટ વાંચવો GPU કમ્પ્યૂટ પર આધાર રાખે છે, જે આ સરખામણીમાં સામેલ નથી.

મોટાં મૉડલ કોણ ચલાવી શકે, M2 કે M4?

M4: M4માં 32 GB સુધી મેમરી મળે છે, M2માં 24 GB સુધી. તેની સૌથી મોટી સાઇઝ પર તે 73માંથી 27 ઓપન મૉડલ સારી રીતે ચલાવે છે, બીજું 20.

લોકલ LLM માટે M2 વિ. M4: મેમરી, ઝડપ, કયું ખરીદવું

બાજુ-બાજુમાં

	M2	M4
મેમરી સાઇઝ	8, 16, 24 GB	16, 24, 32 GB
મેમરી બૅન્ડવિડ્થ	100 GB/s	120 GB/s
મૉડલ માટે, વધુમાં વધુ	આશરે 18 GB	આશરે 24 GB
સારાં ચાલતાં મૉડલ	73માંથી 20	73માંથી 27
MLX સીટ વર્ગ	Core	Core
આમાં મળે છે	MacBook Air (M2, 2022), MacBook Pro (13-inch, M2, 2022), MacBook Air (15-inch, M2, 2023), Mac mini (2023)	MacBook Pro (14-inch, M4, 2024), iMac (24-inch, 2024, Two ports), iMac (24-inch, 2024, Four ports), Mac mini (2024), MacBook Air (13-inch, M4, 2025), MacBook Air (15-inch, M4, 2025)

લોકપ્રિય મૉડલ સાથે ઝડપ

એક વાતચીત માટે સેકન્ડ દીઠ ટોકન, દરેક ચિપ તેની સૌથી મોટી મેમરી સાઇઝ પર (24 GB અને 32 GB), મૉડલના સમાતા શ્રેષ્ઠ વર્ઝન સાથે.

મૉડલ	M2	M4
Llama 3.1 8B Instruct8B	10–18 4-બિટ	12–21 4-બિટ
gpt-oss-20b21B · 3.6B સક્રિય	24–42 નેટિવ 4.25-બિટ	28–51 નેટિવ 4.25-બિટ
Qwen3.6 35B A3B35B · 3B સક્રિય	35–62 3-બિટ ઓછી ગુણવત્તા	32–56 4-બિટ
Qwen3.8 27B27B	3–5 4-બિટ	2–4 6-બિટ
Llama 3.3 70B Instruct70B	બહુ મોટું	2–4 2-બિટ ઓછી ગુણવત્તા
gpt-oss-120b117B · 5.1B સક્રિય	બહુ મોટું	બહુ મોટું
Qwen3.5 122B A10B122B · 10B સક્રિય	બહુ મોટું	બહુ મોટું
DeepSeek V4 Flash 0731284B · 13B સક્રિય	બહુ મોટું	બહુ મોટું

પ્રશ્નો

શું LLM માટે M4, M2 કરતાં ઝડપી છે?: M4, M2 કરતાં આશરે 20% ઝડપથી મેમરી વાંચે છે (120 વિ. 100 GB/s), એટલે બંનેમાં સમાતા કોઈ પણ મૉડલ સાથે તે આશરે 20% ઝડપથી લખે છે. લાંબો પ્રૉમ્પ્ટ વાંચવો GPU કમ્પ્યૂટ પર આધાર રાખે છે, જે આ સરખામણીમાં સામેલ નથી.
મોટાં મૉડલ કોણ ચલાવી શકે, M2 કે M4?: M4: M4માં 32 GB સુધી મેમરી મળે છે, M2માં 24 GB સુધી. તેની સૌથી મોટી સાઇઝ પર તે 73માંથી 27 ઓપન મૉડલ સારી રીતે ચલાવે છે, બીજું 20.

વધુ સરખામણીઓ

લોકલ AI માટે M2 · લોકલ AI માટે M4 · દરેક મૉડલની સરખામણી કરો · લોકલ LLM માટે શ્રેષ્ઠ Mac

ગણતરી કેવી રીતે થઈ

મેમરી: મૉડલના પૅરામીટર પ્રતિ વેઇટ 8, 6, 4, 3 કે 2 બિટ પર, ઉપરાંત MLXના ગ્રુપ સ્કેલ (પ્રતિ વેઇટ અડધો બિટ), અથવા તેનું નેટિવ ફૉર્મેટ, અને ઉપરથી કૉન્ટેક્સ્ટ માટે જગ્યા. ડિફૉલ્ટ રીતે macOS GPUને યુનિફાઇડ મેમરીનો આશરે 75% ભાગ વાપરવા દે છે. ઝડપ: મેમરી બૅન્ડવિડ્થને દરેક ટોકન માટે વંચાતા બાઇટથી ભાગતાં એક વાતચીતની ઉપલી મર્યાદા મળે છે; llama.cppના જાહેર Apple Silicon બેન્ચમાર્કમાં ખરા રન તેના આશરે 45%થી 80% સુધી પહોંચે છે, અને એ જ રેન્જ બતાવી છે. આ અંદાજ છે, માપ નથી: તમારું Mac MLX Bench પર માપો. મૉડલના આંકડા દરેક સત્તાવાર મૉડલ કાર્ડમાંથી, ચિપના આંકડા Appleના Tech Specsમાંથી. 2026-10-19ના રોજ ચકાસ્યું. mlx.app/compare જેવો જ ડેટા.