શું LLM માટે M3, M2 કરતાં ઝડપી છે?

લગભગ સરખાં: તેમની મેમરી બૅન્ડવિડ્થમાં થોડા ટકાનો જ ફરક છે. બંનેમાં 24 GB સુધી મેમરી મળે છે.

મોટાં મૉડલ કોણ ચલાવી શકે, M2 કે M3?

બેમાંથી કોઈ નહીં: બંનેમાં 24 GB સુધી મેમરી મળે છે. એ સાઇઝ પર 73 ઓપન મૉડલમાંથી M2 પર 20 અને M3 પર 20 સારાં ચાલે છે; ઝડપી ચિપ તેમાંથી વધુ મૉડલને સેકન્ડના 10 ટોકનથી ઉપર લઈ જાય છે.

લોકલ LLM માટે M2 વિ. M3: મેમરી, ઝડપ, કયું ખરીદવું

બાજુ-બાજુમાં

	M2	M3
મેમરી સાઇઝ	8, 16, 24 GB	8, 16, 24 GB
મેમરી બૅન્ડવિડ્થ	100 GB/s	100 GB/s
મૉડલ માટે, વધુમાં વધુ	આશરે 18 GB	આશરે 18 GB
સારાં ચાલતાં મૉડલ	73માંથી 20	73માંથી 20
MLX સીટ વર્ગ	Core	Core
આમાં મળે છે	MacBook Air (M2, 2022), MacBook Pro (13-inch, M2, 2022), MacBook Air (15-inch, M2, 2023), Mac mini (2023)	MacBook Pro (14-inch, M3, Nov 2023), iMac (24-inch, M3, 2023, Two ports), iMac (24-inch, M3, 2023, Four ports), MacBook Air (13-inch, M3, 2024), MacBook Air (15-inch, M3, 2024)

લોકપ્રિય મૉડલ સાથે ઝડપ

એક વાતચીત માટે સેકન્ડ દીઠ ટોકન, દરેક ચિપ તેની સૌથી મોટી મેમરી સાઇઝ પર (24 GB અને 24 GB), મૉડલના સમાતા શ્રેષ્ઠ વર્ઝન સાથે.

મૉડલ	M2	M3
Llama 3.1 8B Instruct8B	10–18 4-બિટ	10–18 4-બિટ
gpt-oss-20b21B · 3.6B સક્રિય	24–42 નેટિવ 4.25-બિટ	24–42 નેટિવ 4.25-બિટ
Qwen3.6 35B A3B35B · 3B સક્રિય	35–62 3-બિટ ઓછી ગુણવત્તા	35–62 3-બિટ ઓછી ગુણવત્તા
Qwen3.8 27B27B	3–5 4-બિટ	3–5 4-બિટ
Llama 3.3 70B Instruct70B	બહુ મોટું	બહુ મોટું
gpt-oss-120b117B · 5.1B સક્રિય	બહુ મોટું	બહુ મોટું
Qwen3.5 122B A10B122B · 10B સક્રિય	બહુ મોટું	બહુ મોટું
DeepSeek V4 Flash 0731284B · 13B સક્રિય	બહુ મોટું	બહુ મોટું

પ્રશ્નો

શું LLM માટે M3, M2 કરતાં ઝડપી છે?: લગભગ સરખાં: તેમની મેમરી બૅન્ડવિડ્થમાં થોડા ટકાનો જ ફરક છે. બંનેમાં 24 GB સુધી મેમરી મળે છે.
મોટાં મૉડલ કોણ ચલાવી શકે, M2 કે M3?: બેમાંથી કોઈ નહીં: બંનેમાં 24 GB સુધી મેમરી મળે છે. એ સાઇઝ પર 73 ઓપન મૉડલમાંથી M2 પર 20 અને M3 પર 20 સારાં ચાલે છે; ઝડપી ચિપ તેમાંથી વધુ મૉડલને સેકન્ડના 10 ટોકનથી ઉપર લઈ જાય છે.

વધુ સરખામણીઓ

લોકલ AI માટે M2 · લોકલ AI માટે M3 · દરેક મૉડલની સરખામણી કરો · લોકલ LLM માટે શ્રેષ્ઠ Mac

ગણતરી કેવી રીતે થઈ

મેમરી: મૉડલના પૅરામીટર પ્રતિ વેઇટ 8, 6, 4, 3 કે 2 બિટ પર, ઉપરાંત MLXના ગ્રુપ સ્કેલ (પ્રતિ વેઇટ અડધો બિટ), અથવા તેનું નેટિવ ફૉર્મેટ, અને ઉપરથી કૉન્ટેક્સ્ટ માટે જગ્યા. ડિફૉલ્ટ રીતે macOS GPUને યુનિફાઇડ મેમરીનો આશરે 75% ભાગ વાપરવા દે છે. ઝડપ: મેમરી બૅન્ડવિડ્થને દરેક ટોકન માટે વંચાતા બાઇટથી ભાગતાં એક વાતચીતની ઉપલી મર્યાદા મળે છે; llama.cppના જાહેર Apple Silicon બેન્ચમાર્કમાં ખરા રન તેના આશરે 45%થી 80% સુધી પહોંચે છે, અને એ જ રેન્જ બતાવી છે. આ અંદાજ છે, માપ નથી: તમારું Mac MLX Bench પર માપો. મૉડલના આંકડા દરેક સત્તાવાર મૉડલ કાર્ડમાંથી, ચિપના આંકડા Appleના Tech Specsમાંથી. 2026-10-19ના રોજ ચકાસ્યું. mlx.app/compare જેવો જ ડેટા.