શું LLM માટે M2, M1 કરતાં ઝડપી છે?

M2, M1 કરતાં આશરે 47% ઝડપથી મેમરી વાંચે છે (100 વિ. 68 GB/s), એટલે બંનેમાં સમાતા કોઈ પણ મૉડલ સાથે તે આશરે 47% ઝડપથી લખે છે. લાંબો પ્રૉમ્પ્ટ વાંચવો GPU કમ્પ્યૂટ પર આધાર રાખે છે, જે આ સરખામણીમાં સામેલ નથી.

મોટાં મૉડલ કોણ ચલાવી શકે, M1 કે M2?

M2: M2માં 24 GB સુધી મેમરી મળે છે, M1માં 16 GB સુધી. તેની સૌથી મોટી સાઇઝ પર તે 73માંથી 20 ઓપન મૉડલ સારી રીતે ચલાવે છે, બીજું 14.

લોકલ LLM માટે M1 વિ. M2: મેમરી, ઝડપ, કયું ખરીદવું

બાજુ-બાજુમાં

	M1	M2
મેમરી સાઇઝ	8, 16 GB	8, 16, 24 GB
મેમરી બૅન્ડવિડ્થ	68 GB/s	100 GB/s
મૉડલ માટે, વધુમાં વધુ	આશરે 12 GB	આશરે 18 GB
સારાં ચાલતાં મૉડલ	73માંથી 14	73માંથી 20
MLX સીટ વર્ગ	Core	Core
આમાં મળે છે	MacBook Air (M1, 2020), MacBook Pro (13-inch, M1, 2020), Mac mini (M1, 2020), iMac (24-inch, M1, 2021)	MacBook Air (M2, 2022), MacBook Pro (13-inch, M2, 2022), MacBook Air (15-inch, M2, 2023), Mac mini (2023)

લોકપ્રિય મૉડલ સાથે ઝડપ

એક વાતચીત માટે સેકન્ડ દીઠ ટોકન, દરેક ચિપ તેની સૌથી મોટી મેમરી સાઇઝ પર (16 GB અને 24 GB), મૉડલના સમાતા શ્રેષ્ઠ વર્ઝન સાથે.

મૉડલ	M1	M2
Llama 3.1 8B Instruct8B	4–6 8-બિટ	10–18 4-બિટ
gpt-oss-20b21B · 3.6B સક્રિય	19–34 3-બિટ ઓછી ગુણવત્તા	24–42 નેટિવ 4.25-બિટ
Qwen3.6 35B A3B35B · 3B સક્રિય	34–60 2-બિટ ઓછી ગુણવત્તા	35–62 3-બિટ ઓછી ગુણવત્તા
Qwen3.8 27B27B	4–6 2-બિટ ઓછી ગુણવત્તા	3–5 4-બિટ
Llama 3.3 70B Instruct70B	બહુ મોટું	બહુ મોટું
gpt-oss-120b117B · 5.1B સક્રિય	બહુ મોટું	બહુ મોટું
Qwen3.5 122B A10B122B · 10B સક્રિય	બહુ મોટું	બહુ મોટું
DeepSeek V4 Flash 0731284B · 13B સક્રિય	બહુ મોટું	બહુ મોટું

પ્રશ્નો

શું LLM માટે M2, M1 કરતાં ઝડપી છે?: M2, M1 કરતાં આશરે 47% ઝડપથી મેમરી વાંચે છે (100 વિ. 68 GB/s), એટલે બંનેમાં સમાતા કોઈ પણ મૉડલ સાથે તે આશરે 47% ઝડપથી લખે છે. લાંબો પ્રૉમ્પ્ટ વાંચવો GPU કમ્પ્યૂટ પર આધાર રાખે છે, જે આ સરખામણીમાં સામેલ નથી.
મોટાં મૉડલ કોણ ચલાવી શકે, M1 કે M2?: M2: M2માં 24 GB સુધી મેમરી મળે છે, M1માં 16 GB સુધી. તેની સૌથી મોટી સાઇઝ પર તે 73માંથી 20 ઓપન મૉડલ સારી રીતે ચલાવે છે, બીજું 14.

વધુ સરખામણીઓ

લોકલ AI માટે M1 · લોકલ AI માટે M2 · દરેક મૉડલની સરખામણી કરો · લોકલ LLM માટે શ્રેષ્ઠ Mac

ગણતરી કેવી રીતે થઈ

મેમરી: મૉડલના પૅરામીટર પ્રતિ વેઇટ 8, 6, 4, 3 કે 2 બિટ પર, ઉપરાંત MLXના ગ્રુપ સ્કેલ (પ્રતિ વેઇટ અડધો બિટ), અથવા તેનું નેટિવ ફૉર્મેટ, અને ઉપરથી કૉન્ટેક્સ્ટ માટે જગ્યા. ડિફૉલ્ટ રીતે macOS GPUને યુનિફાઇડ મેમરીનો આશરે 75% ભાગ વાપરવા દે છે. ઝડપ: મેમરી બૅન્ડવિડ્થને દરેક ટોકન માટે વંચાતા બાઇટથી ભાગતાં એક વાતચીતની ઉપલી મર્યાદા મળે છે; llama.cppના જાહેર Apple Silicon બેન્ચમાર્કમાં ખરા રન તેના આશરે 45%થી 80% સુધી પહોંચે છે, અને એ જ રેન્જ બતાવી છે. આ અંદાજ છે, માપ નથી: તમારું Mac MLX Bench પર માપો. મૉડલના આંકડા દરેક સત્તાવાર મૉડલ કાર્ડમાંથી, ચિપના આંકડા Appleના Tech Specsમાંથી. 2026-10-19ના રોજ ચકાસ્યું. mlx.app/compare જેવો જ ડેટા.