LLM साठी M2 हा M1 पेक्षा वेगवान आहे का?

M2 हा M1 पेक्षा सुमारे 47% वेगाने मेमरी वाचतो (100 विरुद्ध 68 GB/s), त्यामुळे दोघांत बसणाऱ्या कोणत्याही मॉडेलसह तो सुमारे 47% वेगाने लिहितो. लांब प्रॉम्प्ट वाचणे मात्र GPU कंप्यूटवर अवलंबून असते, ते या तुलनेत नाही.

मोठी मॉडेल कोण चालवू शकतो, M1 की M2?

M2: M2 मध्ये 24 GB पर्यंत मेमरी मिळते, M1 मध्ये 16 GB पर्यंत. सर्वात मोठ्या आकारात तो 73 पैकी 20 ओपन मॉडेल चांगली चालवतो, दुसरा 14.

लोकल LLM साठी M1 विरुद्ध M2: मेमरी, वेग, कोणता घ्यावा

शेजारी-शेजारी

	M1	M2
मेमरी आकार	8, 16 GB	8, 16, 24 GB
मेमरी बँडविड्थ	68 GB/s	100 GB/s
मॉडेलसाठी, जास्तीत जास्त	सुमारे 12 GB	सुमारे 18 GB
चांगली चालणारी मॉडेल	73 पैकी 14	73 पैकी 20
MLX सीट वर्ग	Core	Core
यात मिळतो	MacBook Air (M1, 2020), MacBook Pro (13-inch, M1, 2020), Mac mini (M1, 2020), iMac (24-inch, M1, 2021)	MacBook Air (M2, 2022), MacBook Pro (13-inch, M2, 2022), MacBook Air (15-inch, M2, 2023), Mac mini (2023)

लोकप्रिय मॉडेलसह वेग

एका संभाषणासाठी सेकंदाला टोकन, प्रत्येक चिप तिच्या सर्वात मोठ्या मेमरी आकारावर (16 GB आणि 24 GB), मॉडेलच्या बसणाऱ्या सर्वोत्तम आवृत्तीसह.

मॉडेल	M1	M2
Llama 3.1 8B Instruct8B	4–6 8-बिट	10–18 4-बिट
gpt-oss-20b21B · 3.6B सक्रिय	19–34 3-बिट कमी गुणवत्ता	24–42 नेटिव्ह 4.25-बिट
Qwen3.6 35B A3B35B · 3B सक्रिय	34–60 2-बिट कमी गुणवत्ता	35–62 3-बिट कमी गुणवत्ता
Qwen3.8 27B27B	4–6 2-बिट कमी गुणवत्ता	3–5 4-बिट
Llama 3.3 70B Instruct70B	खूप मोठे	खूप मोठे
gpt-oss-120b117B · 5.1B सक्रिय	खूप मोठे	खूप मोठे
Qwen3.5 122B A10B122B · 10B सक्रिय	खूप मोठे	खूप मोठे
DeepSeek V4 Flash 0731284B · 13B सक्रिय	खूप मोठे	खूप मोठे

प्रश्न

LLM साठी M2 हा M1 पेक्षा वेगवान आहे का?: M2 हा M1 पेक्षा सुमारे 47% वेगाने मेमरी वाचतो (100 विरुद्ध 68 GB/s), त्यामुळे दोघांत बसणाऱ्या कोणत्याही मॉडेलसह तो सुमारे 47% वेगाने लिहितो. लांब प्रॉम्प्ट वाचणे मात्र GPU कंप्यूटवर अवलंबून असते, ते या तुलनेत नाही.
मोठी मॉडेल कोण चालवू शकतो, M1 की M2?: M2: M2 मध्ये 24 GB पर्यंत मेमरी मिळते, M1 मध्ये 16 GB पर्यंत. सर्वात मोठ्या आकारात तो 73 पैकी 20 ओपन मॉडेल चांगली चालवतो, दुसरा 14.

आणखी तुलना

लोकल AI साठी M1 · लोकल AI साठी M2 · प्रत्येक मॉडेलची तुलना करा · लोकल LLM साठी सर्वोत्तम Mac

हिशोब कसा केला

मेमरी: मॉडेलचे पॅरामीटर प्रति वेट 8, 6, 4, 3 किंवा 2 बिटला, शिवाय MLX चे ग्रुप स्केल (प्रति वेट अर्धा बिट), किंवा त्याचा नेटिव्ह फॉरमॅट, आणि वर कॉन्टेक्स्टसाठी जागा. डिफॉल्टनुसार macOS GPU ला युनिफाइड मेमरीपैकी सुमारे 75% वापरू देते. वेग: मेमरी बँडविड्थला प्रत्येक टोकनसाठी वाचल्या जाणाऱ्या बाइटने भागल्यास एका संभाषणाची कमाल मर्यादा मिळते; llama.cpp च्या सार्वजनिक Apple Silicon बेंचमार्क मध्ये प्रत्यक्ष रन त्याच्या सुमारे 45% ते 80% पर्यंत पोहोचतात, आणि हीच रेंज दाखवली आहे. हे अंदाज आहेत, मोजमाप नाही: तुमचा Mac MLX Bench वर मोजा. मॉडेलचे आकडे प्रत्येक अधिकृत मॉडेल कार्डमधून, चिपचे आकडे Apple च्या Tech Specs मधून. 2026-10-19 रोजी तपासले. mlx.app/compare वरचाच डेटा.