LLM साठी M3 हा M2 पेक्षा वेगवान आहे का?

जवळजवळ सारखेच: त्यांच्या मेमरी बँडविड्थमध्ये काही टक्क्यांचाच फरक आहे. दोघांमध्ये 24 GB पर्यंत मेमरी मिळते.

मोठी मॉडेल कोण चालवू शकतो, M2 की M3?

दोघांपैकी कोणीही नाही: दोघांमध्ये 24 GB पर्यंत मेमरी मिळते. त्या आकारात 73 ओपन मॉडेलपैकी M2 वर 20 आणि M3 वर 20 चांगली चालतात; वेगवान चिप त्यांपैकी जास्त मॉडेल सेकंदाला 10 टोकनच्या पुढे नेते.

लोकल LLM साठी M2 विरुद्ध M3: मेमरी, वेग, कोणता घ्यावा

शेजारी-शेजारी

	M2	M3
मेमरी आकार	8, 16, 24 GB	8, 16, 24 GB
मेमरी बँडविड्थ	100 GB/s	100 GB/s
मॉडेलसाठी, जास्तीत जास्त	सुमारे 18 GB	सुमारे 18 GB
चांगली चालणारी मॉडेल	73 पैकी 20	73 पैकी 20
MLX सीट वर्ग	Core	Core
यात मिळतो	MacBook Air (M2, 2022), MacBook Pro (13-inch, M2, 2022), MacBook Air (15-inch, M2, 2023), Mac mini (2023)	MacBook Pro (14-inch, M3, Nov 2023), iMac (24-inch, M3, 2023, Two ports), iMac (24-inch, M3, 2023, Four ports), MacBook Air (13-inch, M3, 2024), MacBook Air (15-inch, M3, 2024)

लोकप्रिय मॉडेलसह वेग

एका संभाषणासाठी सेकंदाला टोकन, प्रत्येक चिप तिच्या सर्वात मोठ्या मेमरी आकारावर (24 GB आणि 24 GB), मॉडेलच्या बसणाऱ्या सर्वोत्तम आवृत्तीसह.

मॉडेल	M2	M3
Llama 3.1 8B Instruct8B	10–18 4-बिट	10–18 4-बिट
gpt-oss-20b21B · 3.6B सक्रिय	24–42 नेटिव्ह 4.25-बिट	24–42 नेटिव्ह 4.25-बिट
Qwen3.6 35B A3B35B · 3B सक्रिय	35–62 3-बिट कमी गुणवत्ता	35–62 3-बिट कमी गुणवत्ता
Qwen3.8 27B27B	3–5 4-बिट	3–5 4-बिट
Llama 3.3 70B Instruct70B	खूप मोठे	खूप मोठे
gpt-oss-120b117B · 5.1B सक्रिय	खूप मोठे	खूप मोठे
Qwen3.5 122B A10B122B · 10B सक्रिय	खूप मोठे	खूप मोठे
DeepSeek V4 Flash 0731284B · 13B सक्रिय	खूप मोठे	खूप मोठे

प्रश्न

LLM साठी M3 हा M2 पेक्षा वेगवान आहे का?: जवळजवळ सारखेच: त्यांच्या मेमरी बँडविड्थमध्ये काही टक्क्यांचाच फरक आहे. दोघांमध्ये 24 GB पर्यंत मेमरी मिळते.
मोठी मॉडेल कोण चालवू शकतो, M2 की M3?: दोघांपैकी कोणीही नाही: दोघांमध्ये 24 GB पर्यंत मेमरी मिळते. त्या आकारात 73 ओपन मॉडेलपैकी M2 वर 20 आणि M3 वर 20 चांगली चालतात; वेगवान चिप त्यांपैकी जास्त मॉडेल सेकंदाला 10 टोकनच्या पुढे नेते.

आणखी तुलना

लोकल AI साठी M2 · लोकल AI साठी M3 · प्रत्येक मॉडेलची तुलना करा · लोकल LLM साठी सर्वोत्तम Mac

हिशोब कसा केला

मेमरी: मॉडेलचे पॅरामीटर प्रति वेट 8, 6, 4, 3 किंवा 2 बिटला, शिवाय MLX चे ग्रुप स्केल (प्रति वेट अर्धा बिट), किंवा त्याचा नेटिव्ह फॉरमॅट, आणि वर कॉन्टेक्स्टसाठी जागा. डिफॉल्टनुसार macOS GPU ला युनिफाइड मेमरीपैकी सुमारे 75% वापरू देते. वेग: मेमरी बँडविड्थला प्रत्येक टोकनसाठी वाचल्या जाणाऱ्या बाइटने भागल्यास एका संभाषणाची कमाल मर्यादा मिळते; llama.cpp च्या सार्वजनिक Apple Silicon बेंचमार्क मध्ये प्रत्यक्ष रन त्याच्या सुमारे 45% ते 80% पर्यंत पोहोचतात, आणि हीच रेंज दाखवली आहे. हे अंदाज आहेत, मोजमाप नाही: तुमचा Mac MLX Bench वर मोजा. मॉडेलचे आकडे प्रत्येक अधिकृत मॉडेल कार्डमधून, चिपचे आकडे Apple च्या Tech Specs मधून. 2026-10-19 रोजी तपासले. mlx.app/compare वरचाच डेटा.