کیا LLMs کے لیے M3، M2 سے تیز ہے؟

تقریباً ایک جیسے: ان کی میموری بینڈوڈتھ میں صرف چند فیصد کا فرق ہے۔ دونوں میں 24 GB تک میموری ملتی ہے۔

بڑے ماڈلز کون چلا سکتا ہے، M2 یا M3؟

کوئی نہیں: دونوں میں 24 GB تک میموری ملتی ہے۔ اس سائز پر M2، 73 اوپن ماڈلز میں سے 20 اور M3 20 اچھے چلاتا ہے؛ تیز والا ان میں سے زیادہ کو فی سیکنڈ 10 ٹوکن تک پہنچاتا ہے۔

LLMs کے لیے M2 بمقابلہ M3: میموری، رفتار، کون سا لیں

ساتھ ساتھ

	M2	M3
میموری سائز	8, 16, 24 GB	8, 16, 24 GB
میموری بینڈوڈتھ	100 GB/s	100 GB/s
ماڈلز کے لیے، زیادہ سے زیادہ	تقریباً 18 GB	تقریباً 18 GB
اچھا چلنے والے ماڈلز	73 میں سے 20	73 میں سے 20
MLX سیٹ کلاس	Core	Core
کن میں ملتی ہے	MacBook Air (M2, 2022), MacBook Pro (13-inch, M2, 2022), MacBook Air (15-inch, M2, 2023), Mac mini (2023)	MacBook Pro (14-inch, M3, Nov 2023), iMac (24-inch, M3, 2023, Two ports), iMac (24-inch, M3, 2023, Four ports), MacBook Air (13-inch, M3, 2024), MacBook Air (15-inch, M3, 2024)

مقبول ماڈلز کے ساتھ رفتار

ایک گفتگو کے لیے فی سیکنڈ ٹوکن، ہر چپ اپنے سب سے بڑے میموری سائز پر (24 GB اور 24 GB)، ماڈل کے اس بہترین ورژن کے ساتھ جو سماتا ہے۔

ماڈل	M2	M3
Llama 3.1 8B Instruct8B	10–18 4-bit	10–18 4-bit
gpt-oss-20b21B · 3.6B فعال	24–42 اصل 4.25-bit	24–42 اصل 4.25-bit
Qwen3.6 35B A3B35B · 3B فعال	35–62 3-bit کم معیار	35–62 3-bit کم معیار
Qwen3.8 27B27B	3–5 4-bit	3–5 4-bit
Llama 3.3 70B Instruct70B	بہت بڑا	بہت بڑا
gpt-oss-120b117B · 5.1B فعال	بہت بڑا	بہت بڑا
Qwen3.5 122B A10B122B · 10B فعال	بہت بڑا	بہت بڑا
DeepSeek V4 Flash 0731284B · 13B فعال	بہت بڑا	بہت بڑا

سوالات

کیا LLMs کے لیے M3، M2 سے تیز ہے؟: تقریباً ایک جیسے: ان کی میموری بینڈوڈتھ میں صرف چند فیصد کا فرق ہے۔ دونوں میں 24 GB تک میموری ملتی ہے۔
بڑے ماڈلز کون چلا سکتا ہے، M2 یا M3؟: کوئی نہیں: دونوں میں 24 GB تک میموری ملتی ہے۔ اس سائز پر M2، 73 اوپن ماڈلز میں سے 20 اور M3 20 اچھے چلاتا ہے؛ تیز والا ان میں سے زیادہ کو فی سیکنڈ 10 ٹوکن تک پہنچاتا ہے۔

مزید موازنے

لوکل AI کے لیے M2 · لوکل AI کے لیے M3 · ہر ماڈل کا موازنہ کریں · لوکل LLMs کے لیے بہترین Mac

یہ کیسے نکالا گیا

میموری: ماڈل کے پیرامیٹرز فی ویٹ 8، 6، 4، 3 یا 2 bits پر، ساتھ MLX کے گروپ اسکیلز (فی ویٹ آدھا bit)، یا اس کا اصل فارمیٹ، اور اوپر سے کانٹیکسٹ کی گنجائش۔ macOS ڈیفالٹ طور پر GPU کو یونیفائیڈ میموری کا تقریباً 75% استعمال کرنے دیتا ہے۔ رفتار: میموری بینڈوڈتھ کو فی ٹوکن پڑھے جانے والے بائٹس سے تقسیم کریں تو ایک گفتگو کی حد ملتی ہے؛ llama.cpp کے Apple Silicon پر پبلک بینچ مارکس میں اصل رنز اس کے تقریباً 45% سے 80% تک پہنچتے ہیں، اور یہی رینج دکھائی گئی ہے۔ یہ اندازے ہیں، پیمائشیں نہیں: اپنا Mac MLX Bench پر ناپیں۔ ماڈل کے اعداد ہر ماڈل کے آفیشل ماڈل کارڈ سے، چپ کے اعداد Apple کی Tech Specs سے۔ 2026-10-19 کو چیک کیا گیا۔ وہی ڈیٹا جو mlx.app/compare پر ہے۔