لاگ انوالیٹ بنائیں

لوکل AI کے لیے M3 Pro والا MacBook Pro۔

M3 Pro میموری کو 150 GB/s پر پڑھتا ہے، جو لکھنے کی رفتار طے کرتی ہے۔ میموری طے کرتی ہے کہ کون سے ماڈلز سمائیں گے، اور اسے بعد میں بڑھایا نہیں جا سکتا، اس لیے سائز یہیں چنیں۔

18 GB20 ماڈل اچھے چلتے ہیںGemma 4 12B Unified · 10–18 tok/s36 GB28 ماڈل اچھے چلتے ہیںQwen3.6 35B A3B · 40–71 tok/s

میموری سائز کے لحاظ سے

میموریاچھے چلتے ہیںاچھا چلنے والا سب سے بڑاgpt-oss-20b
18 GB150 GB/s20Gemma 4 12B Unified36–63 tok/s
36 GB150 GB/s28Qwen3.6 35B A3B36–63 tok/s

Mac ماڈلز: MacBook Pro (14-inch, M3 Pro or M3 Max, Nov 2023), MacBook Pro (16-inch, Nov 2023)۔ ہر میموری سائز ہر Mac ماڈل کے ساتھ دستیاب نہیں؛ Apple کی Tech Specs بتاتی ہیں کہ ہر ایک کس کے ساتھ آتا ہے۔

سوالات

کیا M3 Pro والا MacBook Pro لوکل LLMs کے لیے اچھا ہے؟
36 GB کے ساتھ یہ 73 اوپن ماڈلز میں سے 28 اچھے چلاتا ہے، Qwen3.6 35B A3B تک، اور gpt-oss-20b کے ساتھ فی سیکنڈ تقریباً 36–63 ٹوکن لکھتا ہے۔ M3 Pro میموری کو 150 GB/s پر پڑھتا ہے، جو لکھنے کی رفتار طے کرتی ہے۔
AI کے لیے M3 Pro والے MacBook Pro میں کتنی میموری ہونی چاہیے؟
18 GB کے ساتھ یہ 20 اوپن ماڈلز اچھے چلاتا ہے؛ 36 GB کے ساتھ 28، Qwen3.6 35B A3B تک۔ میموری طے کرتی ہے کہ کون سے ماڈلز سمائیں گے، اور اسے بعد میں بڑھایا نہیں جا سکتا۔

دوسرے Mac

دوسری چپس کے ساتھ MacBook Pro:

آمنے سامنے:

لوکل AI کے لیے M3 Pro · لوکل LLMs کے لیے بہترین Mac · تمام Mac

یہ کیسے نکالا گیا

میموری: ماڈل کے پیرامیٹرز فی ویٹ 8، 6، 4، 3 یا 2 bits پر، ساتھ MLX کے گروپ اسکیلز (فی ویٹ آدھا bit)، یا اس کا اصل فارمیٹ، اور اوپر سے کانٹیکسٹ کی گنجائش۔ macOS ڈیفالٹ طور پر GPU کو یونیفائیڈ میموری کا تقریباً 75% استعمال کرنے دیتا ہے۔ رفتار: میموری بینڈوڈتھ کو فی ٹوکن پڑھے جانے والے بائٹس سے تقسیم کریں تو ایک گفتگو کی حد ملتی ہے؛ llama.cpp کے Apple Silicon پر پبلک بینچ مارکس میں اصل رنز اس کے تقریباً 45% سے 80% تک پہنچتے ہیں، اور یہی رینج دکھائی گئی ہے۔ یہ اندازے ہیں، پیمائشیں نہیں: اپنا Mac MLX Bench پر ناپیں۔ ماڈل کے اعداد ہر ماڈل کے آفیشل ماڈل کارڈ سے، چپ کے اعداد Apple کی Tech Specs سے۔ 2026-10-19 کو چیک کیا گیا۔ وہی ڈیٹا جو mlx.app/compare پر ہے۔

MacBook Pro M3 Pro پر کون سے LLMs چلتے ہیں: میموری کے لحاظ سے