میموری سائز کے لحاظ سے
| میموری | اچھے چلتے ہیں | اچھا چلنے والا سب سے بڑا | gpt-oss-20b |
|---|---|---|---|
| 32 GB400 GB/s | 38 | Qwen3.6 35B A3B | 95–168 tok/s |
| 64 GB400 GB/s | 39 | Nemotron 3.5 Bolt 74B A9B | 95–168 tok/s |
| 96 GB400 GB/s | 43 | gpt-oss-120b | 95–168 tok/s |
Mac ماڈلز: MacBook Pro (14-inch, 2023), MacBook Pro (16-inch, 2023)۔ ہر میموری سائز ہر Mac ماڈل کے ساتھ دستیاب نہیں؛ Apple کی Tech Specs بتاتی ہیں کہ ہر ایک کس کے ساتھ آتا ہے۔
سوالات
- کیا M2 Max والا MacBook Pro لوکل LLMs کے لیے اچھا ہے؟
- 96 GB کے ساتھ یہ 73 اوپن ماڈلز میں سے 43 اچھے چلاتا ہے، gpt-oss-120b تک، اور gpt-oss-20b کے ساتھ فی سیکنڈ تقریباً 95–168 ٹوکن لکھتا ہے۔ M2 Max میموری کو 400 GB/s پر پڑھتا ہے، جو لکھنے کی رفتار طے کرتی ہے۔
- AI کے لیے M2 Max والے MacBook Pro میں کتنی میموری ہونی چاہیے؟
- 32 GB کے ساتھ یہ 38 اوپن ماڈلز اچھے چلاتا ہے؛ 96 GB کے ساتھ 43، gpt-oss-120b تک۔ میموری طے کرتی ہے کہ کون سے ماڈلز سمائیں گے، اور اسے بعد میں بڑھایا نہیں جا سکتا۔
دوسرے Mac
دوسری چپس کے ساتھ MacBook Pro:
- MacBook Pro M5
- MacBook Pro M5 Pro
- MacBook Pro M5 Max
- MacBook Pro M4
- MacBook Pro M4 Pro
- MacBook Pro M4 Max
- MacBook Pro M3
- MacBook Pro M3 Pro
- MacBook Pro M3 Max
- MacBook Pro M2
- MacBook Pro M2 Pro
- MacBook Pro M1
- MacBook Pro M1 Pro
- MacBook Pro M1 Max
M2 Max والے دوسرے Mac:
آمنے سامنے:
لوکل AI کے لیے M2 Max · لوکل LLMs کے لیے بہترین Mac · تمام Mac
یہ کیسے نکالا گیا
میموری: ماڈل کے پیرامیٹرز فی ویٹ 8، 6، 4، 3 یا 2 bits پر، ساتھ MLX کے گروپ اسکیلز (فی ویٹ آدھا bit)، یا اس کا اصل فارمیٹ، اور اوپر سے کانٹیکسٹ کی گنجائش۔ macOS ڈیفالٹ طور پر GPU کو یونیفائیڈ میموری کا تقریباً 75% استعمال کرنے دیتا ہے۔ رفتار: میموری بینڈوڈتھ کو فی ٹوکن پڑھے جانے والے بائٹس سے تقسیم کریں تو ایک گفتگو کی حد ملتی ہے؛ llama.cpp کے Apple Silicon پر پبلک بینچ مارکس میں اصل رنز اس کے تقریباً 45% سے 80% تک پہنچتے ہیں، اور یہی رینج دکھائی گئی ہے۔ یہ اندازے ہیں، پیمائشیں نہیں: اپنا Mac MLX Bench پر ناپیں۔ ماڈل کے اعداد ہر ماڈل کے آفیشل ماڈل کارڈ سے، چپ کے اعداد Apple کی Tech Specs سے۔ 2026-10-19 کو چیک کیا گیا۔ وہی ڈیٹا جو mlx.app/compare پر ہے۔