لوکل AI کے لیے M5 Max والا MacBook Pro۔

M5 Max میموری کو 614 GB/s پر پڑھتا ہے، جو لکھنے کی رفتار طے کرتی ہے۔ میموری طے کرتی ہے کہ کون سے ماڈلز سمائیں گے، اور اسے بعد میں بڑھایا نہیں جا سکتا، اس لیے سائز یہیں چنیں۔

48 GB38 ماڈل اچھے چلتے ہیںQwen3.6 35B A3B · 115–205 tok/s64 GB39 ماڈل اچھے چلتے ہیںNemotron 3.5 Bolt 74B A9B · 54–96 tok/s128 GB47 ماڈل اچھے چلتے ہیںQwen3.5 122B A10B · 49–88 tok/s

میموری سائز کے لحاظ سے

میموریاچھے چلتے ہیںاچھا چلنے والا سب سے بڑاgpt-oss-20b
36 GB460 GB/s38Qwen3.6 35B A3B109–194 tok/s
48 GB614 GB/s38Qwen3.6 35B A3B145–259 tok/s
64 GB614 GB/s39Nemotron 3.5 Bolt 74B A9B145–259 tok/s
128 GB614 GB/s47Qwen3.5 122B A10B145–259 tok/s

Mac ماڈلز: MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max)۔ ہر میموری سائز ہر Mac ماڈل کے ساتھ دستیاب نہیں؛ Apple کی Tech Specs بتاتی ہیں کہ ہر ایک کس کے ساتھ آتا ہے۔

سوالات

کیا M5 Max والا MacBook Pro لوکل LLMs کے لیے اچھا ہے؟
128 GB کے ساتھ یہ 73 اوپن ماڈلز میں سے 47 اچھے چلاتا ہے، Qwen3.5 122B A10B تک، اور gpt-oss-20b کے ساتھ فی سیکنڈ تقریباً 145–259 ٹوکن لکھتا ہے۔ M5 Max میموری کو 614 GB/s پر پڑھتا ہے، جو لکھنے کی رفتار طے کرتی ہے۔
AI کے لیے M5 Max والے MacBook Pro میں کتنی میموری ہونی چاہیے؟
36 GB کے ساتھ یہ 38 اوپن ماڈلز اچھے چلاتا ہے؛ 128 GB کے ساتھ 47، Qwen3.5 122B A10B تک۔ میموری طے کرتی ہے کہ کون سے ماڈلز سمائیں گے، اور اسے بعد میں بڑھایا نہیں جا سکتا۔

دوسرے Mac

دوسری چپس کے ساتھ MacBook Pro:

M5 Max والے دوسرے Mac:

آمنے سامنے:

PC اور گرافکس کارڈز کے مقابلے میں:

لوکل AI کے لیے M5 Max · لوکل LLMs کے لیے بہترین Mac · تمام Mac

یہ کیسے نکالا گیا

میموری: ماڈل کے پیرامیٹرز فی ویٹ 8، 6، 4، 3 یا 2 bits پر، ساتھ MLX کے گروپ اسکیلز (فی ویٹ آدھا bit)، یا اس کا اصل فارمیٹ، اور اوپر سے کانٹیکسٹ کی گنجائش۔ macOS ڈیفالٹ طور پر GPU کو یونیفائیڈ میموری کا تقریباً 75% استعمال کرنے دیتا ہے۔ رفتار: میموری بینڈوڈتھ کو فی ٹوکن پڑھے جانے والے بائٹس سے تقسیم کریں تو ایک گفتگو کی حد ملتی ہے؛ llama.cpp کے Apple Silicon پر پبلک بینچ مارکس میں اصل رنز اس کے تقریباً 45% سے 80% تک پہنچتے ہیں، اور یہی رینج دکھائی گئی ہے۔ یہ اندازے ہیں، پیمائشیں نہیں: اپنا Mac MLX Bench پر ناپیں۔ ماڈل کے اعداد ہر ماڈل کے آفیشل ماڈل کارڈ سے، چپ کے اعداد Apple کی Tech Specs سے۔ 2026-10-19 کو چیک کیا گیا۔ وہی ڈیٹا جو mlx.app/compare پر ہے۔

MacBook Pro M5 Max پر کون سے LLMs چلتے ہیں: میموری کے لحاظ سے