کیا M3 Ultra والا Mac Studio لوکل LLMs کے لیے اچھا ہے؟

512 GB کے ساتھ یہ 73 اوپن ماڈلز میں سے 60 اچھے چلاتا ہے، DeepSeek V4.1 Flash 1017 تک، اور gpt-oss-20b کے ساتھ فی سیکنڈ تقریباً 194–345 ٹوکن لکھتا ہے۔ M3 Ultra میموری کو 819 GB/s پر پڑھتا ہے، جو لکھنے کی رفتار طے کرتی ہے۔

AI کے لیے M3 Ultra والے Mac Studio میں کتنی میموری ہونی چاہیے؟

96 GB کے ساتھ یہ 43 اوپن ماڈلز اچھے چلاتا ہے؛ 512 GB کے ساتھ 60، DeepSeek V4.1 Flash 1017 تک۔ میموری طے کرتی ہے کہ کون سے ماڈلز سمائیں گے، اور اسے بعد میں بڑھایا نہیں جا سکتا۔

Mac Studio M3 Ultra پر کون سے LLMs چلتے ہیں: میموری کے لحاظ سے

میموری سائز کے لحاظ سے

میموری	اچھے چلتے ہیں	اچھا چلنے والا سب سے بڑا	gpt-oss-20b
96 GB819 GB/s	43	gpt-oss-120b	194–345 tok/s
256 GB819 GB/s	53	MiMo V2.6 Flash	194–345 tok/s
512 GB819 GB/s	60	DeepSeek V4.1 Flash 1017	194–345 tok/s

Mac ماڈلز: Mac Studio (2025)۔ ہر میموری سائز ہر Mac ماڈل کے ساتھ دستیاب نہیں؛ Apple کی Tech Specs بتاتی ہیں کہ ہر ایک کس کے ساتھ آتا ہے۔

سوالات

کیا M3 Ultra والا Mac Studio لوکل LLMs کے لیے اچھا ہے؟: 512 GB کے ساتھ یہ 73 اوپن ماڈلز میں سے 60 اچھے چلاتا ہے، DeepSeek V4.1 Flash 1017 تک، اور gpt-oss-20b کے ساتھ فی سیکنڈ تقریباً 194–345 ٹوکن لکھتا ہے۔ M3 Ultra میموری کو 819 GB/s پر پڑھتا ہے، جو لکھنے کی رفتار طے کرتی ہے۔
AI کے لیے M3 Ultra والے Mac Studio میں کتنی میموری ہونی چاہیے؟: 96 GB کے ساتھ یہ 43 اوپن ماڈلز اچھے چلاتا ہے؛ 512 GB کے ساتھ 60، DeepSeek V4.1 Flash 1017 تک۔ میموری طے کرتی ہے کہ کون سے ماڈلز سمائیں گے، اور اسے بعد میں بڑھایا نہیں جا سکتا۔

دوسرے Mac

دوسری چپس کے ساتھ Mac Studio:

آمنے سامنے:

PC اور گرافکس کارڈز کے مقابلے میں:

M3 Ultra vs DGX Spark

لوکل AI کے لیے M3 Ultra · لوکل LLMs کے لیے بہترین Mac · تمام Mac

یہ کیسے نکالا گیا

میموری: ماڈل کے پیرامیٹرز فی ویٹ 8، 6، 4، 3 یا 2 bits پر، ساتھ MLX کے گروپ اسکیلز (فی ویٹ آدھا bit)، یا اس کا اصل فارمیٹ، اور اوپر سے کانٹیکسٹ کی گنجائش۔ macOS ڈیفالٹ طور پر GPU کو یونیفائیڈ میموری کا تقریباً 75% استعمال کرنے دیتا ہے۔ رفتار: میموری بینڈوڈتھ کو فی ٹوکن پڑھے جانے والے بائٹس سے تقسیم کریں تو ایک گفتگو کی حد ملتی ہے؛ llama.cpp کے Apple Silicon پر پبلک بینچ مارکس میں اصل رنز اس کے تقریباً 45% سے 80% تک پہنچتے ہیں، اور یہی رینج دکھائی گئی ہے۔ یہ اندازے ہیں، پیمائشیں نہیں: اپنا Mac MLX Bench پر ناپیں۔ ماڈل کے اعداد ہر ماڈل کے آفیشل ماڈل کارڈ سے، چپ کے اعداد Apple کی Tech Specs سے۔ 2026-10-19 کو چیک کیا گیا۔ وہی ڈیٹا جو mlx.app/compare پر ہے۔