مختصر یہ کہ
- Mac mini میں زیادہ سے زیادہ 64 GB (M5 Pro) ہیں، Mac Studio میں M5 Max کے ساتھ 128 GB اور M5 Ultra کے ساتھ 512 GB تک (Apple, Apple)۔
- بینڈوڈتھ لکھنے کی رفتار طے کرتی ہے: M6 والے Mac mini پر 153–170 GB/s، M5 Pro پر 307 GB/s، M5 Max پر 614 GB/s تک اور M5 Ultra پر 1,200 GB/s۔
- 4-bit پر تقریباً 30B پیرامیٹرز تک کے ماڈلز: M5 Pro والا Mac mini کافی ہے۔ 70B کلاس کے ماڈلز، gpt-oss-120b یا لمبے کانٹیکسٹ: 128 GB والا Mac Studio۔ سب سے بڑے اوپن ماڈلز: M5 Ultra والا Mac Studio۔
- میموری بعد میں اپ گریڈ نہیں ہو سکتی، اس لیے اسے ان ماڈلز کے حساب سے چنیں جو آپ اگلے سال چلانا چاہیں گے، صرف آج کے نہیں۔
1AI کے لیے اہم اسپیکس
| Mac | میموری کے آپشنز | میموری بینڈوڈتھ | 4-bit پر سب سے بڑا ماڈل | بجلی، فارغ سے زیادہ سے زیادہ |
|---|---|---|---|---|
| Mac mini، M6 | 16، 24 یا 32 GB | 153–170 GB/s | تقریباً 21B سے 42B | 4–70 W |
| Mac mini، M5 Pro | 24، 48 یا 64 GB | 307 GB/s | تقریباً 32B سے 85B | 6–145 W |
| Mac Studio، M5 Max | 36، 48، 64 یا 128 GB | 460–614 GB/s | تقریباً 48B سے 170B | 7–200 W |
| Mac Studio، M5 Ultra | 96، 256 یا 512 GB | 1,200 GB/s | تقریباً 128B سے 682B | 9–385 W |
ہر کنفیگریشن ان ماڈلز سے لنک ہے جو اس پر اچھی طرح چلتے ہیں۔ پرانے ماڈلز بھی اسی طرح کام کرتے ہیں: M4 یا M4 Pro والا Mac mini، اور M4 Max یا M3 Ultra والا Mac Studio (ہر Mac کی رینکنگ)۔
2ہر ایک کتنی تیزی سے لکھتا ہے
متن لکھتے وقت ہر ٹوکن کے لیے ماڈل کے فعال ویٹس ایک بار پڑھے جاتے ہیں، اس لیے میموری بینڈوڈتھ رفتار کی حد طے کرتی ہے۔ 4-bit پر 32B کے dense ماڈل کے لیے، یعنی تقریباً 18 GB:
| Mac | ایک چیٹ کے لیے حد | سماتا ہے؟ |
|---|---|---|
| Mac mini، M6 (32 GB) | تقریباً 9 ٹوکن فی سیکنڈ | ہاں |
| Mac mini، M5 Pro (48 یا 64 GB) | تقریباً 17 ٹوکن فی سیکنڈ | ہاں |
| Mac Studio، M5 Max (48 GB یا زیادہ) | تقریباً 34 ٹوکن فی سیکنڈ | ہاں |
| Mac Studio، M5 Ultra | تقریباً 67 ٹوکن فی سیکنڈ | ہاں |
Mixture-of-experts ماڈلز ہر ٹوکن کے لیے اپنے ویٹس کا صرف ایک حصہ پڑھتے ہیں، اس لیے اپنے سائز کی توقع سے کہیں تیز لکھتے ہیں: میموری طے کرتی ہے کہ وہ سمائیں گے یا نہیں، رفتار پھر بھی بینڈوڈتھ طے کرتی ہے۔ لمبا پرامپٹ پڑھنا بینڈوڈتھ کے بجائے GPU کی کمپیوٹ طاقت پر منحصر ہے، اور وہاں Max اور Ultra چپس کے بڑے GPU اور آگے نکل جاتے ہیں۔
3کون سا، کن ماڈلز کے لیے
- چھوٹے اور درمیانے ماڈلز (4-bit پر تقریباً 30B تک)، چیٹ، کوڈنگ اسسٹنٹس، گھر کا AI سرور: 48 یا 64 GB کے ساتھ M5 Pro والا Mac mini۔ 32 GB والا M6 Mac mini یہی سائز تقریباً آدھی رفتار سے چلاتا ہے۔
- 70B کلاس کے ماڈلز، gpt-oss-120b، لمبے کانٹیکسٹ یا ایک ساتھ کئی ماڈلز: 128 GB کے ساتھ M5 Max والا Mac Studio۔ OpenAI کی اپنی gpt-oss-120b فائلیں تقریباً 65 GB ہیں (OpenAI)، جو کوئی بھی Mac mini اپنے GPU کو دے سکنے سے زیادہ ہے۔
- سب سے بڑے اوپن ماڈلز (سینکڑوں ارب پیرامیٹرز): 256 یا 512 GB کے ساتھ M5 Ultra والا Mac Studio، یا کئی Mac ایک ساتھ (Mac AI کلسٹرز)۔
کسی خاص ماڈل کا صفحہ وہ سب سے چھوٹا Mac دکھاتا ہے جو اسے چلاتا ہے، اور ہر چپ پر رفتار: ہر اوپن ماڈل۔
4اسے سارا دن چلانا
دونوں خاموش اور کفایتی، ہمیشہ آن رہنے والی مشینیں ہیں۔ اوپر Apple کے اعداد میں Mac mini فارغ حالت میں 4–6 W اور Mac Studio 7–9 W لیتا ہے؛ پورے لوڈ پر M5 Ultra والا Mac Studio 385 W تک لے سکتا ہے۔ Mac mini بطور AI سرور بتاتا ہے کہ اسے جاگتا کیسے رکھیں اور دوسرے آلات کو ماڈلز کیسے دیں، اور Mac کتنی بجلی استعمال کرتا ہے کہ ایک دن کا خرچ کتنا ہے۔
جب یہ فارغ ہو تو MLX Node اس پر MLX Network کے لیے AI کام چلا کر MLX ٹوکن کما سکتا ہے۔ چپ کے مطابق مخصوص سیٹ تیزی سے مائن کرتی ہے: M6 کے لیے Core، M5 Pro اور M5 Max کے لیے Pro، M5 Ultra کے لیے Ultra۔ کمائی کی ضمانت نہیں: خطرات پڑھیں۔
5سوالات
- کیا AI کے لیے Mac mini کے بجائے Mac Studio لینا فائدہ مند ہے؟
- اگر آپ تقریباً 85B پیرامیٹرز سے بڑے ماڈلز، gpt-oss-120b یا لمبے کانٹیکسٹ چاہتے ہیں تو ہاں: صرف Mac Studio میں 64 GB سے زیادہ میموری ہے۔ 4-bit پر تقریباً 30B تک کے ماڈلز M5 Pro والا Mac mini چلا لیتا ہے، M5 Max کی تقریباً آدھی بینڈوڈتھ پر۔
- کیا Mac mini پر 70B ماڈل چل سکتا ہے؟
- صرف 64 GB والے M5 Pro پر، 4-bit اور چھوٹے کانٹیکسٹ کے ساتھ: تقریباً 39 GB ویٹس اس 48 GB میں جو GPU ڈیفالٹ طور پر استعمال کر سکتا ہے، چند ٹوکن فی سیکنڈ کی رفتار سے۔ 128 GB والا Mac Studio اسے کانٹیکسٹ کی جگہ کے ساتھ اور تقریباً دوگنی رفتار سے چلاتا ہے۔
- LLMs کے لیے Mac Studio M5 Max یا M5 Ultra؟
- M5 Ultra کی بینڈوڈتھ تقریباً دوگنی ہے (614 کے مقابلے میں 1,200 GB/s)، اس لیے یہ تقریباً دوگنی تیزی سے لکھتا ہے، اور 512 GB تک جاتا ہے۔ 128 GB والا M5 Max، 4-bit پر تقریباً 170B تک کے ماڈلز چلا لیتا ہے۔ M5 Max بمقابلہ M5 Ultra دیکھیں۔
- AI کے لیے Mac mini M6 یا M5 Pro؟
- M5 Pro: یہ 24 یا 32 GB والے M6 سے میموری تقریباً 80% تیزی سے پڑھتا ہے اور 32 GB کے بجائے 64 GB تک جاتا ہے۔
ذرائع
- Applesupport.apple.com
- Applesupport.apple.com
- Mac minisupport.apple.com
- Mac Studiosupport.apple.com
- llama.cpp benchmarksgithub.com
- OpenAIhuggingface.co