Mac mini بطور آپ کا AI سرور۔

1Mac mini کیوں

لینگویج ماڈل سے متن لکھنے کی حد اس سے طے ہوتی ہے کہ ویٹس میموری سے کتنی تیزی سے پڑھے جا سکتے ہیں۔ Mac پر GPU یونیفائیڈ میموری براہِ راست پڑھتا ہے، اس لیے 64 GB والا Mac mini ایسے ماڈلز رکھ سکتا ہے جو کنزیومر گرافکس کارڈ میں نہیں سماتے، اور فارغ حالت میں صرف چند واٹ پر۔ یہ کم جگہ لیتا ہے اور macOS چلاتا ہے، اس لیے وہی ٹولز کام کرتے ہیں جو MacBook پر۔

اس کی حدیں میموری اور بینڈوڈتھ ہیں۔ سب سے بڑے Mac mini میں 307 GB/s پر 64 GB ہیں؛ اونچی پریسیژن پر 70B کلاس کے ماڈلز یا سب سے بڑے اوپن ماڈلز کے لیے 512 GB تک والا Mac Studio اگلا قدم ہے (Apple)۔ لوکل LLMs کے لیے بہترین Mac دیکھیں۔

2کون سا Mac mini، کن ماڈلز کے لیے

بینڈوڈتھ رفتار طے کرتی ہے: M5 Pro، 24 یا 32 GB والے M6 کے مقابلے میں میموری تقریباً 80% تیزی سے پڑھتا ہے، اس لیے وہی ماڈل اس پر تقریباً 80% تک تیز لکھ سکتا ہے۔ ہر قطار اس Mac پر اچھی طرح چلنے والے ہر ماڈل سے، رفتار کے ساتھ، لنک ہے۔ M4 اور M4 Pro والے پرانے Mac mini بھی اسی طرح کام کرتے ہیں: Mac mini M4 Pro۔

ایجنٹس اور لمبی دستاویزات کو ماڈل کے علاوہ کانٹیکسٹ کی میموری بھی چاہیے۔ اگر اصل کام AI ایجنٹ ہے تو تیز چپ کے بجائے زیادہ میموری لیں۔

3اسے جاگتا اور قابلِ رسائی رکھیں

Mac mini پر System Settings › Energy کھولیں (Apple):

• Prevent automatic sleeping when the display is off: آن، تاکہ اسکرین لگے بغیر بھی سرور جواب دیتا رہے۔
• Start up automatically after a power failure: آن، تاکہ یہ خود واپس آ جائے۔
• Wake for network access: آن، اگر آپ اسے سونے دیتے ہیں۔
• Low Power Mode: Apple اسے ہمیشہ آن رہنے والے کمپیوٹرز، جیسے سرورز، کے لیے تجویز کرتا ہے تاکہ توانائی کا استعمال اور پنکھے کا شور کم ہو۔

اسکرین کے بغیر سنبھالنے کے لیے System Settings › General › Sharing میں Remote Login (SSH) یا Screen Sharing آن کریں (Apple)۔ سرور ایپ کو لاگ اِن پر کھلنے کے لیے سیٹ کریں، تاکہ ری اسٹارٹ کے بعد سب کچھ واپس آ جائے۔

4اپنے دوسرے آلات کو ماڈل دیں

ان میں سے ہر ایک Mac mini پر ماڈل چلاتا ہے اور آپ کی دوسری ایپس کو OpenAI کے API والے فارمیٹ میں API دیتا ہے، جسے زیادہ تر چیٹ ایپس، کوڈنگ ٹولز اور ایجنٹس قبول کرتے ہیں:

مثال کے طور پر mlx-lm کے ساتھ:

pip install mlx-lm
mlx_lm.server --model mlx-community/Qwen3-8B-4bit --host 0.0.0.0 --port 8080

# from another computer on the same network
curl http://<mac-mini-name>.local:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"messages": [{"role": "user", "content": "Hello"}]}'

Ollama ڈیفالٹ طور پر 5 منٹ تک کوئی درخواست نہ آنے پر ماڈل اتار دیتا ہے؛ سرور پر اسے میموری میں رکھنے کے لیے OLLAMA_KEEP_ALIVE سیٹ کریں (Ollama)۔ Mac پر LLM چلانے کی بہترین ایپس ان ٹولز کا تفصیلی موازنہ کرتا ہے۔

AI App Store میں یہ ٹولز اور ماڈلز لوکل چلانے والی دوسری ایپس ہیں، ہر ایک کے ساتھ بنانے والے کا آفیشل ڈاؤن لوڈ، لائسنس اور آپ کا ڈیٹا کہاں جاتا ہے۔

5اس پر AI ایجنٹس چلانا

اب بہت سے Mac mini ایسے AI ایجنٹس چلاتے ہیں جو چوبیس گھنٹے چیٹ ایپس، فائلوں اور ویب پر کام کرتے ہیں۔ مثلاً OpenClaw ایک اوپن سورس اسسٹنٹ ہے جو آپ کے اپنے کمپیوٹر پر چلتا ہے، جہاں ماڈلز، بشمول لوکل ماڈلز، پلگ اِنز ہیں جنہیں آپ بدل سکتے ہیں (OpenClaw)۔ ایسے ایجنٹ کو لوکل سرور کا ایڈریس دیں اور وہ کلاؤڈ API کے بجائے آپ کے Mac mini کا ماڈل استعمال کرے گا۔

ایجنٹس کے لیے دو چیزیں چیٹ سے زیادہ اہم ہیں۔ کانٹیکسٹ: ایجنٹس ٹولز کی تفصیل اور ہسٹری کے ساتھ لمبے پرامپٹس بھیجتے ہیں، جو ماڈل کے علاوہ میموری لیتے ہیں (وجہ دیکھیں)۔ اور ماڈل کا معیار: آپ کے Mac mini پر اچھی طرح چلنے والا سب سے بڑا ماڈل ہدایات پر عمل اور ٹولز کا استعمال چھوٹے ماڈل سے زیادہ قابلِ اعتماد طریقے سے کرے گا۔

6اسے نجی رکھیں

• جب تک آپ نہ بدلیں، یہ سرورز صرف اسی Mac پر سنتے ہیں۔ انہیں صرف اپنے گھر یا دفتر کے نیٹ ورک کے لیے کھولیں، اور صرف تب جب آپ اس پر موجود آلات پر بھروسا کرتے ہوں۔
• mlx-lm کی اپنی دستاویزات کہتی ہیں کہ اس کا سرور پروڈکشن کے لیے تجویز نہیں کیا جاتا کیونکہ یہ صرف بنیادی سیکیورٹی چیکس کرتا ہے (mlx-lm)۔
• انٹرنیٹ کے لیے پورٹ فارورڈ نہ کریں۔ باہر سے Mac mini تک پہنچنے کے لیے VPN جیسا نجی نیٹ ورک استعمال کریں۔
• جو ایجنٹ کمانڈز چلا سکے یا پیغامات بھیج سکے وہ آپ کے اکاؤنٹس سے کام کرتا ہے: اسے صرف اتنی رسائی دیں جتنی ضروری ہے۔

7خرچ کتنا ہے، اور اس کے فارغ گھنٹے

گھر کا سرور اپنا زیادہ تر دن انتظار میں گزارتا ہے۔ MLX Node ان گھنٹوں کو استعمال کر سکتا ہے: یہ آپ کی مقرر کردہ حدود میں MLX Network کے لیے AI کام چلاتا ہے، بشمول اس کے کہ ایک کام کتنی میموری لے سکتا ہے، اور مفت سیٹ پر روزانہ 1 MLX تک MLX ٹوکن کماتا ہے۔ جب Mac mini پوری رفتار سے چاہیے تو اسے روک دیں، یا اسے صرف Mac کے فارغ ہونے کے بعد شروع ہونے دیں۔ کمائی نیٹ ورک پر منحصر ہے اور اس کی ضمانت نہیں: خطرات پڑھیں۔

8سوالات

کیا Mac mini، AI کے لیے اچھا ہے؟

ماڈلز لوکل چلانے کے لیے ہاں: اس کا GPU یونیفائیڈ میموری براہِ راست پڑھتا ہے، اس لیے 64 GB والا M5 Pro، 4-bit پر تقریباً 85B پیرامیٹرز تک کے ماڈلز رکھتا ہے، اور فارغ حالت میں چند واٹ پر۔ ٹریننگ یا سب سے بڑے ماڈلز کے لیے Mac Studio یا GPU سرور بہتر ہے۔

لوکل LLM سرور کے لیے کون سا Mac mini خریدوں؟

جتنی زیادہ میموری لے سکیں: میموری طے کرتی ہے کہ کون سے ماڈلز سمائیں گے، اور بعد میں اپ گریڈ نہیں ہو سکتی۔ M5 Pro، 24 یا 32 GB والے M6 سے میموری تقریباً 80% تیزی سے بھی پڑھتا ہے، اس لیے تیز لکھتا ہے۔ ہر کنفیگریشن کا موازنہ Mac mini M5 Pro اور Mac mini M6 پر کریں۔

کیا Mac mini پر 70B ماڈل چل سکتا ہے؟

صرف 64 GB والے M5 Pro پر، 4-bit اور چھوٹے کانٹیکسٹ کے ساتھ: ویٹس اس 48 GB میں سے تقریباً 39 GB لیتے ہیں جو GPU ڈیفالٹ طور پر استعمال کر سکتا ہے۔ یہ آہستہ لکھتا ہے، چند ٹوکن فی سیکنڈ۔ Mac پر Llama 3.3 70B دیکھیں۔

اپنے لیپ ٹاپ یا فون سے Mac mini کا ماڈل کیسے استعمال کروں؟

سرور کو اس طرح شروع کریں کہ وہ آپ کے نیٹ ورک پر سنے (مثلاً mlx_lm.server --host 0.0.0.0)، پھر دوسرے آلے کی ایپ کو OpenAI سے مطابقت رکھنے والے endpoint کے طور پر http://<mac-mini-name>.local:8080/v1 دیں۔

Mac mini AI سرور کتنی بجلی استعمال کرتا ہے؟

M6 والا Mac mini فارغ حالت میں تقریباً 4 W اور زیادہ سے زیادہ 70 W لیتا ہے؛ M5 Pro والا 6 W سے 145 W۔ پورا دن پوری رفتار پر، یہ زیادہ سے زیادہ 1.68 یا 3.48 kWh بنتا ہے (Apple)۔