لاگ انوالیٹ بنائیں

MLX Harness کیسے استعمال کریں۔

MLX Harness ہماری مفت Mac ایپ ہے جو Apple کے MLX فریم ورک سے لینگویج، وژن اور امیج ماڈلز آپ کے اپنے Mac پر چلاتی ہے۔ اسے مفت ڈاؤن لوڈ کیا جا سکتا ہے۔ یہاں دیکھیں کہ یہ کیا کرتی ہے، صفحہ بہ صفحہ۔

اپ ڈیٹ

مختصر یہ کہ

  • MLX Harness آپ کے Mac پر AI ماڈلز چلاتی ہے۔ پرامپٹس اور جوابات Mac پر ہی رہتے ہیں، جب تک آپ خود کوئی ریموٹ اینڈ پوائنٹ نہ جوڑیں۔
  • یہ JANGQ AI کے vMLX پر بنی ہے اور Apache 2.0 لائسنس کے تحت ہے۔ اسے harness.mlx.app یا mlx.app/download سے ڈاؤن لوڈ کریں۔
  • چار صفحات: Chat & Images، Servers & API، Models اور Network، اور سائیڈ بار کے نیچے Preferences۔
  • ہر چلتا ہوا ماڈل localhost:8080 پر ایک لوکل API پر OpenAI، Anthropic اور Ollama فارمیٹس میں دستیاب ہوتا ہے، تاکہ ایپس اور کوڈنگ ایجنٹس اسے استعمال کر سکیں۔

1MLX Harness انسٹال کریں

MLX Harness کو harness.mlx.app سے ڈاؤن لوڈ کریں۔ یہ سائن شدہ اور Apple سے نوٹرائزڈ ہے، اس کے اندر MLX Node موجود ہے، اور نیا ورژن آنے پر ایپ میں ہی بتا دیتی ہے۔

آپ کو Apple Silicon والا Mac اور macOS 14.5 یا نیا چاہیے۔ انفرنس انجن ایپ کے اندر ہی آتا ہے، اس لیے کچھ اور انسٹال نہیں کرنا: اسے ڈاؤن لوڈ کریں، MLX Harness کو Applications میں لے جائیں اور کھولیں۔

MLX Harness، JANGQ AI کے vMLX کا ترمیم شدہ ورژن ہے، جو Apache License 2.0 کے تحت جاری کیا گیا ہے۔ نیچے کا انجن vMLX ہی کا ہے، بغیر کسی تبدیلی کے؛ MLX Harness اس کے گرد ایپ کو بدلتی ہے اور Network صفحہ شامل کرتی ہے۔

2ماڈل چنیں اور ڈاؤن لوڈ کریں

ماڈلز Hugging Face سے آتے ہیں، زیادہ تر mlx-community آرگنائزیشن کے MLX فارمیٹ میں۔ ڈاؤن لوڈ سے پہلے دیکھ لیں کہ کیا سما سکتا ہے: Compare دکھاتا ہے کہ آپ کے Mac کی میموری میں کون سے ماڈلز آتے ہیں اور ہر ایک تقریباً کتنی تیزی سے لکھتا ہے۔

  1. Models کھولیں اور Find & download چنیں۔ تلاش کریں، اور ڈاؤن لوڈز، ٹرینڈنگ، لائکس، حال ہی میں اپ ڈیٹ یا ماڈل کے سائز کے حساب سے ترتیب دیں؛ تلاش MLX ماڈلز دکھاتی ہے۔
  2. کسی ماڈل پر کلک کر کے اس کا README پڑھیں، پھر اسے ڈاؤن لوڈ کریں۔ ڈاؤن لوڈز پس منظر میں چلتے ہیں، اور Downloads ان کی پیش رفت دکھاتا ہے۔
  3. Llama جیسے گیٹڈ ماڈلز کے لیے پہلے HF Token: والے خانے میں اپنا Hugging Face ٹوکن ڈالیں، اور huggingface.co پر ماڈل کا لائسنس قبول کریں۔
  4. Library & tools آپ کے Mac پر موجود ماڈلز دکھاتا ہے۔ Inspect Model ماڈل کا میٹا ڈیٹا دکھاتا ہے، Diagnose Model ہیلتھ چیکس چلاتا ہے اور Convert Model کسی Hugging Face ماڈل کو کوانٹائزڈ MLX ماڈل میں بدلتا ہے: Balanced (4-bit)، Quality (8-bit) یا Compact (3-bit)۔

ڈاؤن لوڈز آپ کے Hugging Face کیش فولڈر میں جاتے ہیں، جب تک آپ Download to: کے تحت کوئی اور جگہ نہ چنیں۔ MLX Harness اس کیش میں، ~/.mlxstudio/models میں اور Directories کے تحت آپ کے شامل کیے گئے فولڈرز میں پہلے سے موجود ماڈلز بھی ڈھونڈ لیتی ہے۔

3چیٹ اور تصاویر

چیٹ اور ریزننگ

  1. Chat & Images کھولیں، چیٹ ٹول بار کے ماڈل مینو سے ماڈل چنیں، یا Add local model۔ یہ اپنے پہچانے گئے ڈیفالٹس کے ساتھ شروع ہوتا ہے؛ ایڈوانسڈ آپشنز Servers & API میں رہتے ہیں۔
  2. پیغام لکھیں۔ ریزننگ ماڈلز اپنی سوچ ایک الگ باکس میں دکھاتے ہیں۔ چیٹ سیٹنگز میں Enable Thinking اسے Auto، On یا Off پر رکھتا ہے، اور Reasoning Effort سپورٹ کرنے والے ماڈلز میں اس کی گہرائی طے کرتا ہے۔
  3. وژن ماڈلز تصاویر لیتے ہیں: فائل چیٹ پر ڈراپ کریں یا اٹیچ بٹن استعمال کریں۔ ویڈیو، آڈیو اور ٹیکسٹ فائلیں ان ماڈلز کے ساتھ چلتی ہیں جو انہیں قبول کرتے ہیں۔
  4. چیٹس سائیڈ بار میں محفوظ ہوتی ہیں اور تلاش کی جا سکتی ہیں۔ سیٹنگز ہر ماڈل کے لیے الگ محفوظ ہوتی ہیں۔

آپ کہیں اور چلنے والے ماڈل سے بھی چیٹ کر سکتے ہیں: Connect remote endpoint کسی بھی OpenAI سے مطابقت رکھنے والی API کا ایڈریس لیتا ہے۔ صرف تب ہی آپ کے پرامپٹس Mac سے باہر جاتے ہیں۔

تصاویر بنائیں اور ایڈٹ کریں

Chat & Images میں Image چنیں۔ امیج ماڈلز mflux کے ذریعے چلتے ہیں، اور امیج سرور آپ کے Mac کے کسی فولڈر سے ماڈل لوڈ کرتا ہے: Find mflux models سے Models میں امیج سرچ کھلتی ہے، پھر Load selected folder اسے شروع کرتا ہے۔

استعمالماڈل فیملیز
بناناFlux Schnell، Flux Dev، Z-Image Turbo، FLUX.2 Klein 4B اور 9B، Qwen Image، Qwen Image 2.1، FIBO، Ideogram 4
ایڈٹQwen Image Edit، Qwen Image 2.1، Flux Kontext، FLUX.2 Klein Edit، Flux Fill (آپ کے بنائے ماسک سے inpainting)
اپ اسکیلSeedVR2 3B
وہ فیملیز جو MLX Harness لوڈ کر سکتی ہے۔ میموری ماڈل اور پریسیژن کے حساب سے بدلتی ہے؛ ایپ 16 GB والے Mac کے لیے 4-bit پر Flux Schnell یا Klein 4B، اور ایڈٹنگ ماڈلز کے لیے 8-bit یا فل پریسیژن تجویز کرتی ہے۔

کچھ امیج ماڈلز، جیسے Flux Dev، Hugging Face پر گیٹڈ ہیں اور ڈاؤن لوڈ سے پہلے آپ کا ٹوکن اور قبول شدہ لائسنس مانگتے ہیں۔

4ایجنٹس اور ٹولز

MLX Harness کسی ماڈل کو آپ کے Mac پر کام کرنے دے سکتی ہے۔ چیٹ سیٹنگز میں Enable Built-in Coding Tools آن کریں اور ایک Working Directory چنیں: ہر فائل آپریشن اور کمانڈ اسی کے اندر چلتی ہے۔ پھر ٹول کیٹیگریز آن یا آف کریں:

کیٹیگریبلٹ اِن ٹولز
File I/Oread_file, write_file, edit_file, patch_file, batch_edit, insert_text, replace_lines, apply_regex, copy_file, move_file, delete_file, create_directory, list_directory, read_image, read_video
Searchsearch_files, find_files, file_info, get_tree, diff_files, get_diagnostics
Shellrun_command, spawn_process, get_process_output, run_applescript
Web Searchddg_search: مفت، پہلے DuckDuckGo آزماتا ہے، پھر Mojeek
Brave Searchweb_search، Brave Search API کلید کے ساتھ
URL Fetchfetch_url
Gitgit: status، diff، log، blame، commit، branch، stash
Utilitiescount_tokens, clipboard_read, clipboard_write, get_current_datetime؛ ask_user ہمیشہ آن رہتا ہے
MLX Harness کی بلٹ اِن ٹول لسٹ سے۔ MCP سرورز ان کے ساتھ اپنے ٹولز شامل کرتے ہیں۔

Max Tool Iterations طے کرتا ہے کہ ایک پیغام زیادہ سے زیادہ کتنے راؤنڈ ٹول کالز لے سکتا ہے (ڈیفالٹ 10)۔ Shell اور فائل ٹولز اصل فائلوں پر کام کرتے ہیں، اس لیے ورکنگ ڈائریکٹری کسی پروجیکٹ پر رکھیں، ہوم فولڈر پر نہیں، اور ایسا ماڈل استعمال کریں جس پر آپ اس کام کے لیے بھروسا کرتے ہوں۔

5دوسری ایپس سے استعمال کریں: لوکل API

آپ جو بھی ماڈل شروع کرتے ہیں وہ آپ کے Mac پر دستیاب ہوتا ہے۔ http://localhost:8080 پر API Gateway ہر درخواست کو اس میں دیے گئے نام کے حساب سے صحیح ماڈل تک بھیجتا ہے، اور رکا ہوا ماڈل مانگا جائے تو اسے شروع کر دیتا ہے۔ ہر ماڈل کا اپنا پورٹ بھی ہوتا ہے، 8000 سے اوپر۔ ڈیفالٹ طور پر صرف آپ کا Mac ان تک پہنچ سکتا ہے؛ LAN آن کرنے سے یہ آپ کے نیٹ ورک کے لیے کھل جاتے ہیں۔

فارمیٹاینڈ پوائنٹس
OpenAI/v1/chat/completions, /v1/responses, /v1/completions, /v1/models, /v1/embeddings
Anthropic/v1/messages
Ollama/api/chat, /api/generate, /api/tags, /api/show, /api/embed
تصاویر/v1/images/generations, /v1/images/edits
آڈیو/v1/audio/transcriptions (Whisper)، /v1/audio/speech (Kokoro)
Servers & API → API آپ کے چلتے ماڈلز کے سارے اینڈ پوائنٹس دکھاتا ہے، curl، Python اور JavaScript میں کاپی پیسٹ اسنیپٹس کے ساتھ۔

API کے پیچھے انجن وہ کیش کرتا ہے جو وہ پہلے پڑھ چکا ہو۔ Continuous Batching آن ہو تو Prefix Cache لمبی چیٹ یا کوڈنگ ایجنٹ کی دہرائی جانے والی ہدایات کو اگلی باری میں کام چھوڑنے دیتا ہے، KV Cache Quantization اس کیش کو چھوٹا کرتا ہے، اور Disk Cache (Persistent) اسے SSD پر رکھتا ہے۔ یہ ہر ماڈل کی سرور سیٹنگز میں ہیں۔

OpenAI فارمیٹ میں ایک درخواست، اس ماڈل نام کے ساتھ جو API صفحہ دکھاتا ہے:

curl http://localhost:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR-MODEL",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

کوئی بھی OpenAI SDK base_url کو http://localhost:8080/v1 پر سیٹ کرنے سے چلتا ہے؛ کلید کوئی بھی متن ہو سکتی ہے جب تک آپ سیشن پر کلید مقرر نہ کریں۔ کوڈنگ ایجنٹس کے لیے Coding Tool Integration، Auto-Configure سے Claude Code، Codex CLI، OpenCode، OpenClaw اور Hermes Agent سیٹ اپ کرتا ہے، یا Manual Setup دکھاتا ہے۔ Claude Code کے لیے اس کا مطلب ہے یہ ~/.claude/settings.json میں شامل کرنا:

{
  "env": {
    "ANTHROPIC_BASE_URL": "http://localhost:8080",
    "ANTHROPIC_MODEL": "YOUR-MODEL",
    "ANTHROPIC_API_KEY": "mlxstudio"
  }
}

6Network صفحہ، اور MLX Node

Network صفحہ mlx.app سے MLX Network کی لائیو حالت دکھاتا ہے: آن لائن اور کام کرتے Mac، ٹوکنز فی سیکنڈ، آج کے AI ٹوکنز اور ممالک۔ یہ چیک کرتا ہے کہ اس Mac پر MLX Node انسٹال ہے اور چل رہا ہے یا نہیں، اور اسے کھولتا ہے یا ڈاؤن لوڈ کا لنک دیتا ہے۔ Your wallet کے نیچے اپنے والیٹ کا نام لکھیں اور Show دبائیں تاکہ اس کا مائن کیا گیا MLX بڑھتا دیکھ سکیں؛ نام صرف اسی Mac پر رکھا جاتا ہے۔

MLX Harness خود کبھی مائن نہیں کرتی؛ یہ آپ کے لیے ماڈلز چلاتی ہے۔ MLX Node الگ مینو بار ایپ ہے جو آپ کے Mac کا فارغ وقت MLX Network کو دیتی ہے اور MLX ٹوکن کماتی ہے: مفت سیٹ پر روزانہ 1 MLX تک، 30 دن کے لیے لاک۔ اگر آپ دونوں استعمال کریں تو یہ ایک ہی میموری اور GPU بانٹتی ہیں، اس لیے MLX Node کی Memory MLX may use حد اور مینوئل Start اور Stop اسے آپ کے راستے سے ہٹائے رکھتے ہیں۔ MLX ٹوکن اپنی قدر کھو سکتے ہیں؛ خطرات پڑھیں۔

7سوالات

کیا MLX Harness مفت ہے؟
ہاں۔ یہ مفت ہے اور Apache License 2.0 کے تحت ہے، بالکل vMLX کی طرح، جس پروجیکٹ پر یہ بنی ہے۔
میں MLX Harness کب ڈاؤن لوڈ کر سکوں گا؟
ابھی۔ یہ harness.mlx.app اور mlx.app/download پر مفت ڈاؤن لوڈ کے لیے موجود ہے، macOS 14.5 یا نئے والے Apple Silicon Mac کے لیے۔ سورس کوڈ GitHub پر github.com/MLXapp/studio میں ہے۔
MLX Harness کن Mac پر چلتی ہے؟
Apple Silicon (M1 یا نیا) اور macOS 14.5 یا نئے والے Mac پر۔ آپ کے Mac کی میموری طے کرتی ہے کہ کون سے ماڈلز سماتے ہیں؛ mlx.app پر Compare انہیں دکھاتا ہے۔
کیا MLX Harness میرے پرامپٹس کہیں بھیجتی ہے؟
نہیں۔ لوکل ماڈلز آپ کے Mac پر چلتے ہیں، اور API صرف آپ کے Mac پر سنتی ہے جب تک آپ LAN آن نہ کریں۔ پرامپٹس Mac سے صرف تب باہر جاتے ہیں جب آپ کوئی ریموٹ اینڈ پوائنٹ جوڑیں۔
کیا MLX Harness سے MLX ٹوکن کمائے جاتے ہیں؟
نہیں۔ MLX Harness آپ کے لیے ماڈلز چلاتی ہے اور صرف نیٹ ورک کے پبلک اعداد پڑھتی ہے۔ MLX Node وہ ایپ ہے جو AI کے کام کے بدلے MLX ٹوکن کماتی ہے۔

ذرائع

  1. vMLXgithub.com
  2. Hugging Facehuggingface.co
  3. mlx-communityhuggingface.co
  4. mfluxgithub.com

اگلا پڑھیں

Apple Silicon پر AI چلائیںاپنے Mac پر LLMs ڈاؤن لوڈ کریں اور چلائیں۔Mac کے لیے LLMs کہاں سے ڈاؤن لوڈ کریں، کون سا سائز اور کوانٹائزیشن آپ کی میموری میں آتا ہے، ڈسک اسپیس، گیٹڈ ماڈلز، اور MLX، LM Studio اور Ollama سے انہیں کیسے چلائیں۔گائیڈ پڑھیںApple Silicon پر AI چلائیںاپنے Mac پر LLM چلائیں۔MacBook، Mac mini یا Mac Studio پر LLM نجی اور آف لائن چلائیں۔ Apple کے MLX، Ollama اور LM Studio کے ساتھ قدم بہ قدم، اور کون سا ماڈل میموری میں سماتا ہے۔گائیڈ پڑھیںApple Silicon پر AI چلائیںلوکل LLMs کے لیے بہترین Mac۔لوکل LLM چلانے کے لیے کون سا Mac خریدیں؟ میموری طے کرتی ہے کیا سماتا ہے، بینڈوڈتھ رفتار۔ MacBook Air سے Mac Studio M5 Ultra تک ہر Apple Silicon چپ کا موازنہ۔گائیڈ پڑھیں
MLX Harness کیسے استعمال کریں: Mac پر AI ماڈلز لوکل چلائیں | MLX