क्या MLX Harness मुफ़्त है?

हाँ। यह मुफ़्त है और Apache License 2.0 के तहत है, ठीक vMLX की तरह, जिस प्रोजेक्ट पर यह बना है।

मैं MLX Harness कब डाउनलोड कर सकता हूँ?

अभी। यह harness.mlx.app और mlx.app/download पर मुफ़्त डाउनलोड के लिए उपलब्ध है, macOS 14.5 या नए वाले Apple Silicon Mac के लिए। सोर्स कोड GitHub पर github.com/MLXapp/studio में है।

MLX Harness किन Mac पर चलता है?

Apple Silicon (M1 या नया) और macOS 14.5 या नए वाले Mac पर। आपके Mac की मेमोरी तय करती है कि कौन-से मॉडल फ़िट होंगे; mlx.app पर Compare उन्हें दिखाता है।

क्या MLX Harness मेरे प्रॉम्प्ट कहीं भेजता है?

नहीं। लोकल मॉडल आपके Mac पर चलते हैं, और API सिर्फ़ आपके Mac पर सुनती है, जब तक आप LAN चालू न करें। प्रॉम्प्ट Mac से तभी बाहर जाते हैं जब आप कोई रिमोट एंडपॉइंट जोड़ें।

क्या MLX Harness से MLX टोकन कमाए जाते हैं?

नहीं। MLX Harness आपके लिए मॉडल चलाता है और सिर्फ़ नेटवर्क के सार्वजनिक आँकड़े पढ़ता है। MLX Node वह ऐप है जो AI काम के बदले MLX टोकन कमाता है।

MLX Harness कैसे इस्तेमाल करें: Mac पर AI मॉडल लोकल चलाएँ

संक्षेप में

MLX Harness आपके Mac पर AI मॉडल चलाता है। प्रॉम्प्ट और जवाब Mac पर ही रहते हैं, जब तक आप खुद कोई रिमोट एंडपॉइंट न जोड़ें।
यह JANGQ AI के vMLX पर बना है और Apache 2.0 लाइसेंस के तहत है। इसे harness.mlx.app या mlx.app/download से डाउनलोड करें।
चार पेज: Chat & Images, Servers & API, Models और Network, और साइडबार में सबसे नीचे Preferences।
हर चलता मॉडल localhost:8080 पर एक लोकल API पर OpenAI, Anthropic और Ollama फ़ॉर्मेट में मिलता है, ताकि ऐप और कोडिंग एजेंट उसका इस्तेमाल कर सकें।

1MLX Harness इंस्टॉल करें

MLX Harness को harness.mlx.app से डाउनलोड करें। यह साइन किया हुआ और Apple से नोटराइज़्ड है, इसके अंदर MLX Node शामिल है, और नया वर्ज़न आने पर ऐप में ही बता देता है।

आपको Apple Silicon वाला Mac और macOS 14.5 या नया चाहिए। इनफ़रेंस इंजन ऐप के अंदर ही आता है, इसलिए और कुछ इंस्टॉल नहीं करना: इसे डाउनलोड करें, MLX Harness को Applications में ले जाएँ और खोलें।

MLX Harness, JANGQ AI के vMLX का बदला हुआ वर्ज़न है, जो Apache License 2.0 के तहत जारी हुआ है। नीचे का इंजन vMLX का ही है, बिना बदलाव के; MLX Harness उसके चारों ओर का ऐप बदलता है और Network पेज जोड़ता है।

2मॉडल चुनें और डाउनलोड करें

मॉडल Hugging Face से आते हैं, ज़्यादातर mlx-community संगठन के MLX फ़ॉर्मेट में। डाउनलोड से पहले देख लें कि क्या फ़िट होगा: Compare दिखाता है कि आपके Mac की मेमोरी में कौन-से मॉडल आते हैं और हर एक मोटे तौर पर कितनी तेज़ी से लिखता है।

Models खोलें और Find & download चुनें। खोजें, और डाउनलोड, ट्रेंडिंग, लाइक, हाल में अपडेट या मॉडल साइज़ के हिसाब से क्रम लगाएँ; खोज MLX मॉडल दिखाती है।
किसी मॉडल पर क्लिक करके उसका README पढ़ें, फिर उसे डाउनलोड करें। डाउनलोड बैकग्राउंड में चलते हैं, और Downloads उनकी प्रगति दिखाता है।
Llama जैसे गेटेड मॉडल के लिए पहले HF Token: वाले फ़ील्ड में अपना Hugging Face टोकन डालें, और huggingface.co पर मॉडल का लाइसेंस स्वीकार करें।
Library & tools आपके Mac पर मौजूद मॉडल दिखाता है। Inspect Model मॉडल का मेटाडेटा दिखाता है, Diagnose Model हेल्थ चेक चलाता है और Convert Model किसी Hugging Face मॉडल को क्वांटाइज़्ड MLX मॉडल में बदलता है: Balanced (4-bit), Quality (8-bit) या Compact (3-bit)।

डाउनलोड आपके Hugging Face कैश फ़ोल्डर में जाते हैं, जब तक आप Download to: के नीचे कोई और जगह न चुनें। MLX Harness उस कैश में, ~/.mlxstudio/models में और Directories के नीचे जोड़े गए फ़ोल्डरों में पहले से मौजूद मॉडल भी ढूँढ लेता है।

3चैट और इमेज

चैट और रीज़निंग

Chat & Images खोलें, चैट टूलबार के मॉडल मेन्यू से मॉडल चुनें, या Add local model। यह अपनी पहचानी गई डिफ़ॉल्ट सेटिंग्स से शुरू होता है; एडवांस्ड विकल्प Servers & API में रहते हैं।
मैसेज लिखें। रीज़निंग मॉडल अपनी सोच एक अलग बॉक्स में दिखाते हैं। चैट सेटिंग्स में Enable Thinking इसे Auto, On या Off पर रखता है, और Reasoning Effort सपोर्ट करने वाले मॉडल में इसकी गहराई तय करता है।
विज़न मॉडल इमेज लेते हैं: फ़ाइल चैट पर छोड़ें या अटैच बटन इस्तेमाल करें। वीडियो, ऑडियो और टेक्स्ट फ़ाइलें उन मॉडल के साथ चलती हैं जो इन्हें स्वीकार करते हैं।
चैट साइडबार में सेव होती हैं और खोजी जा सकती हैं। सेटिंग्स हर मॉडल के लिए अलग सेव होती हैं।

आप कहीं और चल रहे मॉडल से भी चैट कर सकते हैं: Connect remote endpoint किसी भी OpenAI-कम्पैटिबल API का पता लेता है। सिर्फ़ तभी आपके प्रॉम्प्ट Mac से बाहर जाते हैं।

इमेज बनाएँ और एडिट करें

Chat & Images में Image चुनें। इमेज मॉडल mflux के ज़रिए चलते हैं, और इमेज सर्वर आपके Mac के किसी फ़ोल्डर से मॉडल लोड करता है: Find mflux models से Models में इमेज खोज खुलती है, फिर Load selected folder उसे शुरू करता है।

इस्तेमाल	मॉडल फ़ैमिली
बनाना	Flux Schnell, Flux Dev, Z-Image Turbo, FLUX.2 Klein 4B और 9B, Qwen Image, Qwen Image 2.1, FIBO, Ideogram 4
एडिट	Qwen Image Edit, Qwen Image 2.1, Flux Kontext, FLUX.2 Klein Edit, Flux Fill (आपके बनाए मास्क से inpainting)
अपस्केल	SeedVR2 3B

वे फ़ैमिली जिन्हें MLX Harness लोड कर सकता है। मेमोरी मॉडल और प्रिसिज़न के हिसाब से बदलती है; ऐप 16 GB वाले Mac के लिए 4-bit पर Flux Schnell या Klein 4B, और एडिटिंग मॉडल के लिए 8-bit या फ़ुल प्रिसिज़न सुझाता है।

कुछ इमेज मॉडल, जैसे Flux Dev, Hugging Face पर गेटेड हैं और डाउनलोड से पहले आपका टोकन और स्वीकार किया गया लाइसेंस माँगते हैं।

4एजेंट और टूल

MLX Harness किसी मॉडल को आपके Mac पर काम करने दे सकता है। चैट सेटिंग्स में Enable Built-in Coding Tools चालू करें और एक Working Directory चुनें: हर फ़ाइल ऑपरेशन और कमांड उसी के अंदर चलता है। फिर टूल कैटेगरी चालू या बंद करें:

कैटेगरी	बिल्ट-इन टूल
File I/O	`read_file`, `write_file`, `edit_file`, `patch_file`, `batch_edit`, `insert_text`, `replace_lines`, `apply_regex`, `copy_file`, `move_file`, `delete_file`, `create_directory`, `list_directory`, `read_image`, `read_video`
Search	`search_files`, `find_files`, `file_info`, `get_tree`, `diff_files`, `get_diagnostics`
Shell	`run_command`, `spawn_process`, `get_process_output`, `run_applescript`
Web Search	`ddg_search`: मुफ़्त, पहले DuckDuckGo आज़माता है, फिर Mojeek
Brave Search	`web_search`, Brave Search API कुंजी के साथ
URL Fetch	`fetch_url`
Git	`git`: status, diff, log, blame, commit, branch, stash
Utilities	`count_tokens`, `clipboard_read`, `clipboard_write`, `get_current_datetime`; `ask_user` हमेशा चालू रहता है

MLX Harness की बिल्ट-इन टूल सूची से। MCP सर्वर इनके साथ अपने टूल जोड़ते हैं।

Max Tool Iterations तय करता है कि एक मैसेज ज़्यादा से ज़्यादा कितने राउंड टूल कॉल ले सकता है (डिफ़ॉल्ट 10)। Shell और फ़ाइल टूल असली फ़ाइलों पर काम करते हैं, इसलिए वर्किंग डायरेक्टरी किसी प्रोजेक्ट पर रखें, होम फ़ोल्डर पर नहीं, और ऐसा मॉडल इस्तेमाल करें जिस पर आप इस काम के लिए भरोसा करते हों।

5दूसरे ऐप से इस्तेमाल करें: लोकल API

आप जो भी मॉडल शुरू करते हैं, वह आपके Mac पर उपलब्ध होता है। http://localhost:8080 पर API Gateway हर अनुरोध को उसमें दिए नाम के हिसाब से सही मॉडल तक भेजता है, और रुका हुआ मॉडल माँगा जाए तो उसे शुरू कर देता है। हर मॉडल का अपना पोर्ट भी होता है, 8000 से ऊपर। डिफ़ॉल्ट रूप से सिर्फ़ आपका Mac इन तक पहुँच सकता है; LAN चालू करने से ये आपके नेटवर्क के लिए खुल जाते हैं।

फ़ॉर्मेट	एंडपॉइंट
OpenAI	`/v1/chat/completions`, `/v1/responses`, `/v1/completions`, `/v1/models`, `/v1/embeddings`
Anthropic	`/v1/messages`
Ollama	`/api/chat`, `/api/generate`, `/api/tags`, `/api/show`, `/api/embed`
इमेज	`/v1/images/generations`, `/v1/images/edits`
ऑडियो	`/v1/audio/transcriptions` (Whisper), `/v1/audio/speech` (Kokoro)

Servers & API → API आपके चल रहे मॉडलों के सारे एंडपॉइंट दिखाता है, curl, Python और JavaScript में कॉपी-पेस्ट स्निपेट के साथ।

API के पीछे इंजन उसे कैश करता है जो वह पहले पढ़ चुका है। Continuous Batching चालू हो, तो Prefix Cache लंबी चैट या कोडिंग एजेंट के दोहराए जाने वाले निर्देशों को अगली बारी में काम छोड़ने देता है, KV Cache Quantization उस कैश को छोटा करता है, और Disk Cache (Persistent) उसे SSD पर रखता है। ये हर मॉडल की सर्वर सेटिंग्स में हैं।

OpenAI फ़ॉर्मेट में एक अनुरोध, उस मॉडल नाम के साथ जो API पेज दिखाता है:

curl http://localhost:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR-MODEL",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

कोई भी OpenAI SDK base_url को http://localhost:8080/v1 पर सेट करके चलता है; कुंजी कोई भी टेक्स्ट हो सकती है, जब तक आप सेशन पर कुंजी तय न करें। कोडिंग एजेंट के लिए Coding Tool Integration, Auto-Configure से Claude Code, Codex CLI, OpenCode, OpenClaw और Hermes Agent सेट अप करता है, या Manual Setup दिखाता है। Claude Code के लिए इसका मतलब है यह ~/.claude/settings.json में जोड़ना:

{
  "env": {
    "ANTHROPIC_BASE_URL": "http://localhost:8080",
    "ANTHROPIC_MODEL": "YOUR-MODEL",
    "ANTHROPIC_API_KEY": "mlxstudio"
  }
}

6Network पेज, और MLX Node

Network पेज mlx.app से MLX Network की लाइव स्थिति दिखाता है: ऑनलाइन और काम कर रहे Mac, टोकन प्रति सेकंड, आज के AI टोकन और देश। यह जाँचता है कि इस Mac पर MLX Node इंस्टॉल है और चल रहा है या नहीं, और उसे खोलता है या डाउनलोड का लिंक देता है। Your wallet के नीचे अपने वॉलेट का नाम लिखें और Show दबाएँ, ताकि उसका माइन किया गया MLX बढ़ता देख सकें; नाम सिर्फ़ इसी Mac पर रखा जाता है।

MLX Harness खुद कभी माइन नहीं करता; यह आपके लिए मॉडल चलाता है। MLX Node अलग मेन्यू बार ऐप है जो आपके Mac का खाली समय MLX Network को देता है और MLX टोकन कमाता है: मुफ़्त सीट पर रोज़ 1 MLX तक, 30 दिन के लिए लॉक। अगर आप दोनों इस्तेमाल करें, तो ये एक ही मेमोरी और GPU साझा करते हैं, इसलिए MLX Node की Memory MLX may use सीमा और मैनुअल Start और Stop उसे आपके रास्ते से दूर रखते हैं। MLX टोकन की कीमत गिर सकती है; जोखिम पढ़ें।

7सवाल

क्या MLX Harness मुफ़्त है?: हाँ। यह मुफ़्त है और Apache License 2.0 के तहत है, ठीक vMLX की तरह, जिस प्रोजेक्ट पर यह बना है।
मैं MLX Harness कब डाउनलोड कर सकता हूँ?: अभी। यह harness.mlx.app और mlx.app/download पर मुफ़्त डाउनलोड के लिए उपलब्ध है, macOS 14.5 या नए वाले Apple Silicon Mac के लिए। सोर्स कोड GitHub पर github.com/MLXapp/studio में है।
MLX Harness किन Mac पर चलता है?: Apple Silicon (M1 या नया) और macOS 14.5 या नए वाले Mac पर। आपके Mac की मेमोरी तय करती है कि कौन-से मॉडल फ़िट होंगे; mlx.app पर Compare उन्हें दिखाता है।
क्या MLX Harness मेरे प्रॉम्प्ट कहीं भेजता है?: नहीं। लोकल मॉडल आपके Mac पर चलते हैं, और API सिर्फ़ आपके Mac पर सुनती है, जब तक आप LAN चालू न करें। प्रॉम्प्ट Mac से तभी बाहर जाते हैं जब आप कोई रिमोट एंडपॉइंट जोड़ें।
क्या MLX Harness से MLX टोकन कमाए जाते हैं?: नहीं। MLX Harness आपके लिए मॉडल चलाता है और सिर्फ़ नेटवर्क के सार्वजनिक आँकड़े पढ़ता है। MLX Node वह ऐप है जो AI काम के बदले MLX टोकन कमाता है।

स्रोत

vMLXgithub.com
Hugging Facehuggingface.co
mlx-communityhuggingface.co
mfluxgithub.com

MLX Harness कैसे इस्तेमाल करें।