MLX Harness मोफत आहे का?

हो. ते मोफत आहे आणि ज्या vMLX प्रोजेक्टवर ते आधारित आहे त्याप्रमाणेच Apache License 2.0 अंतर्गत लायसन्स केलेले आहे.

MLX Harness कधी डाउनलोड करता येईल?

आत्ताच. ते harness.mlx.app आणि mlx.app/download वर मोफत डाउनलोड करता येते, macOS 14.5 किंवा नंतरचे व्हर्जन असलेल्या Apple Silicon Mac साठी. सोर्स कोड GitHub वर github.com/MLXapp/studio येथे आहे.

MLX Harness कोणत्या Mac वर चालते?

Apple Silicon (M1 किंवा नंतरचा) आणि macOS 14.5 किंवा नंतरचे व्हर्जन असलेल्या Mac वर. कोणती मॉडेल बसतात हे तुमच्या Mac ची मेमरी ठरवते; mlx.app वरील Compare ती दाखवते.

MLX Harness माझे प्रॉम्प्ट कुठे पाठवते का?

नाही. लोकल मॉडेल तुमच्या Mac वर चालतात, आणि तुम्ही LAN चालू केले नाही तर API फक्त तुमच्या Mac वर ऐकतो. तुम्ही रिमोट एंडपॉइंट जोडला तरच प्रॉम्प्ट Mac बाहेर जातात.

MLX Harness MLX टोकन कमावते का?

नाही. MLX Harness तुमच्यासाठी मॉडेल चालवते आणि फक्त सार्वजनिक नेटवर्कचे आकडे वाचते. AI कामासाठी MLX टोकन कमावणारे ॲप MLX Node आहे.

MLX Harness कसे वापरावे: Mac वर AI मॉडेल लोकली चालवा

थोडक्यात

MLX Harness तुमच्या Mac वर AI मॉडेल चालवते. तुम्ही स्वतः रिमोट एंडपॉइंट जोडला नाही तर प्रॉम्प्ट आणि उत्तरे Mac वरच राहतात.
ते JANGQ AI च्या vMLX वर आधारित आहे आणि Apache 2.0 अंतर्गत लायसन्स केलेले आहे. harness.mlx.app किंवा mlx.app/download वरून डाउनलोड करा.
चार पेज: Chat & Images, Servers & API, Models आणि Network, आणि साइडबारच्या तळाशी Preferences.
चालू असलेले प्रत्येक मॉडेल localhost:8080 वरील लोकल API वर OpenAI, Anthropic आणि Ollama फॉरमॅटमध्ये उपलब्ध असते, त्यामुळे ॲप आणि कोडिंग एजंट ते वापरू शकतात.

1MLX Harness इन्स्टॉल करा

MLX Harness harness.mlx.app वरून डाउनलोड करा. ते सही केलेले आणि Apple ने नोटराइज्ड केलेले आहे, त्यात MLX Node आधीच आहे, आणि नवीन व्हर्जन आल्यावर ॲपमध्येच सांगते.

Apple Silicon आणि macOS 14.5 किंवा नंतरचे व्हर्जन असलेला Mac लागेल. इन्फरन्स इंजिन ॲपमध्येच येते, त्यामुळे दुसरे काहीही इन्स्टॉल करायचे नाही: डाउनलोड करा, MLX Harness ला Applications मध्ये हलवा आणि उघडा.

MLX Harness ही JANGQ AI च्या vMLX ची सुधारित आवृत्ती आहे, Apache License 2.0 अंतर्गत प्रकाशित. खालचे इंजिन vMLX चेच आहे, कोणताही बदल न करता; MLX Harness त्याच्या भोवतीचे ॲप बदलते आणि Network पेज जोडते.

2मॉडेल निवडा आणि डाउनलोड करा

मॉडेल Hugging Face वरून येतात, त्यातली बहुतेक mlx-community संस्थेच्या MLX फॉरमॅटमध्ये. डाउनलोड करण्याआधी काय बसते ते तपासा: तुमच्या Mac ची मेमरी कोणती मॉडेल सामावू शकते आणि प्रत्येक साधारण किती वेगाने लिहिते, हे Compare दाखवते.

Models उघडा आणि Find & download निवडा. शोधा, आणि डाउनलोड, ट्रेंडिंग, लाइक, अलीकडे अपडेट झालेली किंवा मॉडेलचा आकार यानुसार क्रम लावा; शोध MLX मॉडेल दाखवतो.
मॉडेलवर क्लिक करून त्याचे README वाचा, मग ते डाउनलोड करा. डाउनलोड बॅकग्राउंडमध्ये चालतात, आणि Downloads त्यांची प्रगती दाखवते.
Llama सारख्या गेटेड (gated) मॉडेलसाठी, आधी HF Token: फील्डमध्ये तुमचा Hugging Face टोकन जोडा आणि huggingface.co वर मॉडेलचे लायसन्स स्वीकारा.
Library & tools तुमच्या Mac वरची मॉडेल दाखवते. Inspect Model मॉडेलचा मेटाडेटा दाखवते, Diagnose Model हेल्थ चेक चालवते, आणि Convert Model Hugging Face मॉडेलला क्वांटाइज्ड MLX मॉडेलमध्ये बदलते: Balanced (4-bit), Quality (8-bit) किंवा Compact (3-bit).

Download to: खाली दुसरी जागा निवडली नाही तर डाउनलोड तुमच्या Hugging Face कॅशे फोल्डरमध्ये जातात. त्या कॅशेमध्ये, ~/.mlxstudio/models मध्ये आणि Directories खाली तुम्ही जोडलेल्या फोल्डरमध्ये आधीपासून असलेली मॉडेलही MLX Harness शोधते.

3चॅट आणि इमेज

चॅट आणि रिझनिंग

Chat & Images उघडा, चॅट टूलबारच्या मॉडेल मेनूमध्ये मॉडेल निवडा, किंवा Add local model. ते ओळखलेल्या डीफॉल्ट सेटिंग्जसह सुरू होते; प्रगत पर्याय Servers & API मध्ये राहतात.
मेसेज टाइप करा. रिझनिंग मॉडेल त्यांचा विचार वेगळ्या बॉक्समध्ये दाखवतात. चॅट सेटिंग्जमधील Enable Thinking ते Auto, On किंवा Off करते, आणि सपोर्ट करणाऱ्या मॉडेलसाठी Reasoning Effort त्याची खोली ठरवते.
व्हिजन मॉडेल इमेज घेतात: फाइल चॅटवर ड्रॅग करून सोडा किंवा अटॅच बटण वापरा. व्हिडिओ, ऑडिओ आणि टेक्स्ट फाइल त्या स्वीकारणाऱ्या मॉडेलसोबत काम करतात.
चॅट साइडबारमध्ये सेव्ह होतात आणि शोधता येतात. सेटिंग्ज प्रत्येक मॉडेलसाठी वेगळी सेव्ह होतात.

दुसरीकडे असलेल्या मॉडेलशीही चॅट करता येते: Connect remote endpoint कोणताही OpenAI-सुसंगत API पत्ता घेतो. फक्त तेव्हाच तुमचे प्रॉम्प्ट Mac बाहेर जातात.

इमेज तयार करा आणि एडिट करा

Chat & Images मध्ये Image निवडा. इमेज मॉडेल mflux मधून चालतात, आणि इमेज सर्व्हर तुमच्या Mac वरील फोल्डरमधून मॉडेल लोड करतो: Find mflux models Models मध्ये इमेज शोध उघडते, मग Load selected folder ते सुरू करते.

वापर	मॉडेल फॅमिली
तयार करणे	Flux Schnell, Flux Dev, Z-Image Turbo, FLUX.2 Klein 4B आणि 9B, Qwen Image, Qwen Image 2.1, FIBO, Ideogram 4
एडिट करणे	Qwen Image Edit, Qwen Image 2.1, Flux Kontext, FLUX.2 Klein Edit, Flux Fill (तुम्ही रंगवलेल्या मास्कसह इनपेंटिंग)
अपस्केल	SeedVR2 3B

MLX Harness लोड करू शकते अशा फॅमिली. मेमरी मॉडेल आणि प्रिसिजननुसार बदलते; 16 GB Mac साठी ॲप 4-बिटमध्ये Flux Schnell किंवा Klein 4B, आणि एडिटिंग मॉडेलसाठी 8-बिट किंवा पूर्ण प्रिसिजन सुचवते.

Flux Dev सारखी काही इमेज मॉडेल Hugging Face वर गेटेड आहेत, आणि डाउनलोड होण्याआधी त्यांना तुमचा टोकन आणि स्वीकारलेले लायसन्स लागते.

4एजंट आणि टूल

MLX Harness मॉडेलला तुमच्या Mac वर कृती करू देऊ शकते. चॅट सेटिंग्जमध्ये Enable Built-in Coding Tools चालू करा आणि एक Working Directory निवडा: प्रत्येक फाइल ऑपरेशन आणि कमांड त्याच्या आतच चालते. मग टूलच्या श्रेणी चालू किंवा बंद करा:

श्रेणी	अंगभूत टूल
File I/O	`read_file`, `write_file`, `edit_file`, `patch_file`, `batch_edit`, `insert_text`, `replace_lines`, `apply_regex`, `copy_file`, `move_file`, `delete_file`, `create_directory`, `list_directory`, `read_image`, `read_video`
Search	`search_files`, `find_files`, `file_info`, `get_tree`, `diff_files`, `get_diagnostics`
Shell	`run_command`, `spawn_process`, `get_process_output`, `run_applescript`
Web Search	`ddg_search`: मोफत, आधी DuckDuckGo आणि मग Mojeek वापरून पाहते
Brave Search	`web_search`, Brave Search API की सह
URL Fetch	`fetch_url`
Git	`git`: status, diff, log, blame, commit, branch, stash
Utilities	`count_tokens`, `clipboard_read`, `clipboard_write`, `get_current_datetime`; `ask_user` नेहमी चालू

MLX Harness च्या अंगभूत टूल यादीतून. MCP सर्व्हर यांच्या शेजारी स्वतःची टूल जोडतात.

Max Tool Iterations एक मेसेज टूल कॉलच्या किती फेऱ्या घेऊ शकतो याची मर्यादा ठरवते (डीफॉल्ट 10). Shell आणि फाइल टूल खऱ्या फाइलवर काम करतात, म्हणून वर्किंग डिरेक्टरी तुमच्या होम फोल्डरकडे नव्हे तर एखाद्या प्रोजेक्टकडे ठेवा, आणि ज्या मॉडेलवर तुम्ही ते सोपवण्याइतका विश्वास ठेवता तेच वापरा.

5इतर ॲपमधून वापरा: लोकल API

तुम्ही सुरू केलेले प्रत्येक मॉडेल तुमच्या Mac वर सर्व्ह होते. http://localhost:8080 वरील API Gateway प्रत्येक विनंती त्यातील नावानुसार योग्य मॉडेलकडे पाठवते, आणि थांबवलेले मॉडेल मागितल्यास ते सुरू करते. प्रत्येक मॉडेलला 8000 पासून पुढे स्वतःचा पोर्टही असतो. डीफॉल्टनुसार फक्त तुमचा Mac त्यांच्यापर्यंत पोहोचू शकतो; LAN चालू केल्यास ते तुमच्या नेटवर्कसाठी खुले होतात.

फॉरमॅट	एंडपॉइंट
OpenAI	`/v1/chat/completions`, `/v1/responses`, `/v1/completions`, `/v1/models`, `/v1/embeddings`
Anthropic	`/v1/messages`
Ollama	`/api/chat`, `/api/generate`, `/api/tags`, `/api/show`, `/api/embed`
इमेज	`/v1/images/generations`, `/v1/images/edits`
ऑडिओ	`/v1/audio/transcriptions` (Whisper), `/v1/audio/speech` (Kokoro)

Servers & API → API तुम्ही चालवत असलेल्या मॉडेलचे प्रत्येक एंडपॉइंट curl, Python आणि JavaScript मधील कॉपी-पेस्ट उदाहरणांसह दाखवते.

API च्या मागे, इंजिनने आधीच वाचलेले कॅशे होते. Continuous Batching चालू असताना Prefix Cache मुळे लांब चॅट किंवा कोडिंग एजंटच्या वारंवार येणाऱ्या सूचना पुढच्या फेरीत काम टाळतात, KV Cache Quantization तो कॅशे लहान करते, आणि Disk Cache (Persistent) तो SSD वर ठेवते. हे प्रत्येक मॉडेलच्या सर्व्हर सेटिंग्जमध्ये आहेत.

API पेज दाखवत असलेल्या मॉडेल नावासह, OpenAI फॉरमॅटमधील एक विनंती:

curl http://localhost:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR-MODEL",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

base_url http://localhost:8080/v1 वर सेट केल्यास कोणताही OpenAI SDK चालतो; सेशनवर तुम्ही की सेट केली नसेल तर की कोणताही मजकूर असू शकतो. कोडिंग एजंटसाठी, Coding Tool Integration Claude Code, Codex CLI, OpenCode, OpenClaw आणि Hermes Agent Auto-Configure ने सेट करते, किंवा Manual Setup दाखवते. Claude Code साठी याचा अर्थ हे ~/.claude/settings.json मध्ये मिसळणे:

{
  "env": {
    "ANTHROPIC_BASE_URL": "http://localhost:8080",
    "ANTHROPIC_MODEL": "YOUR-MODEL",
    "ANTHROPIC_API_KEY": "mlxstudio"
  }
}

6Network पेज, आणि MLX Node

Network mlx.app वरून MLX Network लाइव्ह दाखवते: ऑनलाइन आणि काम करणारे Mac, सेकंदाला टोकन, आजचे AI टोकन आणि देश. MLX Node या Mac वर इन्स्टॉल आहे आणि चालू आहे का ते तपासते, आणि ते उघडते किंवा डाउनलोडची लिंक देते. Your wallet खाली तुमच्या वॉलेटचे नाव टाइप करा आणि Show दाबा, म्हणजे त्याचे माइन केलेले MLX वाढताना दिसेल; नाव फक्त या Mac वर ठेवले जाते.

MLX Harness स्वतः कधीच माइन करत नाही. ते तुमच्यासाठी मॉडेल चालवते. MLX Node हे वेगळे मेनू बार ॲप आहे, जे तुमच्या Mac चा रिकामा वेळ MLX Network ला देऊन MLX टोकन कमावते: मोफत सीटवर दिवसाला 1 MLX पर्यंत, 30 दिवस लॉक. तुम्ही दोन्ही वापरत असाल तर ते एकच मेमरी आणि GPU वाटून घेतात, म्हणून MLX Node ची Memory MLX may use मर्यादा आणि मॅन्युअल Start व Stop ते तुमच्या आड येऊ देत नाहीत. MLX टोकनचे मूल्य कमी होऊ शकते; जोखीम वाचा.

7प्रश्न

MLX Harness मोफत आहे का?: हो. ते मोफत आहे आणि ज्या vMLX प्रोजेक्टवर ते आधारित आहे त्याप्रमाणेच Apache License 2.0 अंतर्गत लायसन्स केलेले आहे.
MLX Harness कधी डाउनलोड करता येईल?: आत्ताच. ते harness.mlx.app आणि mlx.app/download वर मोफत डाउनलोड करता येते, macOS 14.5 किंवा नंतरचे व्हर्जन असलेल्या Apple Silicon Mac साठी. सोर्स कोड GitHub वर github.com/MLXapp/studio येथे आहे.
MLX Harness कोणत्या Mac वर चालते?: Apple Silicon (M1 किंवा नंतरचा) आणि macOS 14.5 किंवा नंतरचे व्हर्जन असलेल्या Mac वर. कोणती मॉडेल बसतात हे तुमच्या Mac ची मेमरी ठरवते; mlx.app वरील Compare ती दाखवते.
MLX Harness माझे प्रॉम्प्ट कुठे पाठवते का?: नाही. लोकल मॉडेल तुमच्या Mac वर चालतात, आणि तुम्ही LAN चालू केले नाही तर API फक्त तुमच्या Mac वर ऐकतो. तुम्ही रिमोट एंडपॉइंट जोडला तरच प्रॉम्प्ट Mac बाहेर जातात.
MLX Harness MLX टोकन कमावते का?: नाही. MLX Harness तुमच्यासाठी मॉडेल चालवते आणि फक्त सार्वजनिक नेटवर्कचे आकडे वाचते. AI कामासाठी MLX टोकन कमावणारे ॲप MLX Node आहे.

स्रोत

vMLXgithub.com
Hugging Facehuggingface.co
mlx-communityhuggingface.co
mfluxgithub.com

MLX Harness कसे वापरावे.