MLX Harness ఉచితమా?

అవును. అది ఉచితం; దానికి ఆధారమైన vMLX ప్రాజెక్ట్ లాగే Apache License 2.0 కింద లైసెన్స్ పొందింది.

MLX Harnessను ఎప్పుడు డౌన్లోడ్ చేయవచ్చు?

ఇప్పుడే. harness.mlx.app, mlx.app/downloadలో ఉచితంగా డౌన్లోడ్ చేసుకోవచ్చు; macOS 14.5 లేదా తర్వాతి వెర్షన్ ఉన్న Apple Silicon Macల కోసం. సోర్స్ కోడ్ GitHubలో github.com/MLXapp/studioలో ఉంది.

MLX Harness ఏ Macలపై నడుస్తుంది?

Apple Silicon (M1 లేదా తర్వాతిది), macOS 14.5 లేదా తర్వాతి వెర్షన్ ఉన్న Macలపై. ఏ మోడల్లు సరిపోతాయో మీ Mac మెమరీ నిర్ణయిస్తుంది; mlx.appలోని Compare వాటిని చూపిస్తుంది.

MLX Harness నా ప్రాంప్ట్లను ఎక్కడికైనా పంపుతుందా?

లేదు. లోకల్ మోడల్లు మీ Macలో నడుస్తాయి; మీరు LAN ఆన్ చేయకపోతే API మీ Macలో మాత్రమే వింటుంది. మీరు రిమోట్ ఎండ్పాయింట్ కనెక్ట్ చేస్తేనే ప్రాంప్ట్లు Macను దాటి వెళ్తాయి.

MLX Harness MLX టోకెన్లు సంపాదిస్తుందా?

లేదు. MLX Harness మీ కోసం మోడల్లను నడుపుతుంది, పబ్లిక్ నెట్వర్క్ సంఖ్యలను మాత్రమే చదువుతుంది. AI పనికి MLX టోకెన్లు సంపాదించే యాప్ MLX Node.

MLX Harness ఎలా వాడాలి: మీ Macలో AI మోడల్‌లను లోకల్‌గా నడపండి

క్లుప్తంగా

MLX Harness మీ Macలో AI మోడల్‌లను నడుపుతుంది. మీరే రిమోట్ ఎండ్‌పాయింట్‌ను కనెక్ట్ చేస్తే తప్ప, ప్రాంప్ట్‌లు, సమాధానాలు Macలోనే ఉంటాయి.
ఇది JANGQ AI తయారుచేసిన vMLX ఆధారంగా నిర్మించబడింది, Apache 2.0 లైసెన్స్‌లో ఉంది. harness.mlx.app లేదా mlx.app/download నుండి డౌన్‌లోడ్ చేసుకోండి.
నాలుగు పేజీలు: Chat & Images, Servers & API, Models, Network; సైడ్‌బార్ కింద Preferences.
నడుస్తున్న ప్రతి మోడల్ localhost:8080లోని లోకల్ APIలో OpenAI, Anthropic, Ollama ఫార్మాట్‌లలో అందుబాటులో ఉంటుంది; కాబట్టి యాప్‌లు, కోడింగ్ ఏజెంట్‌లు దాన్ని వాడవచ్చు.

1MLX Harness ఇన్‌స్టాల్ చేయండి

MLX Harnessను harness.mlx.app నుండి డౌన్‌లోడ్ చేసుకోండి. ఇది సైన్ చేయబడి Apple ద్వారా నోటరైజ్ అయింది, లోపలే MLX Node ఉంటుంది, కొత్త వెర్షన్ వచ్చినప్పుడు యాప్‌లోనే మీకు చెబుతుంది.

Apple Silicon, macOS 14.5 లేదా తర్వాతి వెర్షన్ ఉన్న Mac కావాలి. ఇన్ఫరెన్స్ ఇంజిన్ యాప్‌లోనే వస్తుంది, కాబట్టి ఇంకేమీ ఇన్‌స్టాల్ చేయనవసరం లేదు: డౌన్‌లోడ్ చేసి, MLX Harnessను Applicationsకు తరలించి తెరవండి.

MLX Harness అనేది JANGQ AI తయారుచేసిన vMLXకు మార్పులు చేసిన వెర్షన్, Apache License 2.0 కింద విడుదలైంది. కింద ఉన్న ఇంజిన్ vMLXదే, మార్పు లేకుండా; MLX Harness దాని చుట్టూ ఉన్న యాప్‌ను మార్చి, Network పేజీని జోడిస్తుంది.

2మోడల్ ఎంచుకుని డౌన్‌లోడ్ చేయండి

మోడల్‌లు Hugging Face నుండి వస్తాయి; వాటిలో ఎక్కువ mlx-community సంస్థ అందించే MLX ఫార్మాట్‌లో ఉంటాయి. డౌన్‌లోడ్ చేసే ముందు ఏది సరిపోతుందో చూడండి: మీ Mac మెమరీ ఏ మోడల్‌లను పట్టగలదో, ఒక్కొక్కటి సుమారు ఎంత వేగంగా రాస్తుందో Compare చూపిస్తుంది.

Models తెరిచి Find & download ఎంచుకోండి. వెతకండి, తర్వాత డౌన్‌లోడ్‌లు, ట్రెండింగ్, లైక్‌లు, ఇటీవలి అప్‌డేట్ లేదా మోడల్ సైజ్ ప్రకారం వరుసలో పెట్టండి; సెర్చ్ MLX మోడల్‌లను చూపిస్తుంది.
మోడల్‌పై క్లిక్ చేసి దాని README చదివి, తర్వాత డౌన్‌లోడ్ చేయండి. డౌన్‌లోడ్‌లు బ్యాక్‌గ్రౌండ్‌లో జరుగుతాయి; Downloads వాటి పురోగతిని చూపిస్తుంది.
Llama లాంటి గేటెడ్ (gated) మోడల్‌ల కోసం, ముందుగా HF Token: ఫీల్డ్‌లో మీ Hugging Face టోకెన్ జోడించి, huggingface.coలో మోడల్ లైసెన్స్‌ను అంగీకరించండి.
Library & tools మీ Macలోని మోడల్‌లను చూపిస్తుంది. Inspect Model మోడల్ మెటాడేటాను చూపిస్తుంది, Diagnose Model హెల్త్ చెక్‌లు నడుపుతుంది, Convert Model ఒక Hugging Face మోడల్‌ను క్వాంటైజ్ చేసిన MLX మోడల్‌గా మారుస్తుంది: Balanced (4-bit), Quality (8-bit) లేదా Compact (3-bit).

Download to: కింద వేరే స్థానం ఎంచుకోకపోతే, డౌన్‌లోడ్‌లు మీ Hugging Face క్యాష్ ఫోల్డర్‌కు వెళ్తాయి. ఆ క్యాష్‌లో, ~/.mlxstudio/modelsలో, Directories కింద మీరు జోడించే ఫోల్డర్‌లలో ఇప్పటికే ఉన్న మోడల్‌లను కూడా MLX Harness కనుగొంటుంది.

3చాట్, ఇమేజ్‌లు

చాట్, రీజనింగ్

Chat & Images తెరిచి, చాట్ టూల్‌బార్ మోడల్ మెనూలో ఒక మోడల్ ఎంచుకోండి, లేదా Add local model. అది గుర్తించిన డిఫాల్ట్‌లతో ప్రారంభమవుతుంది; అధునాతన ఆప్షన్‌లు Servers & APIలో ఉంటాయి.
ఒక మెసేజ్ టైప్ చేయండి. రీజనింగ్ మోడల్‌లు తమ ఆలోచనను వేరే బాక్స్‌లో చూపిస్తాయి. చాట్ సెట్టింగ్‌లలోని Enable Thinking దాన్ని Auto, On లేదా Offగా సెట్ చేస్తుంది; సపోర్ట్ చేసే మోడల్‌లకు Reasoning Effort దాని లోతును సెట్ చేస్తుంది.
విజన్ మోడల్‌లు ఇమేజ్‌లను తీసుకుంటాయి: ఒక ఫైల్‌ను చాట్‌పైకి లాగి వదలండి లేదా అటాచ్ బటన్ వాడండి. వీడియో, ఆడియో, టెక్స్ట్ ఫైల్‌లు వాటిని స్వీకరించే మోడల్‌లతో పనిచేస్తాయి.
చాట్‌లు సైడ్‌బార్‌లో సేవ్ అవుతాయి, వెతకవచ్చు. సెట్టింగ్‌లు ప్రతి మోడల్‌కు విడిగా సేవ్ అవుతాయి.

వేరే చోట ఉన్న మోడల్‌తో కూడా చాట్ చేయవచ్చు: Connect remote endpoint ఏ OpenAI-అనుకూల API అడ్రస్‌నైనా తీసుకుంటుంది. అప్పుడు మాత్రమే మీ ప్రాంప్ట్‌లు Macను దాటి వెళ్తాయి.

ఇమేజ్‌లు సృష్టించండి, ఎడిట్ చేయండి

Chat & Imagesలో Image ఎంచుకోండి. ఇమేజ్ మోడల్‌లు mflux ద్వారా నడుస్తాయి; ఇమేజ్ సర్వర్ మీ Macలోని ఒక ఫోల్డర్ నుండి మోడల్‌ను లోడ్ చేస్తుంది: Find mflux models, Modelsలో ఇమేజ్ సెర్చ్‌ను తెరుస్తుంది; తర్వాత Load selected folder దాన్ని ప్రారంభిస్తుంది.

ఉపయోగం	మోడల్ కుటుంబాలు
సృష్టించడం	Flux Schnell, Flux Dev, Z-Image Turbo, FLUX.2 Klein 4B, 9B, Qwen Image, Qwen Image 2.1, FIBO, Ideogram 4
ఎడిట్ చేయడం	Qwen Image Edit, Qwen Image 2.1, Flux Kontext, FLUX.2 Klein Edit, Flux Fill (మీరు గీసే మాస్క్‌తో ఇన్‌పెయింటింగ్)
అప్‌స్కేల్	SeedVR2 3B

MLX Harness లోడ్ చేయగల కుటుంబాలు. మోడల్, ప్రెసిషన్‌ను బట్టి మెమరీ మారుతుంది; 16 GB Macకు 4-బిట్‌లో Flux Schnell లేదా Klein 4Bని, ఎడిటింగ్ మోడల్‌లకు 8-బిట్ లేదా పూర్తి ప్రెసిషన్‌ను యాప్ సూచిస్తుంది.

Flux Dev లాంటి కొన్ని ఇమేజ్ మోడల్‌లు Hugging Faceలో గేటెడ్; డౌన్‌లోడ్ చేసే ముందు మీ టోకెన్, అంగీకరించిన లైసెన్స్ కావాలి.

4ఏజెంట్‌లు, టూల్స్

MLX Harness ఒక మోడల్‌ను మీ Macపై పనులు చేసేలా అనుమతించగలదు. చాట్ సెట్టింగ్‌లలో Enable Built-in Coding Tools ఆన్ చేసి ఒక Working Directory ఎంచుకోండి: ప్రతి ఫైల్ ఆపరేషన్, కమాండ్ దాని లోపలే నడుస్తుంది. తర్వాత టూల్ కేటగిరీలను ఆన్ లేదా ఆఫ్ చేయండి:

కేటగిరీ	అంతర్నిర్మిత టూల్స్
File I/O	`read_file`, `write_file`, `edit_file`, `patch_file`, `batch_edit`, `insert_text`, `replace_lines`, `apply_regex`, `copy_file`, `move_file`, `delete_file`, `create_directory`, `list_directory`, `read_image`, `read_video`
Search	`search_files`, `find_files`, `file_info`, `get_tree`, `diff_files`, `get_diagnostics`
Shell	`run_command`, `spawn_process`, `get_process_output`, `run_applescript`
Web Search	`ddg_search`: ఉచితం, DuckDuckGo ప్రయత్నిస్తుంది, తర్వాత Mojeek
Brave Search	`web_search`, Brave Search API కీతో
URL Fetch	`fetch_url`
Git	`git`: status, diff, log, blame, commit, branch, stash
Utilities	`count_tokens`, `clipboard_read`, `clipboard_write`, `get_current_datetime`; `ask_user` ఎప్పుడూ ఆన్‌లోనే

MLX Harness అంతర్నిర్మిత టూల్ జాబితా నుండి. MCP సర్వర్‌లు వీటి పక్కన తమ సొంత టూల్స్‌ను జోడిస్తాయి.

Max Tool Iterations, ఒక మెసేజ్ ఎన్ని రౌండ్ల టూల్ కాల్స్ తీసుకోవచ్చో పరిమితం చేస్తుంది (డిఫాల్ట్‌గా 10). Shell, ఫైల్ టూల్స్ నిజమైన ఫైల్‌లపై పనిచేస్తాయి; కాబట్టి వర్కింగ్ డైరెక్టరీని మీ హోమ్ ఫోల్డర్‌కు కాకుండా ఒక ప్రాజెక్ట్‌కు చూపండి, దాన్ని అప్పగించగలిగేంత నమ్మకమైన మోడల్‌ను వాడండి.

5ఇతర యాప్‌ల నుండి వాడండి: లోకల్ API

మీరు ప్రారంభించే ప్రతి మోడల్ మీ Macలో సర్వ్ అవుతుంది. http://localhost:8080లోని API Gateway ప్రతి అభ్యర్థనను అందులోని పేరు ప్రకారం సరైన మోడల్‌కు పంపుతుంది; ఆపిన మోడల్‌ను అడిగితే దాన్ని ప్రారంభిస్తుంది. ప్రతి మోడల్‌కు 8000 నుండి సొంత పోర్ట్ కూడా ఉంటుంది. డిఫాల్ట్‌గా మీ Mac మాత్రమే వాటిని చేరగలదు; LAN ఆన్ చేస్తే మీ నెట్‌వర్క్‌కు కూడా తెరుచుకుంటాయి.

ఫార్మాట్	ఎండ్‌పాయింట్‌లు
OpenAI	`/v1/chat/completions`, `/v1/responses`, `/v1/completions`, `/v1/models`, `/v1/embeddings`
Anthropic	`/v1/messages`
Ollama	`/api/chat`, `/api/generate`, `/api/tags`, `/api/show`, `/api/embed`
ఇమేజ్‌లు	`/v1/images/generations`, `/v1/images/edits`
ఆడియో	`/v1/audio/transcriptions` (Whisper), `/v1/audio/speech` (Kokoro)

Servers & API → API, మీరు నడుపుతున్న మోడల్‌ల ప్రతి ఎండ్‌పాయింట్‌ను curl, Python, JavaScriptలో కాపీ-పేస్ట్ ఉదాహరణలతో చూపిస్తుంది.

API వెనుక, ఇంజిన్ ఇప్పటికే చదివినదాన్ని క్యాష్ చేస్తుంది. Continuous Batching ఆన్‌లో ఉన్నప్పుడు, పొడవైన చాట్ గానీ కోడింగ్ ఏజెంట్ పదేపదే ఇచ్చే సూచనలు గానీ తర్వాతి టర్న్‌లో పని తప్పించుకోవడానికి Prefix Cache సాయపడుతుంది; KV Cache Quantization ఆ క్యాష్‌ను కుదిస్తుంది; Disk Cache (Persistent) దాన్ని SSDలో ఉంచుతుంది. ఇవి ప్రతి మోడల్ సర్వర్ సెట్టింగ్‌లలో ఉంటాయి.

API పేజీ చూపించే మోడల్ పేరుతో, OpenAI ఫార్మాట్‌లో ఒక అభ్యర్థన:

curl http://localhost:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR-MODEL",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

base_urlను http://localhost:8080/v1గా సెట్ చేస్తే ఏ OpenAI SDK అయినా పనిచేస్తుంది; సెషన్‌పై మీరు కీ సెట్ చేయకపోతే, కీ ఏ టెక్స్ట్ అయినా కావచ్చు. కోడింగ్ ఏజెంట్‌ల కోసం, Coding Tool Integration Claude Code, Codex CLI, OpenCode, OpenClaw, Hermes Agentలను Auto-Configureతో సెటప్ చేస్తుంది, లేదా Manual Setup చూపిస్తుంది. Claude Code కోసం, అంటే దీన్ని ~/.claude/settings.jsonలో కలపడం:

{
  "env": {
    "ANTHROPIC_BASE_URL": "http://localhost:8080",
    "ANTHROPIC_MODEL": "YOUR-MODEL",
    "ANTHROPIC_API_KEY": "mlxstudio"
  }
}

6Network పేజీ, MLX Node

Network, mlx.app నుండి MLX Networkను లైవ్‌గా చూపిస్తుంది: ఆన్‌లైన్‌లో ఉన్న, పనిచేస్తున్న Macలు, సెకనుకు టోకెన్‌లు, ఈరోజు AI టోకెన్‌లు, దేశాలు. MLX Node ఈ Macలో ఇన్‌స్టాల్ అయి నడుస్తోందో సరిచూసి, దాన్ని తెరుస్తుంది లేదా డౌన్‌లోడ్‌కు లింక్ ఇస్తుంది. Your wallet కింద మీ వాలెట్ పేరు టైప్ చేసి Show నొక్కితే, అది మైన్ చేసే MLX పెరుగుతూ ఉండటం చూడవచ్చు; పేరు ఈ Macలో మాత్రమే ఉంటుంది.

MLX Harness తనంతట తాను ఎప్పుడూ మైన్ చేయదు. అది మీ కోసం మోడల్‌లను నడుపుతుంది. MLX Node అనేది వేరే మెనూ బార్ యాప్; అది మీ Mac ఖాళీ సమయాన్ని MLX Networkకు అందించి MLX టోకెన్‌లు సంపాదిస్తుంది: ఉచిత సీటుపై రోజుకు 1 MLX వరకు, 30 రోజులు లాక్. రెండూ వాడితే, అవి ఒకే మెమరీ, GPUను పంచుకుంటాయి; కాబట్టి MLX Nodeలోని Memory MLX may use పరిమితి, మాన్యువల్ Start, Stop దాన్ని మీ దారికి అడ్డు రాకుండా ఉంచుతాయి. MLX టోకెన్‌లు విలువ కోల్పోవచ్చు; రిస్క్‌లు చదవండి.

7ప్రశ్నలు

MLX Harness ఉచితమా?: అవును. అది ఉచితం; దానికి ఆధారమైన vMLX ప్రాజెక్ట్ లాగే Apache License 2.0 కింద లైసెన్స్ పొందింది.
MLX Harnessను ఎప్పుడు డౌన్‌లోడ్ చేయవచ్చు?: ఇప్పుడే. harness.mlx.app, mlx.app/downloadలో ఉచితంగా డౌన్‌లోడ్ చేసుకోవచ్చు; macOS 14.5 లేదా తర్వాతి వెర్షన్ ఉన్న Apple Silicon Macల కోసం. సోర్స్ కోడ్ GitHubలో github.com/MLXapp/studioలో ఉంది.
MLX Harness ఏ Macలపై నడుస్తుంది?: Apple Silicon (M1 లేదా తర్వాతిది), macOS 14.5 లేదా తర్వాతి వెర్షన్ ఉన్న Macలపై. ఏ మోడల్‌లు సరిపోతాయో మీ Mac మెమరీ నిర్ణయిస్తుంది; mlx.appలోని Compare వాటిని చూపిస్తుంది.
MLX Harness నా ప్రాంప్ట్‌లను ఎక్కడికైనా పంపుతుందా?: లేదు. లోకల్ మోడల్‌లు మీ Macలో నడుస్తాయి; మీరు LAN ఆన్ చేయకపోతే API మీ Macలో మాత్రమే వింటుంది. మీరు రిమోట్ ఎండ్‌పాయింట్ కనెక్ట్ చేస్తేనే ప్రాంప్ట్‌లు Macను దాటి వెళ్తాయి.
MLX Harness MLX టోకెన్‌లు సంపాదిస్తుందా?: లేదు. MLX Harness మీ కోసం మోడల్‌లను నడుపుతుంది, పబ్లిక్ నెట్‌వర్క్ సంఖ్యలను మాత్రమే చదువుతుంది. AI పనికి MLX టోకెన్‌లు సంపాదించే యాప్ MLX Node.

ఆధారాలు

vMLXgithub.com
Hugging Facehuggingface.co
mlx-communityhuggingface.co
mfluxgithub.com

MLX Harness ఎలా వాడాలి.