Paano gamitin ang MLX Harness.

1I-install ang MLX Harness

Kailangan mo ng Mac na may Apple Silicon at macOS 14.5 o mas bago. Kasama na sa app ang inference engine, kaya wala ka nang ibang kailangang i-install: i-download ito, ilipat ang MLX Harness sa Applications at buksan ito.

Ang MLX Harness ay binagong bersyon ng vMLX ng JANGQ AI, na inilabas sa ilalim ng Apache License 2.0. Ang engine sa ilalim ay sa vMLX, walang binago; binabago ng MLX Harness ang app sa paligid nito at nagdaragdag ng Network page.

2Pumili at mag-download ng model

Galing sa Hugging Face ang mga model, karamihan sa MLX format mula sa organisasyong mlx-community. Bago mag-download, tingnan kung ano ang kasya: ipinapakita ng Paghambingin kung aling mga model ang kasya sa memory ng Mac mo at humigit-kumulang kung gaano kabilis sumulat ang bawat isa.

1. Buksan ang Models at piliin ang Find & download. Maghanap, at i-sort ayon sa downloads, trending, likes, kamakailang na-update o laki ng model; mga MLX model ang inililista ng search.
2. I-click ang isang model para basahin ang README nito, saka i-download. Tumatakbo sa background ang mga download, at ipinapakita ng Downloads ang progreso nila.
3. Para sa mga gated model gaya ng Llama, idagdag muna ang Hugging Face token mo sa field na HF Token:, at tanggapin ang lisensya ng model sa huggingface.co.
4. Inililista ng Library & tools ang mga model sa Mac mo. Ipinapakita ng Inspect Model ang metadata ng model, nagpapatakbo ng health check ang Diagnose Model at ginagawang quantized na MLX model ng Convert Model ang isang Hugging Face model: Balanced (4-bit), Quality (8-bit) o Compact (3-bit).

Napupunta ang mga download sa Hugging Face cache folder mo maliban kung pumili ka ng iba sa ilalim ng Download to:. Nahahanap din ng MLX Harness ang mga model na nasa cache na iyon, sa ~/.mlxstudio/models at sa mga folder na idinagdag mo sa ilalim ng Directories.

3Chat at mga larawan

Chat at reasoning

1. Buksan ang Chat & Images, pumili ng model sa model menu ng chat toolbar, o Add local model. Nagsisimula ito sa mga natukoy nitong default; nananatili sa Servers & API ang mga advanced na opsyon.
2. Mag-type ng mensahe. Ipinapakita ng mga reasoning model ang pag-iisip nila sa hiwalay na kahon. Itinatakda ito ng Enable Thinking sa chat settings sa Auto, On o Off, at itinatakda ng Reasoning Effort ang lalim nito para sa mga model na sumusuporta rito.
3. Tumatanggap ng larawan ang mga vision model: mag-drop ng file sa chat o gamitin ang attach button. Gumagana ang mga video, audio at text file sa mga model na tumatanggap ng mga ito.
4. Naka-save sa sidebar ang mga chat at puwedeng hanapin. Naka-save ang mga setting kada model.

Puwede ka ring makipag-chat sa model na nasa ibang lugar: tumatanggap ang Connect remote endpoint ng kahit anong OpenAI-compatible na API address. Doon lang lumalabas sa Mac ang mga prompt mo.

Gumawa at mag-edit ng mga larawan

Sa Chat & Images, piliin ang Image. Tumatakbo ang mga image model sa pamamagitan ng mflux, at naglo-load ang image server ng model mula sa isang folder sa Mac mo: binubuksan ng Find mflux models ang image search sa Models, saka sinisimulan ito ng Load selected folder.

Gated sa Hugging Face ang ilang image model, gaya ng Flux Dev, at kailangan ng token mo at ng natanggap na lisensya bago ma-download.

4Mga agent at tool

Kayang hayaan ng MLX Harness na kumilos ang isang model sa Mac mo. Sa chat settings, i-on ang Enable Built-in Coding Tools at pumili ng Working Directory: sa loob nito tumatakbo ang bawat file operation at command. Pagkatapos, i-on o i-off ang mga kategorya ng tool:

Nililimitahan ng Max Tool Iterations kung ilang round ng tool call ang puwedeng gawin ng isang mensahe (10 bilang default). Kumikilos sa totoong file ang mga shell at file tool, kaya ituro ang working directory sa isang project, hindi sa home folder mo, at gumamit ng model na pinagkakatiwalaan mo rito.

5Gamitin ito mula sa ibang app: ang lokal na API

Sine-serve sa Mac mo ang bawat model na sinisimulan mo. Ipinapasa ng API Gateway sa http://localhost:8080 ang bawat request sa tamang model ayon sa pangalan sa request, at sinisimulan nito ang nakahintong model kapag hinihingi ito. May sariling port din ang bawat model, mula 8000 pataas. Bilang default, ang Mac mo lang ang nakakaabot sa mga ito; kapag in-on ang LAN, bukas ang mga ito sa network mo.

Sa likod ng API, kina-cache ng engine ang nabasa na nito. Kapag naka-on ang Continuous Batching, hinahayaan ng Prefix Cache na laktawan ng mahabang chat o ng paulit-ulit na instruction ng coding agent ang bahagi ng trabaho sa susunod na turn, pinapaliit ng KV Cache Quantization ang cache na iyon, at itinatago ito ng Disk Cache (Persistent) sa SSD. Nasa server settings ng bawat model ang mga ito.

Isang request sa OpenAI format, gamit ang pangalan ng model na ipinapakita ng API page:

curl http://localhost:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR-MODEL",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Gumagana ang kahit anong OpenAI SDK kapag nakatakda ang base_url sa http://localhost:8080/v1; puwedeng kahit anong text ang key maliban kung nagtakda ka nito sa session. Para sa mga coding agent, sine-set up ng Coding Tool Integration ang Claude Code, Codex CLI, OpenCode, OpenClaw at Hermes Agent gamit ang Auto-Configure, o nagpapakita ito ng Manual Setup. Para sa Claude Code, ibig sabihin nito ay pagsamahin ito sa ~/.claude/settings.json:

{
  "env": {
    "ANTHROPIC_BASE_URL": "http://localhost:8080",
    "ANTHROPIC_MODEL": "YOUR-MODEL",
    "ANTHROPIC_API_KEY": "mlxstudio"
  }
}

6Ang Network page, at MLX Node

Ipinapakita ng Network ang MLX Network nang live mula sa mlx.app: mga Mac na online at nagtatrabaho, token bawat segundo, AI tokens ngayong araw at mga bansa. Sinusuri nito kung naka-install at tumatakbo ang MLX Node sa Mac na ito, at binubuksan ito o nagli-link sa download. I-type ang pangalan ng wallet mo sa ilalim ng Your wallet at pindutin ang Show para panoorin ang pagtaas ng na-mine nitong MLX; sa Mac na ito lang itinatago ang pangalan.

Hindi kailanman nagma-mine ang MLX Harness mismo. Nagpapatakbo ito ng mga model para sa iyo. Ang MLX Node ay hiwalay na menu bar app na nagpapahiram ng idle time ng Mac mo sa MLX Network at kumikita ng MLX tokens: hanggang 1 MLX bawat araw sa libreng seat, naka-lock nang 30 araw. Kung gagamitin mo ang dalawa, iisang memory at GPU ang pinaghahatian nila, kaya pinipigilan ng limit na Memory MLX may use at ng manual na Start at Stop ng MLX Node na makaabala ito sa iyo. Puwedeng mawalan ng halaga ang MLX tokens; basahin ang mga panganib.

7Mga tanong

Libre ba ang MLX Harness?

Oo. Libre ito at naka-lisensya sa ilalim ng Apache License 2.0, gaya ng vMLX, ang project na pinagbatayan nito.

Kailan ko puwedeng i-download ang MLX Harness?

Ngayon na. Libre itong i-download sa harness.mlx.app at mlx.app/download, para sa mga Mac na may Apple Silicon at macOS 14.5 o mas bago. Nasa GitHub ang source code: github.com/MLXapp/studio.

Sa aling mga Mac tumatakbo ang MLX Harness?

Mga Mac na may Apple Silicon (M1 o mas bago) at macOS 14.5 o mas bago. Ang memory ng Mac mo ang nagpapasya kung aling mga model ang kasya; ipinapakita ang mga ito ng Paghambingin sa mlx.app.

Ipinapadala ba ng MLX Harness ang mga prompt ko kung saan?

Hindi. Tumatakbo sa Mac mo ang mga lokal na model, at sa Mac mo lang nakikinig ang API maliban kung i-on mo ang LAN. Lumalabas lang sa Mac ang mga prompt kapag nagkonekta ka ng remote endpoint.

Kumikita ba ng MLX tokens ang MLX Harness?

Hindi. Nagpapatakbo ang MLX Harness ng mga model para sa iyo at nagbabasa lang ng pampublikong numero ng network. Ang MLX Node ang app na kumikita ng MLX tokens para sa AI work.