Zo gebruik je MLX Harness.

1MLX Harness installeren

Je hebt een Mac met Apple Silicon en macOS 14.5 of nieuwer nodig. De inference-engine zit in de app, dus je hoeft niets anders te installeren: download hem, zet MLX Harness in Apps en open hem.

MLX Harness is een aangepaste versie van vMLX van JANGQ AI, uitgebracht onder de Apache License 2.0. De engine eronder is die van vMLX, ongewijzigd; MLX Harness verandert de app eromheen en voegt de pagina Network toe.

2Kies en download een model

Modellen komen van Hugging Face, de meeste in het MLX-formaat van de organisatie mlx-community. Controleer vóór het downloaden wat past: Compare laat zien welke modellen in het geheugen van je Mac passen en ongeveer hoe snel elk model schrijft.

1. Open Models en kies Find & download. Zoek en sorteer op downloads, trending, likes, recent bijgewerkt of modelgrootte; de zoekfunctie toont MLX-modellen.
2. Klik op een model om de README te lezen en download het. Downloads lopen op de achtergrond, en Downloads toont de voortgang.
3. Voor afgeschermde (gated) modellen zoals Llama voeg je eerst je Hugging Face-token toe in het veld HF Token: en accepteer je de licentie van het model op huggingface.co.
4. Library & tools toont de modellen op je Mac. Inspect Model laat de metadata van een model zien, Diagnose Model voert controles uit en Convert Model zet een Hugging Face-model om naar een gekwantiseerd MLX-model: Balanced (4-bit), Quality (8-bit) of Compact (3-bit).

Downloads gaan naar je Hugging Face-cachemap, tenzij je een andere kiest bij Download to:. MLX Harness vindt ook modellen die al in die cache staan, in ~/.mlxstudio/models en in mappen die je toevoegt bij Directories.

3Chatten en afbeeldingen

Chatten en redeneren

1. Open Chat & Images, kies een model in het modelmenu van de chatwerkbalk, of Add local model. Het start met de gedetecteerde standaardinstellingen; geavanceerde opties blijven in Servers & API.
2. Typ een bericht. Redeneermodellen tonen hun denkproces in een apart vak. Enable Thinking in de chatinstellingen zet het op Auto, On of Off, en Reasoning Effort bepaalt de diepgang bij modellen die dat ondersteunen.
3. Vision-modellen accepteren afbeeldingen: sleep een bestand naar de chat of gebruik de bijlageknop. Video-, audio- en tekstbestanden werken met modellen die ze accepteren.
4. Chats worden in de zijbalk bewaard en zijn doorzoekbaar. Instellingen worden per model bewaard.

Je kunt ook chatten met een model dat ergens anders draait: Connect remote endpoint accepteert elk OpenAI-compatibel API-adres. Alleen dan verlaten je prompts de Mac.

Afbeeldingen maken en bewerken

Kies in Chat & Images voor Image. Beeldmodellen draaien via mflux, en de beeldserver laadt een model uit een map op je Mac: Find mflux models opent het zoeken naar beeldmodellen in Models, en Load selected folder start het.

Sommige beeldmodellen, zoals Flux Dev, zijn afgeschermd op Hugging Face en hebben je token en een geaccepteerde licentie nodig voordat ze downloaden.

4Agents en tools

MLX Harness kan een model op je Mac laten handelen. Zet in de chatinstellingen Enable Built-in Coding Tools aan en kies een Working Directory: elke bestandsbewerking en elk commando draait daarbinnen. Zet daarna toolcategorieën aan of uit:

Max Tool Iterations beperkt hoeveel rondes toolaanroepen één bericht mag gebruiken (standaard 10). Shell- en bestandstools werken op echte bestanden, dus laat de werkmap naar een project wijzen, niet naar je thuismap, en gebruik een model dat je daarmee vertrouwt.

5Gebruik vanuit andere apps: de lokale API

Elk model dat je start, wordt op je Mac aangeboden. De API Gateway op http://localhost:8080 stuurt elk verzoek naar het juiste model op basis van de naam in het verzoek, en start een gestopt model als erom wordt gevraagd. Elk model heeft ook een eigen poort, vanaf 8000. Standaard kan alleen je Mac erbij; met LAN aan zijn ze bereikbaar in je netwerk.

Achter de API cachet de engine wat hij al heeft gelezen. Met Continuous Batching aan laat de Prefix Cache een lange chat of de herhaalde instructies van een code-agent werk overslaan in de volgende beurt, verkleint KV Cache Quantization die cache en bewaart Disk Cache (Persistent) hem op de SSD. Deze opties staan in de serverinstellingen van elk model.

Een verzoek in OpenAI-formaat, met de modelnaam die de API-pagina toont:

curl http://localhost:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR-MODEL",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Elke OpenAI-SDK werkt met base_url ingesteld op http://localhost:8080/v1; de sleutel mag elke tekst zijn, tenzij je er een instelt voor de sessie. Voor code-agents stelt Coding Tool Integration Claude Code, Codex CLI, OpenCode, OpenClaw en Hermes Agent in met Auto-Configure, of toont het een Manual Setup. Voor Claude Code betekent dat dit samenvoegen in ~/.claude/settings.json:

{
  "env": {
    "ANTHROPIC_BASE_URL": "http://localhost:8080",
    "ANTHROPIC_MODEL": "YOUR-MODEL",
    "ANTHROPIC_API_KEY": "mlxstudio"
  }
}

6De pagina Network, en MLX Node

Network toont MLX Network live vanaf mlx.app: Macs online en aan het werk, tokens per seconde, AI-tokens vandaag en landen. De pagina controleert of MLX Node op deze Mac is geïnstalleerd en draait, en opent hem of linkt naar de download. Typ je walletnaam bij Your wallet en druk op Show om de gedolven MLX te zien oplopen; de naam blijft alleen op deze Mac.

MLX Harness zelf delft nooit. Hij draait modellen voor jou. MLX Node is de aparte menubalk-app die de inactieve tijd van je Mac uitleent aan MLX Network en MLX-tokens verdient: tot 1 MLX per dag op een gratis plek, 30 dagen vergrendeld. Gebruik je beide, dan delen ze hetzelfde geheugen en dezelfde GPU, dus met de limiet Memory MLX may use van MLX Node en handmatig Start en Stop zit hij je niet in de weg. MLX-tokens kunnen waarde verliezen; lees de risico's.

7Vragen

Is MLX Harness gratis?

Ja. Hij is gratis en valt onder de Apache License 2.0, net als vMLX, het project waarop hij is gebouwd.

Wanneer kan ik MLX Harness downloaden?

Nu al. Hij is gratis te downloaden op harness.mlx.app en mlx.app/download, voor Macs met Apple Silicon en macOS 14.5 of nieuwer. De broncode staat op GitHub: github.com/MLXapp/studio.

Op welke Macs draait MLX Harness?

Op Macs met Apple Silicon (M1 of nieuwer) en macOS 14.5 of nieuwer. Het geheugen van je Mac bepaalt welke modellen passen; Compare op mlx.app laat ze zien.

Stuurt MLX Harness mijn prompts ergens heen?

Nee. Lokale modellen draaien op je Mac, en de API luistert alleen op je Mac, tenzij je LAN aanzet. Prompts verlaten de Mac alleen als je een extern endpoint koppelt.

Verdient MLX Harness MLX-tokens?

Nee. MLX Harness draait modellen voor jou en leest alleen openbare netwerkcijfers. MLX Node is de app die MLX-tokens verdient met AI-werk.