Come usare MLX Harness.

1Installa MLX Harness

Ti serve un Mac con Apple Silicon e macOS 14.5 o successivo. Il motore di inferenza è incluso nell'app, quindi non c'è altro da installare: scaricala, sposta MLX Harness in Applicazioni e aprila.

MLX Harness è una versione modificata di vMLX di JANGQ AI, rilasciata con licenza Apache 2.0. Il motore sottostante è quello di vMLX, invariato; MLX Harness cambia l'app intorno e aggiunge la pagina Network.

2Scegli e scarica un modello

I modelli arrivano da Hugging Face, per lo più in formato MLX dall'organizzazione mlx-community. Prima di scaricare, controlla cosa ci sta: Compare mostra quali modelli entrano nella memoria del tuo Mac e, più o meno, a che velocità scrive ciascuno.

1. Apri Models e scegli Find & download. Cerca e ordina per download, tendenza, like, aggiornamento recente o dimensione del modello; la ricerca elenca modelli MLX.
2. Fai clic su un modello per leggerne il README, poi scaricalo. I download avvengono in background, e Downloads ne mostra l'avanzamento.
3. Per i modelli ad accesso limitato come Llama, aggiungi prima il tuo token Hugging Face nel campo HF Token: e accetta la licenza del modello su huggingface.co.
4. Library & tools elenca i modelli presenti sul Mac. Inspect Model mostra i metadati di un modello, Diagnose Model esegue controlli di integrità e Convert Model trasforma un modello Hugging Face in un modello MLX quantizzato: Balanced (4-bit), Quality (8-bit) o Compact (3-bit).

I download finiscono nella cartella della cache di Hugging Face, a meno che tu non ne scelga un'altra in Download to:. MLX Harness trova anche i modelli già presenti in quella cache, in ~/.mlxstudio/models e nelle cartelle che aggiungi in Directories.

3Chat e immagini

Chat e ragionamento

1. Apri Chat & Images e scegli un modello dal menu dei modelli nella barra della chat, oppure Add local model. Parte con i valori predefiniti rilevati; le opzioni avanzate restano in Servers & API.
2. Scrivi un messaggio. I modelli di ragionamento mostrano il loro ragionamento in un riquadro separato. Enable Thinking, nelle impostazioni della chat, lo imposta su Auto, On o Off, e Reasoning Effort ne regola la profondità nei modelli che lo supportano.
3. I modelli di visione accettano immagini: trascina un file nella chat o usa il pulsante per allegare. File video, audio e di testo funzionano con i modelli che li accettano.
4. Le chat vengono salvate nella barra laterale e si possono cercare. Le impostazioni vengono salvate per modello.

Puoi anche chattare con un modello che si trova altrove: Connect remote endpoint accetta l'indirizzo di qualsiasi API compatibile con OpenAI. Solo in quel caso i tuoi prompt lasciano il Mac.

Genera e modifica immagini

In Chat & Images, scegli Image. I modelli di immagini girano tramite mflux, e il server di immagini carica un modello da una cartella del tuo Mac: Find mflux models apre la ricerca di immagini in Models, poi Load selected folder lo avvia.

Alcuni modelli di immagini, come Flux Dev, sono ad accesso limitato su Hugging Face e richiedono il tuo token e una licenza accettata prima del download.

4Agenti e strumenti

MLX Harness può permettere a un modello di agire sul tuo Mac. Nelle impostazioni della chat, attiva Enable Built-in Coding Tools e scegli una Working Directory: ogni operazione sui file e ogni comando avvengono al suo interno. Poi attiva o disattiva le categorie di strumenti:

Max Tool Iterations limita quanti giri di chiamate agli strumenti può fare un singolo messaggio (10 per impostazione predefinita). Gli strumenti di shell e di file agiscono su file reali, quindi punta la cartella di lavoro su un progetto, non sulla tua cartella Inizio, e usa un modello di cui ti fidi per questo.

5Usalo da altre app: l'API locale

Ogni modello che avvii viene servito sul tuo Mac. L'API Gateway su http://localhost:8080 inoltra ogni richiesta al modello giusto in base al nome indicato nella richiesta, e avvia un modello fermo quando viene chiesto. Ogni modello ha anche una sua porta, dalla 8000 in su. Per impostazione predefinita solo il tuo Mac può raggiungerli; attivare LAN li apre alla tua rete.

Dietro l'API, il motore tiene in cache ciò che ha già letto. Con Continuous Batching attivo, la Prefix Cache permette a una chat lunga o alle istruzioni ripetute di un agente di programmazione di saltare lavoro al turno successivo, KV Cache Quantization riduce quella cache e Disk Cache (Persistent) la conserva sull'SSD. Queste opzioni sono nelle impostazioni del server di ogni modello.

Una richiesta in formato OpenAI, con il nome del modello mostrato nella pagina API:

curl http://localhost:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR-MODEL",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Qualsiasi SDK OpenAI funziona con base_url impostato su http://localhost:8080/v1; la chiave può essere un testo qualsiasi, a meno che tu non ne imposti una per la sessione. Per gli agenti di programmazione, Coding Tool Integration configura Claude Code, Codex CLI, OpenCode, OpenClaw e Hermes Agent con Auto-Configure, oppure mostra un Manual Setup. Per Claude Code, significa unire questo a ~/.claude/settings.json:

{
  "env": {
    "ANTHROPIC_BASE_URL": "http://localhost:8080",
    "ANTHROPIC_MODEL": "YOUR-MODEL",
    "ANTHROPIC_API_KEY": "mlxstudio"
  }
}

6La pagina Network e MLX Node

Network mostra MLX Network in tempo reale da mlx.app: Mac online e al lavoro, token al secondo, token di AI di oggi e paesi. Controlla se MLX Node è installato su questo Mac ed è in funzione, e lo apre o rimanda al download. Scrivi il nome del tuo wallet in Your wallet e premi Show per vedere salire i suoi MLX minati; il nome resta solo su questo Mac.

MLX Harness di per sé non mina mai. Esegue modelli per te. MLX Node è l'app separata della barra dei menu che presta il tempo libero del tuo Mac a MLX Network e guadagna token MLX: fino a 1 MLX al giorno con un posto gratuito, bloccati per 30 giorni. Se usi entrambe, condividono la stessa memoria e la stessa GPU, quindi il limite Memory MLX may use di MLX Node e lo Start e Stop manuali evitano che ti intralci. I token MLX possono perdere valore; leggi i rischi.

7Domande

MLX Harness è gratuito?

Sì. È gratuito e distribuito con licenza Apache 2.0, come vMLX, il progetto su cui si basa.

Quando potrò scaricare MLX Harness?

Già adesso. È un download gratuito su harness.mlx.app e mlx.app/download, per Mac con Apple Silicon e macOS 14.5 o successivo. Il codice sorgente è su GitHub, all'indirizzo github.com/MLXapp/studio.

Su quali Mac funziona MLX Harness?

Sui Mac con Apple Silicon (M1 o successivo) e macOS 14.5 o successivo. La memoria del Mac decide quali modelli ci stanno; Compare su mlx.app te li mostra.

MLX Harness invia i miei prompt da qualche parte?

No. I modelli locali girano sul tuo Mac, e l'API è in ascolto solo sul tuo Mac a meno che tu non attivi LAN. I prompt lasciano il Mac solo se colleghi un endpoint remoto.

MLX Harness guadagna token MLX?

No. MLX Harness esegue modelli per te e legge solo dati pubblici della rete. L'app che guadagna token MLX per il lavoro di AI è MLX Node.