Em resumo
- O MLX Harness roda modelos de IA no seu Mac. Prompts e respostas ficam no Mac, a menos que você mesmo conecte um endpoint remoto.
- Ele é baseado no vMLX da JANGQ AI e tem licença Apache 2.0. Baixe em harness.mlx.app ou mlx.app/download.
- Quatro páginas: Chat & Images, Servers & API, Models e Network, com Preferences no fim da barra lateral.
- Todo modelo em execução é servido em uma API local em localhost:8080, nos formatos OpenAI, Anthropic e Ollama, para que apps e agentes de programação possam usá-lo.
1Instale o MLX Harness
Você vai precisar de um Mac com Apple Silicon e macOS 14.5 ou posterior. O motor de inferência vem dentro do app, então não há mais nada para instalar: baixe, mova o MLX Harness para Aplicativos e abra.
O MLX Harness é uma versão modificada do vMLX, da JANGQ AI, distribuído sob a Licença Apache 2.0. O motor por baixo é o do vMLX, sem alterações; o MLX Harness muda o app ao redor dele e acrescenta a página Network.
2Escolha e baixe um modelo
Os modelos vêm do Hugging Face, a maioria no formato MLX da organização mlx-community. Antes de baixar, veja o que cabe: o Compare mostra quais modelos cabem na memória do seu Mac e, aproximadamente, a que velocidade cada um escreve.
- Abra Models e escolha Find & download. Pesquise e ordene por downloads, tendência, curtidas, atualização recente ou tamanho do modelo; a busca lista modelos MLX.
- Clique em um modelo para ler o README e depois baixe-o. Os downloads rodam em segundo plano, e Downloads mostra o progresso.
- Para modelos com acesso restrito, como o Llama, adicione antes seu token do Hugging Face no campo HF Token: e aceite a licença do modelo em huggingface.co.
- Library & tools lista os modelos no seu Mac. Inspect Model mostra os metadados de um modelo, Diagnose Model faz verificações de integridade e Convert Model transforma um modelo do Hugging Face em um modelo MLX quantizado: Balanced (4-bit), Quality (8-bit) ou Compact (3-bit).
Os downloads vão para a pasta de cache do Hugging Face, a menos que você escolha outra em Download to:. O MLX Harness também encontra modelos que já estão nesse cache, em ~/.mlxstudio/models e nas pastas que você adicionar em Directories.
3Chat e imagens
Chat e raciocínio
- Abra Chat & Images e escolha um modelo no menu de modelos da barra do chat, ou Add local model. Ele inicia com os padrões detectados; as opções avançadas ficam em Servers & API.
- Digite uma mensagem. Modelos de raciocínio mostram o raciocínio em uma caixa separada. Enable Thinking, nos ajustes do chat, o coloca em Auto, On ou Off, e Reasoning Effort define a profundidade nos modelos que oferecem isso.
- Modelos de visão aceitam imagens: solte um arquivo no chat ou use o botão de anexar. Arquivos de vídeo, áudio e texto funcionam com os modelos que os aceitam.
- Os chats ficam salvos na barra lateral e podem ser pesquisados. Os ajustes são salvos por modelo.
Você também pode conversar com um modelo que está em outro lugar: Connect remote endpoint aceita o endereço de qualquer API compatível com OpenAI. Só nesse caso seus prompts saem do Mac.
Gere e edite imagens
Em Chat & Images, escolha Image. Os modelos de imagem rodam pelo mflux, e o servidor de imagens carrega um modelo de uma pasta do seu Mac: Find mflux models abre a busca de imagens em Models, e depois Load selected folder o inicia.
| Uso | Famílias de modelos |
|---|---|
| Gerar | Flux Schnell, Flux Dev, Z-Image Turbo, FLUX.2 Klein 4B e 9B, Qwen Image, Qwen Image 2.1, FIBO, Ideogram 4 |
| Editar | Qwen Image Edit, Qwen Image 2.1, Flux Kontext, FLUX.2 Klein Edit, Flux Fill (preenchimento com uma máscara que você pinta) |
| Aumentar resolução | SeedVR2 3B |
Alguns modelos de imagem, como o Flux Dev, têm acesso restrito no Hugging Face e precisam do seu token e de uma licença aceita antes de baixar.
4Agentes e ferramentas
O MLX Harness pode deixar um modelo agir no seu Mac. Nos ajustes do chat, ative Enable Built-in Coding Tools e escolha um Working Directory: toda operação com arquivos e todo comando rodam dentro dele. Depois ative ou desative as categorias de ferramentas:
| Categoria | Ferramentas integradas |
|---|---|
| File I/O | read_file, write_file, edit_file, patch_file, batch_edit, insert_text, replace_lines, apply_regex, copy_file, move_file, delete_file, create_directory, list_directory, read_image, read_video |
| Search | search_files, find_files, file_info, get_tree, diff_files, get_diagnostics |
| Shell | run_command, spawn_process, get_process_output, run_applescript |
| Web Search | ddg_search: grátis, tenta o DuckDuckGo e depois o Mojeek |
| Brave Search | web_search, com uma chave de API do Brave Search |
| URL Fetch | fetch_url |
| Git | git: status, diff, log, blame, commit, branch, stash |
| Utilities | count_tokens, clipboard_read, clipboard_write, get_current_datetime; ask_user fica sempre ativada |
Max Tool Iterations limita quantas rodadas de chamadas de ferramentas uma mensagem pode fazer (10 por padrão). As ferramentas de shell e de arquivos agem sobre arquivos reais, então aponte o diretório de trabalho para um projeto, não para a sua pasta pessoal, e use um modelo em que você confie para isso.
5Use em outros apps: a API local
Todo modelo que você inicia é servido no seu Mac. O API Gateway em http://localhost:8080 encaminha cada requisição para o modelo certo pelo nome que vem na requisição, e inicia um modelo parado quando ele é pedido. Cada modelo também tem a própria porta, a partir da 8000. Por padrão, só o seu Mac consegue acessá-los; ativar LAN os abre para a sua rede.
| Formato | Endpoints |
|---|---|
| OpenAI | /v1/chat/completions, /v1/responses, /v1/completions, /v1/models, /v1/embeddings |
| Anthropic | /v1/messages |
| Ollama | /api/chat, /api/generate, /api/tags, /api/show, /api/embed |
| Imagens | /v1/images/generations, /v1/images/edits |
| Áudio | /v1/audio/transcriptions (Whisper), /v1/audio/speech (Kokoro) |
Por trás da API, o motor guarda em cache o que já leu. Com Continuous Batching ativado, o Prefix Cache permite que um chat longo ou as instruções repetidas de um agente de programação pulem trabalho no turno seguinte, KV Cache Quantization reduz esse cache e Disk Cache (Persistent) o mantém no SSD. Esses ajustes ficam nas configurações de servidor de cada modelo.
Uma requisição no formato OpenAI, com o nome do modelo que a página API mostra:
curl http://localhost:8080/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "YOUR-MODEL",
"messages": [{"role": "user", "content": "Hello!"}]
}'Qualquer SDK da OpenAI funciona com base_url definido como http://localhost:8080/v1; a chave pode ser qualquer texto, a menos que você defina uma na sessão. Para agentes de programação, Coding Tool Integration configura Claude Code, Codex CLI, OpenCode, OpenClaw e Hermes Agent com Auto-Configure, ou mostra um Manual Setup. No Claude Code, isso significa mesclar isto em ~/.claude/settings.json:
{
"env": {
"ANTHROPIC_BASE_URL": "http://localhost:8080",
"ANTHROPIC_MODEL": "YOUR-MODEL",
"ANTHROPIC_API_KEY": "mlxstudio"
}
}6A página Network e o MLX Node
Network mostra a MLX Network ao vivo a partir do mlx.app: Macs on-line e trabalhando, tokens por segundo, tokens de IA de hoje e países. Ela verifica se o MLX Node está instalado neste Mac e em execução, e o abre ou leva ao download. Digite o nome da sua carteira em Your wallet e clique em Show para ver o MLX minerado subir; o nome fica guardado só neste Mac.
O MLX Harness em si nunca minera. Ele roda modelos para você. O MLX Node é o app separado da barra de menus que empresta o tempo ocioso do seu Mac à MLX Network e ganha tokens MLX: até 1 MLX por dia com uma vaga gratuita, bloqueados por 30 dias. Se você usa os dois, eles dividem a mesma memória e a mesma GPU, então o limite Memory MLX may use do MLX Node e o Start e Stop manuais o mantêm fora do seu caminho. Tokens MLX podem perder valor; leia os riscos.
7Perguntas
- O MLX Harness é grátis?
- Sim. Ele é gratuito e tem a Licença Apache 2.0, assim como o vMLX, o projeto em que é baseado.
- Quando vou poder baixar o MLX Harness?
- Agora mesmo. É um download gratuito em harness.mlx.app e mlx.app/download, para Macs com Apple Silicon no macOS 14.5 ou posterior. O código-fonte está no GitHub, em github.com/MLXapp/studio.
- Em quais Macs o MLX Harness roda?
- Em Macs com Apple Silicon (M1 ou posterior) e macOS 14.5 ou posterior. A memória do seu Mac define quais modelos cabem; o Compare no mlx.app mostra quais.
- O MLX Harness envia meus prompts para algum lugar?
- Não. Os modelos locais rodam no seu Mac, e a API só escuta no seu Mac, a menos que você ative LAN. Os prompts só saem do Mac se você conectar um endpoint remoto.
- O MLX Harness ganha tokens MLX?
- Não. O MLX Harness roda modelos para você e só lê números públicos da rede. O MLX Node é o app que ganha tokens MLX por trabalho de IA.
Fontes
- vMLXgithub.com
- Hugging Facehuggingface.co
- mlx-communityhuggingface.co
- mfluxgithub.com