Jak używać MLX Harness.

1Instalacja MLX Harness

Potrzebujesz Maca z Apple Silicon i macOS 14.5 lub nowszego. Silnik inferencji jest wbudowany w aplikację, więc nie trzeba instalować niczego więcej: pobierz ją, przenieś MLX Harness do Aplikacji i otwórz.

MLX Harness to zmodyfikowana wersja vMLX od JANGQ AI, wydanego na licencji Apache License 2.0. Silnik pod spodem to niezmieniony silnik vMLX; MLX Harness zmienia aplikację wokół niego i dodaje stronę Network.

2Wybierz i pobierz model

Modele pochodzą z Hugging Face, w większości w formacie MLX od organizacji mlx-community. Przed pobraniem sprawdź, co się zmieści: Compare pokazuje, które modele pomieści pamięć Twojego Maca i z grubsza jak szybko każdy pisze.

1. Otwórz Models i wybierz Find & download. Wyszukuj i sortuj według pobrań, popularności, polubień, daty aktualizacji lub rozmiaru modelu; wyszukiwarka pokazuje modele MLX.
2. Kliknij model, aby przeczytać jego README, a potem go pobierz. Pobieranie odbywa się w tle, a postęp pokazuje Downloads.
3. W przypadku modeli z ograniczonym dostępem (gated), takich jak Llama, najpierw dodaj swój token Hugging Face w polu HF Token: i zaakceptuj licencję modelu na huggingface.co.
4. Library & tools pokazuje modele na Twoim Macu. Inspect Model wyświetla metadane modelu, Diagnose Model sprawdza jego stan, a Convert Model zamienia model z Hugging Face w skwantyzowany model MLX: Balanced (4-bit), Quality (8-bit) lub Compact (3-bit).

Pobrane pliki trafiają do folderu pamięci podręcznej Hugging Face, chyba że wybierzesz inny w Download to:. MLX Harness znajduje też modele, które już są w tej pamięci podręcznej, w ~/.mlxstudio/models i w folderach dodanych w Directories.

3Czat i obrazy

Czat i rozumowanie

1. Otwórz Chat & Images, wybierz model z menu modeli na pasku czatu albo Add local model. Startuje z wykrytymi ustawieniami domyślnymi; zaawansowane opcje zostają w Servers & API.
2. Napisz wiadomość. Modele rozumujące pokazują tok myślenia w osobnym polu. Enable Thinking w ustawieniach czatu ustawia je na Auto, On lub Off, a Reasoning Effort określa jego głębokość w modelach, które to obsługują.
3. Modele wizyjne przyjmują obrazy: upuść plik na czat lub użyj przycisku załącznika. Pliki wideo, audio i tekstowe działają z modelami, które je przyjmują.
4. Czaty są zapisywane na pasku bocznym i można je przeszukiwać. Ustawienia są zapisywane osobno dla każdego modelu.

Możesz też rozmawiać z modelem działającym gdzie indziej: Connect remote endpoint przyjmuje adres dowolnego API zgodnego z OpenAI. Tylko wtedy Twoje prompty opuszczają Maca.

Generowanie i edycja obrazów

W Chat & Images wybierz Image. Modele graficzne działają przez mflux, a serwer obrazów wczytuje model z folderu na Twoim Macu: Find mflux models otwiera wyszukiwanie obrazów w Models, a Load selected folder go uruchamia.

Niektóre modele graficzne, np. Flux Dev, mają na Hugging Face ograniczony dostęp i przed pobraniem wymagają Twojego tokena oraz zaakceptowanej licencji.

4Agenci i narzędzia

MLX Harness może pozwolić modelowi działać na Twoim Macu. W ustawieniach czatu włącz Enable Built-in Coding Tools i wybierz Working Directory: każda operacja na plikach i każde polecenie działa w tym folderze. Potem włączaj lub wyłączaj kategorie narzędzi:

Max Tool Iterations ogranicza liczbę rund wywołań narzędzi w jednej wiadomości (domyślnie 10). Narzędzia powłoki i plików działają na prawdziwych plikach, więc wskaż jako folder roboczy projekt, a nie folder domowy, i używaj modelu, któremu to powierzasz.

5Korzystanie z innych aplikacji: lokalne API

Każdy uruchomiony model jest udostępniany na Twoim Macu. API Gateway pod adresem http://localhost:8080 kieruje każde żądanie do właściwego modelu według nazwy w żądaniu i uruchamia zatrzymany model, gdy ktoś o niego poprosi. Każdy model ma też własny port, od 8000 w górę. Domyślnie dostęp do nich ma tylko Twój Mac; włączenie LAN otwiera je dla Twojej sieci.

Za API silnik zapamiętuje w pamięci podręcznej to, co już przeczytał. Przy włączonym Continuous Batching Prefix Cache pozwala długiemu czatowi lub powtarzającym się instrukcjom agenta programistycznego pominąć część pracy w następnej turze, KV Cache Quantization zmniejsza tę pamięć podręczną, a Disk Cache (Persistent) przechowuje ją na dysku SSD. Te opcje są w ustawieniach serwera każdego modelu.

Żądanie w formacie OpenAI, z nazwą modelu podaną na stronie API:

curl http://localhost:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR-MODEL",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Każde SDK OpenAI zadziała z base_url ustawionym na http://localhost:8080/v1; kluczem może być dowolny tekst, chyba że ustawisz go dla sesji. Dla agentów programistycznych Coding Tool Integration konfiguruje Claude Code, Codex CLI, OpenCode, OpenClaw i Hermes Agent przez Auto-Configure albo pokazuje Manual Setup. W przypadku Claude Code oznacza to dołączenie tego do ~/.claude/settings.json:

{
  "env": {
    "ANTHROPIC_BASE_URL": "http://localhost:8080",
    "ANTHROPIC_MODEL": "YOUR-MODEL",
    "ANTHROPIC_API_KEY": "mlxstudio"
  }
}

6Strona Network i MLX Node

Network pokazuje MLX Network na żywo z mlx.app: Maki online i pracujące, tokeny na sekundę, dzisiejsze tokeny AI i kraje. Sprawdza, czy MLX Node jest zainstalowane na tym Macu i czy działa, i otwiera je albo prowadzi do pobrania. Wpisz nazwę portfela w Your wallet i naciśnij Show, aby obserwować, jak rośnie liczba wydobytych MLX; nazwa jest przechowywana tylko na tym Macu.

Samo MLX Harness nigdy nie kopie. Uruchamia modele dla Ciebie. MLX Node to osobna aplikacja na pasku menu, która udostępnia czas bezczynności Twojego Maca sieci MLX Network i zarabia tokeny MLX: do 1 MLX dziennie na darmowym miejscu, zablokowane przez 30 dni. Jeśli używasz obu, dzielą tę samą pamięć i GPU, więc limit Memory MLX may use w MLX Node oraz ręczne Start i Stop sprawiają, że nie wchodzi Ci w drogę. Tokeny MLX mogą stracić na wartości; przeczytaj o ryzyku.

7Pytania

Czy MLX Harness jest bezpłatne?

Tak. Jest bezpłatne i objęte licencją Apache License 2.0, tak jak vMLX, projekt, na którym bazuje.

Kiedy będę mógł pobrać MLX Harness?

Już teraz. Jest do pobrania za darmo na harness.mlx.app i mlx.app/download, na Maki z Apple Silicon i macOS 14.5 lub nowszym. Kod źródłowy jest na GitHubie: github.com/MLXapp/studio.

Na jakich Macach działa MLX Harness?

Na Macach z Apple Silicon (M1 lub nowszym) i macOS 14.5 lub nowszym. Pamięć Twojego Maca decyduje, które modele się zmieszczą; pokazuje je Compare na mlx.app.

Czy MLX Harness wysyła gdzieś moje prompty?

Nie. Lokalne modele działają na Twoim Macu, a API nasłuchuje tylko na Twoim Macu, chyba że włączysz LAN. Prompty opuszczają Maca tylko wtedy, gdy podłączysz zdalny endpoint.

Czy MLX Harness zarabia tokeny MLX?

Nie. MLX Harness uruchamia modele dla Ciebie i tylko odczytuje publiczne dane sieci. Tokeny MLX za pracę AI zarabia aplikacja MLX Node.