Як користуватися MLX Harness.

1Встановлення MLX Harness

Потрібен Mac з Apple Silicon і macOS 14.5 або новішою. Рушій інференсу вбудовано в застосунок, тож більше нічого встановлювати не треба: завантажте його, перенесіть MLX Harness в «Програми» й відкрийте.

MLX Harness — змінена версія vMLX від JANGQ AI, випущеної за ліцензією Apache License 2.0. Рушій усередині — від vMLX, без змін; MLX Harness змінює застосунок навколо нього й додає сторінку Network.

2Вибір і завантаження моделі

Моделі беруться з Hugging Face, здебільшого у форматі MLX від організації mlx-community. Перед завантаженням перевірте, що вміститься: Compare показує, які моделі вміщує пам’ять вашого Mac і приблизно з якою швидкістю пише кожна.

1. Відкрийте Models і виберіть Find & download. Шукайте й сортуйте за завантаженнями, популярністю, вподобаннями, датою оновлення або розміром моделі; пошук показує моделі MLX.
2. Натисніть на модель, щоб прочитати її README, потім завантажте її. Завантаження йдуть у фоні, а їхній перебіг показує Downloads.
3. Для закритих (gated) моделей, як-от Llama, спершу додайте свій токен Hugging Face в поле HF Token: і прийміть ліцензію моделі на huggingface.co.
4. Library & tools показує моделі на вашому Mac. Inspect Model виводить метадані моделі, Diagnose Model перевіряє її справність, а Convert Model перетворює модель із Hugging Face на квантовану модель MLX: Balanced (4-bit), Quality (8-bit) або Compact (3-bit).

Завантаження зберігаються в папку кешу Hugging Face, якщо ви не вибрали іншу в Download to:. MLX Harness також знаходить моделі, які вже лежать у цьому кеші, у ~/.mlxstudio/models і в папках, доданих у Directories.

3Чат і зображення

Чат і міркування

1. Відкрийте Chat & Images і виберіть модель у меню моделей на панелі чату або натисніть Add local model. Вона запускається з автоматично визначеними налаштуваннями; розширені параметри лишаються в Servers & API.
2. Напишіть повідомлення. Моделі з міркуваннями показують хід думок в окремому блоці. Enable Thinking у налаштуваннях чату перемикає його між Auto, On і Off, а Reasoning Effort задає глибину для моделей, які це підтримують.
3. Візуальні моделі приймають зображення: перетягніть файл у чат або натисніть кнопку вкладення. Відео, аудіо й текстові файли працюють із моделями, які їх приймають.
4. Чати зберігаються в бічній панелі, і в них працює пошук. Налаштування зберігаються для кожної моделі окремо.

Можна спілкуватися й з моделлю, яка працює деінде: Connect remote endpoint приймає адресу будь-якого API, сумісного з OpenAI. Лише в цьому разі ваші промпти залишають Mac.

Генерація й редагування зображень

У Chat & Images виберіть Image. Моделі зображень працюють через mflux, а сервер зображень завантажує модель із папки на вашому Mac: Find mflux models відкриває пошук моделей зображень у Models, а Load selected folder запускає модель.

Деякі моделі зображень, як-от Flux Dev, на Hugging Face закриті: перед завантаженням потрібні ваш токен і прийнята ліцензія.

4Агенти й інструменти

MLX Harness може дозволити моделі діяти на вашому Mac. У налаштуваннях чату ввімкніть Enable Built-in Coding Tools і виберіть Working Directory: усі операції з файлами й команди виконуються всередині неї. Потім увімкніть або вимкніть категорії інструментів:

Max Tool Iterations обмежує кількість раундів виклику інструментів на одне повідомлення (за замовчуванням 10). Інструменти оболонки й файлів працюють зі справжніми файлами, тож указуйте як робочу папку проєкт, а не домашню папку, і використовуйте модель, якій ви це довіряєте.

5Використання з інших застосунків: локальний API

Кожна запущена модель доступна на вашому Mac. API Gateway за адресою http://localhost:8080 спрямовує кожен запит потрібній моделі за ім’ям у запиті й запускає зупинену модель, коли її запитують. Кожна модель має й власний порт, починаючи з 8000. За замовчуванням до них може звертатися лише ваш Mac; увімкнення LAN відкриває їх для вашої мережі.

За API рушій кешує те, що вже прочитав. Коли ввімкнено Continuous Batching, Prefix Cache позбавляє довгий чат або повторювані інструкції агента для програмування від повторної обробки на наступному ході, KV Cache Quantization стискає цей кеш, а Disk Cache (Persistent) зберігає його на SSD. Ці параметри є в налаштуваннях сервера кожної моделі.

Запит у форматі OpenAI з ім’ям моделі, яке показує сторінка API:

curl http://localhost:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR-MODEL",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Будь-який SDK OpenAI працює, якщо вказати base_url як http://localhost:8080/v1; ключем може бути будь-який текст, якщо ви не задали його для сеансу. Для агентів програмування Coding Tool Integration налаштовує Claude Code, Codex CLI, OpenCode, OpenClaw і Hermes Agent через Auto-Configure або показує Manual Setup. Для Claude Code це означає додати в ~/.claude/settings.json таке:

{
  "env": {
    "ANTHROPIC_BASE_URL": "http://localhost:8080",
    "ANTHROPIC_MODEL": "YOUR-MODEL",
    "ANTHROPIC_API_KEY": "mlxstudio"
  }
}

6Сторінка Network і MLX Node

Network показує MLX Network наживо з mlx.app: Mac онлайн і в роботі, токени за секунду, ШІ-токени за сьогодні й країни. Вона перевіряє, чи встановлено на цьому Mac MLX Node і чи він запущений, і відкриває його або веде на сторінку завантаження. Введіть ім’я гаманця в Your wallet і натисніть Show, щоб бачити, як ростуть добуті ним MLX; ім’я зберігається лише на цьому Mac.

Сам MLX Harness ніколи не майнить. Він запускає моделі для вас. MLX Node — окремий застосунок у рядку меню, який віддає час простою вашого Mac мережі MLX Network і заробляє токени MLX: до 1 MLX на день на безкоштовному місці, із блокуванням на 30 дн. Якщо ви користуєтеся обома, вони ділять ту саму пам’ять і GPU, тож ліміт Memory MLX may use в MLX Node і ручні Start та Stop не дадуть йому вам заважати. Токени MLX можуть втратити в ціні; прочитайте про ризики.

7Запитання

MLX Harness безкоштовний?

Так. Він безкоштовний і поширюється за ліцензією Apache License 2.0, як і vMLX, на якому його побудовано.

Коли можна буде завантажити MLX Harness?

Уже зараз. Його можна безкоштовно завантажити на harness.mlx.app і mlx.app/download для Mac з Apple Silicon і macOS 14.5 або новішою. Вихідний код — на GitHub: github.com/MLXapp/studio.

На яких Mac працює MLX Harness?

На Mac з Apple Silicon (M1 або новіший) і macOS 14.5 або новішою. Які моделі вмістяться, вирішує пам’ять Mac; їх показує Compare на mlx.app.

Чи надсилає MLX Harness кудись мої промпти?

Ні. Локальні моделі працюють на вашому Mac, а API слухає лише ваш Mac, якщо ви не ввімкнули LAN. Промпти залишають Mac, лише якщо ви під’єднаєте віддалений ендпоінт.

Чи заробляє MLX Harness токени MLX?

Ні. MLX Harness запускає моделі для вас і лише читає публічні показники мережі. Токени MLX за роботу ШІ заробляє застосунок MLX Node.