Как пользоваться MLX Harness.

1Установка MLX Harness

Нужен Mac с Apple Silicon и macOS 14.5 или новее. Движок инференса встроен в приложение, поэтому больше ничего устанавливать не нужно: скачайте его, перенесите MLX Harness в «Программы» и откройте.

MLX Harness — измененная версия vMLX от JANGQ AI, выпущенной по лицензии Apache License 2.0. Движок внутри — от vMLX, без изменений; MLX Harness меняет приложение вокруг него и добавляет страницу Network.

2Выбор и загрузка модели

Модели берутся с Hugging Face, в основном в формате MLX от организации mlx-community. Перед загрузкой проверьте, что поместится: Compare показывает, какие модели вмещает память вашего Mac и примерно с какой скоростью пишет каждая.

1. Откройте Models и выберите Find & download. Ищите и сортируйте по загрузкам, популярности, лайкам, дате обновления или размеру модели; поиск показывает модели MLX.
2. Нажмите на модель, чтобы прочитать ее README, затем скачайте ее. Загрузки идут в фоне, а их ход показывает Downloads.
3. Для закрытых (gated) моделей, например Llama, сначала добавьте свой токен Hugging Face в поле HF Token: и примите лицензию модели на huggingface.co.
4. Library & tools показывает модели на вашем Mac. Inspect Model выводит метаданные модели, Diagnose Model проверяет ее исправность, а Convert Model превращает модель с Hugging Face в квантованную модель MLX: Balanced (4-bit), Quality (8-bit) или Compact (3-bit).

Загрузки сохраняются в папку кэша Hugging Face, если вы не выбрали другую в Download to:. MLX Harness также находит модели, которые уже лежат в этом кэше, в ~/.mlxstudio/models и в папках, добавленных в Directories.

3Чат и изображения

Чат и рассуждения

1. Откройте Chat & Images и выберите модель в меню моделей на панели чата или нажмите Add local model. Она запускается с автоматически определенными настройками; расширенные параметры находятся в Servers & API.
2. Напишите сообщение. Модели с рассуждениями показывают ход мысли в отдельном блоке. Enable Thinking в настройках чата переключает его между Auto, On и Off, а Reasoning Effort задает глубину для моделей, которые это поддерживают.
3. Визуальные модели принимают изображения: перетащите файл в чат или нажмите кнопку вложения. Видео, аудио и текстовые файлы работают с моделями, которые их принимают.
4. Чаты сохраняются в боковой панели, по ним работает поиск. Настройки сохраняются для каждой модели отдельно.

Можно общаться и с моделью, которая работает в другом месте: Connect remote endpoint принимает адрес любого API, совместимого с OpenAI. Только в этом случае ваши промпты покидают Mac.

Генерация и редактирование изображений

В Chat & Images выберите Image. Модели изображений работают через mflux, а сервер изображений загружает модель из папки на вашем Mac: Find mflux models открывает поиск моделей изображений в Models, а Load selected folder запускает модель.

Некоторые модели изображений, например Flux Dev, на Hugging Face закрыты: перед загрузкой нужны ваш токен и принятая лицензия.

4Агенты и инструменты

MLX Harness может разрешить модели действовать на вашем Mac. В настройках чата включите Enable Built-in Coding Tools и выберите Working Directory: все операции с файлами и команды выполняются внутри нее. Затем включите или выключите категории инструментов:

Max Tool Iterations ограничивает число раундов вызова инструментов на одно сообщение (по умолчанию 10). Инструменты оболочки и файлов работают с настоящими файлами, поэтому указывайте в качестве рабочей папки проект, а не домашнюю папку, и используйте модель, которой вы это доверяете.

5Использование из других приложений: локальный API

Каждая запущенная модель доступна на вашем Mac. API Gateway по адресу http://localhost:8080 направляет каждый запрос нужной модели по имени в запросе и запускает остановленную модель, когда ее запрашивают. У каждой модели есть и свой порт, начиная с 8000. По умолчанию к ним может обратиться только ваш Mac; включение LAN открывает их для вашей сети.

За API движок кэширует то, что уже прочитал. Когда включен Continuous Batching, Prefix Cache избавляет длинный чат или повторяющиеся инструкции агента для программирования от повторной обработки на следующем ходу, KV Cache Quantization сжимает этот кэш, а Disk Cache (Persistent) хранит его на SSD. Эти параметры находятся в настройках сервера каждой модели.

Запрос в формате OpenAI с именем модели, которое показывает страница API:

curl http://localhost:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR-MODEL",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Любой SDK OpenAI работает, если указать base_url как http://localhost:8080/v1; ключом может быть любой текст, если вы не задали его для сеанса. Для агентов программирования Coding Tool Integration настраивает Claude Code, Codex CLI, OpenCode, OpenClaw и Hermes Agent через Auto-Configure или показывает Manual Setup. Для Claude Code это значит добавить в ~/.claude/settings.json следующее:

{
  "env": {
    "ANTHROPIC_BASE_URL": "http://localhost:8080",
    "ANTHROPIC_MODEL": "YOUR-MODEL",
    "ANTHROPIC_API_KEY": "mlxstudio"
  }
}

6Страница Network и MLX Node

Network показывает MLX Network в реальном времени с mlx.app: Mac онлайн и в работе, токены в секунду, ИИ-токены за сегодня и страны. Она проверяет, установлен ли на этом Mac MLX Node и запущен ли он, и открывает его или ведет на страницу загрузки. Введите имя кошелька в Your wallet и нажмите Show, чтобы видеть, как растут добытые им MLX; имя хранится только на этом Mac.

Само MLX Harness никогда не майнит. Оно запускает модели для вас. MLX Node — отдельное приложение в строке меню, которое отдает время простоя вашего Mac сети MLX Network и зарабатывает токены MLX: до 1 MLX в день на бесплатном месте, с блокировкой на 30 дн. Если вы пользуетесь обоими, они делят одну память и GPU, поэтому лимит Memory MLX may use в MLX Node и ручные Start и Stop не дадут ему вам мешать. Токены MLX могут потерять в цене; прочитайте о рисках.

7Вопросы

MLX Harness бесплатно?

Да. Оно бесплатное и распространяется по лицензии Apache License 2.0, как и vMLX, на котором оно построено.

Когда можно будет скачать MLX Harness?

Уже сейчас. Его можно бесплатно скачать на harness.mlx.app и mlx.app/download для Mac с Apple Silicon и macOS 14.5 или новее. Исходный код — на GitHub: github.com/MLXapp/studio.

На каких Mac работает MLX Harness?

На Mac с Apple Silicon (M1 или новее) и macOS 14.5 или новее. Какие модели поместятся, решает память Mac; их показывает Compare на mlx.app.

Отправляет ли MLX Harness куда-то мои промпты?

Нет. Локальные модели работают на вашем Mac, а API слушает только ваш Mac, если вы не включили LAN. Промпты покидают Mac, только если вы подключите удаленный эндпоинт.

Зарабатывает ли MLX Harness токены MLX?

Нет. MLX Harness запускает модели для вас и только читает публичные показатели сети. Токены MLX за работу ИИ зарабатывает приложение MLX Node.