Лучшие приложения для запуска LLM на Mac.

1Краткое сравнение

2Коротко о каждом

MLX Harness

Бесплатное приложение для Mac с открытым кодом: чат, агенты для программирования со встроенными инструментами, генерация изображений и локальный API в форматах OpenAI, Anthropic и Ollama. Оно запускает модели через MLX от Apple и скачивает их с Hugging Face; файлы GGUF оно не запускает. Нужна macOS 14.5 или новее на Apple Silicon. Это наше приложение, построенное на vMLX от JANGQ AI, и в нем есть MLX Node, который может, пока вас нет, отдавать Mac в работу для MLX Network (источник). Руководство: как пользоваться MLX Harness.

LM Studio

Продуманное приложение, которое запускает модели MLX и GGUF бок о бок, с поиском моделей на основе Hugging Face (LM Studio). С июля 2025 года им можно бесплатно пользоваться дома и на работе (LM Studio). Его инструмент командной строки, SDK и движок MLX распространяются по лицензии MIT; исходный код настольного приложения не опубликован (GitHub). Ему нужна macOS 14 или новее на Apple Silicon, а рекомендуется 16 ГБ памяти (требования). Его локальный сервер поддерживает формат OpenAI, а начиная с версии 0.4.1 — и формат Anthropic (список изменений).

Ollama

Способ запустить модель одной командой, с собственной библиотекой моделей и, с июля 2025 года, приложением для чата на Mac (Ollama). Ollama распространяется по лицензии MIT и запускает модели GGUF через llama.cpp (GitHub). С марта 2026 года в нем есть движок MLX в предварительной версии для Apple Silicon — для Mac с памятью больше 32 ГБ и растущего списка моделей (Ollama). Ему нужна macOS 14 или новее (документация), а его API на порту 11434 ожидают многие другие приложения.

Jan

Приложение для чата с открытым кодом (Apache 2.0) для Mac, Windows и Linux со встроенным движком llama.cpp, нативной поддержкой MLX с февраля 2026 года, инструментами MCP и сервером, совместимым с OpenAI (GitHub, список изменений). Оно также умеет подключаться к облачным моделям, если вам нужно одно приложение для того и другого.

llama.cpp

Движок, на котором держится большая часть локального ИИ: код на C/C++ по лицензии MIT, в котором Apple Silicon — «гражданин первого класса» благодаря Metal (GitHub). Установите его командой brew install llama.cpp; llama-server дает веб-чат и API, совместимый с OpenAI и Anthropic (документация сервера). Он запускает файлы GGUF — формат, в котором публикуют больше всего моделей.

mlx-lm

Собственные инструменты MLX от Apple для языковых моделей по лицензии MIT: генерация текста, чат, конвертация и квантование моделей, а также дообучение с LoRA — из командной строки (GitHub). mlx_lm.server дает базовый эндпоинт в стиле OpenAI, который его авторы не рекомендуют для продакшена (документация сервера). Тысячи сконвертированных моделей лежат в организации mlx-community на Hugging Face.

3Что выбрать

• Нужно приложение с открытым кодом, созданное для Apple Silicon: MLX Harness.
• Нужны модели MLX и GGUF в одном продуманном приложении, а закрытый код не смущает: LM Studio.
• Другое приложение или агент для программирования ожидает API Ollama: Ollama (MLX Harness тоже отдает эндпоинты в стиле Ollama).
• Нужно одно приложение для чата на Mac, Windows и Linux, с локальными и облачными моделями: Jan.
• Вы пишете скрипты, собираете серверы или вам нужно определенное квантование GGUF: llama.cpp.
• Вы дообучаете или конвертируете модели либо хотите эталонную реализацию от Apple: mlx-lm.

Многие пользуются двумя: приложением для повседневного чата и инструментом командной строки для скриптов. Они могут работать на одном Mac, но каждый хранит собственную копию файлов модели.

4Сначала проверьте, что вместит ваш Mac

Никакое приложение не меняет арифметику: модель и ее контекст должны поместиться в ту долю объединенной памяти, которую macOS разрешает использовать GPU, — по умолчанию около 75%, а пропускная способность памяти определяет, как быстро модель пишет. Файлы MLX и GGUF одной и той же модели с одинаковой точностью примерно одного размера.

Посмотрите все модели, которые поместятся на вашем Mac, лучшие модели для каждого объема памяти или начните с модели, чтобы узнать, какой Mac ей нужен.

5Когда Mac простаивает

Mac, на котором хорошо работает локальный ИИ, так же хорошо запускает его для других. MLX Node выполняет задачи ИИ для MLX Network, когда вы не пользуетесь Mac, в заданных вами пределах и зарабатывает токены MLX за проверенную работу. Он входит в MLX Harness. Токены MLX могут потерять в цене; прочитайте о рисках.

6Вопросы

Можно ли бесплатно пользоваться LM Studio на работе?

Да. С июля 2025 года LM Studio можно бесплатно использовать и дома, и на работе; платные тарифы предназначены для команд и предприятий (LM Studio).

Использует ли Ollama MLX на Mac?

В предварительной версии с марта 2026 года — на Mac с Apple Silicon и памятью больше 32 ГБ, для поддерживаемых моделей. В остальных случаях он запускает модели GGUF через llama.cpp (Ollama).

Какое приложение запускает и модели MLX, и GGUF?

LM Studio и Jan запускают оба формата; Ollama запускает GGUF и, в предварительной версии, MLX. MLX Harness и mlx-lm запускают только MLX, llama.cpp — только GGUF.

У каких приложений для локальных LLM открытый код?

MLX Harness (Apache 2.0), Ollama (MIT), Jan (Apache 2.0), llama.cpp (MIT) и mlx-lm (MIT). LM Studio публикует свой инструмент командной строки, SDK и движок MLX по лицензии MIT, но не настольное приложение.