Коротко
- Для Apple Silicon є два формати моделей: MLX, створений для чипів Apple, і GGUF від llama.cpp, який працює всюди.
- MLX Harness і mlx-lm запускають MLX; llama.cpp — GGUF; LM Studio, Jan і (у попередній версії) Ollama — обидва формати.
- Повністю з відкритим кодом: MLX Harness, Ollama, Jan, llama.cpp і mlx-lm. LM Studio безкоштовний, зокрема й для роботи, але вихідний код його настільного застосунку не опубліковано.
- Хоч би що ви вибрали, які моделі вмістяться, вирішує пам’ять: спершу перевірте свій Mac.
1Коротке порівняння
| Відкритий код | Що запускає на Mac | Застосунок | Локальний API | |
|---|---|---|---|---|
| MLX Harness | Так (Apache 2.0) | MLX | Застосунок для Mac | OpenAI, Anthropic і в стилі Ollama |
| LM Studio | CLI, SDK і рушій MLX (MIT); вихідний код застосунку не опубліковано | MLX і GGUF | Застосунок для Mac і CLI | OpenAI і Anthropic |
| Ollama | Так (MIT) | GGUF; MLX у попередній версії | Застосунок для Mac і CLI | Власний, плюс підмножини OpenAI і Anthropic |
| Jan | Так (Apache 2.0) | GGUF і MLX | Застосунок для Mac | OpenAI |
| llama.cpp | Так (MIT) | GGUF | Командний рядок і вебінтерфейс | OpenAI і Anthropic |
| mlx-lm | Так (MIT) | MLX | Командний рядок | У стилі OpenAI, базовий |
2Коротко про кожен
MLX Harness
Безкоштовний застосунок для Mac із відкритим кодом: чат, агенти для програмування з вбудованими інструментами, генерація зображень і локальний API у форматах OpenAI, Anthropic і Ollama. Він запускає моделі через MLX від Apple і завантажує їх із Hugging Face; файли GGUF він не запускає. Потрібна macOS 14.5 або новіша на Apple Silicon. Це наш застосунок, побудований на vMLX від JANGQ AI, і в ньому є MLX Node, який може, поки вас немає, віддавати Mac у роботу для MLX Network (джерело). Посібник: як користуватися MLX Harness.
LM Studio
Продуманий застосунок, що запускає моделі MLX і GGUF пліч-о-пліч, із пошуком моделей на основі Hugging Face (LM Studio). З липня 2025 року ним можна безкоштовно користуватися вдома й на роботі (LM Studio). Його інструмент командного рядка, SDK і рушій MLX поширюються за ліцензією MIT; вихідний код настільного застосунку не опубліковано (GitHub). Йому потрібна macOS 14 або новіша на Apple Silicon, а рекомендовано 16 ГБ пам’яті (вимоги). Його локальний сервер підтримує формат OpenAI, а починаючи з версії 0.4.1 — і формат Anthropic (список змін).
Ollama
Спосіб запустити модель однією командою, з власною бібліотекою моделей і, з липня 2025 року, застосунком для чату на Mac (Ollama). Ollama поширюється за ліцензією MIT і запускає моделі GGUF через llama.cpp (GitHub). З березня 2026 року в ньому є рушій MLX у попередній версії для Apple Silicon — для Mac із пам’яттю понад 32 ГБ і для дедалі довшого списку моделей (Ollama). Йому потрібна macOS 14 або новіша (документація), а його API на порту 11434 очікує багато інших застосунків.
Jan
Застосунок для чату з відкритим кодом (Apache 2.0) для Mac, Windows і Linux із вбудованим рушієм llama.cpp, нативною підтримкою MLX з лютого 2026 року, інструментами MCP і сервером, сумісним з OpenAI (GitHub, список змін). Він також уміє під’єднуватися до хмарних моделей, якщо вам потрібен один застосунок для обох варіантів.
llama.cpp
Рушій, на якому тримається більша частина локального ШІ: код на C/C++ за ліцензією MIT, у якому Apple Silicon — «громадянин першого класу» завдяки Metal (GitHub). Установіть його командою brew install llama.cpp; llama-server дає вебчат і API, сумісний з OpenAI та Anthropic (документація сервера). Він запускає файли GGUF — формат, у якому публікують найбільше моделей.
mlx-lm
Власні інструменти MLX від Apple для мовних моделей за ліцензією MIT: генерація тексту, чат, конвертація й квантування моделей, а також донавчання з LoRA — з командного рядка (GitHub). mlx_lm.server дає базовий ендпоінт у стилі OpenAI, який його автори не рекомендують для продакшну (документація сервера). Тисячі сконвертованих моделей є в організації mlx-community на Hugging Face.
3Що вибрати
- Потрібен застосунок із відкритим кодом, створений для Apple Silicon: MLX Harness.
- Потрібні моделі MLX і GGUF в одному продуманому застосунку, а закритий код не бентежить: LM Studio.
- Інший застосунок або агент для програмування очікує API Ollama: Ollama (MLX Harness теж віддає ендпоінти в стилі Ollama).
- Потрібен один застосунок для чату на Mac, Windows і Linux, з локальними й хмарними моделями: Jan.
- Ви пишете скрипти, збираєте сервери або вам потрібне певне квантування GGUF: llama.cpp.
- Ви донавчаєте чи конвертуєте моделі або хочете еталонну реалізацію від Apple: mlx-lm.
Багато хто користується двома: застосунком для щоденного чату й інструментом командного рядка для скриптів. Вони можуть працювати на одному Mac, але кожен зберігає власну копію файлів моделі.
4Спершу перевірте, що вміщує ваш Mac
Жоден застосунок не змінює арифметику: модель і її контекст мають вміститися в ту частку об’єднаної пам’яті, яку macOS дозволяє використовувати GPU, — за замовчуванням близько 75%, а пропускна здатність пам’яті визначає, як швидко модель пише. Файли MLX і GGUF тієї самої моделі з однаковою точністю мають приблизно однаковий розмір.
Подивіться всі моделі, які вміщує ваш Mac, найкращі моделі для кожного обсягу пам’яті або почніть із моделі, щоб дізнатися, який Mac їй потрібен.
5Коли Mac простоює
Mac, на якому добре працює локальний ШІ, так само добре запускає його для інших. MLX Node виконує завдання ШІ для MLX Network, коли ви не користуєтеся Mac, у межах заданих вами обмежень і заробляє токени MLX за перевірену роботу. Він входить до MLX Harness. Токени MLX можуть втратити в ціні; прочитайте про ризики.
6Запитання
- Чи можна безкоштовно користуватися LM Studio на роботі?
- Так. З липня 2025 року LM Studio можна безкоштовно використовувати і вдома, і на роботі; платні тарифи призначені для команд і підприємств (LM Studio).
- Чи використовує Ollama MLX на Mac?
- У попередній версії з березня 2026 року — на Mac з Apple Silicon і пам’яттю понад 32 ГБ, для підтримуваних моделей. В інших випадках він запускає моделі GGUF через llama.cpp (Ollama).
- Який застосунок запускає і моделі MLX, і GGUF?
- LM Studio і Jan запускають обидва формати; Ollama запускає GGUF і, у попередній версії, MLX. MLX Harness і mlx-lm запускають лише MLX, llama.cpp — лише GGUF.
- Які застосунки для локальних LLM мають відкритий код?
- MLX Harness (Apache 2.0), Ollama (MIT), Jan (Apache 2.0), llama.cpp (MIT) і mlx-lm (MIT). LM Studio публікує свій інструмент командного рядка, SDK і рушій MLX за ліцензією MIT, але не настільний застосунок.
Джерела
- MLX Harnessgithub.com
- LM Studio на GitHubgithub.com
- LM Studio MLXlmstudio.ai
- Ollamagithub.com
- попередня версія MLX в Ollamaollama.com
- Jangithub.com
- сервер llama.cppgithub.com
- сервер mlx-lmgithub.com
- LM Studiolmstudio.ai
- вимогиlmstudio.ai
- список змінlmstudio.ai
- Ollamaollama.com
- документаціяdocs.ollama.com
- список змінjan.ai
- GitHubgithub.com
- GitHubgithub.com
- випускиgithub.com