W skrócie
- Na Apple Silicon są dwa formaty modeli: MLX, stworzony dla układów Apple, i GGUF z llama.cpp, który działa wszędzie.
- MLX Harness i mlx-lm uruchamiają MLX; llama.cpp uruchamia GGUF; LM Studio, Jan i (w wersji zapoznawczej) Ollama uruchamiają oba.
- W pełni open source: MLX Harness, Ollama, Jan, llama.cpp i mlx-lm. LM Studio jest bezpłatne, także do pracy, ale kod źródłowy jego aplikacji desktopowej nie został opublikowany.
- Cokolwiek wybierzesz, o tym, które modele się zmieszczą, decyduje pamięć: najpierw sprawdź swojego Maca.
1W skrócie
| Open source | Co uruchamia na Macu | Aplikacja | Lokalne API | |
|---|---|---|---|---|
| MLX Harness | Tak (Apache 2.0) | MLX | Aplikacja na Maca | OpenAI, Anthropic i w stylu Ollama |
| LM Studio | CLI, SDK i silnik MLX (MIT); kod aplikacji nieopublikowany | MLX i GGUF | Aplikacja na Maca i CLI | OpenAI i Anthropic |
| Ollama | Tak (MIT) | GGUF; MLX w wersji zapoznawczej | Aplikacja na Maca i CLI | Własne oraz podzbiory OpenAI i Anthropic |
| Jan | Tak (Apache 2.0) | GGUF i MLX | Aplikacja na Maca | OpenAI |
| llama.cpp | Tak (MIT) | GGUF | Wiersz poleceń i interfejs webowy | OpenAI i Anthropic |
| mlx-lm | Tak (MIT) | MLX | Wiersz poleceń | W stylu OpenAI, podstawowe |
2Każde w kilku zdaniach
MLX Harness
Bezpłatna aplikacja open source na Maca do czatu, agentów programistycznych z wbudowanymi narzędziami, generowania obrazów i lokalnego API w formatach OpenAI, Anthropic i Ollama. Uruchamia modele przez MLX od Apple i pobiera je z Hugging Face; nie uruchamia plików GGUF. Wymaga macOS 14.5 lub nowszego na Apple Silicon. To nasza aplikacja, zbudowana na vMLX od JANGQ AI, i zawiera MLX Node, które może zaprzęgać Maca do pracy dla MLX Network, gdy Cię nie ma (źródło). Poradnik: jak używać MLX Harness.
LM Studio
Dopracowana aplikacja, która uruchamia modele MLX i GGUF obok siebie, z wyszukiwarką modeli opartą na Hugging Face (LM Studio). Od lipca 2025 roku można z niej bezpłatnie korzystać w domu i w pracy (LM Studio). Jej narzędzie wiersza poleceń, SDK i silnik MLX są na licencji MIT; kod źródłowy aplikacji desktopowej nie został opublikowany (GitHub). Wymaga macOS 14 lub nowszego na Apple Silicon i zaleca 16 GB pamięci (wymagania). Jej lokalny serwer obsługuje format OpenAI, a od wersji 0.4.1 także format Anthropic (lista zmian).
Ollama
Sposób na uruchomienie modelu jednym poleceniem, z własną biblioteką modeli, a od lipca 2025 roku także aplikacją do czatu na Macu (Ollama). Ma licencję MIT i uruchamia modele GGUF przez llama.cpp (GitHub). Od marca 2026 roku ma silnik MLX w wersji zapoznawczej na Apple Silicon, dla Maców z ponad 32 GB pamięci i rosnącej listy modeli (Ollama). Wymaga macOS 14 lub nowszego (dokumentacja), a API Ollama na porcie 11434 jest tym, czego oczekuje wiele innych aplikacji.
Jan
Aplikacja do czatu open source (Apache 2.0) na Maca, Windows i Linuksa, z wbudowanym silnikiem llama.cpp, natywną obsługą MLX od lutego 2026 roku, narzędziami MCP i serwerem zgodnym z OpenAI (GitHub, lista zmian). Może też łączyć się z modelami w chmurze, jeśli chcesz mieć jedną aplikację do obu.
llama.cpp
Silnik, na którym opiera się duża część lokalnej AI: kod w C/C++ na licencji MIT, w którym Apple Silicon jest „obywatelem pierwszej kategorii” dzięki Metal (GitHub). Zainstaluj go poleceniem brew install llama.cpp; llama-server daje czat w przeglądarce i API zgodne z OpenAI i Anthropic (dokumentacja serwera). Uruchamia pliki GGUF, czyli najczęściej publikowany format.
mlx-lm
Własne narzędzia MLX od Apple do modeli językowych, na licencji MIT: generowanie tekstu, czat, konwersja i kwantyzacja modeli oraz ich dostrajanie z LoRA, wszystko z wiersza poleceń (GitHub). mlx_lm.server udostępnia podstawowy endpoint w stylu OpenAI, którego autorzy nie zalecają do zastosowań produkcyjnych (dokumentacja serwera). Tysiące przekonwertowanych modeli znajdziesz w organizacji mlx-community na Hugging Face.
3Które wybrać
- Chcesz aplikacji open source stworzonej dla Apple Silicon: MLX Harness.
- Chcesz modeli MLX i GGUF w jednej dopracowanej aplikacji i nie przeszkadza Ci zamknięty kod: LM Studio.
- Inna aplikacja lub agent programistyczny oczekuje API Ollama: Ollama (MLX Harness też udostępnia endpointy w stylu Ollama).
- Chcesz jednej aplikacji do czatu na Macu, Windows i Linuksie, lokalnie i w chmurze: Jan.
- Piszesz skrypty, budujesz serwery lub potrzebujesz konkretnej kwantyzacji GGUF: llama.cpp.
- Dostrajasz lub konwertujesz modele albo chcesz referencyjnej implementacji Apple: mlx-lm.
Wiele osób używa dwóch: aplikacji do codziennego czatu i narzędzia wiersza poleceń do skryptów. Mogą działać na tym samym Macu, ale każde trzyma własną kopię plików modelu.
4Najpierw sprawdź, co zmieści Twój Mac
Żadna aplikacja nie zmienia rachunku: model i jego kontekst muszą zmieścić się w tej części pamięci zunifikowanej, której macOS pozwala używać GPU, domyślnie około 75%, a przepustowość pamięci decyduje, jak szybko model pisze. Pliki MLX i GGUF tego samego modelu przy tej samej precyzji mają mniej więcej ten sam rozmiar.
Zobacz wszystkie modele, które zmieszczą się na Twoim Macu, najlepsze modele dla każdej wielkości pamięci albo zacznij od modelu, aby sprawdzić, jakiego Maca potrzebuje.
5Gdy Mac jest bezczynny
Mac, który dobrze uruchamia lokalną AI, równie dobrze uruchamia ją dla innych. MLX Node wykonuje zadania AI dla MLX Network, gdy nie używasz Maca, w ustawionych przez Ciebie limitach, i zarabia tokeny MLX za zweryfikowaną pracę. MLX Harness je zawiera. Tokeny MLX mogą stracić na wartości; przeczytaj o ryzyku.
6Pytania
- Czy LM Studio jest bezpłatne do pracy?
- Tak. Od lipca 2025 roku z LM Studio można bezpłatnie korzystać zarówno w domu, jak i w pracy; płatne plany są dla zespołów i firm (LM Studio).
- Czy Ollama używa MLX na Macu?
- W wersji zapoznawczej od marca 2026 roku, na Macach z Apple Silicon i ponad 32 GB pamięci, dla obsługiwanych modeli. W pozostałych przypadkach uruchamia modele GGUF przez llama.cpp (Ollama).
- Która aplikacja uruchamia modele MLX i GGUF?
- LM Studio i Jan uruchamiają oba; Ollama uruchamia GGUF, a w wersji zapoznawczej także MLX. MLX Harness i mlx-lm uruchamiają tylko MLX; llama.cpp tylko GGUF.
- Które aplikacje do lokalnych LLM są open source?
- MLX Harness (Apache 2.0), Ollama (MIT), Jan (Apache 2.0), llama.cpp (MIT) i mlx-lm (MIT). LM Studio publikuje na licencji MIT swoje narzędzie wiersza poleceń, SDK i silnik MLX, ale nie aplikację desktopową.
Źródła
- MLX Harnessgithub.com
- LM Studio na GitHubiegithub.com
- LM Studio MLXlmstudio.ai
- Ollamagithub.com
- MLX w Ollama (wersja zapoznawcza)ollama.com
- Jangithub.com
- serwer llama.cppgithub.com
- serwer mlx-lmgithub.com
- LM Studiolmstudio.ai
- wymaganialmstudio.ai
- lista zmianlmstudio.ai
- Ollamaollama.com
- dokumentacjadocs.ollama.com
- lista zmianjan.ai
- GitHubgithub.com
- GitHubgithub.com
- wydaniagithub.com