In breve
- Su Apple Silicon ci sono due formati di modello: MLX, pensato per i chip Apple, e GGUF, di llama.cpp, che funziona ovunque.
- MLX Harness e mlx-lm eseguono MLX; llama.cpp esegue GGUF; LM Studio, Jan e (in anteprima) Ollama eseguono entrambi.
- Completamente open source: MLX Harness, Ollama, Jan, llama.cpp e mlx-lm. LM Studio è gratuito, anche per lavoro, ma il codice sorgente della sua app desktop non è pubblicato.
- Qualunque cosa scegli, è la memoria a decidere quali modelli ci stanno: controlla prima il tuo Mac.
1In sintesi
| Open source | Su un Mac | App | API locale | |
|---|---|---|---|---|
| MLX Harness | Sì (Apache 2.0) | MLX | App per Mac | In stile OpenAI, Anthropic e Ollama |
| LM Studio | CLI, SDK e motore MLX (MIT); codice dell'app non pubblicato | MLX e GGUF | App per Mac e CLI | OpenAI e Anthropic |
| Ollama | Sì (MIT) | GGUF; MLX in anteprima | App per Mac e CLI | La propria, più parti delle API OpenAI e Anthropic |
| Jan | Sì (Apache 2.0) | GGUF e MLX | App per Mac | OpenAI |
| llama.cpp | Sì (MIT) | GGUF | Riga di comando e un'interfaccia web | OpenAI e Anthropic |
| mlx-lm | Sì (MIT) | MLX | Riga di comando | In stile OpenAI, essenziale |
2Ognuna in poche righe
MLX Harness
Un'app per Mac gratuita e open source per chat, agenti di programmazione con strumenti integrati, generazione di immagini e un'API locale che parla i formati OpenAI, Anthropic e Ollama. Esegue i modelli con MLX di Apple e li scarica da Hugging Face; non esegue file GGUF. Richiede macOS 14.5 o successivo su Apple Silicon. È nostra, è basata su vMLX di JANGQ AI e include MLX Node, che può far lavorare il Mac per MLX Network mentre non ci sei (fonte). Guida: come usare MLX Harness.
LM Studio
Un'app curata che esegue modelli MLX e GGUF fianco a fianco, con una ricerca di modelli basata su Hugging Face (LM Studio). Da luglio 2025 è gratuita sia a casa sia al lavoro (LM Studio). Lo strumento a riga di comando, gli SDK e il motore MLX hanno licenza MIT; il codice sorgente dell'app desktop non è pubblicato (GitHub). Richiede macOS 14 o successivo su Apple Silicon e consiglia 16 GB di memoria (requisiti). Il suo server locale parla il formato OpenAI e, dalla versione 0.4.1, il formato Anthropic (changelog).
Ollama
Il modo per eseguire un modello con un solo comando, con una propria libreria di modelli e, da luglio 2025, un'app di chat su Mac (Ollama). Ha licenza MIT ed esegue modelli GGUF tramite llama.cpp (GitHub). Da marzo 2026 ha un motore MLX in anteprima su Apple Silicon, per Mac con più di 32 GB di memoria e un elenco di modelli in crescita (Ollama). Richiede macOS 14 o successivo (documentazione), e la sua API sulla porta 11434 è quella che molte altre app si aspettano.
Jan
Un'app di chat open source (Apache 2.0) per Mac, Windows e Linux, con un motore llama.cpp incluso, supporto nativo a MLX da febbraio 2026, strumenti MCP e un server compatibile con OpenAI (GitHub, changelog). Può anche collegarsi a modelli nel cloud, se vuoi un'unica app per entrambi.
llama.cpp
Il motore che sta sotto gran parte dell'AI locale: C/C++ con licenza MIT, che tratta Apple Silicon come “first-class citizen” tramite Metal (GitHub). Installalo con brew install llama.cpp; llama-server ti dà una chat web e un'API compatibile con OpenAI e Anthropic (documentazione del server). Esegue file GGUF, il formato più pubblicato.
mlx-lm
Gli strumenti MLX di Apple per i modelli linguistici, con licenza MIT: generare testo, chattare, convertire e quantizzare modelli e farne il fine-tuning con LoRA, dalla riga di comando (GitHub). mlx_lm.server offre un endpoint essenziale in stile OpenAI che i suoi autori non consigliano per la produzione (documentazione del server). Migliaia di modelli convertiti si trovano nell'organizzazione mlx-community su Hugging Face.
3Quale scegliere
- Vuoi un'app, open source, pensata per Apple Silicon: MLX Harness.
- Vuoi modelli MLX e GGUF in un'unica app curata e il codice chiuso non ti disturba: LM Studio.
- Un'altra app o un agente di programmazione si aspetta l'API di Ollama: Ollama (anche MLX Harness offre endpoint in stile Ollama).
- Vuoi un'unica app di chat su Mac, Windows e Linux, in locale e nel cloud: Jan.
- Scrivi script, costruisci server o ti serve una quantizzazione GGUF precisa: llama.cpp.
- Fai fine-tuning, converti modelli o vuoi l'implementazione di riferimento di Apple: mlx-lm.
Molti ne usano due: un'app per la chat di tutti i giorni e uno strumento a riga di comando per gli script. Possono convivere sullo stesso Mac, ma ognuno tiene la propria copia dei file dei modelli.
4Prima, controlla cosa può contenere il tuo Mac
Nessuna app cambia i conti: un modello e il suo contesto devono stare nella parte di memoria unificata che macOS lascia usare alla GPU, circa il 75% per impostazione predefinita, e la larghezza di banda della memoria stabilisce quanto velocemente scrive. I file MLX e GGUF dello stesso modello alla stessa precisione hanno più o meno le stesse dimensioni.
Guarda tutti i modelli che stanno sul tuo Mac, i migliori modelli per ogni taglio di memoria, oppure parti da un modello per vedere di quale Mac ha bisogno.
5Quando il Mac è inattivo
Un Mac che esegue bene l'AI locale è bravo anche a eseguirla per altri. MLX Node esegue job di AI per MLX Network quando non usi il Mac, entro i limiti che imposti, e guadagna token MLX per il lavoro verificato. MLX Harness lo include. I token MLX possono perdere valore; leggi i rischi.
6Domande
- LM Studio è gratuito per lavoro?
- Sì. Da luglio 2025 LM Studio è gratuito sia a casa sia al lavoro; i piani a pagamento sono per team e aziende (LM Studio).
- Ollama usa MLX su Mac?
- In anteprima da marzo 2026, sui Mac con Apple Silicon e più di 32 GB di memoria, per i modelli supportati. Altrimenti esegue modelli GGUF tramite llama.cpp (Ollama).
- Quale app esegue sia modelli MLX sia GGUF?
- LM Studio e Jan eseguono entrambi; Ollama esegue GGUF e, in anteprima, MLX. MLX Harness e mlx-lm eseguono solo MLX; llama.cpp esegue solo GGUF.
- Quali app per LLM in locale sono open source?
- MLX Harness (Apache 2.0), Ollama (MIT), Jan (Apache 2.0), llama.cpp (MIT) e mlx-lm (MIT). LM Studio pubblica con licenza MIT lo strumento a riga di comando, gli SDK e il motore MLX, ma non l'app desktop.
Fonti
- MLX Harnessgithub.com
- LM Studio su GitHubgithub.com
- LM Studio MLXlmstudio.ai
- Ollamagithub.com
- anteprima MLX di Ollamaollama.com
- Jangithub.com
- server di llama.cppgithub.com
- server di mlx-lmgithub.com
- LM Studiolmstudio.ai
- requisitilmstudio.ai
- changeloglmstudio.ai
- Ollamaollama.com
- documentazionedocs.ollama.com
- changelogjan.ai
- GitHubgithub.com
- GitHubgithub.com
- releasegithub.com