Le migliori app per eseguire LLM su Mac.

Sei strumenti coprono quasi ogni modo di eseguire un modello di AI aperto su un Mac. Si distinguono per quattro cose che contano: se puoi leggere il codice, quali formati di modello eseguono, se c'è un'app o solo una riga di comando e che tipo di API locale possono usare le tue altre app.

Aggiornato

In breve

  • Su Apple Silicon ci sono due formati di modello: MLX, pensato per i chip Apple, e GGUF, di llama.cpp, che funziona ovunque.
  • MLX Harness e mlx-lm eseguono MLX; llama.cpp esegue GGUF; LM Studio, Jan e (in anteprima) Ollama eseguono entrambi.
  • Completamente open source: MLX Harness, Ollama, Jan, llama.cpp e mlx-lm. LM Studio è gratuito, anche per lavoro, ma il codice sorgente della sua app desktop non è pubblicato.
  • Qualunque cosa scegli, è la memoria a decidere quali modelli ci stanno: controlla prima il tuo Mac.

1In sintesi

Open sourceSu un MacAppAPI locale
MLX HarnessSì (Apache 2.0)MLXApp per MacIn stile OpenAI, Anthropic e Ollama
LM StudioCLI, SDK e motore MLX (MIT); codice dell'app non pubblicatoMLX e GGUFApp per Mac e CLIOpenAI e Anthropic
OllamaSì (MIT)GGUF; MLX in anteprimaApp per Mac e CLILa propria, più parti delle API OpenAI e Anthropic
JanSì (Apache 2.0)GGUF e MLXApp per MacOpenAI
llama.cppSì (MIT)GGUFRiga di comando e un'interfaccia webOpenAI e Anthropic
mlx-lmSì (MIT)MLXRiga di comandoIn stile OpenAI, essenziale
Fonti: MLX Harness, LM Studio su GitHub, LM Studio MLX, Ollama, anteprima MLX di Ollama, Jan, server di llama.cpp, server di mlx-lm.

2Ognuna in poche righe

MLX Harness

Un'app per Mac gratuita e open source per chat, agenti di programmazione con strumenti integrati, generazione di immagini e un'API locale che parla i formati OpenAI, Anthropic e Ollama. Esegue i modelli con MLX di Apple e li scarica da Hugging Face; non esegue file GGUF. Richiede macOS 14.5 o successivo su Apple Silicon. È nostra, è basata su vMLX di JANGQ AI e include MLX Node, che può far lavorare il Mac per MLX Network mentre non ci sei (fonte). Guida: come usare MLX Harness.

LM Studio

Un'app curata che esegue modelli MLX e GGUF fianco a fianco, con una ricerca di modelli basata su Hugging Face (LM Studio). Da luglio 2025 è gratuita sia a casa sia al lavoro (LM Studio). Lo strumento a riga di comando, gli SDK e il motore MLX hanno licenza MIT; il codice sorgente dell'app desktop non è pubblicato (GitHub). Richiede macOS 14 o successivo su Apple Silicon e consiglia 16 GB di memoria (requisiti). Il suo server locale parla il formato OpenAI e, dalla versione 0.4.1, il formato Anthropic (changelog).

Ollama

Il modo per eseguire un modello con un solo comando, con una propria libreria di modelli e, da luglio 2025, un'app di chat su Mac (Ollama). Ha licenza MIT ed esegue modelli GGUF tramite llama.cpp (GitHub). Da marzo 2026 ha un motore MLX in anteprima su Apple Silicon, per Mac con più di 32 GB di memoria e un elenco di modelli in crescita (Ollama). Richiede macOS 14 o successivo (documentazione), e la sua API sulla porta 11434 è quella che molte altre app si aspettano.

Jan

Un'app di chat open source (Apache 2.0) per Mac, Windows e Linux, con un motore llama.cpp incluso, supporto nativo a MLX da febbraio 2026, strumenti MCP e un server compatibile con OpenAI (GitHub, changelog). Può anche collegarsi a modelli nel cloud, se vuoi un'unica app per entrambi.

llama.cpp

Il motore che sta sotto gran parte dell'AI locale: C/C++ con licenza MIT, che tratta Apple Silicon come “first-class citizen” tramite Metal (GitHub). Installalo con brew install llama.cpp; llama-server ti dà una chat web e un'API compatibile con OpenAI e Anthropic (documentazione del server). Esegue file GGUF, il formato più pubblicato.

mlx-lm

Gli strumenti MLX di Apple per i modelli linguistici, con licenza MIT: generare testo, chattare, convertire e quantizzare modelli e farne il fine-tuning con LoRA, dalla riga di comando (GitHub). mlx_lm.server offre un endpoint essenziale in stile OpenAI che i suoi autori non consigliano per la produzione (documentazione del server). Migliaia di modelli convertiti si trovano nell'organizzazione mlx-community su Hugging Face.

GPT4All (MIT) si installa ancora sui Mac, ma non ha più pubblicato nuove versioni da febbraio 2025 (release).

3Quale scegliere

  • Vuoi un'app, open source, pensata per Apple Silicon: MLX Harness.
  • Vuoi modelli MLX e GGUF in un'unica app curata e il codice chiuso non ti disturba: LM Studio.
  • Un'altra app o un agente di programmazione si aspetta l'API di Ollama: Ollama (anche MLX Harness offre endpoint in stile Ollama).
  • Vuoi un'unica app di chat su Mac, Windows e Linux, in locale e nel cloud: Jan.
  • Scrivi script, costruisci server o ti serve una quantizzazione GGUF precisa: llama.cpp.
  • Fai fine-tuning, converti modelli o vuoi l'implementazione di riferimento di Apple: mlx-lm.

Molti ne usano due: un'app per la chat di tutti i giorni e uno strumento a riga di comando per gli script. Possono convivere sullo stesso Mac, ma ognuno tiene la propria copia dei file dei modelli.

4Prima, controlla cosa può contenere il tuo Mac

Nessuna app cambia i conti: un modello e il suo contesto devono stare nella parte di memoria unificata che macOS lascia usare alla GPU, circa il 75% per impostazione predefinita, e la larghezza di banda della memoria stabilisce quanto velocemente scrive. I file MLX e GGUF dello stesso modello alla stessa precisione hanno più o meno le stesse dimensioni.

Guarda tutti i modelli che stanno sul tuo Mac, i migliori modelli per ogni taglio di memoria, oppure parti da un modello per vedere di quale Mac ha bisogno.

5Quando il Mac è inattivo

Un Mac che esegue bene l'AI locale è bravo anche a eseguirla per altri. MLX Node esegue job di AI per MLX Network quando non usi il Mac, entro i limiti che imposti, e guadagna token MLX per il lavoro verificato. MLX Harness lo include. I token MLX possono perdere valore; leggi i rischi.

6Domande

LM Studio è gratuito per lavoro?
Sì. Da luglio 2025 LM Studio è gratuito sia a casa sia al lavoro; i piani a pagamento sono per team e aziende (LM Studio).
Ollama usa MLX su Mac?
In anteprima da marzo 2026, sui Mac con Apple Silicon e più di 32 GB di memoria, per i modelli supportati. Altrimenti esegue modelli GGUF tramite llama.cpp (Ollama).
Quale app esegue sia modelli MLX sia GGUF?
LM Studio e Jan eseguono entrambi; Ollama esegue GGUF e, in anteprima, MLX. MLX Harness e mlx-lm eseguono solo MLX; llama.cpp esegue solo GGUF.
Quali app per LLM in locale sono open source?
MLX Harness (Apache 2.0), Ollama (MIT), Jan (Apache 2.0), llama.cpp (MIT) e mlx-lm (MIT). LM Studio pubblica con licenza MIT lo strumento a riga di comando, gli SDK e il motore MLX, ma non l'app desktop.

Fonti

  1. MLX Harnessgithub.com
  2. LM Studio su GitHubgithub.com
  3. LM Studio MLXlmstudio.ai
  4. Ollamagithub.com
  5. anteprima MLX di Ollamaollama.com
  6. Jangithub.com
  7. server di llama.cppgithub.com
  8. server di mlx-lmgithub.com
  9. LM Studiolmstudio.ai
  10. requisitilmstudio.ai
  11. changeloglmstudio.ai
  12. Ollamaollama.com
  13. documentazionedocs.ollama.com
  14. changelogjan.ai
  15. GitHubgithub.com
  16. GitHubgithub.com
  17. releasegithub.com

Leggi anche

Le migliori app per eseguire LLM in locale su Mac nel 2026 | MLX