Il comando fm di macOS: l’LLM locale di Apple nel Terminale.

1Cos’è fm

fm è lo strumento a riga di comando di Apple per gli Apple Foundation Models, i modelli dietro Apple Intelligence. "Starting from macOS 27, this command line tool comes pre-installed on your Mac", dice Apple nella sessione della WWDC26 dedicata; apri il Terminale e digiti fm (Apple). Apple lo propone per script e automazione "without writing a line of app code" (Apple).

Può usare due modelli. Di default usa "the on-device model that comes with macOS, and that's always available". Può anche usare l’Apple Foundation Model su Private Cloud Compute, che Apple definisce "a much bigger model than the on-device model", che "will perform better on complex problems" e che "has usage limits" (Apple). Il modello sul dispositivo gira sul tuo Mac e funziona senza connessione a internet (Apple); un prompt inviato a Private Cloud Compute va ai server di Apple.

fm è software di Apple e non ha niente a che fare con MLX Network. MLX Network è indipendente e non è affiliata ad Apple.

2I comandi

Questi sono i comandi e le opzioni che Apple mostra nelle sessioni della WWDC26 (Apple, Apple):

Gli esempi di Apple, dalla sessione:

fm respond "Provide a basic regex in Swift to parse an email address"
fm respond "Provide a comprehensive regex in Swift to parse an email address" --model pcc
fm schema object --name AppsIdentified --string app_names --array > schema.json
fm respond "What apps are the user actively using in this screenshot?" \
  --image Screenshot.png --model pcc --schema schema.json
# {"app_names": ["Messages", "Mail", "Calendar"]}
fm respond --help

3Cosa ti serve e quanto scarica

• macOS 27. fm è incluso (Apple).
• Un Mac compatibile con Apple Intelligence. Gli Apple Foundation Models ne hanno bisogno (Apple); su macOS 27 è qualsiasi Mac con M1 o successivo (Apple).
• Una lingua supportata. Apple Intelligence richiede che la lingua del dispositivo e quella di Siri siano la stessa lingua supportata, e al momento non funziona sui dispositivi acquistati nella Cina continentale (Apple).
• Spazio libero su disco per Apple Intelligence, qui sotto.

Il modello può non essere disponibile per un po’ dopo che attivi Apple Intelligence: il framework di Apple lo segnala come non pronto "because it's downloading or because of other system reasons" (Apple).

Per l’SDK Python, che usa lo stesso modello sul dispositivo, Apple indica macOS 26.0 o successivo, Xcode 26.0 o successivo con il contratto accettato e Python 3.10 o successivo (Apple), su un Mac con Apple Silicon (Apple).

4In cosa è bravo il modello sul dispositivo e dove si ferma

Apple è chiara: i modelli sul dispositivo eccellono in molti compiti di generazione di testo, come riassunti, estrazione di entità, comprensione di testo e immagini, revisione, dialoghi per i giochi e contenuti creativi; quando servono più capacità di ragionamento e più contesto, usa Private Cloud Compute o un qualsiasi fornitore di modelli su server (Apple).

• Una finestra di contesto piccola. La documentazione di Apple dà al modello sul dispositivo "a context window of 4096 tokens per session" (Apple) e indica 4K contro 32K per Private Cloud Compute (Apple). Nella sessione della WWDC26 su macOS 27, l’esempio di codice di Apple stampa un contextSize di 8.192 (Apple). Prompt, istruzioni e risposta condividono questa finestra.
• Quanto ci sta. In inglese un token è in genere di tre o quattro caratteri (Apple), quindi 8.192 token sono all’incirca da 25.000 a 33.000 caratteri tra input e output: qualche pagina, non un libro né una codebase.
• Prompt brevi e semplici. "An on-device model has fewer parameters and a small context window", quindi Apple chiede prompt "short and succinct" e dice che i modelli sul dispositivo "have limited reasoning abilities": dividi un compito difficile in passaggi (Apple).
• Cambia con macOS. Apple aggiorna il modello con gli aggiornamenti del sistema; macOS 27 ne ha una nuova versione (Apple). I risultati di uno script possono cambiare dopo un aggiornamento.

Apple non indica la dimensione del modello sul dispositivo in queste pagine, quindi non lo facciamo neanche noi.

5Usare fm da script e codice

fm respond stampa la risposta, quindi si inserisce in qualsiasi script di shell. Con --schema la risposta è JSON da passare a jq. La sessione di Apple riordina così la cartella di un progetto: chiede al modello quali file sono definitivi e quali bozze, poi li copia e li sposta. Versione abbreviata dell’esempio di Apple (Apple):

fm schema object --name "TriagedFileList" \
  --string 'final_files' --array \
  --string 'draft_files' --array > /tmp/schema.json

output=$(fm respond \
  --instructions "Return the latest files, then separately all draft files." \
  "This is the list of all files:\n\n${files_list}" \
  --schema /tmp/schema.json
)

echo "${output}" | jq -r '.draft_files[]'

Per Python c’è il Foundation Models SDK di Apple, pip install apple_fm_sdk, con lo stesso modello sul dispositivo, generazione guidata e chiamate a strumenti (Apple). L’esempio di Apple:

import apple_fm_sdk as fm

model = fm.SystemLanguageModel()
is_available, reason = model.is_available()
if is_available:
    session = fm.LanguageModelSession(model=model)
    response = await session.respond(prompt="Hello!")
    print(response)

Molte app e agenti di programmazione si aspettano invece un'API in stile OpenAI o Anthropic su una porta locale. Se è quello che ti serve, mlx_lm.server serve il modello aperto che scegli su un'API in stile OpenAI a localhost:8080 (mlx-lm), e il server locale di LM Studio parla i formati OpenAI e Anthropic (LM Studio). Altre opzioni: le migliori app per eseguire LLM su Mac.

6Quando passare a un modello aperto

Resta su fm per i lavori brevi: riassumere una nota, dare un nome a un file, estrarre campi da un testo, una domanda veloce. È già sul Mac e non richiede configurazione. Passa a un modello aperto quando l’input non sta in qualche migliaio di token, quando il compito chiede più ragionamento o codice, quando vuoi scegliere il modello o quando uno strumento ha bisogno di un’API.

Un modello aperto gira sulla GPU del tuo Mac, e cosa ci sta dipende dalla memoria unificata. Il nostro calcolo su Compare ne dà alla GPU circa il 75% di default e lascia spazio per il contesto:

Questi modelli indicano finestre di contesto molto più lunghe nelle loro schede, 128K token per Llama 3.1 8B e 262.144 per Qwen3.6 35B A3B, anche se un contesto lungo richiede memoria oltre lo spazio calcolato sopra. Non sai cosa ha il tuo Mac? Menu Apple, Informazioni su questo Mac, poi guarda i Mac per chip.

mlx-lm è un modo per eseguirli: gli strumenti MLX di Apple scaricano modelli MLX da Hugging Face, ci chattano nel Terminale e servono l’API locale descritta sopra. LM Studio e Ollama fanno lo stesso in un'app (le migliori app per eseguire LLM su Mac). Quando non usi il Mac, MLX Node può eseguire lavori di IA per MLX Network nei limiti che imposti e guadagna token MLX per il lavoro verificato. I token MLX possono perdere valore; leggi i rischi.

7Domande

Il comando fm di macOS è gratuito?

È preinstallato con macOS 27 e di default usa il modello sul dispositivo incluso in macOS. Il modello più grande di Private Cloud Compute ha limiti di utilizzo (Apple).

fm funziona offline?

Con il modello sul dispositivo sì: Apple dice che funziona senza connessione a internet (Apple). Prima va scaricato Apple Intelligence, e --model pcc o /model in fm chat usano i server di Apple.

Quanto può essere lungo un prompt per fm?

Prompt, istruzioni e risposta condividono una finestra di contesto: 4.096 token nella documentazione di Apple e 8.192 nell’esempio di Apple alla WWDC26 per macOS 27 (Apple). In inglese sono circa tre o quattro caratteri per token.

fm offre un’API compatibile con OpenAI?

Le sessioni di Apple alla WWDC26 e la documentazione di Foundation Models che abbiamo letto non descrivono una modalità server, quindi non possiamo confermare come funzioni. Per un’API locale documentata, mlx_lm.server serve modelli aperti su localhost:8080 in stile OpenAI, e LM Studio nei formati OpenAI e Anthropic.

Quali Mac possono usare fm?

I Mac con macOS 27 compatibili con Apple Intelligence: qualsiasi Mac con M1 o successivo, impostato su una lingua supportata, con fino a 14 GB (M3 o successivo con almeno 12 GB) o fino a 8 GB di spazio libero (Apple).