Het macOS-commando fm: Apples lokale LLM in Terminal.

1Wat fm is

fm is Apples opdrachtregeltool voor Apple Foundation Models, de modellen achter Apple Intelligence. "Starting from macOS 27, this command line tool comes pre-installed on your Mac", zegt Apple in de WWDC26-sessie erover; je opent Terminal en typt fm (Apple). Apple brengt het voor scripts en automatisering "without writing a line of app code" (Apple).

Het kan met twee modellen praten. Standaard gebruikt het "the on-device model that comes with macOS, and that's always available". Het kan ook het Apple Foundation Model in Private Cloud Compute gebruiken, dat Apple "a much bigger model than the on-device model" noemt, dat "will perform better on complex problems" en dat "has usage limits" (Apple). Het model op het apparaat draait op je Mac en werkt zonder internetverbinding (Apple); een prompt naar Private Cloud Compute gaat naar de servers van Apple.

fm is software van Apple en heeft niets met MLX Network te maken. MLX Network is onafhankelijk en niet verbonden aan Apple.

2De commando's

Dit zijn de commando's en opties die Apple in zijn WWDC26-sessies laat zien (Apple, Apple):

Apples eigen voorbeelden uit de sessie:

fm respond "Provide a basic regex in Swift to parse an email address"
fm respond "Provide a comprehensive regex in Swift to parse an email address" --model pcc
fm schema object --name AppsIdentified --string app_names --array > schema.json
fm respond "What apps are the user actively using in this screenshot?" \
  --image Screenshot.png --model pcc --schema schema.json
# {"app_names": ["Messages", "Mail", "Calendar"]}
fm respond --help

3Wat je nodig hebt en hoeveel het downloadt

• macOS 27. fm hoort erbij (Apple).
• Een Mac die Apple Intelligence ondersteunt. Apple Foundation Models hebben er een nodig (Apple); in macOS 27 is dat elke Mac met M1 of nieuwer (Apple).
• Een ondersteunde taal. Apple Intelligence vereist dat de taal van het apparaat en de taal van Siri dezelfde ondersteunde taal zijn, en het werkt op dit moment niet op apparaten die in het vasteland van China zijn gekocht (Apple).
• Vrije schijfruimte voor Apple Intelligence, zie hieronder.

Het model kan een tijdje niet beschikbaar zijn nadat je Apple Intelligence aanzet: Apples framework meldt het als niet klaar "because it's downloading or because of other system reasons" (Apple).

Voor de Python-SDK, die hetzelfde model op het apparaat gebruikt, noemt Apple macOS 26.0 of nieuwer, Xcode 26.0 of nieuwer met de licentie geaccepteerd en Python 3.10 of nieuwer (Apple), op een Mac met Apple Silicon (Apple).

4Waar het model op het apparaat goed in is, en waar het ophoudt

Apple is er duidelijk over: modellen op het apparaat blinken uit in allerlei taken voor tekstgeneratie, zoals samenvatten, entiteiten eruit halen, tekst en beeld begrijpen, verfijnen, dialoog voor games en creatieve inhoud maken; heb je meer redeneervermogen en meer context nodig, gebruik dan Private Cloud Compute of een andere aanbieder van servermodellen (Apple).

• Een klein contextvenster. Apples documentatie geeft het model op het apparaat "a context window of 4096 tokens per session" (Apple) en zet 4K tegenover 32K voor Private Cloud Compute (Apple). In Apples WWDC26-sessie over macOS 27 print het codevoorbeeld een contextSize van 8.192 (Apple). Prompt, instructies en antwoord delen dat venster.
• Wat erin past. In het Engels is een token meestal drie tot vier tekens (Apple), dus 8.192 tokens is ruwweg 25.000 tot 33.000 tekens in- en uitvoer samen: een paar pagina's, geen boek of codebase.
• Korte, eenvoudige prompts. "An on-device model has fewer parameters and a small context window", dus Apple vraagt om prompts die "short and succinct" zijn en zegt dat modellen op het apparaat "have limited reasoning abilities": deel een moeilijke taak op in stappen (Apple).
• Het verandert met macOS. Apple werkt het model bij met systeemupdates; macOS 27 heeft een nieuwe versie (Apple). De uitkomst van een script kan na een update verschuiven.

Apple noemt op deze pagina's niet hoe groot het model op het apparaat is, dus wij ook niet.

5fm gebruiken in scripts en code

fm respond print het antwoord, dus het past in elk shellscript. Met --schema is het antwoord JSON die je aan jq kunt doorgeven. Apples sessie sorteert zo een projectmap: het model wordt gevraagd welke bestanden definitief zijn en welke concepten, waarna ze worden gekopieerd en verplaatst. Ingekort uit Apples voorbeeld (Apple):

fm schema object --name "TriagedFileList" \
  --string 'final_files' --array \
  --string 'draft_files' --array > /tmp/schema.json

output=$(fm respond \
  --instructions "Return the latest files, then separately all draft files." \
  "This is the list of all files:\n\n${files_list}" \
  --schema /tmp/schema.json
)

echo "${output}" | jq -r '.draft_files[]'

Voor Python is er Apples Foundation Models SDK, pip install apple_fm_sdk, met hetzelfde model op het apparaat, gestuurde generatie en het aanroepen van tools (Apple). Apples voorbeeld:

import apple_fm_sdk as fm

model = fm.SystemLanguageModel()
is_available, reason = model.is_available()
if is_available:
    session = fm.LanguageModelSession(model=model)
    response = await session.respond(prompt="Hello!")
    print(response)

Veel apps en programmeeragents verwachten in plaats daarvan een API in de stijl van OpenAI of Anthropic op een lokale poort. Heb je dat nodig, dan biedt mlx_lm.server een open model naar keuze aan via een API in OpenAI-stijl op localhost:8080 (mlx-lm), en spreekt de lokale server van LM Studio de formaten van OpenAI en Anthropic (LM Studio). Meer opties: de beste apps om LLM's op een Mac te draaien.

6Wanneer je overstapt op een open model

Blijf bij fm voor korte klussen: een notitie samenvatten, een bestand een naam geven, velden uit tekst halen, een snelle vraag. Het staat al op de Mac en vraagt geen instellingen. Kies een open model als de invoer niet in een paar duizend tokens past, als de taak meer redeneren of code vraagt, als je zelf het model wilt kiezen of als een tool een API nodig heeft.

Een open model draait op de GPU van je Mac, en wat past bepaalt het centrale geheugen. Onze berekening op Compare geeft de GPU standaard ongeveer 75% en laat ruimte voor de context:

Deze modellen noemen op hun modelkaarten veel langere contextvensters, 128K tokens voor Llama 3.1 8B en 262.144 voor Qwen3.6 35B A3B, al heeft een lange context geheugen nodig bovenop de ruimte die hierboven is meegeteld. Weet je niet wat je Mac heeft? Apple-menu, Over deze Mac, en kijk dan bij Macs per chip.

mlx-lm is één manier om ze te draaien: Apples eigen MLX-tools downloaden MLX-modellen van Hugging Face, chatten ermee in Terminal en bieden de lokale API van hierboven aan. LM Studio en Ollama doen hetzelfde in een app (de beste apps om LLM's op een Mac te draaien). Als je de Mac niet gebruikt, kan MLX Node binnen jouw grenzen AI-taken uitvoeren voor MLX Network en verdient het MLX-tokens voor gecontroleerd werk. MLX-tokens kunnen in waarde dalen; lees de risico's.

7Vragen

Is het macOS-commando fm gratis?

Het is vooraf geïnstalleerd in macOS 27 en gebruikt standaard het model op het apparaat dat bij macOS hoort. Het grotere model in Private Cloud Compute heeft gebruikslimieten (Apple).

Werkt fm offline?

Met het model op het apparaat wel: Apple zegt dat het zonder internetverbinding werkt (Apple). Apple Intelligence moet eerst gedownload zijn, en --model pcc of /model in fm chat gebruiken de servers van Apple.

Hoe lang mag een prompt voor fm zijn?

Prompt, instructies en antwoord delen één contextvenster: 4.096 tokens in Apples documentatie en 8.192 in Apples WWDC26-voorbeeld voor macOS 27 (Apple). In het Engels is dat ruwweg drie tot vier tekens per token.

Biedt fm een OpenAI-compatibele API?

Apples WWDC26-sessies en de Foundation Models-documentatie die we lazen beschrijven geen servermodus, dus we kunnen niet bevestigen hoe die werkt. Voor een gedocumenteerde lokale API biedt mlx_lm.server open modellen aan op localhost:8080 in OpenAI-stijl, en LM Studio in de formaten van OpenAI en Anthropic.

Welke Macs kunnen fm gebruiken?

Macs met macOS 27 die Apple Intelligence ondersteunen: elke Mac met M1 of nieuwer, ingesteld op een ondersteunde taal, met tot 14 GB (M3 of nieuwer met 12 GB of meer) of tot 8 GB vrije opslag (Apple).