Polecenie fm w macOS: lokalny LLM Apple w Terminalu.

1Czym jest fm

fm to narzędzie wiersza poleceń Apple do Apple Foundation Models, modeli stojących za Apple Intelligence. „Starting from macOS 27, this command line tool comes pre-installed on your Mac” — mówi Apple w poświęconej mu sesji WWDC26; otwierasz Terminal i wpisujesz fm (Apple). Apple poleca je do skryptów i automatyzacji „without writing a line of app code” (Apple).

Może korzystać z dwóch modeli. Domyślnie używa „the on-device model that comes with macOS, and that's always available”. Może też użyć Apple Foundation Model w Private Cloud Compute, który Apple nazywa „a much bigger model than the on-device model”, który „will perform better on complex problems” i który „has usage limits” (Apple). Model na urządzeniu działa na twoim Macu i bez połączenia z internetem (Apple); prompt wysłany do Private Cloud Compute trafia na serwery Apple.

fm to oprogramowanie Apple i nie ma nic wspólnego z MLX Network. MLX Network to niezależny projekt, niepowiązany z Apple.

2Polecenia

Oto polecenia i opcje, które Apple pokazuje w sesjach WWDC26 (Apple, Apple):

Przykłady samego Apple z sesji:

fm respond "Provide a basic regex in Swift to parse an email address"
fm respond "Provide a comprehensive regex in Swift to parse an email address" --model pcc
fm schema object --name AppsIdentified --string app_names --array > schema.json
fm respond "What apps are the user actively using in this screenshot?" \
  --image Screenshot.png --model pcc --schema schema.json
# {"app_names": ["Messages", "Mail", "Calendar"]}
fm respond --help

3Czego potrzebujesz i ile pobiera

• macOS 27. fm jest jego częścią (Apple).
• Mac obsługujący Apple Intelligence. Apple Foundation Models go wymagają (Apple); w macOS 27 to każdy Mac z M1 lub nowszym (Apple).
• Obsługiwany język. Apple Intelligence wymaga, by język urządzenia i język Siri były tym samym obsługiwanym językiem, i obecnie nie działa na urządzeniach kupionych w Chinach kontynentalnych (Apple).
• Wolne miejsce na dysku dla Apple Intelligence, poniżej.

Model może być przez chwilę niedostępny po włączeniu Apple Intelligence: framework Apple zgłasza, że nie jest gotowy, „because it's downloading or because of other system reasons” (Apple).

Dla SDK Pythona, który korzysta z tego samego modelu na urządzeniu, Apple podaje macOS 26.0 lub nowszy, Xcode 26.0 lub nowszy z zaakceptowaną umową oraz Pythona 3.10 lub nowszego (Apple), na Macu z Apple Silicon (Apple).

4W czym model na urządzeniu jest dobry, a gdzie się kończy

Apple mówi wprost: modele na urządzeniu świetnie radzą sobie z wieloma zadaniami generowania tekstu, takimi jak streszczanie, wyodrębnianie encji, rozumienie tekstu i obrazów, poprawianie tekstu, dialogi w grach i tworzenie treści kreatywnych; gdy potrzebujesz większych zdolności rozumowania i większego kontekstu, użyj Private Cloud Compute lub dowolnego dostawcy modeli serwerowych (Apple).

• Małe okno kontekstu. Dokumentacja Apple daje modelowi na urządzeniu „a context window of 4096 tokens per session” (Apple) i zestawia 4K z 32K w Private Cloud Compute (Apple). W sesji WWDC26 o macOS 27 przykładowy kod Apple wypisuje contextSize równe 8192 (Apple). Prompt, instrukcje i odpowiedź dzielą to okno.
• Ile się zmieści. Po angielsku token ma zwykle trzy–cztery znaki (Apple), więc 8192 tokeny to mniej więcej 25 000–33 000 znaków wejścia i wyjścia razem: kilka stron, nie książka ani baza kodu.
• Krótkie, proste prompty. „An on-device model has fewer parameters and a small context window”, więc Apple prosi o prompty „short and succinct” i mówi, że modele na urządzeniu „have limited reasoning abilities”: dziel trudne zadanie na kroki (Apple).
• Zmienia się razem z macOS. Apple aktualizuje model w aktualizacjach systemu; macOS 27 ma nową wersję (Apple). Wyniki skryptu mogą się zmienić po aktualizacji.

Apple nie podaje na tych stronach rozmiaru modelu na urządzeniu, więc my też nie.

5fm w skryptach i kodzie

fm respond wypisuje odpowiedź, więc pasuje do każdego skryptu powłoki. Z --schema odpowiedź jest JSON-em, który możesz przekazać do jq. W sesji Apple w ten sposób porządkuje się folder projektu: model jest pytany, które pliki są ostateczne, a które to szkice, po czym są one kopiowane i przenoszone. Skrócony przykład Apple (Apple):

fm schema object --name "TriagedFileList" \
  --string 'final_files' --array \
  --string 'draft_files' --array > /tmp/schema.json

output=$(fm respond \
  --instructions "Return the latest files, then separately all draft files." \
  "This is the list of all files:\n\n${files_list}" \
  --schema /tmp/schema.json
)

echo "${output}" | jq -r '.draft_files[]'

Dla Pythona jest Foundation Models SDK od Apple, pip install apple_fm_sdk, z tym samym modelem na urządzeniu, generowaniem sterowanym i wywoływaniem narzędzi (Apple). Przykład Apple:

import apple_fm_sdk as fm

model = fm.SystemLanguageModel()
is_available, reason = model.is_available()
if is_available:
    session = fm.LanguageModelSession(model=model)
    response = await session.respond(prompt="Hello!")
    print(response)

Wiele aplikacji i agentów programistycznych oczekuje zamiast tego API w stylu OpenAI lub Anthropic na lokalnym porcie. Jeśli tego potrzebujesz, mlx_lm.server udostępnia wybrany otwarty model przez API w stylu OpenAI pod localhost:8080 (mlx-lm), a lokalny serwer LM Studio obsługuje formaty OpenAI i Anthropic (LM Studio). Więcej możliwości: najlepsze aplikacje do uruchamiania LLM na Macu.

6Kiedy przejść na otwarty model

Do krótkich zadań wystarczy fm: streszczenie notatki, nazwanie pliku, wyciągnięcie pól z tekstu, szybkie pytanie. Jest już na Macu i nie wymaga konfiguracji. Sięgnij po otwarty model, gdy wejście nie mieści się w kilku tysiącach tokenów, gdy zadanie wymaga więcej rozumowania lub kodu, gdy chcesz sam wybrać model albo gdy narzędzie potrzebuje API.

Otwarty model działa na GPU twojego Maca, a to, co się zmieści, zależy od pamięci zunifikowanej. Nasze wyliczenia na Compare domyślnie dają GPU około 75% i zostawiają miejsce na kontekst:

Te modele podają na swoich kartach znacznie dłuższe okna kontekstu, 128K tokenów dla Llama 3.1 8B i 262 144 dla Qwen3.6 35B A3B, choć długi kontekst wymaga pamięci ponad zapas policzony wyżej. Nie wiesz, co ma twój Mac? Menu Apple, Ten Mac, a potem zobacz Maki według chipów.

mlx-lm to jeden ze sposobów, by je uruchomić: narzędzia MLX od samego Apple pobierają modele MLX z Hugging Face, prowadzą z nimi czat w Terminalu i udostępniają lokalne API opisane wyżej. LM Studio i Ollama robią to samo w aplikacji (najlepsze aplikacje do uruchamiania LLM na Macu). Gdy nie używasz Maca, MLX Node może wykonywać zadania AI dla MLX Network w ustalonych przez ciebie granicach i zarabia tokeny MLX za zweryfikowaną pracę. Tokeny MLX mogą stracić na wartości; przeczytaj o ryzyku.

7Pytania

Czy polecenie fm w macOS jest darmowe?

Jest preinstalowane w macOS 27 i domyślnie używa modelu na urządzeniu, który jest częścią macOS. Większy model Private Cloud Compute ma limity użycia (Apple).

Czy fm działa offline?

Z modelem na urządzeniu tak: Apple mówi, że działa bez połączenia z internetem (Apple). Najpierw trzeba pobrać Apple Intelligence, a --model pcc lub /model w fm chat korzystają z serwerów Apple.

Jak długi prompt przyjmie fm?

Prompt, instrukcje i odpowiedź dzielą jedno okno kontekstu: 4096 tokenów w dokumentacji Apple i 8192 w przykładzie Apple z WWDC26 dla macOS 27 (Apple). Po angielsku to mniej więcej trzy–cztery znaki na token.

Czy fm udostępnia API zgodne z OpenAI?

Sesje Apple z WWDC26 ani przeczytana przez nas dokumentacja Foundation Models nie opisują trybu serwera, więc nie możemy potwierdzić, jak działa. Jeśli potrzebujesz udokumentowanego lokalnego API, mlx_lm.server udostępnia otwarte modele pod localhost:8080 w stylu OpenAI, a LM Studio w formatach OpenAI i Anthropic.

Które Maki mogą używać fm?

Maki z macOS 27 obsługujące Apple Intelligence: każdy Mac z M1 lub nowszym, ustawiony na obsługiwany język, z do 14 GB (M3 lub nowszy z co najmniej 12 GB) lub do 8 GB wolnego miejsca (Apple).