Команда fm в macOS: локальная LLM от Apple в Терминале.

1Что такое fm

fm — инструмент командной строки Apple для Apple Foundation Models, моделей, на которых работает Apple Intelligence. «Starting from macOS 27, this command line tool comes pre-installed on your Mac», — говорит Apple в посвящённой ему сессии WWDC26; вы открываете Терминал и вводите fm (Apple). Apple предлагает его для скриптов и автоматизации «without writing a line of app code» (Apple).

Он может работать с двумя моделями. По умолчанию — с «the on-device model that comes with macOS, and that's always available». Ещё он может использовать Apple Foundation Model в Private Cloud Compute, которую Apple называет «a much bigger model than the on-device model»: она «will perform better on complex problems» и «has usage limits» (Apple). Модель на устройстве работает на вашем Mac и без подключения к интернету (Apple); запрос в Private Cloud Compute уходит на серверы Apple.

fm — программа Apple и никак не связана с MLX Network. MLX Network — независимый проект, не связанный с Apple.

2Команды

Вот команды и параметры, которые Apple показывает в сессиях WWDC26 (Apple, Apple):

Примеры самой Apple из сессии:

fm respond "Provide a basic regex in Swift to parse an email address"
fm respond "Provide a comprehensive regex in Swift to parse an email address" --model pcc
fm schema object --name AppsIdentified --string app_names --array > schema.json
fm respond "What apps are the user actively using in this screenshot?" \
  --image Screenshot.png --model pcc --schema schema.json
# {"app_names": ["Messages", "Mail", "Calendar"]}
fm respond --help

3Что нужно и сколько он скачивает

• macOS 27. fm входит в неё (Apple).
• Mac с поддержкой Apple Intelligence. Он нужен Apple Foundation Models (Apple); в macOS 27 это любой Mac с M1 или новее (Apple).
• Поддерживаемый язык. Для Apple Intelligence язык устройства и язык Siri должны быть одним и тем же поддерживаемым языком, и пока она не работает на устройствах, купленных в материковом Китае (Apple).
• Свободное место на диске для Apple Intelligence — см. ниже.

После включения Apple Intelligence модель может какое-то время быть недоступна: фреймворк Apple сообщает, что она не готова, «because it's downloading or because of other system reasons» (Apple).

Для Python SDK, который использует ту же модель на устройстве, Apple указывает macOS 26.0 или новее, Xcode 26.0 или новее с принятым соглашением и Python 3.10 или новее (Apple), на Mac с Apple Silicon (Apple).

4В чём модель на устройстве хороша и где её предел

Apple говорит прямо: модели на устройстве отлично справляются с самыми разными задачами генерации текста — пересказом, извлечением сущностей, пониманием текста и изображений, редактурой, диалогами для игр, созданием творческого контента; если нужно больше способностей к рассуждению и больше контекста, используйте Private Cloud Compute или любого поставщика серверных моделей (Apple).

• Маленькое окно контекста. Документация Apple даёт модели на устройстве «a context window of 4096 tokens per session» (Apple) и указывает 4K против 32K у Private Cloud Compute (Apple). В сессии WWDC26 о macOS 27 пример кода Apple печатает contextSize, равный 8 192 (Apple). Запрос, инструкции и ответ делят это окно.
• Сколько туда помещается. В английском токен обычно занимает три–четыре символа (Apple), так что 8 192 токена — это примерно 25 000–33 000 символов ввода и вывода вместе: несколько страниц, а не книга и не кодовая база.
• Короткие и простые запросы. «An on-device model has fewer parameters and a small context window», поэтому Apple просит делать запросы «short and succinct» и говорит, что модели на устройстве «have limited reasoning abilities»: разбивайте сложную задачу на шаги (Apple).
• Она меняется вместе с macOS. Apple обновляет модель с обновлениями системы; в macOS 27 новая версия (Apple). После обновления результаты скрипта могут измениться.

Размер модели на устройстве Apple на этих страницах не называет, поэтому не называем и мы.

5fm в скриптах и коде

fm respond печатает ответ, поэтому подходит для любого shell-скрипта. С --schema ответ — это JSON, который можно передать в jq. В сессии Apple так разбирают папку проекта: модель спрашивают, какие файлы финальные, а какие черновики, а затем копируют и перемещают их. Сокращённый пример Apple (Apple):

fm schema object --name "TriagedFileList" \
  --string 'final_files' --array \
  --string 'draft_files' --array > /tmp/schema.json

output=$(fm respond \
  --instructions "Return the latest files, then separately all draft files." \
  "This is the list of all files:\n\n${files_list}" \
  --schema /tmp/schema.json
)

echo "${output}" | jq -r '.draft_files[]'

Для Python есть Foundation Models SDK от Apple, pip install apple_fm_sdk, с той же моделью на устройстве, управляемой генерацией и вызовом инструментов (Apple). Пример Apple:

import apple_fm_sdk as fm

model = fm.SystemLanguageModel()
is_available, reason = model.is_available()
if is_available:
    session = fm.LanguageModelSession(model=model)
    response = await session.respond(prompt="Hello!")
    print(response)

Многие приложения и агенты для программирования ждут вместо этого API в стиле OpenAI или Anthropic на локальном порту. Если вам нужно именно это, mlx_lm.server отдает выбранную вами открытую модель через API в стиле OpenAI на localhost:8080 (mlx-lm), а локальный сервер LM Studio понимает форматы OpenAI и Anthropic (LM Studio). Другие варианты: лучшие программы для LLM на Mac.

6Когда перейти на открытую модель

Для коротких задач хватит fm: пересказать заметку, придумать имя файлу, вытащить поля из текста, быстро что-то спросить. Он уже есть на Mac и не требует настройки. Берите открытую модель, когда ввод не помещается в несколько тысяч токенов, когда задаче нужно больше рассуждений или кода, когда вы хотите сами выбрать модель или когда инструменту нужен API.

Открытая модель работает на GPU вашего Mac, и что поместится, решает объединённая память. Наш расчёт на странице Compare по умолчанию отдаёт GPU около 75% и оставляет место под контекст:

В карточках этих моделей указаны гораздо более длинные окна контекста — 128K токенов у Llama 3.1 8B и 262 144 у Qwen3.6 35B A3B, — но длинному контексту нужна память сверх запаса, учтённого выше. Не знаете, сколько памяти у вашего Mac? Меню Apple → «Об этом Mac», а затем — Mac по чипам.

mlx-lm — один из способов их запустить: собственные инструменты MLX от Apple скачивают MLX-модели с Hugging Face, ведут с ними чат в Терминале и отдают локальный API, о котором шла речь выше. LM Studio и Ollama делают то же самое в приложении (лучшие программы для LLM на Mac). Когда вы не пользуетесь Mac, MLX Node может выполнять задачи ИИ для MLX Network в заданных вами пределах и получает токены MLX за проверенную работу. Токены MLX могут подешеветь; прочитайте о рисках.

7Вопросы

Команда fm в macOS бесплатна?

Она предустановлена в macOS 27 и по умолчанию использует модель на устройстве, которая входит в macOS. У большей модели Private Cloud Compute есть лимиты использования (Apple).

fm работает без интернета?

С моделью на устройстве — да: по словам Apple, она работает без подключения к интернету (Apple). Сначала нужно скачать Apple Intelligence, а --model pcc или /model в fm chat используют серверы Apple.

Какой длины запрос принимает fm?

Запрос, инструкции и ответ делят одно окно контекста: 4 096 токенов в документации Apple и 8 192 в примере Apple с WWDC26 для macOS 27 (Apple). В английском это примерно три–четыре символа на токен.

Есть ли у fm API, совместимый с OpenAI?

Сессии Apple на WWDC26 и прочитанная нами документация Foundation Models не описывают серверный режим, поэтому мы не можем подтвердить, как он работает. Для документированного локального API mlx_lm.server отдаёт открытые модели по адресу localhost:8080 в стиле OpenAI, а LM Studio — в форматах OpenAI и Anthropic.

На каких Mac работает fm?

На Mac с macOS 27 и поддержкой Apple Intelligence: любой Mac с M1 или новее, с поддерживаемым языком и свободным местом до 14 ГБ (M3 или новее с памятью от 12 ГБ) или до 8 ГБ (Apple).