Команда fm у macOS: локальна LLM від Apple у Терміналі.

1Що таке fm

fm — інструмент командного рядка Apple для Apple Foundation Models, моделей, на яких працює Apple Intelligence. «Starting from macOS 27, this command line tool comes pre-installed on your Mac», — каже Apple у присвяченій йому сесії WWDC26; ви відкриваєте Термінал і вводите fm (Apple). Apple пропонує його для скриптів і автоматизації «without writing a line of app code» (Apple).

Він може працювати з двома моделями. Типово — з «the on-device model that comes with macOS, and that's always available». Також він може використовувати Apple Foundation Model у Private Cloud Compute, яку Apple називає «a much bigger model than the on-device model»: вона «will perform better on complex problems» і «has usage limits» (Apple). Модель на пристрої працює на вашому Mac і без підключення до інтернету (Apple); запит до Private Cloud Compute іде на сервери Apple.

fm — програма Apple і ніяк не пов’язана з MLX Network. MLX Network — незалежний проєкт, не пов’язаний з Apple.

2Команди

Ось команди й параметри, які Apple показує в сесіях WWDC26 (Apple, Apple):

Приклади самої Apple із сесії:

fm respond "Provide a basic regex in Swift to parse an email address"
fm respond "Provide a comprehensive regex in Swift to parse an email address" --model pcc
fm schema object --name AppsIdentified --string app_names --array > schema.json
fm respond "What apps are the user actively using in this screenshot?" \
  --image Screenshot.png --model pcc --schema schema.json
# {"app_names": ["Messages", "Mail", "Calendar"]}
fm respond --help

3Що потрібно і скільки він завантажує

• macOS 27. fm входить до неї (Apple).
• Mac із підтримкою Apple Intelligence. Він потрібен Apple Foundation Models (Apple); у macOS 27 це будь-який Mac з M1 або новішим (Apple).
• Підтримувана мова. Для Apple Intelligence мова пристрою і мова Siri мають бути однією й тією самою підтримуваною мовою, і поки вона не працює на пристроях, придбаних у материковому Китаї (Apple).
• Вільне місце на диску для Apple Intelligence — див. нижче.

Після ввімкнення Apple Intelligence модель може деякий час бути недоступною: фреймворк Apple повідомляє, що вона не готова, «because it's downloading or because of other system reasons» (Apple).

Для Python SDK, який використовує ту саму модель на пристрої, Apple вказує macOS 26.0 або новішу, Xcode 26.0 або новіший із прийнятою угодою і Python 3.10 або новіший (Apple), на Mac з Apple Silicon (Apple).

4У чому модель на пристрої добра і де її межа

Apple каже прямо: моделі на пристрої чудово справляються з найрізноманітнішими завданнями генерації тексту — переказом, видобуванням сутностей, розумінням тексту й зображень, редагуванням, діалогами для ігор, створенням творчого контенту; якщо потрібно більше здатності до міркувань і більше контексту, використовуйте Private Cloud Compute або будь-якого постачальника серверних моделей (Apple).

• Маленьке вікно контексту. Документація Apple дає моделі на пристрої «a context window of 4096 tokens per session» (Apple) і вказує 4K проти 32K у Private Cloud Compute (Apple). У сесії WWDC26 про macOS 27 приклад коду Apple друкує contextSize, що дорівнює 8 192 (Apple). Запит, інструкції та відповідь ділять це вікно.
• Скільки туди вміщується. В англійській токен зазвичай займає три–чотири символи (Apple), тож 8 192 токени — це приблизно 25 000–33 000 символів вводу й виводу разом: кілька сторінок, а не книжка чи кодова база.
• Короткі й прості запити. «An on-device model has fewer parameters and a small context window», тому Apple просить робити запити «short and succinct» і каже, що моделі на пристрої «have limited reasoning abilities»: розбивайте складне завдання на кроки (Apple).
• Вона змінюється разом із macOS. Apple оновлює модель з оновленнями системи; у macOS 27 нова версія (Apple). Після оновлення результати скрипту можуть змінитися.

Розміру моделі на пристрої Apple на цих сторінках не називає, тож не називаємо і ми.

5fm у скриптах і коді

fm respond друкує відповідь, тож підходить для будь-якого shell-скрипту. З --schema відповідь — це JSON, який можна передати в jq. У сесії Apple так розбирають теку проєкту: модель питають, які файли фінальні, а які чернетки, а тоді копіюють і переміщують їх. Скорочений приклад Apple (Apple):

fm schema object --name "TriagedFileList" \
  --string 'final_files' --array \
  --string 'draft_files' --array > /tmp/schema.json

output=$(fm respond \
  --instructions "Return the latest files, then separately all draft files." \
  "This is the list of all files:\n\n${files_list}" \
  --schema /tmp/schema.json
)

echo "${output}" | jq -r '.draft_files[]'

Для Python є Foundation Models SDK від Apple, pip install apple_fm_sdk, з тією самою моделлю на пристрої, керованою генерацією та викликом інструментів (Apple). Приклад Apple:

import apple_fm_sdk as fm

model = fm.SystemLanguageModel()
is_available, reason = model.is_available()
if is_available:
    session = fm.LanguageModelSession(model=model)
    response = await session.respond(prompt="Hello!")
    print(response)

Багато застосунків і агентів для програмування натомість чекають на API в стилі OpenAI або Anthropic на локальному порту. Якщо вам потрібне саме це, mlx_lm.server віддає обрану вами відкриту модель через API в стилі OpenAI на localhost:8080 (mlx-lm), а локальний сервер LM Studio розуміє формати OpenAI та Anthropic (LM Studio). Інші варіанти: найкращі застосунки для запуску LLM на Mac.

6Коли перейти на відкриту модель

Для коротких завдань вистачить fm: переказати нотатку, дати назву файлу, витягти поля з тексту, швидко щось спитати. Він уже є на Mac і не потребує налаштування. Беріть відкриту модель, коли ввід не вміщується в кілька тисяч токенів, коли завданню потрібно більше міркувань чи коду, коли ви хочете самі обрати модель або коли інструменту потрібен API.

Відкрита модель працює на GPU вашого Mac, і що вміститься, визначає об’єднана пам’ять. Наш розрахунок на сторінці Compare типово віддає GPU близько 75% і залишає місце під контекст:

У картках цих моделей зазначено значно довші вікна контексту — 128K токенів у Llama 3.1 8B і 262 144 у Qwen3.6 35B A3B, — але довгому контексту потрібна пам’ять понад запас, урахований вище. Не знаєте, скільки пам’яті у вашого Mac? Меню Apple → «Про цей Mac», а потім — Mac за чипами.

mlx-lm — один зі способів їх запустити: власні інструменти MLX від Apple завантажують MLX-моделі з Hugging Face, ведуть із ними чат у Терміналі й віддають локальний API, про який ішлося вище. LM Studio та Ollama роблять те саме в застосунку (найкращі застосунки для запуску LLM на Mac). Коли ви не користуєтеся Mac, MLX Node може виконувати завдання ШІ для MLX Network у заданих вами межах і отримує токени MLX за перевірену роботу. Токени MLX можуть знецінитися; прочитайте про ризики.

7Запитання

Команда fm у macOS безкоштовна?

Її попередньо встановлено в macOS 27, і типово вона використовує модель на пристрої, що входить до macOS. Більша модель Private Cloud Compute має ліміти використання (Apple).

fm працює без інтернету?

З моделлю на пристрої — так: за словами Apple, вона працює без підключення до інтернету (Apple). Спершу треба завантажити Apple Intelligence, а --model pcc або /model у fm chat використовують сервери Apple.

Якої довжини запит приймає fm?

Запит, інструкції та відповідь ділять одне вікно контексту: 4 096 токенів у документації Apple і 8 192 у прикладі Apple з WWDC26 для macOS 27 (Apple). В англійській це приблизно три–чотири символи на токен.

Чи є у fm API, сумісний з OpenAI?

Сесії Apple на WWDC26 і прочитана нами документація Foundation Models не описують серверного режиму, тож ми не можемо підтвердити, як він працює. Для задокументованого локального API mlx_lm.server віддає відкриті моделі за адресою localhost:8080 у стилі OpenAI, а LM Studio — у форматах OpenAI і Anthropic.

На яких Mac працює fm?

На Mac з macOS 27 і підтримкою Apple Intelligence: будь-який Mac з M1 або новішим, із підтримуваною мовою і вільним місцем до 14 ГБ (M3 або новіший з пам’яттю від 12 ГБ) або до 8 ГБ (Apple).