Perintah fm di macOS: LLM lokal Apple di Terminal.

1Apa itu fm

fm adalah alat baris perintah Apple untuk Apple Foundation Models, model di balik Apple Intelligence. "Starting from macOS 27, this command line tool comes pre-installed on your Mac", kata Apple dalam sesi WWDC26 tentang alat ini; Anda membuka Terminal dan mengetik fm (Apple). Apple menawarkannya untuk skrip dan otomatisasi "without writing a line of app code" (Apple).

Ia bisa bekerja dengan dua model. Secara bawaan ia memakai "the on-device model that comes with macOS, and that's always available". Ia juga bisa memakai Apple Foundation Model di Private Cloud Compute, yang disebut Apple "a much bigger model than the on-device model", yang "will perform better on complex problems" dan "has usage limits" (Apple). Model di perangkat berjalan di Mac Anda dan bekerja tanpa koneksi internet (Apple); prompt yang dikirim ke Private Cloud Compute masuk ke server Apple.

fm adalah perangkat lunak Apple dan tidak ada hubungannya dengan MLX Network. MLX Network independen dan tidak berafiliasi dengan Apple.

2Perintahnya

Berikut perintah dan opsi yang ditunjukkan Apple dalam sesi WWDC26-nya (Apple, Apple):

Contoh Apple sendiri dari sesi tersebut:

fm respond "Provide a basic regex in Swift to parse an email address"
fm respond "Provide a comprehensive regex in Swift to parse an email address" --model pcc
fm schema object --name AppsIdentified --string app_names --array > schema.json
fm respond "What apps are the user actively using in this screenshot?" \
  --image Screenshot.png --model pcc --schema schema.json
# {"app_names": ["Messages", "Mail", "Calendar"]}
fm respond --help

3Yang Anda perlukan, dan berapa banyak yang diunduh

• macOS 27. fm disertakan bersamanya (Apple).
• Mac yang mendukung Apple Intelligence. Apple Foundation Models membutuhkannya (Apple); di macOS 27, itu berarti Mac apa pun dengan M1 atau lebih baru (Apple).
• Bahasa yang didukung. Apple Intelligence mengharuskan bahasa perangkat dan bahasa Siri diatur ke bahasa yang didukung yang sama, dan saat ini tidak berfungsi di perangkat yang dibeli di Tiongkok daratan (Apple).
• Ruang disk kosong untuk Apple Intelligence, lihat di bawah.

Model bisa belum tersedia beberapa saat setelah Anda menyalakan Apple Intelligence: framework Apple melaporkannya belum siap "because it's downloading or because of other system reasons" (Apple).

Untuk SDK Python, yang memakai model di perangkat yang sama, Apple mencantumkan macOS 26.0 atau lebih baru, Xcode 26.0 atau lebih baru dengan perjanjiannya diterima, dan Python 3.10 atau lebih baru (Apple), di Mac dengan Apple silicon (Apple).

4Keunggulan model di perangkat, dan batasnya

Apple berterus terang: model di perangkat unggul dalam berbagai tugas pembuatan teks, seperti meringkas, mengekstrak entitas, memahami teks dan gambar, menyempurnakan tulisan, dialog untuk game, dan membuat konten kreatif; bila Anda butuh kemampuan penalaran lebih dan konteks lebih besar, gunakan Private Cloud Compute atau penyedia model server mana pun (Apple).

• Jendela konteks kecil. Dokumentasi Apple memberi model di perangkat "a context window of 4096 tokens per session" (Apple) dan mencantumkan 4K dibanding 32K untuk Private Cloud Compute (Apple). Dalam sesi WWDC26 tentang macOS 27, contoh kode Apple mencetak contextSize sebesar 8.192 (Apple). Prompt, instruksi, dan jawaban berbagi jendela itu.
• Seberapa banyak yang muat. Dalam bahasa Inggris, satu token biasanya tiga sampai empat karakter (Apple), jadi 8.192 token kira-kira 25.000 sampai 33.000 karakter masukan dan keluaran bersama: beberapa halaman, bukan buku atau basis kode.
• Prompt pendek dan sederhana. "An on-device model has fewer parameters and a small context window", jadi Apple meminta prompt yang "short and succinct" dan mengatakan model di perangkat "have limited reasoning abilities": pecah tugas sulit menjadi beberapa langkah (Apple).
• Ia berubah bersama macOS. Apple memperbarui model lewat pembaruan sistem; macOS 27 punya versi baru (Apple). Hasil sebuah skrip bisa bergeser setelah pembaruan.

Apple tidak menyebut ukuran model di perangkat di halaman-halaman ini, jadi kami juga tidak.

5Memakai fm dari skrip dan kode

fm respond mencetak jawaban, jadi bisa dimasukkan ke skrip shell apa pun. Dengan --schema, jawabannya berupa JSON yang bisa Anda teruskan ke jq. Sesi Apple merapikan folder proyek dengan cara ini: bertanya ke model file mana yang final dan mana yang draf, lalu menyalin dan memindahkannya. Versi ringkas dari contoh Apple (Apple):

fm schema object --name "TriagedFileList" \
  --string 'final_files' --array \
  --string 'draft_files' --array > /tmp/schema.json

output=$(fm respond \
  --instructions "Return the latest files, then separately all draft files." \
  "This is the list of all files:\n\n${files_list}" \
  --schema /tmp/schema.json
)

echo "${output}" | jq -r '.draft_files[]'

Untuk Python ada Foundation Models SDK dari Apple, pip install apple_fm_sdk, dengan model di perangkat yang sama, pembuatan terpandu, dan pemanggilan alat (Apple). Contoh dari Apple:

import apple_fm_sdk as fm

model = fm.SystemLanguageModel()
is_available, reason = model.is_available()
if is_available:
    session = fm.LanguageModelSession(model=model)
    response = await session.respond(prompt="Hello!")
    print(response)

Banyak aplikasi dan agen pemrograman justru mengharapkan API bergaya OpenAI atau Anthropic di port lokal. Jika itu yang Anda perlukan, mlx_lm.server menyajikan model terbuka pilihan Anda lewat API bergaya OpenAI di localhost:8080 (mlx-lm), dan server lokal LM Studio mendukung format OpenAI dan Anthropic (LM Studio). Opsi lain: aplikasi terbaik untuk menjalankan LLM di Mac.

6Kapan beralih ke model terbuka

Pakai fm untuk pekerjaan singkat: meringkas catatan, memberi nama file, mengambil kolom dari teks, pertanyaan cepat. Ia sudah ada di Mac dan tidak perlu disiapkan. Beralihlah ke model terbuka ketika masukan tidak muat dalam beberapa ribu token, ketika tugas butuh penalaran atau kode lebih banyak, ketika Anda ingin memilih modelnya sendiri, atau ketika sebuah alat butuh API.

Model terbuka berjalan di GPU Mac Anda, dan apa yang muat ditentukan oleh memori terpadu. Hitungan Compare kami secara bawaan memberi GPU sekitar 75% dan menyisakan ruang untuk konteks:

Model-model ini mencantumkan jendela konteks yang jauh lebih panjang di kartunya, 128K token untuk Llama 3.1 8B dan 262.144 untuk Qwen3.6 35B A3B, meski konteks panjang butuh memori di luar ruang yang dihitung di atas. Belum tahu memori Mac Anda? Menu Apple, Tentang Mac Ini, lalu lihat Mac berdasarkan chip.

mlx-lm adalah salah satu cara menjalankannya: alat MLX milik Apple sendiri mengunduh model MLX dari Hugging Face, mengobrol dengannya di Terminal, dan menyajikan API lokal di atas. LM Studio dan Ollama melakukan hal yang sama dalam bentuk aplikasi (aplikasi terbaik untuk menjalankan LLM di Mac). Saat Anda tidak memakai Mac, MLX Node bisa menjalankan pekerjaan AI untuk MLX Network dalam batas yang Anda atur dan memperoleh token MLX untuk pekerjaan yang terverifikasi. Token MLX bisa kehilangan nilai; baca risikonya.

7Pertanyaan

Apakah perintah fm di macOS gratis?

Ia sudah terpasang di macOS 27 dan secara bawaan memakai model di perangkat yang disertakan macOS. Model Private Cloud Compute yang lebih besar memiliki batas penggunaan (Apple).

Apakah fm bisa dipakai offline?

Dengan model di perangkat, bisa: Apple mengatakan ia bekerja tanpa koneksi internet (Apple). Apple Intelligence harus diunduh dulu, dan --model pcc atau /model di fm chat memakai server Apple.

Seberapa panjang prompt yang bisa diterima fm?

Prompt, instruksi, dan jawaban berbagi satu jendela konteks: 4.096 token di dokumentasi Apple dan 8.192 di contoh WWDC26 Apple untuk macOS 27 (Apple). Dalam bahasa Inggris, itu kira-kira tiga sampai empat karakter per token.

Apakah fm menyediakan API yang kompatibel dengan OpenAI?

Sesi WWDC26 Apple dan dokumentasi Foundation Models yang kami baca tidak menjelaskan mode server, jadi kami tidak bisa memastikan cara kerjanya. Untuk API lokal yang terdokumentasi, mlx_lm.server menyajikan model terbuka di localhost:8080 dengan gaya OpenAI, dan LM Studio dalam format OpenAI dan Anthropic.

Mac mana yang bisa memakai fm?

Mac dengan macOS 27 yang mendukung Apple Intelligence: Mac apa pun dengan M1 atau lebih baru, diatur ke bahasa yang didukung, dengan ruang kosong hingga 14 GB (M3 atau lebih baru dengan memori 12 GB atau lebih) atau hingga 8 GB (Apple).