macOS का fm कमांड: Terminal में Apple का लोकल LLM।

1fm क्या है

fm, Apple Foundation Models के लिए Apple का कमांड लाइन टूल है, यानी वे मॉडल जो Apple Intelligence के पीछे हैं। Apple इस पर अपने WWDC26 सेशन में कहता है: «Starting from macOS 27, this command line tool comes pre-installed on your Mac»; आप Terminal खोलें और fm लिखें (Apple)। Apple इसे स्क्रिप्टिंग और ऑटोमेशन के लिए पेश करता है, «without writing a line of app code» (Apple)।

यह दो मॉडल से बात कर सकता है। डिफ़ॉल्ट रूप से यह «the on-device model that comes with macOS, and that's always available» इस्तेमाल करता है। यह Private Cloud Compute पर Apple Foundation Model भी इस्तेमाल कर सकता है, जिसे Apple «a much bigger model than the on-device model» कहता है, जो «will perform better on complex problems» और जिसकी «has usage limits» (Apple)। ऑन-डिवाइस मॉडल आपके Mac पर चलता है और इंटरनेट कनेक्शन के बिना काम करता है (Apple); Private Cloud Compute को भेजा गया प्रॉम्प्ट Apple के सर्वर पर जाता है।

fm, Apple का सॉफ़्टवेयर है और इसका MLX Network से कोई लेना-देना नहीं है। MLX Network एक स्वतंत्र प्रोजेक्ट है और Apple से जुड़ा नहीं है।

2कमांड

ये वे कमांड और विकल्प हैं जो Apple अपने WWDC26 सेशन में दिखाता है (Apple, Apple):

सेशन से Apple के अपने उदाहरण:

fm respond "Provide a basic regex in Swift to parse an email address"
fm respond "Provide a comprehensive regex in Swift to parse an email address" --model pcc
fm schema object --name AppsIdentified --string app_names --array > schema.json
fm respond "What apps are the user actively using in this screenshot?" \
  --image Screenshot.png --model pcc --schema schema.json
# {"app_names": ["Messages", "Mail", "Calendar"]}
fm respond --help

3क्या चाहिए, और यह कितना डाउनलोड करता है

• macOS 27। fm इसके साथ आता है (Apple)।
• ऐसा Mac जो Apple Intelligence सपोर्ट करे। Apple Foundation Models को इसकी ज़रूरत है (Apple); macOS 27 पर इसका मतलब है M1 या नए चिप वाला कोई भी Mac (Apple)।
• सपोर्टेड भाषा। Apple Intelligence के लिए डिवाइस की भाषा और Siri की भाषा एक ही सपोर्टेड भाषा पर होनी चाहिए, और यह अभी मुख्यभूमि चीन में ख़रीदे गए डिवाइस पर काम नहीं करता (Apple)।
• डिस्क पर ख़ाली जगह Apple Intelligence के लिए, नीचे देखें।

Apple Intelligence चालू करने के बाद मॉडल कुछ देर उपलब्ध नहीं हो सकता: Apple का फ़्रेमवर्क बताता है कि वह तैयार नहीं है «because it's downloading or because of other system reasons» (Apple)।

Python SDK के लिए, जो यही ऑन-डिवाइस मॉडल इस्तेमाल करता है, Apple ने macOS 26.0 या नया, एग्रीमेंट स्वीकार किया हुआ Xcode 26.0 या नया, और Python 3.10 या नया बताया है (Apple), Apple silicon वाले Mac पर (Apple)।

4ऑन-डिवाइस मॉडल किसमें अच्छा है, और कहाँ रुकता है

Apple साफ़ कहता है: ऑन-डिवाइस मॉडल टेक्स्ट बनाने के कई कामों में बेहतरीन हैं, जैसे सारांश, एंटिटी निकालना, टेक्स्ट और इमेज समझना, लिखावट सुधारना, गेम के संवाद और रचनात्मक कंटेंट बनाना; जब आपको ज़्यादा तर्क-क्षमता और बड़ा कॉन्टेक्स्ट चाहिए, तो Private Cloud Compute या कोई भी सर्वर मॉडल प्रदाता इस्तेमाल करें (Apple)।

• छोटी कॉन्टेक्स्ट विंडो। Apple के दस्तावेज़ ऑन-डिवाइस मॉडल को «a context window of 4096 tokens per session» देते हैं (Apple) और Private Cloud Compute के 32K के मुक़ाबले 4K बताते हैं (Apple)। macOS 27 पर WWDC26 सेशन में Apple का कोड सैंपल contextSize का मान 8,192 प्रिंट करता है (Apple)। प्रॉम्प्ट, निर्देश और जवाब सब इसी विंडो को साझा करते हैं।
• इसमें कितना आता है। अंग्रेज़ी में एक टोकन आम तौर पर तीन से चार अक्षर का होता है (Apple), इसलिए 8,192 टोकन इनपुट और आउटपुट मिलाकर लगभग 25,000 से 33,000 अक्षर हैं: कुछ पन्ने, कोई किताब या कोडबेस नहीं।
• छोटे, सरल प्रॉम्प्ट। «An on-device model has fewer parameters and a small context window», इसलिए Apple ऐसे प्रॉम्प्ट चाहता है जो «short and succinct» हों और कहता है कि ऑन-डिवाइस मॉडल «have limited reasoning abilities»: कठिन काम को चरणों में बाँटें (Apple)।
• यह macOS के साथ बदलता है। Apple सिस्टम अपडेट के साथ मॉडल अपडेट करता है; macOS 27 में नया वर्ज़न है (Apple)। अपडेट के बाद किसी स्क्रिप्ट के नतीजे बदल सकते हैं।

Apple इन पन्नों पर ऑन-डिवाइस मॉडल का आकार नहीं बताता, इसलिए हम भी नहीं बताते।

5स्क्रिप्ट और कोड से fm इस्तेमाल करना

fm respond जवाब प्रिंट करता है, इसलिए यह किसी भी shell स्क्रिप्ट में फ़िट हो जाता है। --schema के साथ जवाब JSON होता है, जिसे आप jq को दे सकते हैं। Apple का सेशन इसी तरह एक प्रोजेक्ट फ़ोल्डर व्यवस्थित करता है: मॉडल से पूछता है कि कौन-सी फ़ाइलें फ़ाइनल हैं और कौन-सी ड्राफ़्ट, फिर उन्हें कॉपी और मूव करता है। Apple के सैंपल से छोटा किया हुआ (Apple):

fm schema object --name "TriagedFileList" \
  --string 'final_files' --array \
  --string 'draft_files' --array > /tmp/schema.json

output=$(fm respond \
  --instructions "Return the latest files, then separately all draft files." \
  "This is the list of all files:\n\n${files_list}" \
  --schema /tmp/schema.json
)

echo "${output}" | jq -r '.draft_files[]'

Python के लिए Apple का Foundation Models SDK है, pip install apple_fm_sdk, उसी ऑन-डिवाइस मॉडल, गाइडेड जनरेशन और टूल कॉलिंग के साथ (Apple)। Apple का उदाहरण:

import apple_fm_sdk as fm

model = fm.SystemLanguageModel()
is_available, reason = model.is_available()
if is_available:
    session = fm.LanguageModelSession(model=model)
    response = await session.respond(prompt="Hello!")
    print(response)

कई ऐप और कोडिंग एजेंट इसके बजाय किसी लोकल पोर्ट पर OpenAI या Anthropic स्टाइल का API चाहते हैं। अगर आपको यही चाहिए, तो mlx_lm.server आपके चुने हुए ओपन मॉडल को localhost:8080 पर OpenAI-स्टाइल API से देता है (mlx-lm), और LM Studio का लोकल सर्वर OpenAI और Anthropic फ़ॉर्मैट समझता है (LM Studio)। और विकल्प: Mac पर LLM चलाने के सबसे अच्छे ऐप।

6ओपन मॉडल पर कब जाएँ

छोटे कामों के लिए fm काफ़ी है: किसी नोट का सारांश, फ़ाइल का नाम रखना, टेक्स्ट से फ़ील्ड निकालना, एक झटपट सवाल। यह पहले से Mac पर है और कोई सेटअप नहीं माँगता। ओपन मॉडल तब लें जब इनपुट कुछ हज़ार टोकन में न समाए, जब काम को ज़्यादा तर्क या कोड चाहिए, जब आप ख़ुद मॉडल चुनना चाहें, या जब किसी टूल को API चाहिए।

ओपन मॉडल आपके Mac के GPU पर चलता है, और क्या समाएगा यह यूनिफ़ाइड मेमोरी तय करती है। हमारा Compare हिसाब डिफ़ॉल्ट रूप से GPU को लगभग 75% देता है और कॉन्टेक्स्ट के लिए जगह छोड़ता है:

इन मॉडल के कार्ड कहीं लंबी कॉन्टेक्स्ट विंडो बताते हैं, Llama 3.1 8B के लिए 128K टोकन और Qwen3.6 35B A3B के लिए 262,144, हालाँकि लंबे कॉन्टेक्स्ट को ऊपर गिनी गई जगह से ज़्यादा मेमोरी चाहिए। पता नहीं आपके Mac में क्या है? Apple मेनू, «इस Mac के बारे में», फिर चिप के हिसाब से Mac देखें।

mlx-lm इन्हें चलाने का एक तरीक़ा है: Apple के अपने MLX टूल Hugging Face से MLX मॉडल डाउनलोड करते हैं, Terminal में उनसे चैट करते हैं और ऊपर बताया गया लोकल API देते हैं। LM Studio और Ollama यही काम एक ऐप में करते हैं (Mac पर LLM चलाने के सबसे अच्छे ऐप)। जब आप Mac इस्तेमाल नहीं कर रहे होते, तब MLX Node आपकी तय की गई सीमाओं के भीतर MLX Network के लिए AI जॉब चला सकता है और जाँचे गए काम के लिए MLX टोकन कमाता है। MLX टोकन की कीमत गिर सकती है; जोखिम पढ़ें।

7सवाल

क्या macOS का fm कमांड मुफ़्त है?

यह macOS 27 में पहले से इंस्टॉल आता है और डिफ़ॉल्ट रूप से macOS के साथ आने वाला ऑन-डिवाइस मॉडल इस्तेमाल करता है। बड़े Private Cloud Compute मॉडल की इस्तेमाल की सीमाएँ हैं (Apple)।

क्या fm ऑफ़लाइन काम करता है?

ऑन-डिवाइस मॉडल के साथ, हाँ: Apple कहता है कि यह इंटरनेट कनेक्शन के बिना काम करता है (Apple)। पहले Apple Intelligence डाउनलोड होना ज़रूरी है, और --model pcc या fm chat में /model Apple के सर्वर इस्तेमाल करते हैं।

fm कितना लंबा प्रॉम्प्ट ले सकता है?

प्रॉम्प्ट, निर्देश और जवाब एक ही कॉन्टेक्स्ट विंडो साझा करते हैं: Apple के दस्तावेज़ों में 4,096 टोकन और macOS 27 के लिए Apple के WWDC26 सैंपल में 8,192 (Apple)। अंग्रेज़ी में यह लगभग तीन से चार अक्षर प्रति टोकन है।

क्या fm, OpenAI-संगत API देता है?

Apple के WWDC26 सेशन और हमारे पढ़े हुए Foundation Models दस्तावेज़ किसी सर्वर मोड के बारे में नहीं बताते, इसलिए हम पुष्टि नहीं कर सकते कि वह कैसे काम करता है। दस्तावेज़ वाले लोकल API के लिए mlx_lm.server ओपन मॉडल को localhost:8080 पर OpenAI स्टाइल में देता है, और LM Studio OpenAI और Anthropic फ़ॉर्मैट में।

कौन-से Mac, fm इस्तेमाल कर सकते हैं?

macOS 27 वाले वे Mac जो Apple Intelligence सपोर्ट करते हैं: M1 या नए चिप वाला कोई भी Mac, सपोर्टेड भाषा पर सेट, और 14 GB तक (M3 या नया, 12 GB या ज़्यादा मेमोरी के साथ) या 8 GB तक ख़ाली स्टोरेज के साथ (Apple)।