macOS کا fm کمانڈ: Terminal میں Apple کا مقامی LLM۔

1fm کیا ہے

fm، Apple Foundation Models کے لیے Apple کا کمانڈ لائن ٹول ہے، یعنی وہ ماڈل جو Apple Intelligence کے پیچھے ہیں۔ Apple اس پر اپنے WWDC26 سیشن میں کہتا ہے: «Starting from macOS 27, this command line tool comes pre-installed on your Mac»؛ آپ Terminal کھولیں اور fm لکھیں (Apple)۔ Apple اسے اسکرپٹنگ اور آٹومیشن کے لیے پیش کرتا ہے، «without writing a line of app code» (Apple)۔

یہ دو ماڈلز سے بات کر سکتا ہے۔ ڈیفالٹ طور پر یہ «the on-device model that comes with macOS, and that's always available» استعمال کرتا ہے۔ یہ Private Cloud Compute پر Apple Foundation Model بھی استعمال کر سکتا ہے، جسے Apple «a much bigger model than the on-device model» کہتا ہے، جو «will perform better on complex problems» اور جس کی «has usage limits» (Apple)۔ ڈیوائس والا ماڈل آپ کے Mac پر چلتا ہے اور انٹرنیٹ کنکشن کے بغیر کام کرتا ہے (Apple)؛ Private Cloud Compute کو بھیجا گیا پرامپٹ Apple کے سرورز پر جاتا ہے۔

fm، Apple کا سافٹ ویئر ہے اور اس کا MLX Network سے کوئی تعلق نہیں۔ MLX Network ایک آزاد منصوبہ ہے اور Apple سے وابستہ نہیں۔

2کمانڈز

یہ وہ کمانڈز اور آپشنز ہیں جو Apple اپنے WWDC26 سیشنز میں دکھاتا ہے (Apple، Apple):

سیشن سے Apple کی اپنی مثالیں:

fm respond "Provide a basic regex in Swift to parse an email address"
fm respond "Provide a comprehensive regex in Swift to parse an email address" --model pcc
fm schema object --name AppsIdentified --string app_names --array > schema.json
fm respond "What apps are the user actively using in this screenshot?" \
  --image Screenshot.png --model pcc --schema schema.json
# {"app_names": ["Messages", "Mail", "Calendar"]}
fm respond --help

3کیا چاہیے، اور یہ کتنا ڈاؤن لوڈ کرتا ہے

• macOS 27۔ fm اس کے ساتھ آتا ہے (Apple)۔
• ایسا Mac جو Apple Intelligence سپورٹ کرے۔ Apple Foundation Models کو اس کی ضرورت ہے (Apple)؛ macOS 27 پر اس کا مطلب ہے M1 یا نئے چپ والا کوئی بھی Mac (Apple)۔
• سپورٹڈ زبان۔ Apple Intelligence کے لیے ڈیوائس کی زبان اور Siri کی زبان ایک ہی سپورٹڈ زبان پر ہونی چاہیے، اور یہ فی الحال مین لینڈ چین میں خریدے گئے ڈیوائسز پر کام نہیں کرتا (Apple)۔
• ڈسک پر خالی جگہ Apple Intelligence کے لیے، نیچے دیکھیں۔

Apple Intelligence آن کرنے کے بعد ماڈل کچھ دیر دستیاب نہیں ہو سکتا: Apple کا فریم ورک بتاتا ہے کہ یہ تیار نہیں «because it's downloading or because of other system reasons» (Apple)۔

Python SDK کے لیے، جو یہی ڈیوائس والا ماڈل استعمال کرتا ہے، Apple نے macOS 26.0 یا نیا، معاہدہ قبول کیے ہوئے Xcode 26.0 یا نیا، اور Python 3.10 یا نیا درج کیا ہے (Apple)، Apple silicon والے Mac پر (Apple)۔

4ڈیوائس والا ماڈل کس میں اچھا ہے، اور کہاں رکتا ہے

Apple صاف کہتا ہے: ڈیوائس والے ماڈل متن بنانے کے بہت سے کاموں میں بہترین ہیں، جیسے خلاصہ، اینٹٹیز نکالنا، متن اور تصویر سمجھنا، تحریر نکھارنا، گیمز کے مکالمے اور تخلیقی مواد بنانا؛ جب آپ کو زیادہ استدلال اور بڑا کانٹیکسٹ چاہیے تو Private Cloud Compute یا کوئی بھی سرور ماڈل فراہم کنندہ استعمال کریں (Apple)۔

• چھوٹی کانٹیکسٹ ونڈو۔ Apple کی دستاویزات ڈیوائس والے ماڈل کو «a context window of 4096 tokens per session» دیتی ہیں (Apple) اور Private Cloud Compute کے 32K کے مقابلے میں 4K درج کرتی ہیں (Apple)۔ macOS 27 پر WWDC26 سیشن میں Apple کا کوڈ نمونہ contextSize کی قدر 8,192 پرنٹ کرتا ہے (Apple)۔ پرامپٹ، ہدایات اور جواب سب اسی ونڈو میں شریک ہیں۔
• اس میں کتنا آتا ہے۔ انگریزی میں ایک ٹوکن عام طور پر تین سے چار حروف کا ہوتا ہے (Apple)، اس لیے 8,192 ٹوکنز ان پٹ اور آؤٹ پٹ ملا کر تقریباً 25,000 سے 33,000 حروف ہیں: چند صفحے، کوئی کتاب یا کوڈ بیس نہیں۔
• مختصر، سادہ پرامپٹ۔ «An on-device model has fewer parameters and a small context window»، اس لیے Apple ایسے پرامپٹ مانگتا ہے جو «short and succinct» ہوں اور کہتا ہے کہ ڈیوائس والے ماڈل «have limited reasoning abilities»: مشکل کام کو مرحلوں میں بانٹیں (Apple)۔
• یہ macOS کے ساتھ بدلتا ہے۔ Apple سسٹم اپڈیٹس کے ساتھ ماڈل اپڈیٹ کرتا ہے؛ macOS 27 میں نیا ورژن ہے (Apple)۔ اپڈیٹ کے بعد کسی اسکرپٹ کے نتائج بدل سکتے ہیں۔

Apple ان صفحات پر ڈیوائس والے ماڈل کا سائز نہیں بتاتا، اس لیے ہم بھی نہیں بتاتے۔

5اسکرپٹس اور کوڈ سے fm استعمال کرنا

fm respond جواب پرنٹ کرتا ہے، اس لیے یہ کسی بھی shell اسکرپٹ میں آ جاتا ہے۔ --schema کے ساتھ جواب JSON ہوتا ہے جسے آپ jq کو دے سکتے ہیں۔ Apple کا سیشن اسی طرح ایک پروجیکٹ فولڈر ترتیب دیتا ہے: ماڈل سے پوچھتا ہے کہ کون سی فائلیں حتمی ہیں اور کون سی ڈرافٹ، پھر انہیں کاپی اور منتقل کرتا ہے۔ Apple کے نمونے سے مختصر (Apple):

fm schema object --name "TriagedFileList" \
  --string 'final_files' --array \
  --string 'draft_files' --array > /tmp/schema.json

output=$(fm respond \
  --instructions "Return the latest files, then separately all draft files." \
  "This is the list of all files:\n\n${files_list}" \
  --schema /tmp/schema.json
)

echo "${output}" | jq -r '.draft_files[]'

Python کے لیے Apple کا Foundation Models SDK ہے، pip install apple_fm_sdk، اسی ڈیوائس والے ماڈل، گائیڈڈ جنریشن اور ٹول کالنگ کے ساتھ (Apple)۔ Apple کی مثال:

import apple_fm_sdk as fm

model = fm.SystemLanguageModel()
is_available, reason = model.is_available()
if is_available:
    session = fm.LanguageModelSession(model=model)
    response = await session.respond(prompt="Hello!")
    print(response)

بہت سی ایپس اور کوڈنگ ایجنٹ اس کے بجائے کسی مقامی پورٹ پر OpenAI یا Anthropic طرز کا API چاہتے ہیں۔ اگر آپ کو یہی چاہیے تو mlx_lm.server آپ کا چنا ہوا اوپن ماڈل localhost:8080 پر OpenAI طرز کے API کے ذریعے پیش کرتا ہے (mlx-lm)، اور LM Studio کا مقامی سرور OpenAI اور Anthropic فارمیٹس سپورٹ کرتا ہے (LM Studio)۔ مزید آپشنز: Mac پر LLM چلانے کی بہترین ایپس۔

6اوپن ماڈل پر کب جائیں

مختصر کاموں کے لیے fm کافی ہے: کسی نوٹ کا خلاصہ، فائل کا نام رکھنا، متن سے فیلڈز نکالنا، ایک فوری سوال۔ یہ پہلے سے Mac پر ہے اور سیٹ اپ نہیں مانگتا۔ اوپن ماڈل تب لیں جب ان پٹ چند ہزار ٹوکنز میں نہ آئے، جب کام کو زیادہ استدلال یا کوڈ چاہیے، جب آپ خود ماڈل چننا چاہیں، یا جب کسی ٹول کو API چاہیے۔

اوپن ماڈل آپ کے Mac کے GPU پر چلتا ہے، اور کیا سمائے گا یہ یونیفائیڈ میموری طے کرتی ہے۔ ہمارا Compare حساب ڈیفالٹ طور پر GPU کو تقریباً 75% دیتا ہے اور کانٹیکسٹ کے لیے جگہ چھوڑتا ہے:

ان ماڈلز کے کارڈز کہیں لمبی کانٹیکسٹ ونڈوز درج کرتے ہیں، Llama 3.1 8B کے لیے 128K ٹوکنز اور Qwen3.6 35B A3B کے لیے 262,144، اگرچہ لمبے کانٹیکسٹ کو اوپر گنی گئی جگہ سے زیادہ میموری چاہیے۔ معلوم نہیں آپ کے Mac میں کیا ہے؟ Apple مینو، «اس Mac کے بارے میں»، پھر چپ کے لحاظ سے Mac دیکھیں۔

mlx-lm انہیں چلانے کا ایک طریقہ ہے: Apple کے اپنے MLX ٹولز Hugging Face سے MLX ماڈلز ڈاؤن لوڈ کرتے ہیں، Terminal میں ان سے چیٹ کرتے ہیں اور اوپر والا مقامی API پیش کرتے ہیں۔ LM Studio اور Ollama یہی کام ایک ایپ میں کرتی ہیں (Mac پر LLM چلانے کی بہترین ایپس)۔ جب آپ Mac استعمال نہیں کر رہے ہوتے تو MLX Node آپ کی مقرر کردہ حدود کے اندر MLX Network کے لیے AI کام چلا سکتا ہے اور تصدیق شدہ کام پر MLX ٹوکن کماتا ہے۔ MLX ٹوکن اپنی قدر کھو سکتے ہیں؛ خطرات پڑھیں۔

7سوالات

کیا macOS کا fm کمانڈ مفت ہے؟

یہ macOS 27 کے ساتھ پہلے سے انسٹال ہوتا ہے اور ڈیفالٹ طور پر macOS کے ساتھ آنے والا ڈیوائس ماڈل استعمال کرتا ہے۔ بڑے Private Cloud Compute ماڈل کی استعمال کی حدیں ہیں (Apple)۔

کیا fm آف لائن کام کرتا ہے؟

ڈیوائس والے ماڈل کے ساتھ، ہاں: Apple کہتا ہے کہ یہ انٹرنیٹ کنکشن کے بغیر کام کرتا ہے (Apple)۔ پہلے Apple Intelligence ڈاؤن لوڈ ہونا ضروری ہے، اور --model pcc یا fm chat میں /model Apple کے سرورز استعمال کرتے ہیں۔

fm کتنا لمبا پرامپٹ لے سکتا ہے؟

پرامپٹ، ہدایات اور جواب ایک ہی کانٹیکسٹ ونڈو میں شریک ہیں: Apple کی دستاویزات میں 4,096 ٹوکنز اور macOS 27 کے لیے Apple کے WWDC26 نمونے میں 8,192 (Apple)۔ انگریزی میں یہ تقریباً تین سے چار حروف فی ٹوکن ہے۔

کیا fm، OpenAI سے مطابقت رکھنے والا API دیتا ہے؟

Apple کے WWDC26 سیشنز اور ہماری پڑھی ہوئی Foundation Models دستاویزات کسی سرور موڈ کو بیان نہیں کرتیں، اس لیے ہم تصدیق نہیں کر سکتے کہ وہ کیسے کام کرتا ہے۔ دستاویزی مقامی API کے لیے mlx_lm.server اوپن ماڈلز کو localhost:8080 پر OpenAI طرز میں پیش کرتا ہے، اور LM Studio انہیں OpenAI اور Anthropic فارمیٹس میں۔

کون سے Mac، fm استعمال کر سکتے ہیں؟

macOS 27 والے وہ Mac جو Apple Intelligence سپورٹ کرتے ہیں: M1 یا نئے چپ والا کوئی بھی Mac، سپورٹڈ زبان پر سیٹ، اور 14 GB تک (M3 یا نیا، 12 GB یا زیادہ میموری کے ساتھ) یا 8 GB تک خالی اسٹوریج کے ساتھ (Apple)۔