macOS-এর fm কমান্ড: Terminal-এ Apple-এর লোকাল LLM।

1fm কী

fm হলো Apple Foundation Models-এর জন্য Apple-এর কমান্ড লাইন টুল, অর্থাৎ Apple Intelligence-এর পেছনের মডেলগুলো। Apple তার WWDC26 সেশনে বলে: «Starting from macOS 27, this command line tool comes pre-installed on your Mac»; Terminal খুলে fm লিখুন (Apple)। Apple এটিকে স্ক্রিপ্টিং আর অটোমেশনের জন্য উপস্থাপন করে, «without writing a line of app code» (Apple)।

এটি দুটি মডেলের সঙ্গে কথা বলতে পারে। ডিফল্টভাবে এটি «the on-device model that comes with macOS, and that's always available» ব্যবহার করে। এটি Private Cloud Compute-এর Apple Foundation Model-ও ব্যবহার করতে পারে, যাকে Apple বলে «a much bigger model than the on-device model», যা «will perform better on complex problems» এবং যার «has usage limits» (Apple)। অন-ডিভাইস মডেল আপনার Mac-এ চলে এবং ইন্টারনেট সংযোগ ছাড়াই কাজ করে (Apple); Private Cloud Compute-এ পাঠানো প্রম্পট Apple-এর সার্ভারে যায়।

fm হলো Apple-এর সফটওয়্যার, MLX Network-এর সঙ্গে এর কোনো সম্পর্ক নেই। MLX Network একটি স্বাধীন প্রকল্প, Apple-এর সঙ্গে যুক্ত নয়।

2কমান্ডগুলো

Apple তার WWDC26 সেশনে যে কমান্ড আর অপশন দেখায় (Apple, Apple):

সেশন থেকে Apple-এর নিজের উদাহরণ:

fm respond "Provide a basic regex in Swift to parse an email address"
fm respond "Provide a comprehensive regex in Swift to parse an email address" --model pcc
fm schema object --name AppsIdentified --string app_names --array > schema.json
fm respond "What apps are the user actively using in this screenshot?" \
  --image Screenshot.png --model pcc --schema schema.json
# {"app_names": ["Messages", "Mail", "Calendar"]}
fm respond --help

3কী লাগে, আর কতটা ডাউনলোড হয়

• macOS 27। fm এর সঙ্গেই আসে (Apple)।
• Apple Intelligence সাপোর্ট করে এমন Mac। Apple Foundation Models-এর এটি লাগে (Apple); macOS 27-এ মানে M1 বা নতুন চিপের যেকোনো Mac (Apple)।
• সাপোর্টেড ভাষা। Apple Intelligence-এর জন্য ডিভাইসের ভাষা আর Siri-র ভাষা একই সাপোর্টেড ভাষায় থাকতে হবে, আর এটি এখন মূল ভূখণ্ডের চীনে কেনা ডিভাইসে কাজ করে না (Apple)।
• ডিস্কে খালি জায়গা Apple Intelligence-এর জন্য, নিচে দেখুন।

Apple Intelligence চালু করার পর কিছুক্ষণ মডেল পাওয়া না-ও যেতে পারে: Apple-এর ফ্রেমওয়ার্ক জানায় এটি তৈরি নয় «because it's downloading or because of other system reasons» (Apple)।

একই অন-ডিভাইস মডেল ব্যবহার করা Python SDK-র জন্য Apple macOS 26.0 বা নতুন, চুক্তি গ্রহণ করা Xcode 26.0 বা নতুন, আর Python 3.10 বা নতুন উল্লেখ করে (Apple), Apple silicon-এর Mac-এ (Apple)।

4অন-ডিভাইস মডেল কোথায় ভালো, আর কোথায় থামে

Apple স্পষ্ট বলে: অন-ডিভাইস মডেল লেখা তৈরির নানা কাজে দারুণ, যেমন সারাংশ, এনটিটি বের করা, লেখা আর ছবি বোঝা, লেখা মসৃণ করা, গেমের সংলাপ আর সৃজনশীল কনটেন্ট তৈরি; যখন বেশি যুক্তিক্ষমতা আর বড় কনটেক্সট লাগে, তখন Private Cloud Compute বা যেকোনো সার্ভার মডেল প্রদানকারী ব্যবহার করুন (Apple)।

• ছোট কনটেক্সট উইন্ডো। Apple-এর ডকুমেন্টেশন অন-ডিভাইস মডেলকে «a context window of 4096 tokens per session» দেয় (Apple) আর Private Cloud Compute-এর 32K-এর তুলনায় 4K তালিকাভুক্ত করে (Apple)। macOS 27 নিয়ে WWDC26 সেশনে Apple-এর কোড নমুনা contextSize-এর মান 8,192 প্রিন্ট করে (Apple)। প্রম্পট, নির্দেশনা আর উত্তর সবাই এই উইন্ডো ভাগ করে।
• এতে কতটা ধরে। ইংরেজিতে একটি টোকেন সাধারণত তিন থেকে চার অক্ষরের (Apple), তাই 8,192 টোকেন মানে ইনপুট আর আউটপুট মিলিয়ে মোটামুটি 25,000 থেকে 33,000 অক্ষর: কয়েক পাতা, কোনো বই বা কোডবেস নয়।
• ছোট, সহজ প্রম্পট। «An on-device model has fewer parameters and a small context window», তাই Apple চায় প্রম্পট হোক «short and succinct» আর বলে অন-ডিভাইস মডেল «have limited reasoning abilities»: কঠিন কাজকে ধাপে ভাগ করুন (Apple)।
• এটি macOS-এর সঙ্গে বদলায়। Apple সিস্টেম আপডেটের সঙ্গে মডেল আপডেট করে; macOS 27-এ নতুন ভার্সন আছে (Apple)। আপডেটের পর কোনো স্ক্রিপ্টের ফলাফল বদলে যেতে পারে।

Apple এই পাতাগুলোতে অন-ডিভাইস মডেলের আকার জানায় না, তাই আমরাও জানাই না।

5স্ক্রিপ্ট আর কোড থেকে fm ব্যবহার

fm respond উত্তর প্রিন্ট করে, তাই এটি যেকোনো shell স্ক্রিপ্টে বসে যায়। --schema দিলে উত্তর হয় JSON, যা আপনি jq-কে দিতে পারেন। Apple-এর সেশন এভাবে একটি প্রজেক্ট ফোল্ডার গোছায়: মডেলকে জিজ্ঞেস করে কোন ফাইলগুলো চূড়ান্ত আর কোনগুলো খসড়া, তারপর সেগুলো কপি ও সরিয়ে রাখে। Apple-এর নমুনা থেকে সংক্ষেপিত (Apple):

fm schema object --name "TriagedFileList" \
  --string 'final_files' --array \
  --string 'draft_files' --array > /tmp/schema.json

output=$(fm respond \
  --instructions "Return the latest files, then separately all draft files." \
  "This is the list of all files:\n\n${files_list}" \
  --schema /tmp/schema.json
)

echo "${output}" | jq -r '.draft_files[]'

Python-এর জন্য আছে Apple-এর Foundation Models SDK, pip install apple_fm_sdk, একই অন-ডিভাইস মডেল, গাইডেড জেনারেশন আর টুল কলিংসহ (Apple)। Apple-এর উদাহরণ:

import apple_fm_sdk as fm

model = fm.SystemLanguageModel()
is_available, reason = model.is_available()
if is_available:
    session = fm.LanguageModelSession(model=model)
    response = await session.respond(prompt="Hello!")
    print(response)

অনেক অ্যাপ আর কোডিং এজেন্ট এর বদলে কোনো লোকাল পোর্টে OpenAI বা Anthropic ধাঁচের API চায়। আপনার যদি সেটাই লাগে, mlx_lm.server আপনার বেছে নেওয়া ওপেন মডেল localhost:8080-এ OpenAI-ধাঁচের API-তে দেয় (mlx-lm), আর LM Studio-র লোকাল সার্ভার OpenAI ও Anthropic ফরম্যাট বোঝে (LM Studio)। আরও বিকল্প: Mac-এ LLM চালানোর সেরা অ্যাপ।

6কখন ওপেন মডেলে যাবেন

ছোট কাজের জন্য fm যথেষ্ট: একটি নোটের সারাংশ, ফাইলের নাম দেওয়া, লেখা থেকে ফিল্ড বের করা, একটি দ্রুত প্রশ্ন। এটি আগে থেকেই Mac-এ আছে আর কোনো সেটআপ লাগে না। ইনপুট কয়েক হাজার টোকেনে না ধরলে, কাজে বেশি যুক্তি বা কোড লাগলে, নিজে মডেল বেছে নিতে চাইলে, বা কোনো টুলের API লাগলে ওপেন মডেল নিন।

ওপেন মডেল আপনার Mac-এর GPU-তে চলে, আর কী ধরবে তা ঠিক করে ইউনিফায়েড মেমরি। আমাদের Compare হিসাব ডিফল্টভাবে GPU-কে প্রায় 75% দেয় আর কনটেক্সটের জন্য জায়গা রাখে:

এই মডেলগুলোর কার্ডে অনেক লম্বা কনটেক্সট উইন্ডো দেওয়া আছে, Llama 3.1 8B-এর জন্য 128K টোকেন আর Qwen3.6 35B A3B-এর জন্য 262,144, যদিও লম্বা কনটেক্সটে ওপরে গোনা জায়গার চেয়ে বেশি মেমরি লাগে। আপনার Mac-এ কী আছে জানেন না? Apple মেনু, «এই Mac সম্পর্কে», তারপর চিপ অনুযায়ী Mac দেখুন।

mlx-lm এগুলো চালানোর একটি উপায়: Apple-এর নিজের MLX টুল Hugging Face থেকে MLX মডেল ডাউনলোড করে, Terminal-এ সেগুলোর সঙ্গে চ্যাট করে আর ওপরের লোকাল API দেয়। LM Studio আর Ollama একই কাজ একটি অ্যাপে করে (Mac-এ LLM চালানোর সেরা অ্যাপ)। আপনি Mac ব্যবহার না করলে MLX Node আপনার ঠিক করা সীমার মধ্যে MLX Network-এর জন্য AI জব চালাতে পারে আর যাচাই করা কাজের জন্য MLX টোকেন আয় করে। MLX টোকেনের দাম কমে যেতে পারে; ঝুঁকি পড়ুন।

7প্রশ্নোত্তর

macOS-এর fm কমান্ড কি বিনামূল্যে?

এটি macOS 27-এ আগে থেকেই ইনস্টল থাকে এবং ডিফল্টভাবে macOS-এর সঙ্গে আসা অন-ডিভাইস মডেল ব্যবহার করে। বড় Private Cloud Compute মডেলের ব্যবহারের সীমা আছে (Apple)।

fm কি অফলাইনে কাজ করে?

অন-ডিভাইস মডেলে, হ্যাঁ: Apple বলে এটি ইন্টারনেট সংযোগ ছাড়াই কাজ করে (Apple)। আগে Apple Intelligence ডাউনলোড হতে হবে, আর --model pcc বা fm chat-এর ভেতরের /model Apple-এর সার্ভার ব্যবহার করে।

fm কত লম্বা প্রম্পট নিতে পারে?

প্রম্পট, নির্দেশনা আর উত্তর একটি কনটেক্সট উইন্ডো ভাগ করে: Apple-এর ডকুমেন্টেশনে 4,096 টোকেন আর macOS 27-এর জন্য Apple-এর WWDC26 নমুনায় 8,192 (Apple)। ইংরেজিতে এটি মোটামুটি টোকেনপ্রতি তিন থেকে চার অক্ষর।

fm কি OpenAI-সামঞ্জস্যপূর্ণ API দেয়?

Apple-এর WWDC26 সেশন আর আমাদের পড়া Foundation Models ডকুমেন্টেশন কোনো সার্ভার মোডের বর্ণনা দেয় না, তাই এটি কীভাবে কাজ করে আমরা নিশ্চিত করতে পারি না। ডকুমেন্টেড লোকাল API-র জন্য mlx_lm.server ওপেন মডেল localhost:8080-এ OpenAI ধাঁচে দেয়, আর LM Studio দেয় OpenAI ও Anthropic ফরম্যাটে।

কোন Mac-গুলো fm ব্যবহার করতে পারে?

macOS 27 চালানো যেসব Mac Apple Intelligence সাপোর্ট করে: M1 বা নতুন চিপের যেকোনো Mac, সাপোর্টেড ভাষায় সেট করা, আর 14 GB পর্যন্ত (M3 বা নতুন, 12 GB বা বেশি মেমরিসহ) বা 8 GB পর্যন্ত খালি স্টোরেজসহ (Apple)।