macOS fm கட்டளை: Terminal-இல் Apple-இன் லோக்கல் LLM.

1fm என்றால் என்ன

fm என்பது Apple Foundation Models-க்கான Apple-இன் கட்டளை வரி கருவி, அதாவது Apple Intelligence-இன் பின்னால் உள்ள மாடல்கள். Apple தனது WWDC26 அமர்வில் சொல்கிறது: «Starting from macOS 27, this command line tool comes pre-installed on your Mac»; Terminal-ஐத் திறந்து fm என்று தட்டச்சு செய்தால் போதும் (Apple). ஸ்கிரிப்டிங் மற்றும் தானியக்கத்துக்காக Apple இதை வழங்குகிறது, «without writing a line of app code» (Apple).

இது இரண்டு மாடல்களுடன் பேசலாம். இயல்பாக «the on-device model that comes with macOS, and that's always available» ஐப் பயன்படுத்துகிறது. Private Cloud Compute-இல் உள்ள Apple Foundation Model-ஐயும் பயன்படுத்தலாம்; Apple அதை «a much bigger model than the on-device model» என்கிறது, அது «will perform better on complex problems», மேலும் «has usage limits» (Apple). சாதன மாடல் உங்கள் Mac-இல் இயங்குகிறது, இணைய இணைப்பு இல்லாமலும் வேலை செய்கிறது (Apple); Private Cloud Compute-க்கு அனுப்பப்படும் ப்ராம்ப்ட் Apple-இன் சர்வர்களுக்குச் செல்கிறது.

fm என்பது Apple-இன் மென்பொருள்; அதற்கும் MLX Network-க்கும் எந்தத் தொடர்பும் இல்லை. MLX Network ஒரு சுதந்திரத் திட்டம்; Apple-உடன் இணைந்ததல்ல.

2கட்டளைகள்

Apple தனது WWDC26 அமர்வுகளில் காட்டும் கட்டளைகளும் விருப்பங்களும் இவை (Apple, Apple):

அமர்விலிருந்து Apple-இன் சொந்த எடுத்துக்காட்டுகள்:

fm respond "Provide a basic regex in Swift to parse an email address"
fm respond "Provide a comprehensive regex in Swift to parse an email address" --model pcc
fm schema object --name AppsIdentified --string app_names --array > schema.json
fm respond "What apps are the user actively using in this screenshot?" \
  --image Screenshot.png --model pcc --schema schema.json
# {"app_names": ["Messages", "Mail", "Calendar"]}
fm respond --help

3என்ன தேவை, எவ்வளவு பதிவிறக்கம் ஆகும்

• macOS 27. fm அதனுடன் வருகிறது (Apple).
• Apple Intelligence-ஐ ஆதரிக்கும் Mac. Apple Foundation Models-க்கு அது தேவை (Apple); macOS 27 இல் அது M1 அல்லது புதிய சிப் கொண்ட எந்த Mac-உம் (Apple).
• ஆதரிக்கப்படும் மொழி. Apple Intelligence-க்கு சாதன மொழியும் Siri மொழியும் ஒரே ஆதரிக்கப்படும் மொழியில் இருக்க வேண்டும்; தற்போது சீனப் பெருநிலத்தில் வாங்கிய சாதனங்களில் அது வேலை செய்யாது (Apple).
• டிஸ்க்கில் காலி இடம் Apple Intelligence-க்கு, கீழே பாருங்கள்.

Apple Intelligence-ஐ இயக்கிய பிறகு சிறிது நேரம் மாடல் கிடைக்காமல் இருக்கலாம்: Apple-இன் ஃப்ரேம்வொர்க் அது தயாராக இல்லை என்று தெரிவிக்கிறது «because it's downloading or because of other system reasons» (Apple).

அதே சாதன மாடலைப் பயன்படுத்தும் Python SDK-க்கு, Apple macOS 26.0 அல்லது புதியது, ஒப்பந்தம் ஏற்கப்பட்ட Xcode 26.0 அல்லது புதியது, Python 3.10 அல்லது புதியது ஆகியவற்றைக் குறிப்பிடுகிறது (Apple); Apple silicon கொண்ட Mac-இல் (Apple).

4சாதன மாடல் எதில் சிறந்தது, எங்கே நிற்கிறது

Apple தெளிவாகச் சொல்கிறது: சுருக்கம், உட்பொருள் பிரித்தெடுத்தல், உரை மற்றும் படப் புரிதல், எழுத்தைச் செம்மைப்படுத்தல், விளையாட்டு உரையாடல், படைப்பு உள்ளடக்கம் உருவாக்குதல் போன்ற பல உரை உருவாக்கப் பணிகளில் சாதன மாடல்கள் சிறந்தவை; அதிக பகுத்தறிவுத் திறனும் பெரிய கான்டெக்ஸ்ட்டும் தேவைப்படும்போது Private Cloud Compute அல்லது எந்த சர்வர் மாடல் வழங்குநரையும் பயன்படுத்துங்கள் (Apple).

• சிறிய கான்டெக்ஸ்ட் சாளரம். Apple ஆவணங்கள் சாதன மாடலுக்கு «a context window of 4096 tokens per session» தருகின்றன (Apple), Private Cloud Compute-இன் 32K-க்கு எதிராக 4K எனப் பட்டியலிடுகின்றன (Apple). macOS 27 பற்றிய WWDC26 அமர்வில் Apple-இன் குறியீட்டு மாதிரி contextSize மதிப்பை 8,192 என அச்சிடுகிறது (Apple). ப்ராம்ப்ட், அறிவுறுத்தல்கள், பதில் அனைத்தும் இந்தச் சாளரத்தைப் பகிர்கின்றன.
• அதில் எவ்வளவு அடங்கும். ஆங்கிலத்தில் ஒரு டோக்கன் பொதுவாக மூன்று முதல் நான்கு எழுத்துகள் (Apple), எனவே 8,192 டோக்கன்கள் என்பது உள்ளீடும் வெளியீடும் சேர்த்து ஏறக்குறைய 25,000 முதல் 33,000 எழுத்துகள்: சில பக்கங்கள், ஒரு புத்தகமோ குறியீட்டுத் தளமோ அல்ல.
• குறுகிய, எளிய ப்ராம்ப்ட்கள். «An on-device model has fewer parameters and a small context window», எனவே Apple ப்ராம்ப்ட்கள் «short and succinct» ஆக இருக்கக் கேட்கிறது, சாதன மாடல்கள் «have limited reasoning abilities» என்கிறது: கடினமான பணியைப் படிகளாகப் பிரியுங்கள் (Apple).
• அது macOS உடன் மாறுகிறது. Apple சிஸ்டம் புதுப்பிப்புகளுடன் மாடலைப் புதுப்பிக்கிறது; macOS 27 இல் புதிய பதிப்பு உள்ளது (Apple). புதுப்பிப்புக்குப் பிறகு ஸ்கிரிப்ட்டின் முடிவுகள் மாறலாம்.

இந்தப் பக்கங்களில் Apple சாதன மாடலின் அளவைச் சொல்லவில்லை, எனவே நாங்களும் சொல்லவில்லை.

5ஸ்கிரிப்ட்டுகள் மற்றும் குறியீட்டிலிருந்து fm-ஐப் பயன்படுத்துதல்

fm respond பதிலை அச்சிடுவதால், அது எந்த shell ஸ்கிரிப்ட்டிலும் பொருந்தும். --schema உடன் பதில் JSON ஆக இருக்கும், அதை jq-க்கு அனுப்பலாம். Apple-இன் அமர்வு இப்படித்தான் ஒரு திட்டக் கோப்புறையை ஒழுங்குபடுத்துகிறது: எந்தக் கோப்புகள் இறுதி, எவை வரைவு என்று மாடலிடம் கேட்டு, பிறகு அவற்றை நகலெடுத்து நகர்த்துகிறது. Apple-இன் மாதிரியிலிருந்து சுருக்கியது (Apple):

fm schema object --name "TriagedFileList" \
  --string 'final_files' --array \
  --string 'draft_files' --array > /tmp/schema.json

output=$(fm respond \
  --instructions "Return the latest files, then separately all draft files." \
  "This is the list of all files:\n\n${files_list}" \
  --schema /tmp/schema.json
)

echo "${output}" | jq -r '.draft_files[]'

Python-க்கு Apple-இன் Foundation Models SDK உள்ளது, pip install apple_fm_sdk; அதே சாதன மாடல், வழிகாட்டப்பட்ட உருவாக்கம், கருவி அழைப்பு ஆகியவற்றுடன் (Apple). Apple-இன் எடுத்துக்காட்டு:

import apple_fm_sdk as fm

model = fm.SystemLanguageModel()
is_available, reason = model.is_available()
if is_available:
    session = fm.LanguageModelSession(model=model)
    response = await session.respond(prompt="Hello!")
    print(response)

பல ஆப்களும் கோடிங் ஏஜென்ட்களும் அதற்குப் பதிலாக லோக்கல் போர்ட்டில் OpenAI அல்லது Anthropic பாணி API-ஐ எதிர்பார்க்கின்றன. உங்களுக்கு அதுதான் தேவை என்றால், நீங்கள் தேர்ந்தெடுக்கும் ஓப்பன் மாடலை mlx_lm.server localhost:8080 இல் OpenAI பாணி API வழியாக வழங்குகிறது (mlx-lm), LM Studio-வின் லோக்கல் சர்வர் OpenAI, Anthropic வடிவங்களைப் புரிந்துகொள்கிறது (LM Studio). மேலும் தேர்வுகள்: Mac-இல் LLM இயக்கச் சிறந்த ஆப்கள்.

6எப்போது ஓப்பன் மாடலுக்கு மாற வேண்டும்

சிறிய வேலைகளுக்கு fm போதும்: ஒரு குறிப்பைச் சுருக்குதல், கோப்புக்குப் பெயரிடுதல், உரையிலிருந்து புலங்களை எடுத்தல், ஒரு விரைவுக் கேள்வி. அது ஏற்கனவே Mac-இல் உள்ளது, அமைப்பு தேவையில்லை. உள்ளீடு சில ஆயிரம் டோக்கன்களில் அடங்காதபோது, பணிக்கு அதிக பகுத்தறிவு அல்லது குறியீடு தேவைப்படும்போது, மாடலை நீங்களே தேர்வு செய்ய விரும்பும்போது, அல்லது ஒரு கருவிக்கு API தேவைப்படும்போது ஓப்பன் மாடலைப் பயன்படுத்துங்கள்.

ஓப்பன் மாடல் உங்கள் Mac-இன் GPU-வில் இயங்குகிறது; எது அடங்கும் என்பதை யூனிஃபைட் மெமரி தீர்மானிக்கிறது. எங்கள் Compare கணக்கு இயல்பாக GPU-க்கு சுமார் 75% தருகிறது, கான்டெக்ஸ்ட்டுக்கு இடம் விடுகிறது:

இந்த மாடல்களின் கார்டுகள் மிக நீண்ட கான்டெக்ஸ்ட் சாளரங்களைக் குறிப்பிடுகின்றன, Llama 3.1 8B-க்கு 128K டோக்கன்கள், Qwen3.6 35B A3B-க்கு 262,144; ஆனால் நீண்ட கான்டெக்ஸ்ட்டுக்கு மேலே கணக்கிட்ட இடத்தை விட அதிக மெமரி தேவை. உங்கள் Mac-இல் என்ன உள்ளது என்று தெரியவில்லையா? Apple மெனு, «இந்த Mac பற்றி», பிறகு சிப் வாரியாக Mac பாருங்கள்.

mlx-lm அவற்றை இயக்க ஒரு வழி: Apple-இன் சொந்த MLX கருவிகள் Hugging Face-இலிருந்து MLX மாடல்களைப் பதிவிறக்கி, Terminal-இல் அவற்றுடன் சாட் செய்து, மேலே சொன்ன லோக்கல் API-ஐ வழங்குகின்றன. LM Studio, Ollama ஆகியவை இதையே ஒரு ஆப்பில் செய்கின்றன (Mac-இல் LLM இயக்கச் சிறந்த ஆப்கள்). நீங்கள் Mac-ஐப் பயன்படுத்தாதபோது, MLX Node நீங்கள் அமைக்கும் வரம்புகளுக்குள் MLX Network-க்காக AI வேலைகளை இயக்கி, சரிபார்க்கப்பட்ட வேலைக்கு MLX டோக்கன்களை ஈட்டலாம். MLX டோக்கன்களின் மதிப்பு குறையலாம்; அபாயங்களைப் படியுங்கள்.

7கேள்விகள்

macOS fm கட்டளை இலவசமா?

அது macOS 27 இல் முன்பே நிறுவப்பட்டு வருகிறது, இயல்பாக macOS உடன் வரும் சாதன மாடலைப் பயன்படுத்துகிறது. பெரிய Private Cloud Compute மாடலுக்குப் பயன்பாட்டு வரம்புகள் உண்டு (Apple).

fm ஆஃப்லைனில் வேலை செய்யுமா?

சாதன மாடலுடன், ஆம்: இணைய இணைப்பு இல்லாமல் அது வேலை செய்யும் என்கிறது Apple (Apple). முதலில் Apple Intelligence பதிவிறக்கப்பட வேண்டும்; --model pcc அல்லது fm chat இல் உள்ள /model Apple-இன் சர்வர்களைப் பயன்படுத்தும்.

fm எவ்வளவு நீண்ட ப்ராம்ப்ட்டை ஏற்கும்?

ப்ராம்ப்ட், அறிவுறுத்தல்கள், பதில் ஆகியவை ஒரே கான்டெக்ஸ்ட் சாளரத்தைப் பகிர்கின்றன: Apple ஆவணங்களில் 4,096 டோக்கன்கள், macOS 27-க்கான Apple-இன் WWDC26 மாதிரியில் 8,192 (Apple). ஆங்கிலத்தில் அது ஒரு டோக்கனுக்கு ஏறக்குறைய மூன்று முதல் நான்கு எழுத்துகள்.

fm OpenAI-இணக்கமான API-ஐ வழங்குகிறதா?

Apple-இன் WWDC26 அமர்வுகளும் நாங்கள் படித்த Foundation Models ஆவணங்களும் சர்வர் பயன்முறையை விவரிக்கவில்லை, எனவே அது எப்படி வேலை செய்யும் என்று எங்களால் உறுதிசெய்ய முடியாது. ஆவணப்படுத்தப்பட்ட லோக்கல் API-க்கு, mlx_lm.server ஓப்பன் மாடல்களை localhost:8080 இல் OpenAI பாணியில் வழங்குகிறது, LM Studio OpenAI, Anthropic வடிவங்களில் வழங்குகிறது.

எந்த Mac-கள் fm-ஐப் பயன்படுத்தலாம்?

Apple Intelligence-ஐ ஆதரிக்கும் macOS 27 Mac-கள்: M1 அல்லது புதிய சிப் கொண்ட எந்த Mac-உம், ஆதரிக்கப்படும் மொழியில் அமைக்கப்பட்டு, 14 GB வரை (M3 அல்லது புதியது, 12 GB அல்லது அதிக மெமரியுடன்) அல்லது 8 GB வரை காலி சேமிப்பிடத்துடன் (Apple).