Η εντολή fm του macOS: το τοπικό LLM της Apple στο Τερματικό.

1Τι είναι το fm

Το fm είναι το εργαλείο γραμμής εντολών της Apple για τα Apple Foundation Models, τα μοντέλα πίσω από το Apple Intelligence. «Από το macOS 27, αυτό το εργαλείο γραμμής εντολών είναι προεγκατεστημένο στον Mac σας», λέει η Apple στη σχετική συνεδρία του WWDC26· ανοίγετε το Τερματικό και πληκτρολογείτε fm (Apple). Η Apple το προτείνει για scripting και αυτοματισμούς «χωρίς να γράψετε ούτε μία γραμμή κώδικα εφαρμογής» (Apple).

Μπορεί να μιλά με δύο μοντέλα. Από προεπιλογή χρησιμοποιεί «το μοντέλο της συσκευής που έρχεται με το macOS και είναι πάντα διαθέσιμο». Μπορεί επίσης να χρησιμοποιεί το Apple Foundation Model στο Private Cloud Compute, που η Apple αποκαλεί «πολύ μεγαλύτερο μοντέλο από αυτό της συσκευής», που «θα αποδίδει καλύτερα σε σύνθετα προβλήματα» και «έχει όρια χρήσης» (Apple). Το μοντέλο της συσκευής τρέχει στον Mac σας και λειτουργεί χωρίς σύνδεση στο διαδίκτυο (Apple)· ένα prompt που στέλνεται στο Private Cloud Compute πηγαίνει στους διακομιστές της Apple.

Το fm είναι λογισμικό της Apple και δεν έχει καμία σχέση με το MLX Network. Το MLX Network είναι ανεξάρτητο και δεν συνδέεται με την Apple.

2Οι εντολές

Αυτές είναι οι εντολές και οι επιλογές που δείχνει η Apple στις συνεδρίες της στο WWDC26 (Apple, Apple):

Τα παραδείγματα της ίδιας της Apple, από τη συνεδρία:

fm respond "Provide a basic regex in Swift to parse an email address"
fm respond "Provide a comprehensive regex in Swift to parse an email address" --model pcc
fm schema object --name AppsIdentified --string app_names --array > schema.json
fm respond "What apps are the user actively using in this screenshot?" \
  --image Screenshot.png --model pcc --schema schema.json
# {"app_names": ["Messages", "Mail", "Calendar"]}
fm respond --help

3Τι χρειάζεστε και πόσα κατεβάζει

• macOS 27. Το fm έρχεται μαζί του (Apple).
• Mac που υποστηρίζει Apple Intelligence. Τα Apple Foundation Models το απαιτούν (Apple)· στο macOS 27 αυτό σημαίνει κάθε Mac με M1 ή νεότερο (Apple).
• Υποστηριζόμενη γλώσσα. Το Apple Intelligence χρειάζεται τη γλώσσα της συσκευής και τη γλώσσα του Siri ρυθμισμένες στην ίδια υποστηριζόμενη γλώσσα, και προς το παρόν δεν λειτουργεί σε συσκευές που αγοράστηκαν στην ηπειρωτική Κίνα (Apple).
• Ελεύθερος χώρος στον δίσκο για το Apple Intelligence, παρακάτω.

Το μοντέλο μπορεί να μην είναι διαθέσιμο για λίγο αφού ενεργοποιήσετε το Apple Intelligence: το framework της Apple το αναφέρει ως μη έτοιμο «επειδή γίνεται λήψη ή για άλλους λόγους του συστήματος» (Apple).

Για το Python SDK, που χρησιμοποιεί το ίδιο μοντέλο της συσκευής, η Apple αναφέρει macOS 26.0 ή νεότερο, Xcode 26.0 ή νεότερο με αποδεκτή τη σύμβασή του, και Python 3.10 ή νεότερη (Apple), σε Mac με Apple silicon (Apple).

4Σε τι είναι καλό το μοντέλο της συσκευής και πού σταματά

Η Apple το λέει καθαρά: «Τα μοντέλα στη συσκευή διαπρέπουν σε ένα ευρύ φάσμα εργασιών δημιουργίας κειμένου, όπως σύνοψη, εξαγωγή οντοτήτων, κατανόηση κειμένου και εικόνας, βελτίωση κειμένου, διάλογοι για παιχνίδια, δημιουργία δημιουργικού περιεχομένου και άλλα. Όταν χρειάζεστε περισσότερες δυνατότητες συλλογιστικής και μεγαλύτερο μέγεθος συμφραζομένων, χρησιμοποιήστε το Private Cloud Compute ή οποιονδήποτε πάροχο μοντέλων σε διακομιστή» (Apple).

• Μικρό παράθυρο συμφραζομένων. Η τεκμηρίωση της Apple δίνει στο μοντέλο της συσκευής «παράθυρο συμφραζομένων 4096 tokens ανά συνεδρία» (Apple) και αναφέρει 4K έναντι 32K για το Private Cloud Compute (Apple). Στη συνεδρία της στο WWDC26 για το macOS 27, το δείγμα κώδικα της Apple τυπώνει contextSize 8.192 (Apple). Το prompt, οι οδηγίες και η απάντηση μοιράζονται όλα αυτό το παράθυρο.
• Τι χωράει αυτό. Στα αγγλικά ένα token είναι συνήθως τρεις με τέσσερις χαρακτήρες (Apple), οπότε 8.192 tokens είναι περίπου 25.000 έως 33.000 χαρακτήρες εισόδου και εξόδου μαζί: λίγες σελίδες, όχι ένα βιβλίο ή μια βάση κώδικα.
• Σύντομα, απλά prompts. «Ένα μοντέλο στη συσκευή έχει λιγότερες παραμέτρους και μικρό παράθυρο συμφραζομένων», γι' αυτό η Apple ζητά prompts «σύντομα και περιεκτικά», και λέει ότι τα μοντέλα στη συσκευή «έχουν περιορισμένες ικανότητες συλλογιστικής»: χωρίστε μια δύσκολη εργασία σε βήματα (Apple).
• Αλλάζει με το macOS. Η Apple ενημερώνει το μοντέλο με τις ενημερώσεις του λειτουργικού· το macOS 27 έχει νέα έκδοση (Apple). Τα αποτελέσματα ενός script μπορεί να αλλάξουν μετά από μια ενημέρωση.

Η Apple δεν δίνει το μέγεθος του μοντέλου της συσκευής σε αυτές τις σελίδες, οπότε ούτε εμείς.

5Χρήση του fm από scripts και κώδικα

Το fm respond τυπώνει την απάντηση, οπότε μπαίνει σε οποιοδήποτε shell script. Με --schema η απάντηση είναι JSON που μπορείτε να περάσετε στο jq. Η συνεδρία της Apple ταξινομεί έτσι έναν φάκελο έργου: ρωτά το μοντέλο ποια αρχεία είναι τελικά και ποια πρόχειρα, και μετά τα αντιγράφει και τα μετακινεί. Συντομευμένο από το δείγμα της Apple (Apple):

fm schema object --name "TriagedFileList" \
  --string 'final_files' --array \
  --string 'draft_files' --array > /tmp/schema.json

output=$(fm respond \
  --instructions "Return the latest files, then separately all draft files." \
  "This is the list of all files:\n\n${files_list}" \
  --schema /tmp/schema.json
)

echo "${output}" | jq -r '.draft_files[]'

Για Python υπάρχει το Foundation Models SDK της Apple, pip install apple_fm_sdk, με το ίδιο μοντέλο της συσκευής, καθοδηγούμενη παραγωγή και κλήση εργαλείων (Apple). Το παράδειγμα της Apple:

import apple_fm_sdk as fm

model = fm.SystemLanguageModel()
is_available, reason = model.is_available()
if is_available:
    session = fm.LanguageModelSession(model=model)
    response = await session.respond(prompt="Hello!")
    print(response)

Πολλές εφαρμογές και agents προγραμματισμού περιμένουν αντίθετα ένα API τύπου OpenAI ή Anthropic σε τοπική θύρα. Αν αυτό χρειάζεστε, το mlx_lm.server εξυπηρετεί το ανοιχτό μοντέλο της επιλογής σας σε API τύπου OpenAI στο localhost:8080 (mlx-lm), και ο τοπικός διακομιστής του LM Studio μιλά τις μορφές OpenAI και Anthropic (LM Studio). Περισσότερες επιλογές: οι καλύτερες εφαρμογές για LLM σε Mac.

6Πότε να περάσετε σε ανοιχτό μοντέλο

Μείνετε στο fm για σύντομες δουλειές: σύνοψη μιας σημείωσης, ονομασία ενός αρχείου, εξαγωγή πεδίων από κείμενο, μια γρήγορη ερώτηση. Είναι ήδη στον Mac και δεν χρειάζεται ρύθμιση. Στραφείτε σε ανοιχτό μοντέλο όταν η είσοδος δεν χωρά σε λίγες χιλιάδες tokens, όταν η εργασία χρειάζεται περισσότερη συλλογιστική ή κώδικα, όταν θέλετε να διαλέξετε το μοντέλο, ή όταν ένα εργαλείο χρειάζεται API.

Ένα ανοιχτό μοντέλο τρέχει στη GPU του Mac σας, και το τι χωράει το ορίζει η ενοποιημένη μνήμη. Η αριθμητική της Σύγκρισης δίνει από προεπιλογή στη GPU περίπου το 75% και αφήνει χώρο για τα συμφραζόμενα:

Αυτά τα μοντέλα αναφέρουν πολύ μεγαλύτερα παράθυρα συμφραζομένων στις κάρτες τους, 128K tokens για το Llama 3.1 8B και 262.144 για το Qwen3.6 35B A3B, αν και ένα μεγάλο παράθυρο χρειάζεται μνήμη πέρα από τον χώρο που μετρήθηκε παραπάνω. Δεν είστε σίγουροι τι έχει ο Mac σας; Μενού Apple, «Σχετικά με αυτόν τον Mac», και μετά δείτε Mac ανά τσιπ.

Το mlx-lm είναι ένας τρόπος να τα τρέξετε: τα εργαλεία MLX της ίδιας της Apple κατεβάζουν μοντέλα MLX από το Hugging Face, συνομιλούν μαζί τους στο Τερματικό και εξυπηρετούν το τοπικό API που περιγράψαμε παραπάνω. Τα LM Studio και Ollama κάνουν το ίδιο σε εφαρμογή (οι καλύτερες εφαρμογές για LLM σε Mac). Όταν δεν χρησιμοποιείτε τον Mac, το MLX Node μπορεί να εκτελεί εργασίες AI για το MLX Network μέσα στα όρια που ορίζετε και κερδίζει tokens MLX για επαληθευμένη δουλειά. Τα tokens MLX μπορεί να χάσουν αξία· διαβάστε τους κινδύνους.

7Ερωτήσεις

Είναι δωρεάν η εντολή fm του macOS;

Είναι προεγκατεστημένη στο macOS 27 και από προεπιλογή χρησιμοποιεί το μοντέλο της συσκευής που έρχεται με το macOS. Το μεγαλύτερο μοντέλο Private Cloud Compute έχει όρια χρήσης (Apple).

Λειτουργεί το fm χωρίς σύνδεση στο διαδίκτυο;

Με το μοντέλο της συσκευής, ναι: η Apple λέει ότι λειτουργεί χωρίς σύνδεση στο διαδίκτυο (Apple). Το Apple Intelligence πρέπει πρώτα να έχει κατέβει, και το --model pcc ή το /model στο fm chat χρησιμοποιούν τους διακομιστές της Apple.

Πόσο μεγάλο prompt δέχεται το fm;

Το prompt, οι οδηγίες και η απάντηση μοιράζονται ένα παράθυρο συμφραζομένων: 4.096 tokens στην τεκμηρίωση της Apple και 8.192 στο δείγμα της Apple από το WWDC26 για το macOS 27 (Apple). Στα αγγλικά αυτό σημαίνει περίπου τρεις με τέσσερις χαρακτήρες ανά token.

Εξυπηρετεί το fm API συμβατό με OpenAI;

Οι συνεδρίες της Apple στο WWDC26 και η τεκμηρίωση των Foundation Models που διαβάσαμε δεν περιγράφουν λειτουργία διακομιστή, οπότε δεν μπορούμε να επιβεβαιώσουμε πώς λειτουργεί κάτι τέτοιο. Για ένα τεκμηριωμένο τοπικό API, το mlx_lm.server εξυπηρετεί ανοιχτά μοντέλα στο localhost:8080 σε στυλ OpenAI, και το LM Studio σε μορφές OpenAI και Anthropic.

Ποιοι Mac μπορούν να χρησιμοποιήσουν το fm;

Mac με macOS 27 που υποστηρίζουν Apple Intelligence: κάθε Mac με M1 ή νεότερο, ρυθμισμένος σε υποστηριζόμενη γλώσσα, με έως 14 GB (M3 ή νεότερο με 12 GB ή περισσότερα) ή έως 8 GB ελεύθερου χώρου (Apple).