Πόση μνήμη χρειάζεται το gpt-oss-120b;

Περίπου 65,3 GB για τα βάρη σε εγγενές 4,25-bit, συν χώρο για τα συμφραζόμενα: 70,5 GB συνολικά. Σε Mac αυτό σημαίνει 96 GB ενοποιημένης μνήμης ή περισσότερα, αφού το macOS αφήνει από προεπιλογή την GPU να χρησιμοποιεί περίπου το 75% της.

Πόσο γρήγορο είναι το gpt-oss-120b σε Mac;

Η ταχύτητα γραφής εξαρτάται από το εύρος ζώνης μνήμης. Ο ταχύτερος Mac γι’ αυτό εδώ είναι ένας Mac με M5 Ultra και 96 GB, με περίπου 200–356 tokens ανά δευτερόλεπτο (εγγενές 4,25-bit). Ο μικρότερος Mac που το τρέχει, με 96 GB, φτάνει περίπου τα 200–356 με M5 Ultra.

Γιατί το gpt-oss-120b τρέχει πιο γρήγορα απ’ ό,τι δείχνει το μέγεθός του;

Είναι μοντέλο mixture of experts: κρατά 117B παραμέτρους στη μνήμη αλλά διαβάζει μόνο 5,1B για κάθε token, οπότε γράφει με την ταχύτητα ενός πολύ μικρότερου μοντέλου.

Εκτέλεση gpt-oss-120b σε Mac: απαιτήσεις RAM και ταχύτητα

Μνήμη σε κάθε ακρίβεια

Έκδοση	Βάρη	Με συμφραζόμενα	Μικρότερος Mac
εγγενές 4,25-bit	65,3 GB	70,5 GB	96 GB
3-bit χαμηλότερη ποιότητα	51,2 GB	55,3 GB	96 GB
2-bit χαμηλότερη ποιότητα	36,6 GB	39,5 GB	64 GB

Πόση RAM χρειάζεται ένα LLM

Σε κάθε τσιπ της Apple

Το μικρότερο μέγεθος μνήμης κάθε τσιπ που τρέχει το gpt-oss-120b, η καλύτερη έκδοση που χωράει και η ταχύτητα γραφής που μπορείτε να περιμένετε.

Τσιπ	Απαιτεί	Έκδοση	Tokens/s
M6	κανένα μέγεθος δεν χωράει	Πολύ μεγάλο	–
M5 Ultra	96 GB	εγγενές 4,25-bit Τρέχει καλά	200–356
M5 Max	128 GB	εγγενές 4,25-bit Τρέχει καλά	102–182
M5 Pro	64 GB	2-bit Τρέχει καλά	86–154
M5	κανένα μέγεθος δεν χωράει	Πολύ μεγάλο	–
M4 Max	128 GB	εγγενές 4,25-bit Τρέχει καλά	91–162
M4 Pro	64 GB	2-bit Τρέχει καλά	77–137
M4	κανένα μέγεθος δεν χωράει	Πολύ μεγάλο	–
M3 Ultra	96 GB	εγγενές 4,25-bit Τρέχει καλά	137–243
M3 Max	96 GB	εγγενές 4,25-bit Τρέχει καλά	50–89
M3 Pro	κανένα μέγεθος δεν χωράει	Πολύ μεγάλο	–
M3	κανένα μέγεθος δεν χωράει	Πολύ μεγάλο	–
M2 Ultra	128 GB	εγγενές 4,25-bit Τρέχει καλά	133–237
M2 Max	96 GB	εγγενές 4,25-bit Τρέχει καλά	67–119
M2 Pro	κανένα μέγεθος δεν χωράει	Πολύ μεγάλο	–
M2	κανένα μέγεθος δεν χωράει	Πολύ μεγάλο	–
M1 Ultra	128 GB	εγγενές 4,25-bit Τρέχει καλά	133–237
M1 Max	64 GB	2-bit Τρέχει καλά	113–200
M1 Pro	κανένα μέγεθος δεν χωράει	Πολύ μεγάλο	–
M1	κανένα μέγεθος δεν χωράει	Πολύ μεγάλο	–

Πώς να το τρέξετε

Στο Terminal με το MLX της Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/gpt-oss-120b-MXFP4-Q8Build: mlx-community/gpt-oss-120b-MXFP4-Q8 στο Hugging Face. Οι άλλες ακρίβειες βρίσκονται ακριβώς δίπλα.

Βήμα προς βήμα: λήψη και εκτέλεση LLM σε Mac · MLX vs Ollama vs llama.cpp

Το gpt-oss-120b στο AI App Store · Προτιμάτε μια εφαρμογή από το Τερματικό; Συγκρίνετε τις εφαρμογές Mac που τρέχουν τοπικά μοντέλα στο AI App Store: τιμή, άδεια και πού πηγαίνουν τα δεδομένα σας.

Σχετικά με το gpt-oss-120b

Δημιουργός	OpenAI
Παράμετροι	117B συνολικά · 5,1B ενεργές (mixture of experts)
Συμφραζόμενα	128K tokens
Άδεια	Apache-2.0
Κυκλοφορία	2025-08
Είσοδος	Κείμενο
Νοημοσύνη	11,6 στον Artificial Analysis Intelligence Index
Βάρη	openai/gpt-oss-120b

Οδηγός: βήμα προς βήμα στο mlx.app

Ερωτήσεις

Πόση μνήμη χρειάζεται το gpt-oss-120b;: Περίπου 65,3 GB για τα βάρη σε εγγενές 4,25-bit, συν χώρο για τα συμφραζόμενα: 70,5 GB συνολικά. Σε Mac αυτό σημαίνει 96 GB ενοποιημένης μνήμης ή περισσότερα, αφού το macOS αφήνει από προεπιλογή την GPU να χρησιμοποιεί περίπου το 75% της.
Πόσο γρήγορο είναι το gpt-oss-120b σε Mac;: Η ταχύτητα γραφής εξαρτάται από το εύρος ζώνης μνήμης. Ο ταχύτερος Mac γι’ αυτό εδώ είναι ένας Mac με M5 Ultra και 96 GB, με περίπου 200–356 tokens ανά δευτερόλεπτο (εγγενές 4,25-bit). Ο μικρότερος Mac που το τρέχει, με 96 GB, φτάνει περίπου τα 200–356 με M5 Ultra.
Γιατί το gpt-oss-120b τρέχει πιο γρήγορα απ’ ό,τι δείχνει το μέγεθός του;: Είναι μοντέλο mixture of experts: κρατά 117B παραμέτρους στη μνήμη αλλά διαβάζει μόνο 5,1B για κάθε token, οπότε γράφει με την ταχύτητα ενός πολύ μικρότερου μοντέλου.

Παρόμοια μοντέλα

Όλα τα μοντέλα · Όλοι οι Mac · Συγκρίνετε τον Mac σας

Για την κάρτα μοντέλου ή το README σας

Δείχνει τον μικρότερο Mac που τρέχει καλά το gpt-oss-120b και οδηγεί εδώ.

[![Runs on a Mac](https://mlx.app/badge/run/gpt-oss-120b.svg)](https://mlx.app/run/gpt-oss-120b)

Πώς υπολογίζεται

Μνήμη: οι παράμετροι του μοντέλου σε 8, 6, 4, 3 ή 2 bit ανά βάρος συν τις κλίμακες ομάδων του MLX (μισό bit ανά βάρος), ή στην εγγενή του μορφή, με χώρο για τα συμφραζόμενα από πάνω. Από προεπιλογή το macOS αφήνει την GPU να χρησιμοποιεί περίπου το 75% της ενοποιημένης μνήμης. Ταχύτητα: το εύρος ζώνης μνήμης διαιρεμένο με τα bytes που διαβάζονται ανά token είναι το ανώτατο όριο για μία συνομιλία· στα δημόσια benchmarks Apple Silicon του llama.cpp οι πραγματικές εκτελέσεις φτάνουν περίπου το 45% έως 80% του ορίου, και αυτό το εύρος δείχνουμε. Είναι εκτιμήσεις, όχι μετρήσεις: μετρήστε τον δικό σας Mac στο MLX Bench. Στοιχεία μοντέλων από την επίσημη κάρτα κάθε μοντέλου, στοιχεία τσιπ από τα Τεχνικά χαρακτηριστικά της Apple. Ελέγχθηκε 2026-10-19. Ίδια δεδομένα με το mlx.app/compare.

Ανοιχτά δεδομένα: mlx.app/data (JSON, CSV)