Είναι ο Mac Studio με M3 Ultra καλός για τοπικά LLM;

Με 512 GB τρέχει καλά 69 από 82 ανοιχτά μοντέλα, έως και το Ling 3.1 Flash, και γράφει περίπου 194–345 tokens ανά δευτερόλεπτο με το gpt-oss-20b. Το M3 Ultra διαβάζει τη μνήμη με 819 GB/s, κάτι που καθορίζει πόσο γρήγορα γράφει.

Πόση μνήμη πρέπει να έχει ένας Mac Studio με M3 Ultra για AI;

Με 96 GB τρέχει καλά 50 ανοιχτά μοντέλα· με 512 GB, 69, έως και το Ling 3.1 Flash. Η μνήμη καθορίζει ποια μοντέλα χωρούν και δεν αναβαθμίζεται αργότερα.

Mac Studio M3 Ultra για AI: ποια τοπικά LLM τρέχουν ανά μνήμη

Ανά μέγεθος μνήμης

Μνήμη	Τρέχουν καλά	Το μεγαλύτερο που τρέχει καλά	gpt-oss-20b
96 GB819 GB/s	50	gpt-oss-120b	194–345 tok/s
256 GB819 GB/s	61	MiMo V2.6 Flash	194–345 tok/s
512 GB819 GB/s	69	Ling 3.1 Flash	194–345 tok/s

Μοντέλα: Mac Studio (2025). Δεν διατίθεται κάθε μέγεθος μνήμης με κάθε μοντέλο· τα Τεχνικά χαρακτηριστικά της Apple αναφέρουν τι προσφέρει το καθένα.

Οι καλύτερες εφαρμογές AI για ένα Mac σαν αυτό στο AI App Store: τιμή, άδεια και πού πηγαίνουν τα δεδομένα σας.

Ερωτήσεις

Είναι ο Mac Studio με M3 Ultra καλός για τοπικά LLM;: Με 512 GB τρέχει καλά 69 από 82 ανοιχτά μοντέλα, έως και το Ling 3.1 Flash, και γράφει περίπου 194–345 tokens ανά δευτερόλεπτο με το gpt-oss-20b. Το M3 Ultra διαβάζει τη μνήμη με 819 GB/s, κάτι που καθορίζει πόσο γρήγορα γράφει.
Πόση μνήμη πρέπει να έχει ένας Mac Studio με M3 Ultra για AI;: Με 96 GB τρέχει καλά 50 ανοιχτά μοντέλα· με 512 GB, 69, έως και το Ling 3.1 Flash. Η μνήμη καθορίζει ποια μοντέλα χωρούν και δεν αναβαθμίζεται αργότερα.

Άλλοι Mac

Ο Mac Studio με άλλα τσιπ:

Κατά μέτωπο:

Απέναντι σε PC και κάρτες γραφικών:

M3 Ultra vs DGX Spark

Το M3 Ultra για τοπικό AI · Mac mini ή Mac Studio για AI · Ο καλύτερος Mac για τοπικά LLM · Πόση RAM χρειάζεται ένα LLM · Όλοι οι Mac

Πώς υπολογίζεται

Μνήμη: οι παράμετροι του μοντέλου σε 8, 6, 4, 3 ή 2 bit ανά βάρος συν τις κλίμακες ομάδων του MLX (μισό bit ανά βάρος), ή στην εγγενή του μορφή, με χώρο για τα συμφραζόμενα από πάνω. Από προεπιλογή το macOS αφήνει την GPU να χρησιμοποιεί περίπου το 75% της ενοποιημένης μνήμης. Ταχύτητα: το εύρος ζώνης μνήμης διαιρεμένο με τα bytes που διαβάζονται ανά token είναι το ανώτατο όριο για μία συνομιλία· στα δημόσια benchmarks Apple Silicon του llama.cpp οι πραγματικές εκτελέσεις φτάνουν περίπου το 45% έως 80% του ορίου, και αυτό το εύρος δείχνουμε. Είναι εκτιμήσεις, όχι μετρήσεις: μετρήστε τον δικό σας Mac στο MLX Bench. Στοιχεία μοντέλων από την επίσημη κάρτα κάθε μοντέλου, στοιχεία τσιπ από τα Τεχνικά χαρακτηριστικά της Apple. Ελέγχθηκε 2026-10-19. Ίδια δεδομένα με το mlx.app/compare.

Ανοιχτά δεδομένα: mlx.app/data (JSON, CSV)