ΣύνδεσηΔημιουργία πορτοφολιού

Τα καλύτερα LLM για Mac με 24 GB.

32 από 82 ανοιχτά μοντέλα τρέχουν καλά σε 24 GB. Από προεπιλογή η GPU μπορεί να χρησιμοποιήσει περίπου 18 GB από αυτά. Η ταχύτητα εξαρτάται από το τσιπ: από 100 GB/s στο M3 έως 307 GB/s στο M5 Pro.

Ενημέρωση

Το εξυπνότερο που τρέχει καλάMiniCPM5 2B8-bit · 2,7 GB · 17–91 tok/sΤο μεγαλύτερο που τρέχει καλάRaon-1 mini Preview4-bit · 16,2 GB · 19–102 tok/sΓια κώδικαDevstral Small 2 (24B)4-bit · 13,5 GB · 3–18 tok/s

Mac με 24 GB

7 τσιπ από M2 έως M6 διατίθενται με 24 GB. Ανοίξτε ένα για τη δική του λίστα και τις ταχύτητές του.

Τρέχει καλά 43

Χωράει με χώρο για τα συμφραζόμενα, με 10 ή περισσότερα tokens ανά δευτερόλεπτο στο M5 Pro.

ΜοντέλοΈκδοσηΜνήμηM3M5 Pro
MiniCPM5 2B2,52B · Νοημοσύνη 12,58-bit2,7 GB17–3051–91
Qwen3.5 9B9B · Νοημοσύνη 11,28-bit9,6 GB5–814–26
Granite 4.2 8B8B · Νοημοσύνη 11,18-bit8,5 GB10–1816–29
Granite 4.2 3B3B · Νοημοσύνη 9,18-bit3,2 GB14–2543–77
gpt-oss-20b21B · 3,6B ενεργές · Νοημοσύνη 9εγγενές 4,25-bit13,8 GB24–4273–129
Gemma 4 E4B8B · Νοημοσύνη 8,98-bit8,5 GB12–2229–51
Ministral 3 8B8,9B · Νοημοσύνη 5,58-bit9,5 GB5–815–26
Nemotron 3 Nano 4B3,97B · Νοημοσύνη 4,88-bit4,2 GB11–1933–58
Raon-1 mini Preview28,8B · 4,3B ενεργές4-bit16,2 GB19–3358–102
Gemma 4 26B A4B25,2B · 3,8B ενεργές4-bit14,2 GB21–3866–117
Devstral Small 2 (24B)24B4-bit13,5 GB3–610–18
Magistral Small 1.2 (2509)24B4-bit13,5 GB3–610–18
Mistral Small 3.2 (24B)24B4-bit13,5 GB3–610–18
LFM2.5 24B A2B24B · 2B ενεργές4-bit13,5 GB41–73126–223
Phi-4 Reasoning Vision 15B15B6-bit12,2 GB3–511–20
Phi-4 (14B)14B6-bit11,4 GB3–512–22
Gemma 4 12B Unified12B8-bit12,7 GB4–611–19
Qwen3 8B8,2B8-bit8,7 GB10–1716–28
Llama 3.1 8B Instruct8B8-bit8,5 GB10–1816–29
Gemma 4 E2B5,1B8-bit5,4 GB19–3358–102
Nanbeige4.2 3B4,17B8-bit4,4 GB11–2018–31
Spark-X2.6 4B4,11B8-bit4,4 GB10–1831–56
Qwen3.5 4B4B8-bit4,3 GB10–1932–57
Nemotron-Labs Dory 1.0 4B3,98B8-bit4,2 GB10–1722–40
Phi-4 mini instruct3,8B8-bit4 GB11–2035–61
Llama 3.2 3B Instruct3,21B8-bit3,4 GB13–2441–72
SmolLM3 3B3B8-bit3,2 GB14–2543–77
LFM2.5 2.6B2,69B8-bit2,9 GB16–2848–85
Qwen3.5 2B2B8-bit2,1 GB21–3866–117
Llama 3.2 1B Instruct1,23B8-bit1,3 GB35–62106–189
Qwen3.5 0.8B0,8B8-bit0,9 GB50–89154–273
Qwen3 0.6B0,6B8-bit0,6 GB75–133230–409
Qwen3.6 35B A3B35B · 3B ενεργές · Νοημοσύνη 18,23-bit χαμηλότερη ποιότητα15,3 GB35–62106–189
Muse Glimmer 30B29,6B · Νοημοσύνη 17,53-bit χαμηλότερη ποιότητα13 GB3–611–19
Gemma 4 31B30,7B · Νοημοσύνη 14,73-bit χαμηλότερη ποιότητα13,4 GB3–610–18
Nemotron 3.5 Lightning 30B A3B30B · 3B ενεργές · Νοημοσύνη 12,93-bit χαμηλότερη ποιότητα13,1 GB35–62106–189
Granite 4.2 30B30B · Νοημοσύνη 12,73-bit χαμηλότερη ποιότητα13,1 GB3–611–19
Nemotron 3 Nano 30B A3B30B · 3,5B ενεργές · Νοημοσύνη 8,93-bit χαμηλότερη ποιότητα13,1 GB30–5392–164
Recursive Flint39,8B · 2,5B ενεργές2-bit χαμηλότερη ποιότητα12,4 GB56–100173–307
Sage-A1.535B · 2,95B ενεργές3-bit χαμηλότερη ποιότητα15,3 GB35–62106–189
Qwen3 Coder 30B A3B Instruct30,5B · 3,3B ενεργές3-bit χαμηλότερη ποιότητα13,3 GB32–5799–175
Hy-Memory-30B-A3B30,1B · 3,2B ενεργές3-bit χαμηλότερη ποιότητα13,2 GB32–5799–175
GLM-4.7 Flash30B · 3B ενεργές3-bit χαμηλότερη ποιότητα13,1 GB35–62106–189

Τρέχει, αλλά αργά 2

Χωράει, αλλά με λιγότερα από 10 tokens ανά δευτερόλεπτο: καλό για μαζικές εργασίες, αργό για συνομιλία.

ΜοντέλοΈκδοσηΜνήμηM3M5 Pro
Qwen3.8 27B27B · Νοημοσύνη 33,74-bit15,2 GB3–59–16
Qwen3.6 27B27B4-bit15,2 GB3–59–16

Πολύ μεγάλο 37

Χρειάζεται περισσότερα από 24 GB μνήμης, ακόμη και στα 2 bit.

Οι καλύτερες εφαρμογές AI για ένα Mac σαν αυτό στο AI App Store: τιμή, άδεια και πού πηγαίνουν τα δεδομένα σας.

Ερωτήσεις

Ποιο είναι το καλύτερο LLM για Mac με 24 GB;
Από τα μοντέλα με δημοσιευμένο Intelligence Index, το MiniCPM5 2B έχει την υψηλότερη βαθμολογία ανάμεσα σε όσα τρέχουν καλά σε 24 GB (8-bit). Το μεγαλύτερο που τρέχει καλά είναι το Raon-1 mini Preview. Για κώδικα: Devstral Small 2 (24B).
Αρκούν 24 GB για τοπικό AI σε Mac;
32 από τα 82 ανοιχτά μοντέλα εδώ τρέχουν καλά σε αυτά, σε 4 bit ή καλύτερα. Από προεπιλογή το macOS αφήνει την GPU να χρησιμοποιεί περίπου 18 GB από αυτά· το μοντέλο και τα συμφραζόμενά του πρέπει να χωρούν εκεί.
Μπορεί ένας Mac με 24 GB να τρέξει το gpt-oss-20b;
Ναι, εγγενές 4,25-bit, με περίπου 24–42 tokens ανά δευτερόλεπτο σε M3 και 73–129 σε M5 Pro.

Άλλα μεγέθη: 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB

Εκτελέστε τα με το mlx-lm της Apple στο Terminal: βήμα προς βήμα.

Πόση RAM χρειάζεται ένα LLM · Το καλύτερο τοπικό LLM για προγραμματισμό

Πώς υπολογίζεται

Μνήμη: οι παράμετροι του μοντέλου σε 8, 6, 4, 3 ή 2 bit ανά βάρος συν τις κλίμακες ομάδων του MLX (μισό bit ανά βάρος), ή στην εγγενή του μορφή, με χώρο για τα συμφραζόμενα από πάνω. Από προεπιλογή το macOS αφήνει την GPU να χρησιμοποιεί περίπου το 75% της ενοποιημένης μνήμης. Ταχύτητα: το εύρος ζώνης μνήμης διαιρεμένο με τα bytes που διαβάζονται ανά token είναι το ανώτατο όριο για μία συνομιλία· στα δημόσια benchmarks Apple Silicon του llama.cpp οι πραγματικές εκτελέσεις φτάνουν περίπου το 45% έως 80% του ορίου, και αυτό το εύρος δείχνουμε. Είναι εκτιμήσεις, όχι μετρήσεις: μετρήστε τον δικό σας Mac στο MLX Bench. Στοιχεία μοντέλων από την επίσημη κάρτα κάθε μοντέλου, στοιχεία τσιπ από τα Τεχνικά χαρακτηριστικά της Apple. Ελέγχθηκε 2026-10-19. Ίδια δεδομένα με το mlx.app/compare.

Ανοιχτά δεδομένα: mlx.app/data (JSON, CSV)