Qual è il miglior LLM per un Mac con 36 GB?

Tra i modelli con un Intelligence Index pubblicato, Qwen3.8 27B ha il punteggio più alto fra quelli che girano bene in 36 GB (4 bit). Il più grande che gira bene è Qwen3.6 35B A3B. Per il codice: Qwen3 Coder 30B A3B Instruct.

36 GB bastano per l’AI locale su Mac?

38 dei 73 modelli aperti di questo elenco ci girano bene, a 4 bit o più. Di default macOS lascia usare alla GPU circa 27 GB; modello e contesto devono starci dentro.

Un Mac da 36 GB può eseguire gpt-oss-20b?

Sì, 4,25 bit nativo, a circa 36–63 token al secondo su un M3 Pro e 109–194 su un M5 Max.

Migliori LLM locali per un Mac da 36 GB (da M3 a M5): cosa gira

Mac con 36 GB

4 chip (da M3 a M5) sono disponibili con 36 GB. Aprine uno per vedere il suo elenco e le sue velocità.

Gira bene 40

Ci sta con spazio per il contesto, a 10 o più token al secondo sul M5 Max.

Modello	Versione	Memoria	M3 Pro	M5 Max
Qwen3.8 27B27B · Intelligenza 33,7	4 bit	15,2 GB	3–5	14–24
Qwen3.6 35B A3B35B · 3B attivi · Intelligenza 18,2	4 bit	19,7 GB	40–71	122–216
Muse Glimmer 30B29,6B · Intelligenza 17,5	4 bit	16,7 GB	3–5	12–22
Gemma 4 31B30,7B · Intelligenza 14,7	4 bit	17,3 GB	3–5	12–21
Nemotron 3.5 Lightning 30B A3B30B · 3B attivi · Intelligenza 12,9	6 bit	24,4 GB	28–50	86–153
Granite 4.2 30B30B · Intelligenza 12,7	4 bit	16,9 GB	3–5	12–22
MiniCPM5 2B2,52B · Intelligenza 12,5	8 bit	2,7 GB	25–44	77–136
Qwen3.5 9B9B · Intelligenza 11,2	8 bit	9,6 GB	13–24	22–38
Granite 4.2 8B8B · Intelligenza 11,1	8 bit	8,5 GB	10–18	24–43
Granite 4.2 3B3B · Intelligenza 9,1	8 bit	3,2 GB	21–38	65–115
gpt-oss-20b21B · 3,6B attivi · Intelligenza 9	4,25 bit nativo	13,8 GB	36–63	109–194
Nemotron 3 Nano 30B A3B30B · 3,5B attivi · Intelligenza 8,9	6 bit	24,4 GB	24–43	74–131
Gemma 4 E4B8B · Intelligenza 8,9	8 bit	8,5 GB	14–25	43–77
Ministral 3 8B8,9B · Intelligenza 5,5	8 bit	9,5 GB	14–24	22–39
Nemotron 3 Nano 4B3,97B · Intelligenza 4,8	8 bit	4,2 GB	16–29	49–88
Qwen3 Coder 30B A3B Instruct30,5B · 3,3B attivi	6 bit	24,8 GB	25–44	77–136
GLM-4.7 Flash30B · 3B attivi	6 bit	24,4 GB	28–50	86–153
Qwen3.6 27B27B	4 bit	15,2 GB	3–5	14–24
Gemma 4 26B A4B25,2B · 3,8B attivi	6 bit	20,5 GB	22–39	67–119
Devstral Small 2 (24B)24B	6 bit	19,5 GB	3–6	11–19
Magistral Small 1.2 (2509)24B	6 bit	19,5 GB	3–6	11–19
Mistral Small 3.2 (24B)24B	6 bit	19,5 GB	3–6	11–19
LFM2.5 24B A2B24B · 2B attivi	6 bit	19,5 GB	42–75	129–230
Phi-4 Reasoning Vision 15B15B	8 bit	15,9 GB	4–8	13–23
Phi-4 (14B)14B	8 bit	14,9 GB	5–8	14–25
Gemma 4 12B Unified12B	8 bit	12,7 GB	10–18	16–29
Qwen3 8B8,2B	8 bit	8,7 GB	10–18	24–42
Llama 3.1 8B Instruct8B	8 bit	8,5 GB	10–18	24–43
Gemma 4 E2B5,1B	8 bit	5,4 GB	28–50	86–153
Qwen3.5 4B4B	8 bit	4,3 GB	16–28	48–86
Phi-4 mini instruct3,8B	8 bit	4 GB	17–30	52–92
Llama 3.2 3B Instruct3,21B	8 bit	3,4 GB	20–35	61–108
SmolLM3 3B3B	8 bit	3,2 GB	21–38	65–115
LFM2.5 2.6B2,69B	8 bit	2,9 GB	23–41	71–127
Qwen3.5 2B2B	8 bit	2,1 GB	32–57	99–175
Llama 3.2 1B Instruct1,23B	8 bit	1,3 GB	52–92	159–283
Qwen3.5 0.8B0,8B	8 bit	0,9 GB	75–133	230–409
Qwen3 0.6B0,6B	8 bit	0,6 GB	113–200	345–613
Nemotron 3.5 Bolt 74B A9B74B · 9B attivi · Intelligenza 21,4	2 bit qualità inferiore	23,1 GB	24–43	74–131
Qwen3 Coder Next80B · 3B attivi · Intelligenza 9,2	2 bit qualità inferiore	25 GB	75–133	230–409

Gira, ma lentamente 1

Ci sta, ma sotto i 10 token al secondo: va bene per i lavori in batch, ma è lento per la chat.

Modello	Versione	Memoria	M3 Pro	M5 Max
Llama 3.3 70B Instruct70B	2 bit qualità inferiore	21,9 GB	3–5	9–17

Domande

Qual è il miglior LLM per un Mac con 36 GB?: Tra i modelli con un Intelligence Index pubblicato, Qwen3.8 27B ha il punteggio più alto fra quelli che girano bene in 36 GB (4 bit). Il più grande che gira bene è Qwen3.6 35B A3B. Per il codice: Qwen3 Coder 30B A3B Instruct.
36 GB bastano per l’AI locale su Mac?: 38 dei 73 modelli aperti di questo elenco ci girano bene, a 4 bit o più. Di default macOS lascia usare alla GPU circa 27 GB; modello e contesto devono starci dentro.
Un Mac da 36 GB può eseguire gpt-oss-20b?: Sì, 4,25 bit nativo, a circa 36–63 token al secondo su un M3 Pro e 109–194 su un M5 Max.

Altri tagli: 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB

Eseguili con MLX Harness (gratuito, open source) o con mlx-lm di Apple nel Terminale: passo dopo passo.

Come è calcolato

Memoria: i parametri del modello a 8, 6, 4, 3 o 2 bit per peso più le scale per gruppo di MLX (mezzo bit per peso), oppure il suo formato nativo, con in più lo spazio per il contesto. Di default macOS lascia usare alla GPU circa il 75% della memoria unificata. Velocità: la larghezza di banda della memoria divisa per i byte letti per ogni token è il limite massimo per una conversazione; nei benchmark pubblici su Apple Silicon di llama.cpp, le esecuzioni reali arrivano a circa il 45%–80% di quel limite, ed è l’intervallo mostrato. Sono stime, non misurazioni: misura il tuo Mac su MLX Bench. Dati dei modelli dalla rispettiva scheda ufficiale, dati dei chip dalle specifiche tecniche di Apple. Verificato il 2026-10-19. Stessi dati di mlx.app/compare.

I migliori LLM per un Mac da 36 GB.