Qual è il miglior LLM per un Mac con 32 GB?

Tra i modelli con un Intelligence Index pubblicato, Qwen3.8 27B ha il punteggio più alto fra quelli che girano bene in 32 GB (4 bit). Il più grande che gira bene è Qwen3.6 35B A3B. Per il codice: Qwen3 Coder 30B A3B Instruct.

32 GB bastano per l’AI locale su Mac?

38 dei 73 modelli aperti di questo elenco ci girano bene, a 4 bit o più. Di default macOS lascia usare alla GPU circa 24 GB; modello e contesto devono starci dentro.

Un Mac da 32 GB può eseguire gpt-oss-20b?

Sì, 4,25 bit nativo, a circa 28–51 token al secondo su un M4 e 95–168 su un M1 Max.

Migliori LLM locali per un Mac da 32 GB (da M1 a M6): cosa gira

Mac con 32 GB

7 chip (da M1 a M6) sono disponibili con 32 GB. Aprine uno per vedere il suo elenco e le sue velocità.

Gira bene 38

Ci sta con spazio per il contesto, a 10 o più token al secondo sul M1 Max.

Modello	Versione	Memoria	M4	M1 Max
Qwen3.8 27B27B · Intelligenza 33,7	4 bit	15,2 GB	2–4	12–21
Qwen3.6 35B A3B35B · 3B attivi · Intelligenza 18,2	4 bit	19,7 GB	32–56	106–188
Muse Glimmer 30B29,6B · Intelligenza 17,5	4 bit	16,7 GB	3–6	11–19
Gemma 4 31B30,7B · Intelligenza 14,7	4 bit	17,3 GB	3–6	10–18
Nemotron 3.5 Lightning 30B A3B30B · 3B attivi · Intelligenza 12,9	4 bit	16,9 GB	32–56	106–188
Granite 4.2 30B30B · Intelligenza 12,7	4 bit	16,9 GB	3–6	11–19
MiniCPM5 2B2,52B · Intelligenza 12,5	8 bit	2,7 GB	20–36	67–119
Qwen3.5 9B9B · Intelligenza 11,2	8 bit	9,6 GB	11–19	19–33
Granite 4.2 8B8B · Intelligenza 11,1	8 bit	8,5 GB	12–21	21–38
Granite 4.2 3B3B · Intelligenza 9,1	8 bit	3,2 GB	17–30	56–100
gpt-oss-20b21B · 3,6B attivi · Intelligenza 9	4,25 bit nativo	13,8 GB	28–51	95–168
Nemotron 3 Nano 30B A3B30B · 3,5B attivi · Intelligenza 8,9	4 bit	16,9 GB	27–48	90–160
Gemma 4 E4B8B · Intelligenza 8,9	8 bit	8,5 GB	11–20	38–67
Ministral 3 8B8,9B · Intelligenza 5,5	8 bit	9,5 GB	11–19	19–34
Nemotron 3 Nano 4B3,97B · Intelligenza 4,8	8 bit	4,2 GB	13–23	43–76
Qwen3 Coder 30B A3B Instruct30,5B · 3,3B attivi	4 bit	17,2 GB	28–51	95–168
GLM-4.7 Flash30B · 3B attivi	4 bit	16,9 GB	32–56	106–188
Qwen3.6 27B27B	4 bit	15,2 GB	2–4	12–21
Gemma 4 26B A4B25,2B · 3,8B attivi	6 bit	20,5 GB	17–31	58–103
Devstral Small 2 (24B)24B	4 bit	13,5 GB	3–5	13–24
Magistral Small 1.2 (2509)24B	4 bit	13,5 GB	3–5	13–24
Mistral Small 3.2 (24B)24B	4 bit	13,5 GB	3–5	13–24
LFM2.5 24B A2B24B · 2B attivi	6 bit	19,5 GB	34–60	113–200
Phi-4 Reasoning Vision 15B15B	8 bit	15,9 GB	3–6	11–20
Phi-4 (14B)14B	8 bit	14,9 GB	4–6	12–21
Gemma 4 12B Unified12B	8 bit	12,7 GB	4–8	14–25
Qwen3 8B8,2B	8 bit	8,7 GB	12–21	21–37
Llama 3.1 8B Instruct8B	8 bit	8,5 GB	12–21	21–38
Gemma 4 E2B5,1B	8 bit	5,4 GB	23–40	75–133
Qwen3.5 4B4B	8 bit	4,3 GB	13–22	42–74
Phi-4 mini instruct3,8B	8 bit	4 GB	14–24	45–80
Llama 3.2 3B Instruct3,21B	8 bit	3,4 GB	16–28	53–94
SmolLM3 3B3B	8 bit	3,2 GB	17–30	56–100
LFM2.5 2.6B2,69B	8 bit	2,9 GB	19–33	62–110
Qwen3.5 2B2B	8 bit	2,1 GB	26–46	86–152
Llama 3.2 1B Instruct1,23B	8 bit	1,3 GB	42–74	138–246
Qwen3.5 0.8B0,8B	8 bit	0,9 GB	60–107	200–356
Qwen3 0.6B0,6B	8 bit	0,6 GB	90–160	300–533

Gira, ma lentamente 1

Ci sta, ma sotto i 10 token al secondo: va bene per i lavori in batch, ma è lento per la chat.

Modello	Versione	Memoria	M4	M1 Max
Llama 3.3 70B Instruct70B	2 bit qualità inferiore	21,9 GB	2–4	8–15

Ci sta al limite 2

Richiede quasi tutta la memoria: alza il limite di memoria della GPU e tieni il contesto breve.

Modello	Versione	Memoria	M4	M1 Max
Nemotron 3.5 Bolt 74B A9B74B · 9B attivi · Intelligenza 21,4	2 bit qualità inferiore	23,1 GB	19–34	64–114
Qwen3 Coder Next80B · 3B attivi · Intelligenza 9,2	2 bit qualità inferiore	25 GB	60–107	200–356

Domande

Qual è il miglior LLM per un Mac con 32 GB?: Tra i modelli con un Intelligence Index pubblicato, Qwen3.8 27B ha il punteggio più alto fra quelli che girano bene in 32 GB (4 bit). Il più grande che gira bene è Qwen3.6 35B A3B. Per il codice: Qwen3 Coder 30B A3B Instruct.
32 GB bastano per l’AI locale su Mac?: 38 dei 73 modelli aperti di questo elenco ci girano bene, a 4 bit o più. Di default macOS lascia usare alla GPU circa 24 GB; modello e contesto devono starci dentro.
Un Mac da 32 GB può eseguire gpt-oss-20b?: Sì, 4,25 bit nativo, a circa 28–51 token al secondo su un M4 e 95–168 su un M1 Max.

Altri tagli: 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB

Eseguili con MLX Harness (gratuito, open source) o con mlx-lm di Apple nel Terminale: passo dopo passo.

Come è calcolato

Memoria: i parametri del modello a 8, 6, 4, 3 o 2 bit per peso più le scale per gruppo di MLX (mezzo bit per peso), oppure il suo formato nativo, con in più lo spazio per il contesto. Di default macOS lascia usare alla GPU circa il 75% della memoria unificata. Velocità: la larghezza di banda della memoria divisa per i byte letti per ogni token è il limite massimo per una conversazione; nei benchmark pubblici su Apple Silicon di llama.cpp, le esecuzioni reali arrivano a circa il 45%–80% di quel limite, ed è l’intervallo mostrato. Sono stime, non misurazioni: misura il tuo Mac su MLX Bench. Dati dei modelli dalla rispettiva scheda ufficiale, dati dei chip dalle specifiche tecniche di Apple. Verificato il 2026-10-19. Stessi dati di mlx.app/compare.

I migliori LLM per un Mac da 32 GB.