Qual è il miglior LLM per un Mac con 16 GB?

Tra i modelli con un Intelligence Index pubblicato, MiniCPM5 2B ha il punteggio più alto fra quelli che girano bene in 16 GB (8 bit). Il più grande che gira bene è Phi-4 Reasoning Vision 15B.

16 GB bastano per l’AI locale su Mac?

22 dei 73 modelli aperti di questo elenco ci girano bene, a 4 bit o più. Di default macOS lascia usare alla GPU circa 12 GB; modello e contesto devono starci dentro.

Un Mac da 16 GB può eseguire gpt-oss-20b?

Sì, 3 bit, a circa 19–34 token al secondo su un M1 e 56–100 su un M1 Pro.

Migliori LLM locali per un Mac da 16 GB (da M1 a M6): cosa gira

Mac con 16 GB

8 chip (da M1 a M6) sono disponibili con 16 GB. Aprine uno per vedere il suo elenco e le sue velocità.

Gira bene 33

Ci sta con spazio per il contesto, a 10 o più token al secondo sul M1 Pro.

Modello	Versione	Memoria	M1	M1 Pro
MiniCPM5 2B2,52B · Intelligenza 12,5	8 bit	2,7 GB	11–20	33–59
Qwen3.5 9B9B · Intelligenza 11,2	6 bit	7,3 GB	3–6	12–22
Granite 4.2 8B8B · Intelligenza 11,1	8 bit	8,5 GB	4–6	11–19
Granite 4.2 3B3B · Intelligenza 9,1	8 bit	3,2 GB	10–17	28–50
Gemma 4 E4B8B · Intelligenza 8,9	8 bit	8,5 GB	12–22	19–33
Ministral 3 8B8,9B · Intelligenza 5,5	6 bit	7,2 GB	3–6	13–22
Nemotron 3 Nano 4B3,97B · Intelligenza 4,8	8 bit	4,2 GB	10–17	21–38
Phi-4 Reasoning Vision 15B15B	4 bit	8,4 GB	4–6	11–19
Phi-4 (14B)14B	4 bit	7,9 GB	4–7	11–20
Gemma 4 12B Unified12B	4 bit	6,7 GB	3–6	13–24
Qwen3 8B8,2B	8 bit	8,7 GB	4–6	10–18
Llama 3.1 8B Instruct8B	8 bit	8,5 GB	4–6	11–19
Gemma 4 E2B5,1B	8 bit	5,4 GB	13–23	38–67
Qwen3.5 4B4B	8 bit	4,3 GB	13–24	21–37
Phi-4 mini instruct3,8B	8 bit	4 GB	10–18	23–40
Llama 3.2 3B Instruct3,21B	8 bit	3,4 GB	12–21	26–47
SmolLM3 3B3B	8 bit	3,2 GB	10–17	28–50
LFM2.5 2.6B2,69B	8 bit	2,9 GB	11–19	31–55
Qwen3.5 2B2B	8 bit	2,1 GB	15–26	43–76
Llama 3.2 1B Instruct1,23B	8 bit	1,3 GB	24–42	69–123
Qwen3.5 0.8B0,8B	8 bit	0,9 GB	34–60	100–178
Qwen3 0.6B0,6B	8 bit	0,6 GB	51–91	150–267
Qwen3.8 27B27B · Intelligenza 33,7	2 bit qualità inferiore	8,4 GB	4–6	11–19
Muse Glimmer 30B29,6B · Intelligenza 17,5	2 bit qualità inferiore	9,3 GB	3–6	10–17
Nemotron 3.5 Lightning 30B A3B30B · 3B attivi · Intelligenza 12,9	2 bit qualità inferiore	9,4 GB	34–60	100–178
Granite 4.2 30B30B · Intelligenza 12,7	2 bit qualità inferiore	9,4 GB	3–6	10–17
gpt-oss-20b21B · 3,6B attivi · Intelligenza 9	3 bit qualità inferiore	9,2 GB	19–34	56–100
Nemotron 3 Nano 30B A3B30B · 3,5B attivi · Intelligenza 8,9	2 bit qualità inferiore	9,4 GB	28–49	82–145
Qwen3 Coder 30B A3B Instruct30,5B · 3,3B attivi	2 bit qualità inferiore	9,5 GB	31–54	90–160
GLM-4.7 Flash30B · 3B attivi	2 bit qualità inferiore	9,4 GB	34–60	100–178
Qwen3.6 27B27B	2 bit qualità inferiore	8,4 GB	4–6	11–19
Gemma 4 26B A4B25,2B · 3,8B attivi	2 bit qualità inferiore	7,9 GB	26–45	75–133
LFM2.5 24B A2B24B · 2B attivi	3 bit qualità inferiore	10,5 GB	34–60	100–178

Gira, ma lentamente 4

Ci sta, ma sotto i 10 token al secondo: va bene per i lavori in batch, ma è lento per la chat.

Modello	Versione	Memoria	M1	M1 Pro
Gemma 4 31B30,7B · Intelligenza 14,7	2 bit qualità inferiore	9,6 GB	3–6	9–17
Devstral Small 2 (24B)24B	3 bit qualità inferiore	10,5 GB	3–5	9–15
Magistral Small 1.2 (2509)24B	3 bit qualità inferiore	10,5 GB	3–5	9–15
Mistral Small 3.2 (24B)24B	3 bit qualità inferiore	10,5 GB	3–5	9–15

Ci sta al limite 1

Richiede quasi tutta la memoria: alza il limite di memoria della GPU e tieni il contesto breve.

Modello	Versione	Memoria	M1	M1 Pro
Qwen3.6 35B A3B35B · 3B attivi · Intelligenza 18,2	2 bit qualità inferiore	10,9 GB	34–60	100–178

Domande

Qual è il miglior LLM per un Mac con 16 GB?: Tra i modelli con un Intelligence Index pubblicato, MiniCPM5 2B ha il punteggio più alto fra quelli che girano bene in 16 GB (8 bit). Il più grande che gira bene è Phi-4 Reasoning Vision 15B.
16 GB bastano per l’AI locale su Mac?: 22 dei 73 modelli aperti di questo elenco ci girano bene, a 4 bit o più. Di default macOS lascia usare alla GPU circa 12 GB; modello e contesto devono starci dentro.
Un Mac da 16 GB può eseguire gpt-oss-20b?: Sì, 3 bit, a circa 19–34 token al secondo su un M1 e 56–100 su un M1 Pro.

Altri tagli: 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB

Eseguili con MLX Harness (gratuito, open source) o con mlx-lm di Apple nel Terminale: passo dopo passo.

Come è calcolato

Memoria: i parametri del modello a 8, 6, 4, 3 o 2 bit per peso più le scale per gruppo di MLX (mezzo bit per peso), oppure il suo formato nativo, con in più lo spazio per il contesto. Di default macOS lascia usare alla GPU circa il 75% della memoria unificata. Velocità: la larghezza di banda della memoria divisa per i byte letti per ogni token è il limite massimo per una conversazione; nei benchmark pubblici su Apple Silicon di llama.cpp, le esecuzioni reali arrivano a circa il 45%–80% di quel limite, ed è l’intervallo mostrato. Sono stime, non misurazioni: misura il tuo Mac su MLX Bench. Dati dei modelli dalla rispettiva scheda ufficiale, dati dei chip dalle specifiche tecniche di Apple. Verificato il 2026-10-19. Stessi dati di mlx.app/compare.

I migliori LLM per un Mac da 16 GB.