Qual è il miglior LLM per un Mac con 128 GB?

Tra i modelli con un Intelligence Index pubblicato, Qwen3.8 27B ha il punteggio più alto fra quelli che girano bene in 128 GB (8 bit). Il più grande che gira bene è Qwen3.5 122B A10B. Per il codice: Qwen3 Coder Next.

128 GB bastano per l’AI locale su Mac?

47 dei 73 modelli aperti di questo elenco ci girano bene, a 4 bit o più. Di default macOS lascia usare alla GPU circa 96 GB; modello e contesto devono starci dentro.

Un Mac da 128 GB può eseguire gpt-oss-20b?

Sì, 4,25 bit nativo, a circa 95–168 token al secondo su un M3 Max e 189–337 su un M1 Ultra.

Migliori LLM locali per un Mac da 128 GB (da M1 a M5): cosa gira

Mac con 128 GB

5 chip (da M1 a M5) sono disponibili con 128 GB. Aprine uno per vedere il suo elenco e le sue velocità.

Gira bene 51

Ci sta con spazio per il contesto, a 10 o più token al secondo sul M1 Ultra.

Modello	Versione	Memoria	M3 Max	M1 Ultra
Qwen3.8 27B27B · Intelligenza 33,7	8 bit	28,7 GB	12–21	13–22
Nemotron 3.5 Bolt 74B A9B74B · 9B attivi · Intelligenza 21,4	8 bit	78,6 GB	19–33	38–67
Qwen3.6 35B A3B35B · 3B attivi · Intelligenza 18,2	8 bit	37,2 GB	56–100	113–200
Muse Glimmer 30B29,6B · Intelligenza 17,5	8 bit	31,5 GB	11–19	11–20
Qwen3.5 122B A10B122B · 10B attivi · Intelligenza 15,6	4 bit	68,6 GB	32–57	64–114
Gemma 4 31B30,7B · Intelligenza 14,7	8 bit	32,6 GB	10–18	11–20
Nemotron 3.5 Lightning 30B A3B30B · 3B attivi · Intelligenza 12,9	8 bit	31,9 GB	56–100	113–200
Granite 4.2 30B30B · Intelligenza 12,7	8 bit	31,9 GB	11–19	11–20
MiniCPM5 2B2,52B · Intelligenza 12,5	8 bit	2,7 GB	67–119	133–237
gpt-oss-120b117B · 5,1B attivi · Intelligenza 11,6	4,25 bit nativo	65,3 GB	67–119	133–237
Mistral Small 4 (119B)119B · 6,5B attivi · Intelligenza 11,3	4 bit	66,9 GB	49–86	97–173
Qwen3.5 9B9B · Intelligenza 11,2	8 bit	9,6 GB	19–33	38–67
Granite 4.2 8B8B · Intelligenza 11,1	8 bit	8,5 GB	21–38	42–75
Qwen3 Coder Next80B · 3B attivi · Intelligenza 9,2	8 bit	85 GB	56–100	113–200
Granite 4.2 3B3B · Intelligenza 9,1	8 bit	3,2 GB	56–100	113–200
gpt-oss-20b21B · 3,6B attivi · Intelligenza 9	4,25 bit nativo	13,8 GB	95–168	189–337
Nemotron 3 Nano 30B A3B30B · 3,5B attivi · Intelligenza 8,9	8 bit	31,9 GB	49–86	97–173
Gemma 4 E4B8B · Intelligenza 8,9	8 bit	8,5 GB	38–67	75–133
Llama 4 Scout 17B-16E Instruct109B · 17B attivi · Intelligenza 6,5	6 bit	88,6 GB	13–23	26–46
Ministral 3 8B8,9B · Intelligenza 5,5	8 bit	9,5 GB	19–34	38–67
Nemotron 3 Nano 4B3,97B · Intelligenza 4,8	8 bit	4,2 GB	43–76	86–152
Ornith 1.5 122B122B · 10B attivi	4 bit	68,6 GB	32–57	64–114
Nemotron 3 Super 120B A12B120B · 12B attivi	4 bit	67,5 GB	26–47	53–94
GLM-4.5 Air106B · 12B attivi	6 bit	86,1 GB	18–33	37–65
Qwen3 Coder 30B A3B Instruct30,5B · 3,3B attivi	8 bit	32,4 GB	51–91	103–183
GLM-4.7 Flash30B · 3B attivi	8 bit	31,9 GB	56–100	113–200
Qwen3.6 27B27B	8 bit	28,7 GB	12–21	13–22
Gemma 4 26B A4B25,2B · 3,8B attivi	8 bit	26,8 GB	45–80	90–160
Devstral Small 2 (24B)24B	8 bit	25,5 GB	13–24	14–25
Magistral Small 1.2 (2509)24B	8 bit	25,5 GB	13–24	14–25
Mistral Small 3.2 (24B)24B	8 bit	25,5 GB	13–24	14–25
LFM2.5 24B A2B24B · 2B attivi	8 bit	25,5 GB	86–152	171–305
Phi-4 Reasoning Vision 15B15B	8 bit	15,9 GB	11–20	23–40
Phi-4 (14B)14B	8 bit	14,9 GB	12–21	24–43
Gemma 4 12B Unified12B	8 bit	12,7 GB	14–25	28–50
Qwen3 8B8,2B	8 bit	8,7 GB	21–37	41–74
Llama 3.1 8B Instruct8B	8 bit	8,5 GB	21–38	42–75
Gemma 4 E2B5,1B	8 bit	5,4 GB	75–133	150–267
Qwen3.5 4B4B	8 bit	4,3 GB	42–74	84–149
Phi-4 mini instruct3,8B	8 bit	4 GB	45–80	90–160
Llama 3.2 3B Instruct3,21B	8 bit	3,4 GB	53–94	106–188
SmolLM3 3B3B	8 bit	3,2 GB	56–100	113–200
LFM2.5 2.6B2,69B	8 bit	2,9 GB	62–110	124–221
Qwen3.5 2B2B	8 bit	2,1 GB	86–152	171–305
Llama 3.2 1B Instruct1,23B	8 bit	1,3 GB	138–246	277–492
Qwen3.5 0.8B0,8B	8 bit	0,9 GB	200–356	400–711
Qwen3 0.6B0,6B	8 bit	0,6 GB	300–533	600–1067
Qwen3.8 Flash Next180B · 6B attivi · Intelligenza 39,8	3 bit qualità inferiore	78,8 GB	69–123	138–246
Inkling Small276B · 12B attivi · Intelligenza 25,7	2 bit qualità inferiore	86,3 GB	47–84	95–168
DeepSeek V4 Flash 0731284B · 13B attivi	2 bit qualità inferiore	88,8 GB	44–78	88–156
MiniMax M2.7230B · 10B attivi	2 bit qualità inferiore	71,9 GB	58–103	116–206

Gira, ma lentamente 3

Ci sta, ma sotto i 10 token al secondo: va bene per i lavori in batch, ma è lento per la chat.

Modello	Versione	Memoria	M3 Max	M1 Ultra
Mistral Medium 3.5 (128B)128B · Intelligenza 14,2	4 bit	72 GB	3–4	5–9
Devstral 2 (123B)123B	4 bit	69,2 GB	3–5	5–9
Llama 3.3 70B Instruct70B	8 bit	74,4 GB	2–4	5–9

Ci sta al limite 3

Richiede quasi tutta la memoria: alza il limite di memoria della GPU e tieni il contesto breve.

Modello	Versione	Memoria	M3 Max	M1 Ultra
GLM-5.3 Flash320B · 18B attivi · Intelligenza 41,8	2 bit qualità inferiore	100 GB	32–57	64–114
MiMo V2.6 Flash309B · 15B attivi · Intelligenza 37,9	2 bit qualità inferiore	96,6 GB	38–68	77–136
Hy3295B · 21B attivi · Intelligenza 25,3	2 bit qualità inferiore	92,2 GB	27–48	55–97

Troppo grande 16

Richiede più di 128 GB di memoria, anche a 2 bit.

Domande

Qual è il miglior LLM per un Mac con 128 GB?: Tra i modelli con un Intelligence Index pubblicato, Qwen3.8 27B ha il punteggio più alto fra quelli che girano bene in 128 GB (8 bit). Il più grande che gira bene è Qwen3.5 122B A10B. Per il codice: Qwen3 Coder Next.
128 GB bastano per l’AI locale su Mac?: 47 dei 73 modelli aperti di questo elenco ci girano bene, a 4 bit o più. Di default macOS lascia usare alla GPU circa 96 GB; modello e contesto devono starci dentro.
Un Mac da 128 GB può eseguire gpt-oss-20b?: Sì, 4,25 bit nativo, a circa 95–168 token al secondo su un M3 Max e 189–337 su un M1 Ultra.

Altri tagli: 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB

Eseguili con MLX Harness (gratuito, open source) o con mlx-lm di Apple nel Terminale: passo dopo passo.

Come è calcolato

Memoria: i parametri del modello a 8, 6, 4, 3 o 2 bit per peso più le scale per gruppo di MLX (mezzo bit per peso), oppure il suo formato nativo, con in più lo spazio per il contesto. Di default macOS lascia usare alla GPU circa il 75% della memoria unificata. Velocità: la larghezza di banda della memoria divisa per i byte letti per ogni token è il limite massimo per una conversazione; nei benchmark pubblici su Apple Silicon di llama.cpp, le esecuzioni reali arrivano a circa il 45%–80% di quel limite, ed è l’intervallo mostrato. Sono stime, non misurazioni: misura il tuo Mac su MLX Bench. Dati dei modelli dalla rispettiva scheda ufficiale, dati dei chip dalle specifiche tecniche di Apple. Verificato il 2026-10-19. Stessi dati di mlx.app/compare.