Un Mac Studio con M5 Ultra va bene per gli LLM locali?

Con 512 GB esegue bene 61 modelli aperti su 73, fino a DeepSeek V4.1 Flash 1017, e scrive circa 284–505 token al secondo con gpt-oss-20b. Il chip M5 Ultra legge la memoria a 1200 GB/s, che determina quanto velocemente scrive.

Quanta memoria serve a un Mac Studio con M5 Ultra per l’AI?

Con 96 GB esegue bene 44 modelli aperti; con 512 GB, 61, fino a DeepSeek V4.1 Flash 1017. La memoria decide quali modelli ci stanno, e non si può espandere in seguito.

Mac Studio M5 Ultra per l’AI locale: quali LLM, per memoria

Per taglio di memoria

Memoria	Girano bene	Il più grande che gira bene	gpt-oss-20b
96 GB1200 GB/s	44	gpt-oss-120b	284–505 tok/s
256 GB1200 GB/s	54	MiMo V2.6 Flash	284–505 tok/s
512 GB1200 GB/s	61	DeepSeek V4.1 Flash 1017	284–505 tok/s

Modelli: Mac Studio (M5 Max or M5 Ultra). Non tutti i tagli di memoria sono disponibili per ogni modello; le specifiche tecniche di Apple indicano con cosa viene offerto ciascuno.

Domande

Un Mac Studio con M5 Ultra va bene per gli LLM locali?: Con 512 GB esegue bene 61 modelli aperti su 73, fino a DeepSeek V4.1 Flash 1017, e scrive circa 284–505 token al secondo con gpt-oss-20b. Il chip M5 Ultra legge la memoria a 1200 GB/s, che determina quanto velocemente scrive.
Quanta memoria serve a un Mac Studio con M5 Ultra per l’AI?: Con 96 GB esegue bene 44 modelli aperti; con 512 GB, 61, fino a DeepSeek V4.1 Flash 1017. La memoria decide quali modelli ci stanno, e non si può espandere in seguito.

Altri Mac

Mac Studio con altri chip:

Testa a testa:

Contro PC e schede grafiche:

Il M5 Ultra per l’AI locale · Il miglior Mac per LLM in locale · Tutti i Mac

Come è calcolato

Memoria: i parametri del modello a 8, 6, 4, 3 o 2 bit per peso più le scale per gruppo di MLX (mezzo bit per peso), oppure il suo formato nativo, con in più lo spazio per il contesto. Di default macOS lascia usare alla GPU circa il 75% della memoria unificata. Velocità: la larghezza di banda della memoria divisa per i byte letti per ogni token è il limite massimo per una conversazione; nei benchmark pubblici su Apple Silicon di llama.cpp, le esecuzioni reali arrivano a circa il 45%–80% di quel limite, ed è l’intervallo mostrato. Sono stime, non misurazioni: misura il tuo Mac su MLX Bench. Dati dei modelli dalla rispettiva scheda ufficiale, dati dei chip dalle specifiche tecniche di Apple. Verificato il 2026-10-19. Stessi dati di mlx.app/compare.