Mac mini vs Mac Studio per l’IA.

1Le specifiche che contano per l’IA

Ogni configurazione rimanda ai modelli che ci girano bene. I modelli precedenti funzionano allo stesso modo: il Mac mini con M4 o M4 Pro e il Mac Studio con M4 Max o M3 Ultra (la classifica di tutti i Mac).

2Quanto velocemente scrive ciascuno

Per scrivere testo, il modello legge i suoi pesi attivi una volta per ogni token, quindi la larghezza di banda della memoria fissa un tetto alla velocità. Per un modello denso da 32B a 4 bit, circa 18 GB:

I modelli mixture-of-experts leggono solo una parte dei loro pesi per ogni token, quindi scrivono molto più veloci di quanto farebbe pensare la loro dimensione: la memoria decide se ci stanno, la larghezza di banda detta comunque il ritmo. La lettura di un prompt lungo dipende dalla potenza di calcolo della GPU più che dalla larghezza di banda, e lì le GPU più grandi dei chip Max e Ultra staccano ancora di più.

3Quale per quali modelli

• Modelli piccoli e medi (fino a circa 30B a 4 bit), chat, assistenti per programmare, un server IA in casa: un Mac mini con M5 Pro e 48 o 64 GB. Il Mac mini M6 con 32 GB esegue le stesse dimensioni a circa metà velocità.
• Modelli di classe 70B, gpt-oss-120b, contesti lunghi o più modelli insieme: un Mac Studio con M5 Max e 128 GB. I file di gpt-oss-120b di OpenAI occupano circa 65 GB (OpenAI), più di quanto qualsiasi Mac mini possa dare alla sua GPU.
• I modelli aperti più grandi (centinaia di miliardi di parametri): un Mac Studio con M5 Ultra e 256 o 512 GB, oppure più Mac insieme (cluster di Mac per l’IA).

Per un modello specifico, la sua pagina mostra il Mac più piccolo che lo esegue e la velocità su ogni chip: tutti i modelli aperti.

4Tenerlo acceso tutto il giorno

Sono entrambi macchine sempre accese, silenziose ed efficienti. Secondo i dati di Apple riportati sopra, un Mac mini a riposo assorbe 4–6 W e un Mac Studio 7–9 W; a pieno carico il Mac Studio con M5 Ultra può arrivare a 385 W. Un Mac mini come server IA spiega come tenerlo sveglio e servire modelli agli altri dispositivi, e quanta corrente consuma un Mac quanto costa una giornata.

Quando è inattivo, MLX Node può eseguire lavori di IA per MLX Network e guadagnare MLX Tokens. Un posto dedicato abbinato al chip mina più velocemente: Core per l’M6, Pro per l’M5 Pro e l’M5 Max, Ultra per l’M5 Ultra. I guadagni non sono garantiti: leggi i rischi.

5Domande

Per l’IA conviene un Mac Studio rispetto a un Mac mini?

Se vuoi modelli oltre circa 85B parametri, gpt-oss-120b o contesti lunghi, sì: solo il Mac Studio ha più di 64 GB. Per modelli fino a circa 30B a 4 bit basta un Mac mini con M5 Pro, con circa metà della larghezza di banda dell’M5 Max.

Un Mac mini può eseguire un modello da 70B?

Solo l’M5 Pro con 64 GB, a 4 bit e con un contesto breve: circa 39 GB di pesi nei 48 GB che la GPU può usare di default, a pochi token al secondo. Un Mac Studio con 128 GB lo esegue con spazio per il contesto e circa il doppio della velocità.

Mac Studio M5 Max o M5 Ultra per gli LLM?

L’M5 Ultra ha circa il doppio della larghezza di banda (1.200 contro 614 GB/s), quindi scrive circa il doppio più veloce, e arriva a 512 GB. L’M5 Max con 128 GB copre modelli fino a circa 170B a 4 bit. Vedi M5 Max vs M5 Ultra.

Mac mini M6 o M5 Pro per l’IA?

L’M5 Pro: legge la memoria circa l’80% più velocemente dell’M6 con 24 o 32 GB e arriva a 64 GB invece di 32 GB.