Un Mac mini come server IA.

1Perché un Mac mini

Scrivere testo con un modello linguistico è limitato dalla velocità con cui i pesi vengono letti dalla memoria. Su un Mac la GPU legge direttamente la memoria unificata, quindi un Mac mini con 64 GB può contenere modelli che non stanno su una scheda grafica consumer, con pochi watt a riposo. Occupa poco spazio e usa macOS, quindi funzionano gli stessi strumenti di un MacBook.

I suoi limiti sono memoria e larghezza di banda. Il Mac mini più grande ha 64 GB a 307 GB/s; per modelli di classe 70B a precisione più alta o per i modelli aperti più grandi, il passo successivo è un Mac Studio con fino a 512 GB (Apple). Vedi il miglior Mac per LLM in locale.

2Quale Mac mini per quali modelli

La larghezza di banda decide la velocità: l’M5 Pro legge la memoria circa l’80% più velocemente dell’M6 con 24 o 32 GB, quindi lo stesso modello può scrivere fino a circa l’80% più veloce. Ogni riga rimanda a tutti i modelli che girano bene su quel Mac, con le velocità. I Mac mini precedenti con M4 e M4 Pro funzionano allo stesso modo: Mac mini M4 Pro.

Agenti e documenti lunghi richiedono memoria per il contesto oltre al modello. Se il lavoro principale è un agente IA, preferisci più memoria a un chip più veloce.

3Tienilo sveglio e raggiungibile

Apri Impostazioni di Sistema › Energia sul Mac mini (Apple):

• Impedisci lo stop automatico quando il monitor è spento: attivo, così il server continua a rispondere anche senza schermo collegato.
• Avvia automaticamente dopo un’interruzione di corrente: attivo, così si riaccende da solo.
• Riattiva per l’accesso di rete: attivo, se lo lasci andare in stop.
• Modalità di basso consumo: Apple la consiglia per i computer sempre accesi, come i server, per ridurre i consumi e il rumore della ventola.

Per gestirlo senza schermo, attiva Login remoto (SSH) o Condivisione schermo in Impostazioni di Sistema › Generali › Condivisione (Apple). Imposta l’app server perché si apra al login, così un riavvio rimette tutto in funzione.

4Servi un modello agli altri dispositivi

Ognuno di questi strumenti esegue un modello sul Mac mini e dà alle tue altre app un’API nel formato dell’API di OpenAI, che la maggior parte delle app di chat, degli strumenti di programmazione e degli agenti accetta:

Con mlx-lm, per esempio:

pip install mlx-lm
mlx_lm.server --model mlx-community/Qwen3-8B-4bit --host 0.0.0.0 --port 8080

# from another computer on the same network
curl http://<mac-mini-name>.local:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"messages": [{"role": "user", "content": "Hello"}]}'

Di default Ollama scarica un modello dalla memoria dopo 5 minuti senza richieste; su un server imposta OLLAMA_KEEP_ALIVE per tenerlo in memoria (Ollama). Le migliori app per eseguire LLM su Mac confronta questi strumenti nel dettaglio.

L’AI App Store elenca questi strumenti e altre app che eseguono modelli in locale, ciascuno con il download ufficiale dello sviluppatore, la licenza e dove vanno i tuoi dati.

5Eseguire agenti IA

Molti Mac mini oggi eseguono agenti IA che lavorano con app di chat, file e web 24 ore su 24. OpenClaw, per esempio, è un assistente open source che gira sul tuo computer, dove i modelli, anche quelli locali, sono plugin intercambiabili (OpenClaw). Punta un agente del genere all’indirizzo del server locale e userà il modello sul tuo Mac mini invece di un’API cloud.

Per gli agenti contano due cose più che per la chat. Il contesto: gli agenti inviano prompt lunghi con descrizioni degli strumenti e cronologia, che occupano memoria oltre al modello (ecco perché). E la qualità del modello: il modello più grande che gira bene sul tuo Mac mini seguirà le istruzioni e userà gli strumenti in modo più affidabile di uno piccolo.

6Mantienilo privato

• Questi server ascoltano solo sul Mac stesso finché non lo cambi. Aprili solo alla rete di casa o dell’ufficio, e solo se ti fidi dei dispositivi collegati.
• La documentazione di mlx-lm stessa dice che il suo server non è consigliato per la produzione perché implementa solo controlli di sicurezza di base (mlx-lm).
• Non inoltrare una porta verso internet. Per raggiungere il Mac mini da fuori, usa una rete privata come una VPN.
• Un agente che può eseguire comandi o inviare messaggi agisce con i tuoi account: dagli solo gli accessi di cui ha bisogno.

7Quanto costa, e le sue ore di inattività

Un server di casa passa gran parte della giornata ad aspettare. MLX Node può usare quelle ore: esegue lavori di IA per MLX Network nei limiti che imposti, compresa la memoria che un lavoro può occupare, e guadagna MLX Tokens con un posto gratuito, fino a 1 MLX al giorno. Mettilo in pausa quando ti serve il Mac mini alla massima velocità, oppure fallo partire solo quando il Mac è inattivo. I guadagni dipendono dalla rete e non sono garantiti: leggi i rischi.

8Domande

Il Mac mini va bene per l’IA?

Per eseguire modelli in locale sì: la sua GPU legge direttamente la memoria unificata, quindi l’M5 Pro con 64 GB contiene modelli fino a circa 85B parametri a 4 bit, con pochi watt a riposo. Per l’addestramento o i modelli più grandi, un Mac Studio o un server con GPU è lo strumento migliore.

Quale Mac mini comprare per un server LLM in locale?

Con più memoria possibile: la memoria decide quali modelli ci stanno e non si può espandere in seguito. L’M5 Pro legge inoltre la memoria circa l’80% più velocemente dell’M6 con 24 o 32 GB, quindi scrive più veloce. Confronta ogni configurazione in Mac mini M5 Pro e Mac mini M6.

Un Mac mini può eseguire un modello da 70B?

Solo l’M5 Pro con 64 GB, a 4 bit e con un contesto breve: i pesi occupano circa 39 GB dei 48 GB che la GPU può usare di default. Scrive lentamente, pochi token al secondo. Vedi Llama 3.3 70B su Mac.

Come uso il modello del Mac mini dal portatile o dal telefono?

Avvia il server in modo che ascolti sulla tua rete (per esempio mlx_lm.server --host 0.0.0.0), poi punta l’app sull’altro dispositivo a http://<mac-mini-name>.local:8080/v1 come endpoint compatibile con OpenAI.

Quanta corrente consuma un server IA su Mac mini?

Un Mac mini M6 assorbe circa 4 W a riposo e fino a 70 W; un M5 Pro da 6 W a 145 W. Al massimo per un giorno intero fanno al più 1,68 o 3,48 kWh (Apple).