Een Mac mini als je AI-server.

1Waarom een Mac mini

Tekst schrijven met een taalmodel wordt beperkt door hoe snel de gewichten uit het geheugen kunnen worden gelezen. Op een Mac leest de GPU het unified memory rechtstreeks, dus een Mac mini met 64 GB kan modellen bevatten die niet op een consumentenkaart passen, met een verbruik van een paar watt in rust. Hij neemt weinig ruimte in en draait macOS, dus dezelfde tools werken als op een MacBook.

Zijn grenzen zijn geheugen en bandbreedte. De grootste Mac mini heeft 64 GB met 307 GB/s; voor modellen van de 70B-klasse op hogere precisie of de grootste open modellen is een Mac Studio met tot 512 GB de volgende stap (Apple). Zie de beste Mac voor lokale LLM's.

2Welke Mac mini voor welke modellen

De bandbreedte bepaalt de snelheid: de M5 Pro leest het geheugen ongeveer 80% sneller dan de M6 met 24 of 32 GB, dus hetzelfde model kan erop tot ongeveer 80% sneller schrijven. Elke rij linkt naar alle modellen die goed draaien op die Mac, met snelheden. Eerdere Mac minis met M4 en M4 Pro werken net zo: Mac mini M4 Pro.

Agents en lange documenten hebben contextgeheugen nodig bovenop het model. Is een AI-agent de hoofdtaak, kies dan liever meer geheugen dan een snellere chip.

3Houd hem wakker en bereikbaar

Open op de Mac mini Systeeminstellingen › Energie (Apple):

• Voorkom automatische sluimerstand wanneer het beeldscherm uit is: aan, zodat de server blijft antwoorden zonder aangesloten scherm.
• Start automatisch op na een stroomstoring: aan, zodat hij vanzelf terugkomt.
• Activeer voor netwerktoegang: aan, als je hem laat sluimeren.
• Energiezuinige modus: Apple raadt die aan voor computers die altijd aan staan, zoals servers, om energieverbruik en ventilatorgeluid te beperken.

Om hem zonder scherm te beheren zet je Extern inloggen (SSH) of Schermdeling aan in Systeeminstellingen › Algemeen › Delen (Apple). Laat de server-app openen bij het inloggen, zodat alles na een herstart weer draait.

4Bied een model aan op je andere apparaten

Elk van deze tools draait een model op de Mac mini en geeft je andere apps een API in het formaat van de API van OpenAI, dat de meeste chat-apps, programmeertools en agents accepteren:

Met mlx-lm bijvoorbeeld:

pip install mlx-lm
mlx_lm.server --model mlx-community/Qwen3-8B-4bit --host 0.0.0.0 --port 8080

# from another computer on the same network
curl http://<mac-mini-name>.local:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"messages": [{"role": "user", "content": "Hello"}]}'

Ollama haalt een model standaard na 5 minuten zonder verzoeken uit het geheugen; stel op een server OLLAMA_KEEP_ALIVE in om het geladen te houden (Ollama). De beste apps om LLM's op een Mac te draaien vergelijkt deze tools uitgebreid.

De AI App Store toont deze tools en andere apps die modellen lokaal draaien, elk met de officiële download van de maker, de licentie en waar je gegevens heen gaan.

5AI-agents erop draaien

Veel Mac minis draaien tegenwoordig dag en nacht AI-agents die via chat-apps, bestanden en het web werken. OpenClaw is bijvoorbeeld een opensource assistent die op je eigen computer draait, waarbij modellen, ook lokale, plug-ins zijn die je kunt verwisselen (OpenClaw). Wijs zo'n agent naar het adres van de lokale server en hij gebruikt het model op je Mac mini in plaats van een cloud-API.

Voor agents tellen twee dingen zwaarder dan voor chatten. Context: agents sturen lange prompts met toolbeschrijvingen en geschiedenis, en dat kost geheugen bovenop het model (zie waarom). En modelkwaliteit: het grootste model dat goed draait op je Mac mini volgt instructies op en roept tools betrouwbaarder aan dan een klein model.

6Houd hem privé

• Deze servers luisteren alleen op de Mac zelf tot je dat verandert. Open ze alleen voor je thuis- of kantoornetwerk, en alleen als je de apparaten daarop vertrouwt.
• De eigen documentatie van mlx-lm zegt dat de server niet wordt aangeraden voor productie, omdat hij alleen basale beveiligingscontroles heeft (mlx-lm).
• Zet geen poort open naar internet. Wil je de Mac mini van buitenaf bereiken, gebruik dan een privénetwerk zoals een VPN.
• Een agent die opdrachten kan uitvoeren of berichten kan sturen, handelt met jouw accounts: geef hem alleen de toegang die hij nodig heeft.

7Wat hij kost, en zijn uren in rust

Een thuisserver is het grootste deel van de dag aan het wachten. MLX Node kan die uren benutten: het voert AI-taken uit voor MLX Network binnen de grenzen die jij instelt, ook hoeveel geheugen een taak mag gebruiken, en verdient MLX Tokens op een gratis plek, tot 1 MLX per dag. Pauzeer het als je de Mac mini op volle snelheid nodig hebt, of laat het pas starten als de Mac een tijd niet is gebruikt. Opbrengsten hangen af van het netwerk en zijn niet gegarandeerd: lees de risico's.

8Vragen

Is een Mac mini goed voor AI?

Om modellen lokaal te draaien wel: zijn GPU leest het unified memory rechtstreeks, dus de M5 Pro met 64 GB bevat modellen tot ongeveer 85B parameters op 4 bit, met een paar watt in rust. Voor trainen of de grootste modellen zijn een Mac Studio of een GPU-server het betere gereedschap.

Welke Mac mini koop ik voor een lokale LLM-server?

Zoveel geheugen als je kunt: het geheugen bepaalt welke modellen passen en kan later niet worden uitgebreid. De M5 Pro leest het geheugen bovendien ongeveer 80% sneller dan de M6 met 24 of 32 GB, dus hij schrijft sneller. Vergelijk elke configuratie bij Mac mini M5 Pro en Mac mini M6.

Kan een Mac mini een 70B-model draaien?

Alleen de M5 Pro met 64 GB, op 4 bit en met een korte context: de gewichten nemen ongeveer 39 GB in van de 48 GB die de GPU standaard kan gebruiken. Hij schrijft langzaam, een paar tokens per seconde. Zie Llama 3.3 70B op een Mac.

Hoe gebruik ik het model van de Mac mini vanaf mijn laptop of telefoon?

Start de server zo dat hij op je netwerk luistert (bijvoorbeeld mlx_lm.server --host 0.0.0.0) en wijs de app op het andere apparaat naar http://<mac-mini-name>.local:8080/v1 als OpenAI-compatibel endpoint.

Hoeveel stroom verbruikt een Mac mini als AI-server?

Een Mac mini met M6 verbruikt ongeveer 4 W in rust en tot 70 W; een M5 Pro 6 W tot 145 W. Een hele dag op vol vermogen is dat hooguit 1,68 of 3,48 kWh (Apple).