Ein Mac mini als dein KI-Server.

1Warum ein Mac mini

Beim Schreiben von Text mit einem Sprachmodell begrenzt vor allem, wie schnell die Gewichte aus dem Speicher gelesen werden. Auf einem Mac liest die GPU den gemeinsamen Arbeitsspeicher direkt, ein Mac mini mit 64 GB fasst also Modelle, die auf keine Consumer-Grafikkarte passen, und braucht im Leerlauf nur ein paar Watt. Er nimmt kaum Platz weg und läuft mit macOS, also funktionieren dieselben Tools wie auf einem MacBook.

Seine Grenzen sind Speicher und Bandbreite. Der größte Mac mini hat 64 GB mit 307 GB/s; für Modelle der 70B-Klasse in höherer Genauigkeit oder die größten offenen Modelle ist ein Mac Studio mit bis zu 512 GB der nächste Schritt (Apple). Siehe den besten Mac für lokale LLMs.

2Welcher Mac mini für welche Modelle

Die Bandbreite bestimmt das Tempo: Der M5 Pro liest den Speicher etwa 80 % schneller als der M6 mit 24 oder 32 GB, dasselbe Modell kann darauf also bis zu etwa 80 % schneller schreiben. Jede Zeile verlinkt auf alle Modelle, die auf diesem Mac gut laufen, mit Tempo. Frühere Mac minis mit M4 und M4 Pro funktionieren genauso: Mac mini M4 Pro.

Agenten und lange Dokumente brauchen zusätzlich zum Modell Speicher für den Kontext. Ist ein KI-Agent die Hauptaufgabe, nimm lieber mehr Speicher als einen schnelleren Chip.

3Wach und erreichbar halten

Öffne auf dem Mac mini Systemeinstellungen › Energie (Apple):

• Automatischen Ruhezustand verhindern, wenn der Bildschirm ausgeschaltet ist: ein, damit der Server auch ohne angeschlossenen Bildschirm antwortet.
• Nach Stromausfall automatisch starten: ein, damit er von selbst wieder hochfährt.
• Bei Netzwerkzugriff aufwachen: ein, falls du ihn schlafen lässt.
• Stromsparmodus: Apple empfiehlt ihn für Computer, die immer laufen, etwa Server, um Energieverbrauch und Lüftergeräusch zu senken.

Um ihn ohne Bildschirm zu verwalten, schalte in Systemeinstellungen › Allgemein › Teilen „Entfernte Anmeldung“ (SSH) oder „Bildschirmfreigabe“ ein (Apple). Lass die Server-App bei der Anmeldung öffnen, damit nach einem Neustart alles wieder läuft.

4Ein Modell für deine anderen Geräte bereitstellen

Jedes dieser Tools führt ein Modell auf dem Mac mini aus und gibt deinen anderen Apps eine API im Format der OpenAI-API, das die meisten Chat-Apps, Coding-Tools und Agenten verstehen:

Mit mlx-lm zum Beispiel:

pip install mlx-lm
mlx_lm.server --model mlx-community/Qwen3-8B-4bit --host 0.0.0.0 --port 8080

# from another computer on the same network
curl http://<mac-mini-name>.local:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"messages": [{"role": "user", "content": "Hello"}]}'

Ollama entlädt ein Modell standardmäßig nach 5 Minuten ohne Anfragen; setze auf einem Server OLLAMA_KEEP_ALIVE, damit es im Speicher bleibt (Ollama). Die besten Apps für LLMs auf dem Mac vergleicht diese Tools im Detail.

Der AI App Store listet diese Tools und weitere Apps, die Modelle lokal ausführen, jeweils mit dem offiziellen Download des Herstellers, der Lizenz und wohin deine Daten gehen.

5KI-Agenten darauf ausführen

Viele Mac minis führen inzwischen KI-Agenten aus, die rund um die Uhr über Chat-Apps, Dateien und das Web arbeiten. OpenClaw zum Beispiel ist ein Open-Source-Assistent, der auf deinem eigenen Computer läuft und bei dem Modelle, auch lokale, austauschbare Plugins sind (OpenClaw). Richte einen solchen Agenten auf die Adresse des lokalen Servers, und er nutzt das Modell auf deinem Mac mini statt einer Cloud-API.

Zwei Dinge zählen bei Agenten mehr als beim Chat. Der Kontext: Agenten schicken lange Prompts mit Tool-Beschreibungen und Verlauf, was zusätzlich zum Modell Speicher braucht (warum). Und die Modellqualität: Das größte Modell, das auf deinem Mac mini gut läuft, befolgt Anweisungen und ruft Tools zuverlässiger auf als ein kleines.

6Privat halten

• Diese Server lauschen nur auf dem Mac selbst, bis du das änderst. Öffne sie nur für dein Netzwerk zu Hause oder im Büro und nur, wenn du den Geräten darin vertraust.
• Laut der eigenen Dokumentation von mlx-lm wird sein Server nicht für den Produktivbetrieb empfohlen, weil er nur grundlegende Sicherheitsprüfungen umsetzt (mlx-lm).
• Leite keinen Port ins Internet weiter. Um den Mac mini von außen zu erreichen, nutze ein privates Netzwerk wie ein VPN.
• Ein Agent, der Befehle ausführen oder Nachrichten senden kann, handelt mit deinen Konten: Gib ihm nur den Zugriff, den er braucht.

7Was er kostet, und seine Leerlaufstunden

Ein Heimserver verbringt den Großteil des Tages mit Warten. MLX Node kann diese Stunden nutzen: Es führt KI-Aufträge für MLX Network innerhalb der Grenzen aus, die du setzt, auch wie viel Speicher ein Auftrag nehmen darf, und verdient auf einem Free Seat MLX Tokens, bis zu 1 MLX am Tag. Pausiere es, wenn du den Mac mini mit vollem Tempo brauchst, oder lass es erst starten, wenn der Mac im Leerlauf ist. Die Erträge hängen vom Netzwerk ab und sind nicht garantiert: Lies die Risiken.

8Fragen

Ist ein Mac mini gut für KI?

Um Modelle lokal auszuführen, ja: Seine GPU liest den gemeinsamen Arbeitsspeicher direkt, der M5 Pro mit 64 GB fasst also Modelle bis etwa 85B Parameter in 4 Bit und braucht im Leerlauf nur ein paar Watt. Für Training oder die größten Modelle ist ein Mac Studio oder ein GPU-Server das bessere Werkzeug.

Welchen Mac mini soll ich als lokalen LLM-Server kaufen?

So viel Speicher wie möglich: Der Speicher entscheidet, welche Modelle passen, und lässt sich später nicht aufrüsten. Der M5 Pro liest den Speicher außerdem etwa 80 % schneller als der M6 mit 24 oder 32 GB und schreibt daher schneller. Vergleiche jede Konfiguration unter Mac mini M5 Pro und Mac mini M6.

Kann ein Mac mini ein 70B-Modell ausführen?

Nur der M5 Pro mit 64 GB, in 4 Bit und mit kurzem Kontext: Die Gewichte belegen etwa 39 GB der 48 GB, die die GPU standardmäßig nutzen kann. Er schreibt langsam, ein paar Tokens pro Sekunde. Siehe Llama 3.3 70B auf dem Mac.

Wie nutze ich das Modell des Mac mini von Laptop oder Smartphone aus?

Starte den Server so, dass er in deinem Netzwerk lauscht (zum Beispiel mlx_lm.server --host 0.0.0.0), und richte die App auf dem anderen Gerät auf http://<mac-mini-name>.local:8080/v1 als OpenAI-kompatiblen Endpunkt.

Wie viel Strom braucht ein Mac mini als KI-Server?

Ein Mac mini mit M6 braucht im Leerlauf etwa 4 W und bis zu 70 W, einer mit M5 Pro 6 W bis 145 W. Einen Tag unter Volllast sind das höchstens 1,68 bzw. 3,48 kWh (Apple).