Kurz gesagt
- 16 GB: Nur kleine allgemeine Modelle laufen bequem; Qwen3 Coder 30B A3B passt nur in niedrigerer Genauigkeit. 24 GB: Devstral Small 2 (24B). 32–64 GB: Qwen3 Coder 30B A3B und Devstral Small 2 in 4 Bit.
- Ab 96 GB: Qwen3 Coder Next (80B, 3B aktiv). 128 GB: auch Devstral 2 (123B), langsam. 512 GB: Kimi K2.7 Code, in niedriger Genauigkeit.
- Mixture-of-Experts-Coder lesen pro Token nur ein paar Milliarden Gewichte, deshalb kann Qwen3 Coder 30B A3B auf demselben Mac um ein Mehrfaches schneller schreiben als das dichte Devstral Small 2.
- Coding-Agenten schicken lange Prompts: Lass mehrere Gigabyte für den Kontext frei und sieh nach, wie viel RAM ein LLM braucht.
1Coding-Modelle, die gut laufen, nach Speicher
„Läuft gut“ heißt: Es passt in 4 Bit oder besser mit Platz für Kontext, bei 10 oder mehr Tokens pro Sekunde, dieselbe Regel wie auf jeder Mac-Seite. Modelle für Code aus unserem Katalog offener Modelle, dazu das allgemeine Modell mit dem höchsten Artificial Analysis Intelligence Index, das in dieser Größe gut läuft und ebenfalls Code schreibt:
| Mac-Speicher | Für Code gemacht | Stärkstes allgemeines Modell |
|---|---|---|
| 16 GB | Qwen3 Coder 30B A3B nur in niedrigerer Genauigkeit | MiniCPM5 2B |
| 24 GB | Devstral Small 2 | MiniCPM5 2B |
| 32 GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 48 GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 64 GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 96 GB | Qwen3 Coder Next, Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 128 GB | Qwen3 Coder Next, Devstral 2 (123B) (langsamer) | Qwen3.8 27B |
| 256 GB | Qwen3 Coder Next, Devstral 2 (langsamer) | Qwen3.8 Flash Next |
| 512 GB | Kimi K2.7 Code in niedrigerer Genauigkeit, Qwen3 Coder Next | DeepSeek V4.1 Flash 1017 |
2Warum sich Mixture-of-Experts-Coder schnell anfühlen
Das Schreibtempo wird dadurch begrenzt, wie viele Bytes an Gewichten für jeden Token gelesen werden. Ein dichtes Modell liest alle; ein Mixture-of-Experts-Modell nur seinen aktiven Teil. Auf einem Mac mini mit M5 Pro (307 GB/s, Apple), in 4 Bit:
| Modell | Parameter | Gelesen pro Token | Obergrenze für einen Chat |
|---|---|---|---|
| Qwen3 Coder 30B A3B | 30,5B gesamt, 3,3B aktiv | etwa 1,9 GB | etwa 165 Tokens/s |
| Devstral Small 2 | 24B, dicht | etwa 13,5 GB | etwa 23 Tokens/s |
Tempo ist nicht Qualität: Ein dichtes Modell kann bei gleichem Speicher der bessere Programmierer sein. Probiere beide mit deinem eigenen Code aus.
3Lass Platz für den Kontext
Coding-Tools schicken viel Text: die betroffenen Dateien, Tool-Beschreibungen und den bisherigen Verlauf. Dieser Kontext liegt neben dem Modell im Speicher, im KV cache, und wächst mit jedem Token. Bei Qwen3 8B belegen 32.000 Tokens etwa 4,8 GB (hier durchgerechnet). Größere Modelle brauchen mehr pro Token.
Passt ein Modell also nur knapp, nimm lieber das nächstkleinere oder eine niedrigere Genauigkeit, statt den Kontext zu beschneiden. Lange Prompts brauchen außerdem Zeit zum Einlesen, bevor das erste Wort erscheint; die M5-Generation liest Prompts schneller ein als der M4 (Apple).
4In deinem Editor oder Agenten nutzen
Coding-Tools sprechen über eine API mit einem Modell. Führe das Modell lokal aus und richte das Tool darauf:
- Der lokale Server von LM Studio spricht die Formate von OpenAI und Anthropic, und LM Studio hat Einrichtungsanleitungen für Claude Code, Codex, OpenClaw und Hermes Agent (LM Studio).
- mlx-lm:
mlx_lm.server --model <model>stellt eine API im OpenAI-Stil auf Port 8080 bereit (mlx-lm). - Ollama stellt ebenfalls eine OpenAI-kompatible API bereit: Die besten Apps für LLMs auf dem Mac vergleicht sie.
Agenten rufen Tools auf, das Modell muss Tool-Aufrufe also in einem Format erzeugen, das der Server versteht. Modelle für Code und Agenten wie Qwen3 Coder und Devstral sind darauf trainiert; kleine allgemeine Modelle sind darin oft nicht zuverlässig.
Die Kategorie Coding im AI App Store listet Coding-Agents und Editoren wie Claude Code und Codex, jeweils mit dem offiziellen Download des Herstellers, dem Preis und wohin deine Daten gehen.
5Fragen
- Was ist das beste lokale Coding-LLM für einen Mac mit 32 GB?
- Qwen3 Coder 30B A3B und Devstral Small 2 laufen beide gut in 4 Bit. Qwen3 Coder schreibt viel schneller, weil pro Token nur 3,3B seiner 30,5B Parameter gelesen werden; probiere beide mit deinem eigenen Code aus.
- Kann ein Mac mit 16 GB ein Coding-Modell ausführen?
- Kleine Modelle, ja. Qwen3 Coder 30B A3B passt in 16 GB nur in niedrigerer Genauigkeit, mit wenig Platz für Kontext. Für Coding-Agenten sind 32 GB oder mehr ein besserer Start.
- Kann ich Claude Code oder Codex mit einem lokalen Modell nutzen?
- Ja. LM Studio hat Einrichtungsanleitungen für beide: Sein lokaler Server spricht das Anthropic-Format, das Claude Code nutzt, und das OpenAI-Format, das Codex nutzt (LM Studio). Wie gut das funktioniert, hängt vom geladenen Modell ab.
- Ist ein lokales Coding-Modell so gut wie eines in der Cloud?
- Die größten offenen Modelle kommen bei vielen Aufgaben nah heran, brauchen aber einen Mac Studio mit 256 oder 512 GB. Modelle, die in 32–64 GB passen, taugen für Vervollständigung, Erklärungen und kleinere Agenten-Aufgaben und halten deinen Code auf deinem Mac.