Die besten Apps für LLMs auf dem Mac.

1Auf einen Blick

2Jede App in ein paar Zeilen

MLX Harness

Eine kostenlose Open-Source-Mac-App für Chat, Coding-Agenten mit integrierten Tools, Bildgenerierung und eine lokale API, die die Formate von OpenAI, Anthropic und Ollama spricht. Sie führt Modelle mit Apples MLX aus und lädt sie von Hugging Face; GGUF-Dateien führt sie nicht aus. Sie braucht macOS 14.5 oder neuer auf Apple Silicon. Sie ist von uns, basiert auf vMLX von JANGQ AI und bringt MLX Node mit, das den Mac für MLX Network arbeiten lassen kann, während du nicht da bist (Quelle). Ratgeber: So nutzt du MLX Harness.

LM Studio

Eine ausgereifte App, die MLX- und GGUF-Modelle nebeneinander ausführt, mit einer Modellsuche auf Basis von Hugging Face (LM Studio). Seit Juli 2025 ist sie zu Hause und bei der Arbeit kostenlos (LM Studio). Ihr Kommandozeilen-Tool, ihre SDKs und ihre MLX-Engine stehen unter der MIT-Lizenz; der Quellcode der Desktop-App ist nicht veröffentlicht (GitHub). Sie braucht macOS 14 oder neuer auf Apple Silicon und empfiehlt 16 GB Arbeitsspeicher (Systemanforderungen). Ihr lokaler Server spricht das OpenAI-Format und seit Version 0.4.1 auch das Anthropic-Format (Changelog).

Ollama

Der Weg, ein Modell mit einem einzigen Befehl auszuführen, mit eigener Modellbibliothek und seit Juli 2025 einer Chat-App auf dem Mac (Ollama). Ollama steht unter der MIT-Lizenz und führt GGUF-Modelle über llama.cpp aus (GitHub). Seit März 2026 gibt es auf Apple Silicon eine MLX-Engine als Vorschau, für Macs mit mehr als 32 GB Arbeitsspeicher und eine wachsende Liste von Modellen (Ollama). Ollama braucht macOS 14 oder neuer (Doku), und seine API auf Port 11434 ist das, was viele andere Apps erwarten.

Jan

Eine Open-Source-Chat-App (Apache 2.0) für Mac, Windows und Linux, mit eingebauter llama.cpp-Engine, nativer MLX-Unterstützung seit Februar 2026, MCP-Tools und einem OpenAI-kompatiblen Server (GitHub, Changelog). Sie kann sich auch mit Cloud-Modellen verbinden, wenn du eine App für beides willst.

llama.cpp

Die Engine unter einem Großteil der lokalen KI: C/C++ unter der MIT-Lizenz, mit Apple Silicon als „first-class citizen“ über Metal (GitHub). Installiere es mit brew install llama.cpp; llama-server gibt dir einen Web-Chat und eine OpenAI- und Anthropic-kompatible API (Server-Doku). Es führt GGUF-Dateien aus, das am weitesten verbreitete Format.

mlx-lm

Apples eigene MLX-Tools für Sprachmodelle, unter der MIT-Lizenz: Text generieren, chatten, Modelle konvertieren und quantisieren und mit LoRA feinabstimmen, alles über die Kommandozeile (GitHub). mlx_lm.server bietet einen einfachen Endpunkt im OpenAI-Stil, den seine Entwickler nicht für den Produktivbetrieb empfehlen (Server-Doku). Tausende konvertierte Modelle liegen in der Organisation mlx-community auf Hugging Face.

3Welche du nehmen solltest

• Du willst eine App, Open Source, gemacht für Apple Silicon: MLX Harness.
• Du willst MLX- und GGUF-Modelle in einer ausgereiften App, und geschlossener Quellcode stört dich nicht: LM Studio.
• Eine andere App oder ein Coding-Agent erwartet die Ollama-API: Ollama (MLX Harness stellt auch Endpunkte im Ollama-Stil bereit).
• Du willst eine Chat-App für Mac, Windows und Linux, lokal und in der Cloud: Jan.
• Du schreibst Skripte, baust Server oder brauchst eine bestimmte GGUF-Quantisierung: llama.cpp.
• Du machst Fine-Tuning, konvertierst Modelle oder willst Apples Referenzimplementierung: mlx-lm.

Viele nutzen zwei: eine App für den täglichen Chat und ein Kommandozeilen-Tool für Skripte. Beide können auf demselben Mac laufen, aber jedes behält seine eigene Kopie der Modelldateien.

4Prüf zuerst, was dein Mac fassen kann

Keine App ändert die Rechnung: Ein Modell und sein Kontext müssen in den Anteil des gemeinsamen Arbeitsspeichers passen, den macOS die GPU nutzen lässt, standardmäßig etwa 75 %, und die Speicherbandbreite bestimmt, wie schnell es schreibt. MLX- und GGUF-Dateien desselben Modells mit derselben Genauigkeit sind etwa gleich groß.

Sieh dir jedes Modell an, das auf deinen Mac passt, die besten Modelle für jede Speichergröße, oder starte bei einem Modell, um zu sehen, welchen Mac es braucht.

5Wenn der Mac nichts zu tun hat

Ein Mac, der lokale KI gut ausführt, kann sie auch gut für andere ausführen. MLX Node führt KI-Jobs für MLX Network aus, wenn du deinen Mac nicht nutzt, innerhalb der Grenzen, die du festlegst, und verdient MLX Tokens für verifizierte Arbeit. MLX Harness bringt es mit. MLX Tokens können an Wert verlieren; lies die Risiken.

6Fragen

Ist LM Studio für die Arbeit kostenlos?

Ja. Seit Juli 2025 ist LM Studio zu Hause und bei der Arbeit kostenlos; die kostenpflichtigen Pläne sind für Teams und Unternehmen (LM Studio).

Nutzt Ollama auf dem Mac MLX?

Als Vorschau seit März 2026, auf Macs mit Apple Silicon und mehr als 32 GB Arbeitsspeicher, für unterstützte Modelle. Sonst führt es GGUF-Modelle über llama.cpp aus (Ollama).

Welche App führt MLX- und GGUF-Modelle aus?

LM Studio und Jan führen beides aus; Ollama führt GGUF und, als Vorschau, MLX aus. MLX Harness und mlx-lm führen nur MLX aus; llama.cpp führt nur GGUF aus.

Welche Apps für lokale LLMs sind Open Source?

MLX Harness (Apache 2.0), Ollama (MIT), Jan (Apache 2.0), llama.cpp (MIT) und mlx-lm (MIT). LM Studio veröffentlicht sein Kommandozeilen-Tool, seine SDKs und seine MLX-Engine unter MIT, aber nicht die Desktop-App.