De beste apps om LLM's te draaien op een Mac.

1In één oogopslag

2Elk in een paar regels

MLX Harness

Een gratis, opensource Mac-app voor chat, code-agents met ingebouwde tools, het maken van afbeeldingen en een lokale API die de formaten van OpenAI, Anthropic en Ollama spreekt. Hij draait modellen met MLX van Apple en downloadt ze van Hugging Face; GGUF-bestanden draait hij niet. Hij heeft macOS 14.5 of nieuwer op Apple Silicon nodig. Hij is van ons, gebouwd op vMLX van JANGQ AI, en bevat MLX Node, dat de Mac voor MLX Network kan laten werken terwijl je weg bent (bron). Gids: zo gebruik je MLX Harness.

LM Studio

Een verzorgde app die MLX- en GGUF-modellen naast elkaar draait, met een modelzoekfunctie op basis van Hugging Face (LM Studio). Sinds juli 2025 is hij gratis, thuis en op het werk (LM Studio). De opdrachtregeltool, de SDK's en de MLX-engine vallen onder de MIT-licentie; de broncode van de desktop-app is niet gepubliceerd (GitHub). Hij heeft macOS 14 of nieuwer op Apple Silicon nodig en raadt 16 GB geheugen aan (systeemvereisten). De lokale server spreekt het OpenAI-formaat en, sinds versie 0.4.1, het Anthropic-formaat (changelog).

Ollama

De manier om een model met één commando te draaien, met een eigen modelbibliotheek en sinds juli 2025 een chat-app op de Mac (Ollama). Het valt onder de MIT-licentie en draait GGUF-modellen via llama.cpp (GitHub). Sinds maart 2026 heeft het een MLX-engine in preview op Apple Silicon, voor Macs met meer dan 32 GB geheugen en een groeiende lijst modellen (Ollama). Het heeft macOS 14 of nieuwer nodig (documentatie), en de API op poort 11434 is wat veel andere apps verwachten.

Jan

Een opensource chat-app (Apache 2.0) voor Mac, Windows en Linux, met een ingebouwde llama.cpp-engine, native MLX-ondersteuning sinds februari 2026, MCP-tools en een OpenAI-compatibele server (GitHub, changelog). Hij kan ook verbinding maken met cloudmodellen, als je één app voor allebei wilt.

llama.cpp

De engine onder een groot deel van de lokale AI: C/C++ onder de MIT-licentie, met Apple Silicon als ‘first-class citizen’ via Metal (GitHub). Installeer het met brew install llama.cpp; llama-server geeft je een webchat en een OpenAI- en Anthropic-compatibele API (serverdocumentatie). Het draait GGUF-bestanden, het meest gepubliceerde formaat.

mlx-lm

De eigen MLX-tools van Apple voor taalmodellen, onder de MIT-licentie: tekst genereren, chatten, modellen converteren en kwantiseren, en ze finetunen met LoRA, vanaf de opdrachtregel (GitHub). mlx_lm.server biedt een eenvoudig endpoint in OpenAI-stijl dat de makers niet aanraden voor productie (serverdocumentatie). Duizenden geconverteerde modellen staan in de organisatie mlx-community op Hugging Face.

3Welke kies je

• Je wilt een app, opensource, gemaakt voor Apple Silicon: MLX Harness.
• Je wilt MLX- en GGUF-modellen in één verzorgde app, en gesloten broncode vind je geen probleem: LM Studio.
• Een andere app of code-agent verwacht de Ollama-API: Ollama (MLX Harness biedt ook endpoints in Ollama-stijl).
• Je wilt één chat-app op Mac, Windows en Linux, lokaal en in de cloud: Jan.
• Je schrijft scripts, bouwt servers of hebt een bepaalde GGUF-kwantisatie nodig: llama.cpp.
• Je finetunet, converteert modellen of wilt de referentie-implementatie van Apple: mlx-lm.

Veel mensen gebruiken er twee: een app voor dagelijks chatten en een opdrachtregeltool voor scripts. Ze kunnen op dezelfde Mac staan, maar elk houdt een eigen kopie van de modelbestanden.

4Check eerst wat je Mac aankan

Geen app verandert de rekensom: een model en zijn context moeten passen in het deel van het unified memory dat macOS de GPU laat gebruiken, standaard ongeveer 75%, en de geheugenbandbreedte bepaalt hoe snel het schrijft. MLX- en GGUF-bestanden van hetzelfde model met dezelfde precisie zijn ongeveer even groot.

Bekijk elk model dat op je Mac past, de beste modellen per geheugengrootte, of begin bij een model om te zien welke Mac het nodig heeft.

5Als de Mac niets doet

Een Mac die lokale AI goed draait, kan die ook goed voor anderen draaien. MLX Node voert AI-taken voor MLX Network uit als je je Mac niet gebruikt, binnen de limieten die jij instelt, en verdient MLX-tokens voor geverifieerd werk. MLX Harness heeft het ingebouwd. MLX-tokens kunnen in waarde dalen; lees de risico's.

6Vragen

Is LM Studio gratis voor werk?

Ja. Sinds juli 2025 is LM Studio gratis, thuis en op het werk; de betaalde abonnementen zijn voor teams en bedrijven (LM Studio).

Gebruikt Ollama MLX op een Mac?

In preview sinds maart 2026, op Macs met Apple Silicon en meer dan 32 GB geheugen, voor ondersteunde modellen. Anders draait het GGUF-modellen via llama.cpp (Ollama).

Welke app draait zowel MLX- als GGUF-modellen?

LM Studio en Jan draaien allebei; Ollama draait GGUF en, in preview, MLX. MLX Harness en mlx-lm draaien alleen MLX; llama.cpp draait alleen GGUF.

Welke apps voor lokale LLM's zijn opensource?

MLX Harness (Apache 2.0), Ollama (MIT), Jan (Apache 2.0), llama.cpp (MIT) en mlx-lm (MIT). LM Studio publiceert de opdrachtregeltool, de SDK's en de MLX-engine onder MIT, maar niet de desktop-app.