Em resumo
- O MLX é o framework de machine learning da Apple para o Apple Silicon. O mlx-lm roda modelos de linguagem sobre ele.
- O llama.cpp é um motor de inferência rápido em C/C++ que roda modelos GGUF em quase qualquer hardware, inclusive Macs via Metal.
- O Ollama é a porta de entrada fácil: um comando para baixar e rodar um modelo, com uma API local. No Apple Silicon, agora ele tem uma prévia baseada em MLX.
- Para os resultados mais rápidos e nativos no Mac, use o MLX; para a maior variedade de modelos e plataformas, o llama.cpp; para começar do jeito mais fácil, o Ollama ou o LM Studio.
1O que é cada um
| MLX (mlx-lm) | llama.cpp | Ollama | |
|---|---|---|---|
| Feito por | Apple, código aberto (MIT) | Comunidade de código aberto | Ollama, código aberto |
| Roda em | Apple Silicon | Mac, Windows, Linux, muitas GPUs | Mac, Windows, Linux |
| Formato de modelo | MLX (safetensors) | GGUF | Biblioteca própria; GGUF e, em prévia, MLX no Mac |
| Melhor para | Velocidade e pesquisa no Mac | Portabilidade, escolha de quantização | Facilidade de uso, apps que precisam de uma API |
| Treinamento e fine-tuning | Sim (LoRA e completo) | Limitado | Não |
2Velocidade no Apple Silicon
Ao gerar texto, os três são limitados pela mesma coisa: a largura de banda da memória. As diferenças vêm de quão bem cada um usa a GPU e de como os modelos são quantizados.
O MLX foi escrito para a memória unificada do Apple Silicon e, nos chips M5, usa os aceleradores neurais da GPU: a Apple mediu o tempo até o primeiro token de 3,3 a 4,1 vezes mais rápido do que no M4 (Apple). Em março de 2026, o Ollama começou a migrar para o MLX no Apple Silicon em uma prévia com grandes ganhos de velocidade para os modelos compatíveis (Ollama), o que diz muito sobre onde está o desempenho no Mac.
O llama.cpp continua muito rápido e bem medido em Macs; o tópico público de benchmarks dele é a melhor referência para comparar chips (llama.cpp). Para números específicos do MLX, veja o MLX Bench.
3Qual usar
- Você quer conversar com um modelo hoje: LM Studio (um app que roda modelos MLX e GGUF) ou Ollama.
- Você está criando um app que precisa de uma API local: Ollama, ou
mlx_lm.serverpara um endpoint compatível com a OpenAI sobre MLX. - Você quer o máximo de velocidade de um Mac, ou fazer fine-tuning: MLX com mlx-lm.
- Você precisa da mesma configuração no Mac, Linux e Windows, ou de uma quantização GGUF específica: llama.cpp.
Nosso guia passo a passo para rodar um LLM no seu Mac cobre todos eles.
4O MLX além de um Mac
O MLX também roda em vários Macs ao mesmo tempo, via Thunderbolt 5 com RDMA (clusters de IA com Mac). E é o motor da MLX Network: o MLX Node executa tarefas de IA com o framework MLX para a rede e ganha tokens MLX pelo trabalho verificado. A MLX Network é um projeto independente, não feito pela Apple; veja a diferença.
5Perguntas
- O MLX é mais rápido que o llama.cpp?
- No Apple Silicon, o MLX costuma ser tão rápido ou mais na geração e, principalmente, no processamento de prompts nos chips M5. Os resultados variam conforme o modelo e a quantização, então compare no seu próprio Mac.
- O Ollama pode usar o MLX?
- Sim, em prévia desde o Ollama 0.19 no Apple Silicon, para os modelos compatíveis, em Macs com mais de 32 GB de memória.
- Modelos MLX e GGUF são diferentes?
- São formatos de arquivo diferentes para os mesmos tipos de modelo. Muitos modelos populares são publicados nos dois; a organização mlx-community no Hugging Face tem milhares de conversões para MLX.