En resumen
- MLX es el framework de aprendizaje automático de Apple para Apple Silicon. mlx-lm ejecuta modelos de lenguaje sobre él.
- llama.cpp es un motor de inferencia rápido en C/C++ que ejecuta modelos GGUF en casi cualquier hardware, incluidas las Mac mediante Metal.
- Ollama es la puerta de entrada fácil: un comando para descargar y ejecutar un modelo, con una API local. En Apple Silicon ahora tiene una versión preliminar basada en MLX.
- Para los resultados más rápidos y nativos en Mac, usa MLX; para la mayor variedad de modelos y plataformas, llama.cpp; para empezar de la forma más fácil, Ollama o LM Studio.
1Qué es cada uno
| MLX (mlx-lm) | llama.cpp | Ollama | |
|---|---|---|---|
| Creado por | Apple, código abierto (MIT) | Comunidad de código abierto | Ollama, código abierto |
| Funciona en | Apple Silicon | Mac, Windows, Linux, muchas GPU | Mac, Windows, Linux |
| Formato de modelo | MLX (safetensors) | GGUF | Su propia biblioteca; GGUF y, en versión preliminar, MLX en Mac |
| Ideal para | Velocidad e investigación en Mac | Portabilidad, elección de cuantización | Facilidad de uso, apps que necesitan una API |
| Entrenamiento y ajuste fino | Sí (LoRA y completo) | Limitado | No |
2Velocidad en Apple Silicon
Al generar texto, los tres están limitados por lo mismo: el ancho de banda de memoria. Las diferencias vienen de lo bien que cada uno aprovecha la GPU y de cómo se cuantizan sus modelos.
MLX está escrito para la memoria unificada de Apple Silicon y, en los chips M5, usa los aceleradores neuronales de la GPU: Apple midió un tiempo hasta el primer token entre 3,3 y 4,1 veces más rápido que en el M4 (Apple). En marzo de 2026, Ollama empezó a pasarse a MLX en Apple Silicon con una versión preliminar que trae grandes mejoras de velocidad para los modelos compatibles (Ollama), lo que dice mucho de dónde está hoy el rendimiento en Mac.
llama.cpp sigue siendo muy rápido y está bien medido en Mac; su hilo público de benchmarks es la mejor referencia para comparar chips (llama.cpp). Para números específicos de MLX, consulta MLX Bench.
3Cuál usar
- Quieres chatear con un modelo hoy mismo: LM Studio (una app que ejecuta modelos MLX y GGUF) u Ollama.
- Estás creando una app que necesita una API local: Ollama, o
mlx_lm.serverpara un endpoint compatible con OpenAI sobre MLX. - Quieres la máxima velocidad de una Mac, o hacer ajuste fino: MLX con mlx-lm.
- Necesitas la misma configuración en Mac, Linux y Windows, o una cuantización GGUF concreta: llama.cpp.
Nuestra guía paso a paso para ejecutar un LLM en tu Mac los cubre todos.
4MLX más allá de una sola Mac
MLX también funciona en varias Mac a la vez, por Thunderbolt 5 con RDMA (clústeres de IA con Mac). Y es el motor de MLX Network: MLX Node ejecuta trabajos de IA con el framework MLX para la red y gana tokens MLX por el trabajo verificado. MLX Network es un proyecto independiente, no creado por Apple; aquí está la diferencia.
5Preguntas
- ¿MLX es más rápido que llama.cpp?
- En Apple Silicon, MLX suele ser igual de rápido o más en la generación, y sobre todo en el procesamiento de prompts en los chips M5. Los resultados varían según el modelo y la cuantización, así que compáralos en tu propia Mac.
- ¿Ollama puede usar MLX?
- Sí, en versión preliminar desde Ollama 0.19 en Apple Silicon, para los modelos compatibles, en Mac con más de 32 GB de memoria.
- ¿Se diferencian los modelos MLX y GGUF?
- Son formatos de archivo distintos para los mismos tipos de modelos. Muchos modelos populares se publican en ambos; la organización mlx-community de Hugging Face tiene miles de conversiones a MLX.