Kısaca
- MLX, Apple'ın Apple Silicon için makine öğrenimi framework'üdür. mlx-lm, dil modellerini onun üzerinde çalıştırır.
- llama.cpp, GGUF modellerini Metal aracılığıyla Mac'ler de dahil neredeyse her donanımda çalıştıran hızlı bir C/C++ çıkarım motorudur.
- Ollama kolay arayüzdür: tek komutla model indirir ve çalıştırır, yerel bir API sunar. Apple Silicon'da artık MLX destekli bir önizlemesi var.
- Mac'e özgü en hızlı sonuçlar için MLX; en geniş model ve platform seçeneği için llama.cpp; en kolay başlangıç için Ollama veya LM Studio.
1Her biri nedir?
| MLX (mlx-lm) | llama.cpp | Ollama | |
|---|---|---|---|
| Geliştiren | Apple, açık kaynak (MIT) | Açık kaynak topluluğu | Ollama, açık kaynak |
| Çalıştığı yer | Apple Silicon | Mac, Windows, Linux, birçok GPU | Mac, Windows, Linux |
| Model biçimi | MLX (safetensors) | GGUF | Kendi kütüphanesi; GGUF ve Mac'te önizlemede MLX |
| En uygun olduğu iş | Mac'lerde hız ve araştırma | Taşınabilirlik, kuantizasyon seçeneği | Kullanım kolaylığı, API isteyen uygulamalar |
| Eğitim ve ince ayar | Evet (LoRA ve tam) | Sınırlı | Hayır |
2Apple Silicon'da hız
Metin üretirken üçünü de aynı şey sınırlar: bellek bant genişliği. Farklar, her birinin GPU'yu ne kadar iyi kullandığından ve modellerinin nasıl kuantize edildiğinden gelir.
MLX, Apple Silicon'ın birleşik belleği için yazılmıştır ve M5 çiplerde GPU'nun nöral hızlandırıcılarını kullanır: Apple, ilk token'a kadar geçen sürenin M4'e göre 3,3 ila 4,1 kat daha kısa olduğunu ölçtü (Apple). Mart 2026'da Ollama, desteklenen modellerde büyük hız artışları sağlayan bir önizlemeyle Apple Silicon'da MLX'e geçmeye başladı (Ollama); bu da Mac performansının nerede olduğunu çok iyi anlatıyor.
llama.cpp Mac'lerde hâlâ çok hızlıdır ve iyi ölçülmüştür; herkese açık karşılaştırma başlığı, çipleri kıyaslamak için en iyi kaynaktır (llama.cpp). Özellikle MLX rakamları için MLX Bench sayfasına bakın.
3Hangisini kullanmalı?
- Bugün bir modelle sohbet etmek istiyorsanız: LM Studio (hem MLX hem GGUF modellerini çalıştıran bir uygulama) veya Ollama.
- Yerel API'ye ihtiyaç duyan bir uygulama geliştiriyorsanız: Ollama ya da MLX üzerinde OpenAI uyumlu bir uç nokta için
mlx_lm.server. - Mac'ten en yüksek hızı almak ya da ince ayar yapmak istiyorsanız: mlx-lm ile MLX.
- Mac, Linux ve Windows'ta aynı kuruluma ya da belirli bir GGUF kuantizasyonuna ihtiyacınız varsa: llama.cpp.
Mac'inizde LLM çalıştırma üzerine adım adım rehberimiz hepsini ele alır.
4Tek bir Mac'in ötesinde MLX
MLX, Thunderbolt 5 üzerinden RDMA ile birden fazla Mac'te de çalışır (Mac yapay zekâ kümeleri). Aynı zamanda MLX Network'ün motorudur: MLX Node, ağ için MLX framework'ü üzerinde yapay zekâ işleri çalıştırır ve doğrulanmış iş için MLX token kazanır. MLX Network, Apple tarafından yapılmamış bağımsız bir projedir; farkı burada.
5Sorular
- MLX, llama.cpp'den daha mı hızlı?
- Apple Silicon'da MLX, üretimde çoğu zaman aynı hızda ya da daha hızlıdır; M5 çiplerde istem işlemede ise özellikle öndedir. Sonuçlar modele ve kuantizasyona göre değişir; kendi Mac'inizde karşılaştırın.
- Ollama MLX kullanabilir mi?
- Evet. Ollama 0.19'dan bu yana Apple Silicon'da önizleme olarak, desteklenen modellerde ve 32 GB'tan fazla belleği olan Mac'lerde.
- MLX ve GGUF modelleri farklı mı?
- Aynı tür modeller için farklı dosya biçimleridir. Birçok popüler model her iki biçimde de yayımlanır; Hugging Face'teki mlx-community organizasyonunda binlerce MLX dönüşümü bulunur.