Mac'te LLM çalıştırmak için en iyi uygulamalar.

1Bir bakışta

2Her biri birkaç satırda

MLX Harness

Sohbet, yerleşik araçlara sahip kodlama ajanları, görsel üretimi ve OpenAI, Anthropic ve Ollama biçimlerini konuşan yerel bir API sunan ücretsiz, açık kaynaklı bir Mac uygulaması. Modelleri Apple'ın MLX'iyle çalıştırır ve Hugging Face'ten indirir; GGUF dosyalarını çalıştırmaz. Apple Silicon'da macOS 14.5 veya sonrası gerekir. Bizim uygulamamızdır, JANGQ AI'ın vMLX'i üzerine kuruludur ve siz yokken Mac'i MLX Network için çalıştırabilen MLX Node uygulamasını içinde taşır (kaynak). Rehber: MLX Harness nasıl kullanılır.

LM Studio

MLX ve GGUF modellerini yan yana çalıştıran, Hugging Face üzerine kurulu model aramasıyla özenle hazırlanmış bir uygulama (LM Studio). Temmuz 2025'ten beri evde ve işte ücretsiz kullanılabilir (LM Studio). Komut satırı aracı, SDK'ları ve MLX motoru MIT lisanslıdır; masaüstü uygulamasının kaynak kodu yayımlanmamıştır (GitHub). Apple Silicon'da macOS 14 veya sonrası gerekir ve 16 GB bellek önerilir (gereksinimler). Yerel sunucusu OpenAI biçimini ve 0.4.1 sürümünden beri Anthropic biçimini konuşur (sürüm notları).

Ollama

Bir modeli tek komutla çalıştırmanın yolu; kendi model kütüphanesi ve Temmuz 2025'ten beri Mac'te bir sohbet uygulaması var (Ollama). MIT lisanslıdır ve GGUF modellerini llama.cpp üzerinden çalıştırır (GitHub). Mart 2026'dan beri Apple Silicon'da önizlemede bir MLX motoru var: 32 GB'tan fazla belleği olan Mac'ler ve giderek uzayan bir model listesi için (Ollama). macOS 14 veya sonrası gerekir (belgeler) ve 11434 numaralı bağlantı noktasındaki API'si, birçok başka uygulamanın beklediği API'dir.

Jan

Mac, Windows ve Linux için açık kaynaklı (Apache 2.0) bir sohbet uygulaması; yerleşik bir llama.cpp motoru, Şubat 2026'dan beri doğrudan MLX desteği, MCP araçları ve OpenAI uyumlu bir sunucu sunar (GitHub, sürüm notları). Hem yerel hem bulut için tek bir uygulama isterseniz bulut modellerine de bağlanabilir.

llama.cpp

Yerel yapay zekânın büyük kısmının altındaki motor: Metal sayesinde Apple Silicon'a “birinci sınıf vatandaş” muamelesi yapan, MIT lisanslı C/C++ (GitHub). brew install llama.cpp ile kurun; llama-server size bir web sohbeti ve OpenAI ile Anthropic uyumlu bir API verir (sunucu belgeleri). En yaygın yayımlanan biçim olan GGUF dosyalarını çalıştırır.

mlx-lm

Apple'ın dil modelleri için kendi MLX araçları, MIT lisanslı: komut satırından metin üretin, sohbet edin, modelleri dönüştürüp nicemleyin ve LoRA ile ince ayar yapın (GitHub). mlx_lm.server, yazarlarının üretim ortamı için önermediği temel bir OpenAI tarzı uç nokta sunar (sunucu belgeleri). Dönüştürülmüş binlerce model, Hugging Face'teki mlx-community organizasyonunda bulunur.

3Hangisini seçmeli

• Apple Silicon için yapılmış, açık kaynaklı bir uygulama istiyorsanız: MLX Harness.
• MLX ve GGUF modellerini özenli tek bir uygulamada istiyor ve kapalı kaynağa aldırmıyorsanız: LM Studio.
• Başka bir uygulama veya kodlama ajanı Ollama API'sini bekliyorsa: Ollama (MLX Harness da Ollama tarzı uç noktalar sunar).
• Mac, Windows ve Linux'ta, yerel ve bulut için tek bir sohbet uygulaması istiyorsanız: Jan.
• Betik yazıyor, sunucu kuruyor veya belirli bir GGUF nicemlemesine ihtiyaç duyuyorsanız: llama.cpp.
• İnce ayar yapıyor, model dönüştürüyor veya Apple'ın referans gerçeklemesini istiyorsanız: mlx-lm.

Birçok kişi iki tane kullanır: günlük sohbet için bir uygulama ve betikler için bir komut satırı aracı. Aynı Mac'te birlikte çalışabilirler, ancak her biri model dosyalarının kendi kopyasını tutar.

4Önce Mac'inizin neyi kaldırabileceğine bakın

Hiçbir uygulama hesabı değiştirmez: model ve bağlamı, macOS'in GPU'nun kullanmasına izin verdiği birleşik bellek payına (varsayılan olarak yaklaşık %75) sığmalıdır ve ne kadar hızlı yazacağını bellek bant genişliği belirler. Aynı modelin aynı hassasiyetteki MLX ve GGUF dosyaları aşağı yukarı aynı boyuttadır.

Mac'inize sığan tüm modellere, her bellek boyutu için en iyi modellere bakın ya da hangi Mac'e ihtiyaç duyduğunu görmek için bir modelden başlayın.

5Mac boştayken

Yerel yapay zekâyı iyi çalıştıran bir Mac, onu başkaları için çalıştırmakta da iyidir. MLX Node, siz Mac'inizi kullanmadığınızda, belirlediğiniz sınırlar içinde MLX Network için yapay zekâ işleri çalıştırır ve doğrulanmış iş için MLX token kazanır. MLX Harness onu içerir. MLX token değer kaybedebilir; riskleri okuyun.

6Sorular

LM Studio iş için ücretsiz mi?

Evet. Temmuz 2025'ten beri LM Studio hem evde hem işte ücretsiz kullanılabilir; ücretli planlar ekipler ve kurumlar içindir (LM Studio).

Ollama Mac'te MLX kullanıyor mu?

Mart 2026'dan beri önizlemede; 32 GB'tan fazla belleği olan Apple Silicon Mac'lerde, desteklenen modeller için. Bunun dışında GGUF modellerini llama.cpp üzerinden çalıştırır (Ollama).

Hangi uygulama hem MLX hem GGUF modellerini çalıştırır?

LM Studio ve Jan ikisini de çalıştırır; Ollama GGUF'u ve önizlemede MLX'i çalıştırır. MLX Harness ve mlx-lm yalnızca MLX, llama.cpp ise yalnızca GGUF çalıştırır.

Hangi yerel LLM uygulamaları açık kaynaklı?

MLX Harness (Apache 2.0), Ollama (MIT), Jan (Apache 2.0), llama.cpp (MIT) ve mlx-lm (MIT). LM Studio komut satırı aracını, SDK'larını ve MLX motorunu MIT lisansıyla yayımlar, ancak masaüstü uygulamasını yayımlamaz.