MLX Harness nasıl kullanılır?

1MLX Harness'yu kurun

Apple Silicon'lı ve macOS 14.5 veya sonrasını çalıştıran bir Mac gerekir. Çıkarım motoru uygulamanın içinde gelir, bu yüzden başka bir şey kurmanız gerekmez: indirin, MLX Harness'yu Uygulamalar'a taşıyın ve açın.

MLX Harness, JANGQ AI'ın Apache License 2.0 ile yayımladığı vMLX'in değiştirilmiş bir sürümüdür. Alttaki motor vMLX'in motorudur ve değiştirilmemiştir; MLX Harness onun etrafındaki uygulamayı değiştirir ve Network sayfasını ekler.

2Bir model seçin ve indirin

Modeller Hugging Face'ten gelir; çoğu mlx-community organizasyonunun MLX biçimindedir. İndirmeden önce neyin sığacağını kontrol edin: Compare, Mac'inizin belleğinin hangi modelleri alabildiğini ve her birinin kabaca ne hızda yazdığını gösterir.

1. Models sayfasını açın ve Find & download seçeneğini seçin. Arayın; indirme sayısı, popülerlik, beğeni, son güncelleme veya model boyutuna göre sıralayın. Arama MLX modellerini listeler.
2. README'sini okumak için bir modele tıklayın, ardından indirin. İndirmeler arka planda sürer ve ilerlemeyi Downloads gösterir.
3. Llama gibi erişimi kısıtlı (gated) modeller için önce Hugging Face token'ınızı HF Token: alanına ekleyin ve modelin lisansını huggingface.co'da kabul edin.
4. Library & tools Mac'inizdeki modelleri listeler. Inspect Model bir modelin meta verilerini gösterir, Diagnose Model sağlık kontrolleri yapar ve Convert Model bir Hugging Face modelini nicemlenmiş bir MLX modeline dönüştürür: Balanced (4-bit), Quality (8-bit) veya Compact (3-bit).

İndirmeler, Download to: altında başka bir klasör seçmediğiniz sürece Hugging Face önbellek klasörünüze gider. MLX Harness bu önbellekte, ~/.mlxstudio/models içinde ve Directories altında eklediğiniz klasörlerde zaten bulunan modelleri de bulur.

3Sohbet ve görseller

Sohbet ve akıl yürütme

1. Chat & Images sayfasını açın, sohbet araç çubuğundaki model menüsünden bir model seçin ya da Add local model kullanın. Model algılanan varsayılanlarla başlar; gelişmiş seçenekler Servers & API içinde kalır.
2. Bir mesaj yazın. Akıl yürüten modeller düşünme sürecini ayrı bir kutuda gösterir. Sohbet ayarlarındaki Enable Thinking bunu Auto, On veya Off yapar; Reasoning Effort ise destekleyen modellerde derinliğini ayarlar.
3. Görü modelleri görsel kabul eder: bir dosyayı sohbete bırakın veya ek düğmesini kullanın. Video, ses ve metin dosyaları bunları kabul eden modellerle çalışır.
4. Sohbetler kenar çubuğunda kaydedilir ve aranabilir. Ayarlar model başına kaydedilir.

Başka bir yerde çalışan bir modelle de sohbet edebilirsiniz: Connect remote endpoint OpenAI uyumlu herhangi bir API adresini kabul eder. İstemleriniz yalnızca bu durumda Mac'ten çıkar.

Görsel üretin ve düzenleyin

Chat & Images içinde Image seçeneğini seçin. Görsel modelleri mflux üzerinden çalışır ve görsel sunucusu Mac'inizdeki bir klasörden model yükler: Find mflux models, Models içinde görsel aramasını açar; Load selected folder ise modeli başlatır.

Flux Dev gibi bazı görsel modellerinin Hugging Face'te erişimi kısıtlıdır; indirilmeden önce token'ınız ve kabul edilmiş bir lisans gerekir.

4Ajanlar ve araçlar

MLX Harness bir modelin Mac'inizde işlem yapmasına izin verebilir. Sohbet ayarlarında Enable Built-in Coding Tools seçeneğini açın ve bir Working Directory seçin: her dosya işlemi ve komut bu klasörün içinde çalışır. Ardından araç kategorilerini açıp kapatın:

Max Tool Iterations, tek bir mesajın kaç tur araç çağrısı yapabileceğini sınırlar (varsayılan 10). Kabuk ve dosya araçları gerçek dosyalar üzerinde çalışır; bu yüzden çalışma klasörünü ana klasörünüze değil bir projeye yönlendirin ve buna güvendiğiniz bir model kullanın.

5Diğer uygulamalardan kullanın: yerel API

Başlattığınız her model Mac'inizde sunulur. http://localhost:8080 adresindeki API Gateway, her isteği içindeki ada göre doğru modele yönlendirir ve durdurulmuş bir model istendiğinde onu başlatır. Her modelin ayrıca 8000'den başlayan kendi bağlantı noktası vardır. Varsayılan olarak bunlara yalnızca Mac'iniz erişebilir; LAN seçeneğini açmak onları ağınıza açar.

API'nin arkasında motor, zaten okuduklarını önbelleğe alır. Continuous Batching açıkken Prefix Cache, uzun bir sohbetin veya bir kodlama ajanının tekrarlanan talimatlarının sonraki turda işi atlamasını sağlar; KV Cache Quantization bu önbelleği küçültür ve Disk Cache (Persistent) onu SSD'de tutar. Bunlar her modelin sunucu ayarlarındadır.

API sayfasının gösterdiği model adıyla OpenAI biçiminde bir istek:

curl http://localhost:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR-MODEL",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Herhangi bir OpenAI SDK'sı base_url http://localhost:8080/v1 olarak ayarlandığında çalışır; oturumda bir anahtar belirlemediyseniz anahtar herhangi bir metin olabilir. Kodlama ajanları için Coding Tool Integration, Claude Code, Codex CLI, OpenCode, OpenClaw ve Hermes Agent'ı Auto-Configure ile kurar veya bir Manual Setup gösterir. Claude Code için bu, şunu ~/.claude/settings.json dosyasına eklemek demektir:

{
  "env": {
    "ANTHROPIC_BASE_URL": "http://localhost:8080",
    "ANTHROPIC_MODEL": "YOUR-MODEL",
    "ANTHROPIC_API_KEY": "mlxstudio"
  }
}

6Network sayfası ve MLX Node

Network, MLX Network'ü mlx.app'ten canlı gösterir: çevrimiçi ve çalışan Mac'ler, saniyedeki token, bugünkü yapay zekâ token'ları ve ülkeler. Bu Mac'te MLX Node'un kurulu olup olmadığını ve çalışıp çalışmadığını kontrol eder; onu açar ya da indirme sayfasına yönlendirir. Kazılan MLX'in artışını izlemek için Your wallet alanına cüzdan adınızı yazın ve Show düğmesine basın; ad yalnızca bu Mac'te saklanır.

MLX Harness'nun kendisi asla kazım yapmaz. Sizin için model çalıştırır. MLX Node, Mac'inizin boşta kalan zamanını MLX Network'e ödünç veren ve MLX token kazanan ayrı menü çubuğu uygulamasıdır: ücretsiz koltukta günde 1 MLX'e kadar, 30 gün kilitli. İkisini birlikte kullanırsanız aynı belleği ve GPU'yu paylaşırlar; bu yüzden MLX Node'un Memory MLX may use sınırı ve manuel Start ile Stop, onun sizi rahatsız etmemesini sağlar. MLX token değer kaybedebilir; riskleri okuyun.

7Sorular

MLX Harness ücretsiz mi?

Evet. Ücretsizdir ve üzerine kurulduğu vMLX projesi gibi Apache License 2.0 lisansına sahiptir.

MLX Harness'yu ne zaman indirebilirim?

Hemen şimdi. harness.mlx.app ve mlx.app/download adreslerinden ücretsiz indirilebilir; macOS 14.5 veya sonrasını çalıştıran Apple Silicon'lı Mac'ler içindir. Kaynak kodu GitHub'da: github.com/MLXapp/studio.

MLX Harness hangi Mac'lerde çalışır?

Apple Silicon'lı (M1 veya sonrası) ve macOS 14.5 veya sonrasını çalıştıran Mac'lerde. Hangi modellerin sığacağına Mac'inizin belleği karar verir; mlx.app'teki Compare bunları gösterir.

MLX Harness istemlerimi bir yere gönderir mi?

Hayır. Yerel modeller Mac'inizde çalışır ve LAN'ı açmadığınız sürece API yalnızca Mac'inizde dinler. İstemler yalnızca uzak bir uç nokta bağlarsanız Mac'ten çıkar.

MLX Harness MLX token kazandırır mı?

Hayır. MLX Harness sizin için model çalıştırır ve yalnızca herkese açık ağ verilerini okur. Yapay zekâ işi için MLX token kazanan uygulama MLX Node'dur.