Cara memakai MLX Harness.

1Pasang MLX Harness

Anda butuh Mac dengan Apple Silicon dan macOS 14.5 atau lebih baru. Mesin inferensi sudah ada di dalam aplikasi, jadi tidak ada lagi yang perlu dipasang: unduh, pindahkan MLX Harness ke Applications, lalu buka.

MLX Harness adalah versi modifikasi dari vMLX karya JANGQ AI, yang dirilis di bawah Apache License 2.0. Mesin di dalamnya adalah milik vMLX, tanpa perubahan; MLX Harness mengubah aplikasi di sekelilingnya dan menambahkan halaman Network.

2Pilih dan unduh model

Model berasal dari Hugging Face, sebagian besar dalam format MLX dari organisasi mlx-community. Sebelum mengunduh, periksa apa yang muat: halaman Bandingkan menunjukkan model mana yang muat di memori Mac Anda dan kira-kira seberapa cepat masing-masing menulis.

1. Buka Models dan pilih Find & download. Cari, lalu urutkan menurut unduhan, tren, suka, terakhir diperbarui, atau ukuran model; hasil pencarian menampilkan model MLX.
2. Klik sebuah model untuk membaca README-nya, lalu unduh. Unduhan berjalan di latar belakang, dan Downloads menampilkan progresnya.
3. Untuk model yang dibatasi (gated) seperti Llama, tambahkan dulu token Hugging Face Anda di kolom HF Token:, dan setujui lisensi model itu di huggingface.co.
4. Library & tools menampilkan model yang ada di Mac Anda. Inspect Model menampilkan metadata model, Diagnose Model menjalankan pemeriksaan kesehatan, dan Convert Model mengubah model Hugging Face menjadi model MLX terkuantisasi: Balanced (4-bit), Quality (8-bit), atau Compact (3-bit).

Unduhan masuk ke folder cache Hugging Face kecuali Anda memilih lokasi lain di Download to:. MLX Harness juga menemukan model yang sudah ada di cache itu, di ~/.mlxstudio/models, dan di folder yang Anda tambahkan di Directories.

3Chat dan gambar

Chat dan penalaran

1. Buka Chat & Images, pilih model di menu model pada toolbar chat, atau Add local model. Model dimulai dengan pengaturan default yang terdeteksi; opsi lanjutan tetap ada di Servers & API.
2. Ketik pesan. Model penalaran menampilkan proses berpikirnya di kotak terpisah. Enable Thinking di pengaturan chat mengaturnya ke Auto, On, atau Off, dan Reasoning Effort mengatur kedalamannya untuk model yang mendukungnya.
3. Model visi menerima gambar: jatuhkan file ke chat atau gunakan tombol lampiran. File video, audio, dan teks bisa dipakai dengan model yang menerimanya.
4. Chat disimpan di sidebar dan bisa dicari. Pengaturan disimpan per model.

Anda juga bisa chat dengan model di tempat lain: Connect remote endpoint menerima alamat API apa pun yang kompatibel dengan OpenAI. Hanya dalam kasus itulah prompt Anda meninggalkan Mac.

Membuat dan mengedit gambar

Di Chat & Images, pilih Image. Model gambar berjalan lewat mflux, dan server gambar memuat model dari sebuah folder di Mac Anda: Find mflux models membuka pencarian gambar di Models, lalu Load selected folder menjalankannya.

Beberapa model gambar, seperti Flux Dev, dibatasi (gated) di Hugging Face dan butuh token Anda serta lisensi yang sudah disetujui sebelum bisa diunduh.

4Agen dan tools

MLX Harness bisa membiarkan model bertindak di Mac Anda. Di pengaturan chat, aktifkan Enable Built-in Coding Tools dan pilih Working Directory: setiap operasi file dan perintah berjalan di dalamnya. Lalu aktifkan atau matikan kategori tools:

Max Tool Iterations membatasi berapa putaran pemanggilan tools yang boleh dipakai satu pesan (10 secara default). Tools shell dan file bekerja pada file sungguhan, jadi arahkan working directory ke sebuah proyek, bukan folder home Anda, dan gunakan model yang Anda percayai untuk itu.

5Pakai dari aplikasi lain: API lokal

Setiap model yang Anda jalankan disajikan di Mac Anda. API Gateway di http://localhost:8080 mengarahkan setiap permintaan ke model yang tepat berdasarkan nama di permintaan, dan menjalankan model yang berhenti saat model itu diminta. Setiap model juga punya port sendiri, mulai dari 8000. Secara default hanya Mac Anda yang bisa mengaksesnya; mengaktifkan LAN membukanya untuk jaringan Anda.

Di balik API, mesin menyimpan cache dari apa yang sudah dibacanya. Dengan Continuous Batching aktif, Prefix Cache membuat chat panjang atau instruksi berulang dari agen coding bisa melewati sebagian pekerjaan pada giliran berikutnya, KV Cache Quantization memperkecil cache itu, dan Disk Cache (Persistent) menyimpannya di SSD. Semua ini ada di pengaturan server setiap model.

Sebuah permintaan dalam format OpenAI, dengan nama model yang ditampilkan di halaman API:

curl http://localhost:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR-MODEL",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

SDK OpenAI apa pun bisa dipakai dengan base_url diatur ke http://localhost:8080/v1; kuncinya boleh teks apa saja kecuali Anda mengatur kunci pada sesi. Untuk agen coding, Coding Tool Integration menyiapkan Claude Code, Codex CLI, OpenCode, OpenClaw, dan Hermes Agent dengan Auto-Configure, atau menampilkan Manual Setup. Untuk Claude Code, artinya menggabungkan ini ke ~/.claude/settings.json:

{
  "env": {
    "ANTHROPIC_BASE_URL": "http://localhost:8080",
    "ANTHROPIC_MODEL": "YOUR-MODEL",
    "ANTHROPIC_API_KEY": "mlxstudio"
  }
}

6Halaman Network, dan MLX Node

Network menampilkan MLX Network secara langsung dari mlx.app: Mac yang online dan sedang bekerja, token per detik, token AI hari ini, dan jumlah negara. Halaman ini memeriksa apakah MLX Node terpasang di Mac ini dan sedang berjalan, lalu membukanya atau menautkan ke unduhannya. Ketik nama dompet Anda di Your wallet dan tekan Show untuk melihat MLX hasil penambangannya bertambah; nama itu hanya disimpan di Mac ini.

MLX Harness sendiri tidak pernah menambang. Aplikasi ini menjalankan model untuk Anda. MLX Node adalah aplikasi bar menu terpisah yang meminjamkan waktu luang Mac Anda ke MLX Network dan memperoleh token MLX: hingga 1 MLX per hari dengan kursi gratis, terkunci selama 30 hari. Jika Anda memakai keduanya, keduanya berbagi memori dan GPU yang sama, jadi batas Memory MLX may use serta Start dan Stop manual di MLX Node membuatnya tidak mengganggu Anda. Token MLX bisa kehilangan nilai; baca risikonya.

7Pertanyaan

Apakah MLX Harness gratis?

Ya. Aplikasi ini gratis dan berlisensi Apache License 2.0, sama seperti vMLX, proyek yang menjadi dasarnya.

Kapan saya bisa mengunduh MLX Harness?

Sekarang. Aplikasi ini bisa diunduh gratis di harness.mlx.app dan mlx.app/download, untuk Mac Apple Silicon dengan macOS 14.5 atau lebih baru. Kode sumbernya ada di GitHub: github.com/MLXapp/studio.

MLX Harness berjalan di Mac apa saja?

Mac dengan Apple Silicon (M1 atau lebih baru) dan macOS 14.5 atau lebih baru. Memori Mac Anda menentukan model mana yang muat; halaman Bandingkan di mlx.app menampilkannya.

Apakah MLX Harness mengirim prompt saya ke mana pun?

Tidak. Model lokal berjalan di Mac Anda, dan API hanya mendengarkan di Mac Anda kecuali Anda mengaktifkan LAN. Prompt hanya meninggalkan Mac jika Anda menghubungkan endpoint jarak jauh.

Apakah MLX Harness memperoleh token MLX?

Tidak. MLX Harness menjalankan model untuk Anda dan hanya membaca angka publik jaringan. MLX Node adalah aplikasi yang memperoleh token MLX untuk pekerjaan AI.