Aplikasi terbaik untuk menjalankan LLM di Mac.

1Sekilas

2Masing-masing dalam beberapa baris

MLX Harness

Aplikasi Mac gratis dan open source untuk chat, agen coding dengan alat bawaan, pembuatan gambar, dan API lokal yang mendukung format OpenAI, Anthropic, dan Ollama. Aplikasi ini menjalankan model dengan MLX dari Apple dan mengunduhnya dari Hugging Face; aplikasi ini tidak menjalankan file GGUF. Butuh macOS 14.5 atau yang lebih baru di Apple Silicon. Ini aplikasi kami, dibangun di atas vMLX dari JANGQ AI, dan sudah membawa MLX Node, yang bisa mempekerjakan Mac untuk MLX Network saat Anda tidak ada (sumber). Panduan: cara menggunakan MLX Harness.

LM Studio

Aplikasi yang rapi yang menjalankan model MLX dan GGUF berdampingan, dengan pencarian model berbasis Hugging Face (LM Studio). Sejak Juli 2025, aplikasi ini gratis dipakai di rumah maupun di tempat kerja (LM Studio). Alat command line, SDK, dan mesin MLX-nya berlisensi MIT; kode sumber aplikasi desktopnya tidak dipublikasikan (GitHub). Butuh macOS 14 atau yang lebih baru di Apple Silicon, dan disarankan memori 16 GB (persyaratan). Server lokalnya mendukung format OpenAI dan, sejak versi 0.4.1, format Anthropic (changelog).

Ollama

Cara satu perintah untuk menjalankan model, dengan pustaka modelnya sendiri dan, sejak Juli 2025, aplikasi chat di Mac (Ollama). Ollama berlisensi MIT dan menjalankan model GGUF lewat llama.cpp (GitHub). Sejak Maret 2026, Ollama punya mesin MLX dalam pratinjau di Apple Silicon, untuk Mac dengan memori lebih dari 32 GB dan daftar model yang terus bertambah (Ollama). Butuh macOS 14 atau yang lebih baru (dokumentasi), dan API-nya di port 11434 adalah yang diharapkan banyak aplikasi lain.

Jan

Aplikasi chat open source (Apache 2.0) untuk Mac, Windows, dan Linux, dengan mesin llama.cpp bawaan, dukungan MLX native sejak Februari 2026, alat MCP, dan server yang kompatibel dengan OpenAI (GitHub, changelog). Jan juga bisa terhubung ke model cloud, jika Anda ingin satu aplikasi untuk keduanya.

llama.cpp

Mesin di balik sebagian besar AI lokal: C/C++ berlisensi MIT, dengan Apple Silicon sebagai “warga kelas satu” lewat Metal (GitHub). Pasang dengan brew install llama.cpp; llama-server memberi Anda chat web dan API yang kompatibel dengan OpenAI dan Anthropic (dokumentasi server). Mesin ini menjalankan file GGUF, format yang paling banyak dipublikasikan.

mlx-lm

Alat MLX milik Apple sendiri untuk model bahasa, berlisensi MIT: membuat teks, chat, mengonversi dan mengkuantisasi model, serta fine-tuning dengan LoRA, semuanya dari command line (GitHub). mlx_lm.server menyediakan endpoint dasar bergaya OpenAI yang tidak disarankan pembuatnya untuk produksi (dokumentasi server). Ribuan model hasil konversi ada di organisasi mlx-community di Hugging Face.

3Mana yang dipilih

• Anda ingin aplikasi open source yang dibuat untuk Apple Silicon: MLX Harness.
• Anda ingin model MLX dan GGUF dalam satu aplikasi yang rapi, dan tidak keberatan dengan kode tertutup: LM Studio.
• Aplikasi lain atau agen coding membutuhkan API Ollama: Ollama (MLX Harness juga menyediakan endpoint bergaya Ollama).
• Anda ingin satu aplikasi chat di Mac, Windows, dan Linux, lokal maupun cloud: Jan.
• Anda menulis skrip, membangun server, atau butuh kuantisasi GGUF tertentu: llama.cpp.
• Anda melakukan fine-tuning, mengonversi model, atau ingin implementasi referensi dari Apple: mlx-lm.

Banyak orang memakai dua: aplikasi untuk chat sehari-hari dan alat command line untuk skrip. Keduanya bisa berjalan di Mac yang sama, tetapi masing-masing menyimpan salinan file modelnya sendiri.

4Pertama, periksa apa yang muat di Mac Anda

Tidak ada aplikasi yang mengubah hitungannya: model dan konteksnya harus muat di bagian memori terpadu yang boleh dipakai GPU menurut macOS, sekitar 75% secara default, dan bandwidth memori menentukan seberapa cepat model menulis. File MLX dan GGUF dari model yang sama dengan presisi yang sama ukurannya kurang lebih sama.

Lihat semua model yang muat di Mac Anda, model terbaik untuk setiap ukuran memori, atau mulai dari sebuah model untuk melihat Mac mana yang dibutuhkannya.

5Saat Mac menganggur

Mac yang lancar menjalankan AI lokal juga cocok untuk menjalankannya bagi orang lain. MLX Node menjalankan pekerjaan AI untuk MLX Network saat Anda tidak memakai Mac, dalam batas yang Anda atur, dan memperoleh token MLX untuk pekerjaan yang terverifikasi. MLX Harness sudah menyertakannya. Token MLX bisa kehilangan nilai; baca risikonya.

6Pertanyaan

Apakah LM Studio gratis untuk kerja?

Ya. Sejak Juli 2025, LM Studio gratis dipakai di rumah maupun di tempat kerja; paket berbayar ditujukan untuk tim dan perusahaan (LM Studio).

Apakah Ollama memakai MLX di Mac?

Dalam pratinjau sejak Maret 2026, di Mac Apple Silicon dengan memori lebih dari 32 GB, untuk model yang didukung. Selain itu, Ollama menjalankan model GGUF lewat llama.cpp (Ollama).

Aplikasi mana yang menjalankan model MLX dan GGUF?

LM Studio dan Jan menjalankan keduanya; Ollama menjalankan GGUF dan, dalam pratinjau, MLX. MLX Harness dan mlx-lm hanya menjalankan MLX; llama.cpp hanya menjalankan GGUF.

Aplikasi LLM lokal mana yang open source?

MLX Harness (Apache 2.0), Ollama (MIT), Jan (Apache 2.0), llama.cpp (MIT), dan mlx-lm (MIT). LM Studio memublikasikan alat command line, SDK, dan mesin MLX-nya dengan lisensi MIT, tetapi tidak aplikasi desktopnya.