Mac에서 LLM을 돌리는 최고의 앱.

1한눈에 보기

2하나씩 짧게

MLX Harness

채팅, 도구가 내장된 코딩 에이전트, 이미지 생성, 그리고 OpenAI·Anthropic·Ollama 형식을 지원하는 로컬 API를 갖춘 무료 오픈소스 Mac 앱입니다. Apple의 MLX로 모델을 돌리고 Hugging Face에서 모델을 내려받습니다. GGUF 파일은 돌리지 않습니다. macOS 14.5 이상을 실행하는 Apple Silicon Mac이 필요합니다. 저희가 만든 앱으로, JANGQ AI의 vMLX를 바탕으로 했으며 MLX Node가 들어 있어, 자리를 비운 동안 Mac이 MLX Network를 위해 일하게 할 수 있습니다(출처). 가이드: MLX Harness 사용법.

LM Studio

MLX와 GGUF 모델을 나란히 돌리는 완성도 높은 앱으로, Hugging Face 기반 모델 검색을 갖추고 있습니다(LM Studio). 2025년 7월부터 집에서도 회사에서도 무료로 쓸 수 있습니다(LM Studio). 명령줄 도구, SDK, MLX 엔진은 MIT 라이선스이고, 데스크톱 앱의 소스는 공개되지 않았습니다(GitHub). macOS 14 이상을 실행하는 Apple Silicon Mac이 필요하며, 16GB 메모리를 권장합니다(시스템 요구 사항). 로컬 서버는 OpenAI 형식을, 버전 0.4.1부터는 Anthropic 형식도 지원합니다(변경 내역).

Ollama

명령어 하나로 모델을 돌리는 방법으로, 자체 모델 라이브러리가 있고 2025년 7월부터는 Mac용 채팅 앱도 있습니다(Ollama). MIT 라이선스이며 llama.cpp를 통해 GGUF 모델을 돌립니다(GitHub). 2026년 3월부터 Apple Silicon에서 MLX 엔진을 프리뷰로 제공하며, 대상은 메모리가 32GB를 넘는 Mac이고 지원 모델은 계속 늘고 있습니다(Ollama). macOS 14 이상이 필요하고(문서), 포트 11434의 API는 다른 많은 앱이 기대하는 바로 그 API입니다.

Jan

Mac, Windows, Linux용 오픈소스(Apache 2.0) 채팅 앱으로, llama.cpp 엔진을 내장하고, 2026년 2월부터 MLX를 네이티브로 지원하며, MCP 도구와 OpenAI 호환 서버를 갖추고 있습니다(GitHub, 변경 내역). 앱 하나로 로컬과 클라우드를 함께 쓰고 싶다면 클라우드 모델에도 연결할 수 있습니다.

llama.cpp

수많은 로컬 AI 밑에서 돌아가는 엔진입니다. MIT 라이선스의 C/C++로, Metal을 통해 Apple Silicon을 '일등 시민'으로 대우합니다(GitHub). brew install llama.cpp로 설치하고, llama-server를 쓰면 웹 채팅과 OpenAI·Anthropic 호환 API가 생깁니다(서버 문서). 가장 널리 배포되는 형식인 GGUF 파일을 돌립니다.

mlx-lm

Apple이 직접 만든 언어 모델용 MLX 도구로, MIT 라이선스입니다. 명령줄에서 텍스트 생성, 채팅, 모델 변환과 양자화, LoRA 파인튜닝을 할 수 있습니다(GitHub). mlx_lm.server는 기본적인 OpenAI 방식 엔드포인트를 제공하지만, 만든 사람들은 프로덕션 용도로는 권하지 않습니다(서버 문서). Hugging Face의 mlx-community 조직에 변환된 모델이 수천 개 있습니다.

3무엇을 고를까

• Apple Silicon에 맞춰 만든 오픈소스 앱을 원한다면: MLX Harness.
• MLX와 GGUF 모델을 완성도 높은 앱 하나에서 쓰고 싶고, 소스 비공개도 괜찮다면: LM Studio.
• 다른 앱이나 코딩 에이전트가 Ollama API를 요구한다면: Ollama(MLX Harness도 Ollama 방식 엔드포인트를 제공합니다).
• Mac, Windows, Linux에서 로컬과 클라우드를 채팅 앱 하나로 쓰고 싶다면: Jan.
• 스크립트를 짜거나, 서버를 만들거나, 특정 GGUF 양자화가 필요하다면: llama.cpp.
• 파인튜닝이나 모델 변환을 하거나, Apple의 레퍼런스 구현을 원한다면: mlx-lm.

많은 사람이 두 가지를 씁니다. 일상적인 채팅에는 앱을, 스크립트에는 명령줄 도구를 씁니다. 한 Mac에 함께 둘 수 있지만, 모델 파일은 각자 따로 보관합니다.

4먼저 내 Mac에 무엇이 들어가는지 확인하세요

어떤 앱을 써도 계산은 바뀌지 않습니다. 모델과 컨텍스트는 macOS가 GPU에 쓰도록 허용하는 통합 메모리 몫(기본값으로 약 75%)에 들어가야 하고, 쓰는 속도는 메모리 대역폭이 정합니다. 같은 모델을 같은 정밀도로 만든 MLX 파일과 GGUF 파일은 크기가 거의 같습니다.

내 Mac에 들어가는 모든 모델이나 메모리 용량별 최고의 모델을 보거나, 모델에서 시작해 어떤 Mac이 필요한지 확인하세요.

5Mac이 쉬고 있을 때

로컬 AI를 잘 돌리는 Mac은 다른 사람을 위해 AI를 돌리는 데도 좋습니다. MLX Node는 Mac을 쓰지 않을 때 설정한 한도 안에서 MLX Network의 AI 작업을 실행하고, 검증된 작업에 대해 MLX 토큰을 법니다. MLX Harness에도 들어 있습니다. MLX 토큰은 가치가 떨어질 수 있습니다. 위험 고지를 읽어 보세요.

6자주 묻는 질문

LM Studio는 업무용으로도 무료인가요?

네. 2025년 7월부터 LM Studio는 집에서도 회사에서도 무료로 쓸 수 있습니다. 유료 플랜은 팀과 기업용입니다(LM Studio).

Ollama는 Mac에서 MLX를 쓰나요?

2026년 3월부터 프리뷰로, 메모리가 32GB를 넘는 Apple Silicon Mac에서 지원 모델에 한해 씁니다. 그 밖의 경우에는 llama.cpp를 통해 GGUF 모델을 돌립니다(Ollama).

MLX와 GGUF 모델을 둘 다 돌리는 앱은 무엇인가요?

LM Studio와 Jan은 둘 다 돌립니다. Ollama는 GGUF를, 프리뷰로 MLX를 돌립니다. MLX Harness와 mlx-lm은 MLX만, llama.cpp는 GGUF만 돌립니다.

오픈소스 로컬 LLM 앱은 어떤 것이 있나요?

MLX Harness(Apache 2.0), Ollama(MIT), Jan(Apache 2.0), llama.cpp(MIT), mlx-lm(MIT)입니다. LM Studio는 명령줄 도구, SDK, MLX 엔진을 MIT로 공개하지만 데스크톱 앱은 공개하지 않습니다.