핵심 요약
- 16GB: 작은 범용 모델만 여유 있게 돌아가고, Qwen3 Coder 30B A3B는 더 낮은 정밀도로만 들어갑니다. 24GB: Devstral Small 2(24B). 32~64GB: 4비트 Qwen3 Coder 30B A3B와 Devstral Small 2.
- 96GB 이상: Qwen3 Coder Next(80B, 활성 3B). 128GB: Devstral 2(123B)도 느리게. 512GB: 낮은 정밀도의 Kimi K2.7 Code.
- 전문가 혼합 코딩 모델은 토큰마다 가중치 수십억 개만 읽기 때문에, 같은 Mac에서 Qwen3 Coder 30B A3B는 밀집 모델인 Devstral Small 2보다 몇 배 빨리 쓸 수 있습니다.
- 코딩 에이전트는 긴 프롬프트를 보냅니다. 컨텍스트용으로 몇 GB를 남겨 두고 LLM에 필요한 RAM을 확인하세요.
1메모리별로 잘 돌아가는 코딩 모델
"잘 돌아간다"는 4비트 이상으로 컨텍스트 여유를 두고 들어가며 초당 10토큰 이상이라는 뜻으로, 모든 Mac 페이지와 같은 기준입니다. 오픈 모델 카탈로그에서 코드용으로 만든 모델과, 그 크기에서 잘 돌아가는 범용 모델 중 Artificial Analysis Intelligence Index가 가장 높은 모델(코드도 씁니다)을 골랐습니다.
| Mac 메모리 | 코드 전용 모델 | 가장 강한 범용 모델 |
|---|---|---|
| 16GB | Qwen3 Coder 30B A3B(더 낮은 정밀도로만) | MiniCPM5 2B |
| 24GB | Devstral Small 2 | MiniCPM5 2B |
| 32GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 48GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 64GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 96GB | Qwen3 Coder Next, Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 128GB | Qwen3 Coder Next, Devstral 2 (123B)(더 느림) | Qwen3.8 27B |
| 256GB | Qwen3 Coder Next, Devstral 2(더 느림) | Qwen3.8 Flash Next |
| 512GB | 더 낮은 정밀도의 Kimi K2.7 Code, Qwen3 Coder Next | DeepSeek V4.1 Flash 1017 |
2전문가 혼합 코딩 모델이 빠르게 느껴지는 이유
쓰는 속도는 토큰마다 읽는 가중치의 바이트 수로 제한됩니다. 밀집 모델은 전부를 읽고, 전문가 혼합 모델은 활성 부분만 읽습니다. M5 Pro Mac mini(307GB/s, Apple)에서 4비트 기준:
| 모델 | 파라미터 | 토큰당 읽는 양 | 채팅 1개 기준 상한 |
|---|---|---|---|
| Qwen3 Coder 30B A3B | 전체 30.5B, 활성 3.3B | 약 1.9GB | 초당 약 165토큰 |
| Devstral Small 2 | 24B, 밀집 | 약 13.5GB | 초당 약 23토큰 |
속도가 곧 품질은 아닙니다. 같은 메모리에서 밀집 모델이 더 나은 코딩 모델일 수도 있습니다. 내 코드로 둘 다 시험해 보세요.
3컨텍스트 여유를 남기세요
코딩 도구는 작업 중인 파일, 도구 설명, 지금까지의 대화 등 많은 텍스트를 보냅니다. 이 컨텍스트는 모델 옆 메모리의 KV 캐시에 보관되며 토큰마다 커집니다. Qwen3 8B에서 32,000토큰은 약 4.8GB입니다(계산 보기). 더 큰 모델은 토큰당 더 많이 필요합니다.
그러니 모델이 겨우 들어간다면 컨텍스트를 줄이기보다 한 단계 작은 모델이나 더 낮은 정밀도를 고르세요. 긴 프롬프트는 첫 단어가 나오기 전에 읽는 시간도 걸립니다. M5 세대는 M4보다 프롬프트를 빨리 읽습니다(Apple).
4에디터나 에이전트에서 쓰기
코딩 도구는 API로 모델과 대화합니다. 모델을 로컬에서 실행하고 도구가 그쪽을 가리키게 하세요.
- LM Studio의 로컬 서버는 OpenAI와 Anthropic 형식을 지원하고, LM Studio에는 Claude Code, Codex, OpenClaw, Hermes Agent 설정 가이드도 있습니다(LM Studio).
- mlx-lm:
mlx_lm.server --model <model>이 8080 포트에서 OpenAI 방식 API를 제공합니다(mlx-lm). - Ollama도 OpenAI 호환 API를 제공합니다. 맥에서 로컬 LLM 돌리는 앱 추천에서 비교합니다.
에이전트는 도구를 호출하므로, 모델이 서버가 이해하는 형식으로 도구 호출을 만들어야 합니다. Qwen3 Coder나 Devstral처럼 코드와 에이전트용으로 만든 모델은 이를 학습했지만, 작은 범용 모델은 이 부분이 불안정한 경우가 많습니다.
AI App Store의 코딩 카테고리에는 Claude Code와 Codex 같은 코딩 에이전트와 편집기가 개발사의 공식 다운로드, 가격, 데이터가 어디로 가는지와 함께 나옵니다.
5자주 묻는 질문
- 32GB Mac에 가장 좋은 로컬 코딩 LLM은?
- Qwen3 Coder 30B A3B와 Devstral Small 2 모두 4비트로 잘 돌아갑니다. Qwen3 Coder는 파라미터 30.5B 중 토큰마다 3.3B만 읽어서 훨씬 빨리 씁니다. 내 코드로 둘 다 시험해 보세요.
- 16GB Mac으로 코딩 모델을 돌릴 수 있나요?
- 작은 모델이라면 됩니다. Qwen3 Coder 30B A3B는 더 낮은 정밀도로만 16GB에 들어가고 컨텍스트 여유가 거의 없습니다. 코딩 에이전트라면 32GB 이상으로 시작하는 편이 낫습니다.
- Claude Code나 Codex를 로컬 모델과 쓸 수 있나요?
- 네. LM Studio에는 둘 다의 설정 가이드가 있습니다. 로컬 서버가 Claude Code가 쓰는 Anthropic 형식과 Codex가 쓰는 OpenAI 형식을 모두 지원합니다(LM Studio). 얼마나 잘 작동하는지는 불러온 모델에 달려 있습니다.
- 로컬 코딩 모델이 클라우드 모델만큼 좋나요?
- 가장 큰 오픈 모델은 많은 작업에서 근접하지만, 256GB나 512GB Mac Studio가 필요합니다. 32~64GB에 들어가는 모델은 자동 완성, 설명, 작은 에이전트 작업에 쓸 만하고 코드를 내 Mac에 둡니다.