로그인지갑 만들기

16GB Mac에 가장 좋은 LLM.

오픈 모델 73개 중 22개가 16GB에서 쾌적하게 실행됩니다. GPU는 기본적으로 그중 약 12GB를 쓸 수 있습니다. 속도는 칩에 따라 M1의 68GB/s부터 M1 Pro의 200GB/s까지입니다.

쾌적하게 실행되는 가장 똑똑한 모델MiniCPM5 2B8비트 · 2.7 GB · 11–59 tok/s쾌적하게 실행되는 가장 큰 모델Phi-4 Reasoning Vision 15B4비트 · 8.4 GB · 4–19 tok/s

16GB Mac

M1~M6의 칩 8종에 16GB 구성이 있습니다. 칩을 열면 각각의 목록과 속도를 볼 수 있습니다.

쾌적하게 실행 33

컨텍스트 여유를 두고 들어가며, M1 Pro에서 초당 10토큰 이상입니다.

모델버전메모리M1M1 Pro
MiniCPM5 2B2.52B · 지능 12.58비트2.7 GB11–2033–59
Qwen3.5 9B9B · 지능 11.26비트7.3 GB3–612–22
Granite 4.2 8B8B · 지능 11.18비트8.5 GB4–611–19
Granite 4.2 3B3B · 지능 9.18비트3.2 GB10–1728–50
Gemma 4 E4B8B · 지능 8.98비트8.5 GB12–2219–33
Ministral 3 8B8.9B · 지능 5.56비트7.2 GB3–613–22
Nemotron 3 Nano 4B3.97B · 지능 4.88비트4.2 GB10–1721–38
Phi-4 Reasoning Vision 15B15B4비트8.4 GB4–611–19
Phi-4 (14B)14B4비트7.9 GB4–711–20
Gemma 4 12B Unified12B4비트6.7 GB3–613–24
Qwen3 8B8.2B8비트8.7 GB4–610–18
Llama 3.1 8B Instruct8B8비트8.5 GB4–611–19
Gemma 4 E2B5.1B8비트5.4 GB13–2338–67
Qwen3.5 4B4B8비트4.3 GB13–2421–37
Phi-4 mini instruct3.8B8비트4 GB10–1823–40
Llama 3.2 3B Instruct3.21B8비트3.4 GB12–2126–47
SmolLM3 3B3B8비트3.2 GB10–1728–50
LFM2.5 2.6B2.69B8비트2.9 GB11–1931–55
Qwen3.5 2B2B8비트2.1 GB15–2643–76
Llama 3.2 1B Instruct1.23B8비트1.3 GB24–4269–123
Qwen3.5 0.8B0.8B8비트0.9 GB34–60100–178
Qwen3 0.6B0.6B8비트0.6 GB51–91150–267
Qwen3.8 27B27B · 지능 33.72비트 품질 낮음8.4 GB4–611–19
Muse Glimmer 30B29.6B · 지능 17.52비트 품질 낮음9.3 GB3–610–17
Nemotron 3.5 Lightning 30B A3B30B · 활성 3B · 지능 12.92비트 품질 낮음9.4 GB34–60100–178
Granite 4.2 30B30B · 지능 12.72비트 품질 낮음9.4 GB3–610–17
gpt-oss-20b21B · 활성 3.6B · 지능 93비트 품질 낮음9.2 GB19–3456–100
Nemotron 3 Nano 30B A3B30B · 활성 3.5B · 지능 8.92비트 품질 낮음9.4 GB28–4982–145
Qwen3 Coder 30B A3B Instruct30.5B · 활성 3.3B2비트 품질 낮음9.5 GB31–5490–160
GLM-4.7 Flash30B · 활성 3B2비트 품질 낮음9.4 GB34–60100–178
Qwen3.6 27B27B2비트 품질 낮음8.4 GB4–611–19
Gemma 4 26B A4B25.2B · 활성 3.8B2비트 품질 낮음7.9 GB26–4575–133
LFM2.5 24B A2B24B · 활성 2B3비트 품질 낮음10.5 GB34–60100–178

실행되지만 느림 4

들어가지만 초당 10토큰 미만입니다. 일괄 작업에는 괜찮지만 채팅에는 느립니다.

모델버전메모리M1M1 Pro
Gemma 4 31B30.7B · 지능 14.72비트 품질 낮음9.6 GB3–69–17
Devstral Small 2 (24B)24B3비트 품질 낮음10.5 GB3–59–15
Magistral Small 1.2 (2509)24B3비트 품질 낮음10.5 GB3–59–15
Mistral Small 3.2 (24B)24B3비트 품질 낮음10.5 GB3–59–15

겨우 들어감 1

메모리를 거의 다 씁니다. GPU 메모리 한도를 올리고 컨텍스트를 짧게 유지하세요.

모델버전메모리M1M1 Pro
Qwen3.6 35B A3B35B · 활성 3B · 지능 18.22비트 품질 낮음10.9 GB34–60100–178

너무 큼 35

2비트로도 16GB보다 많은 메모리가 필요합니다.

자주 묻는 질문

16GB Mac에 가장 좋은 LLM은 무엇인가요?
Intelligence Index가 공개된 모델 중, 16GB에서 쾌적하게 실행되는 모델 가운데 점수가 가장 높은 것은 MiniCPM5 2B입니다(8비트). 쾌적하게 실행되는 가장 큰 모델은 Phi-4 Reasoning Vision 15B입니다.
Mac에서 로컬 AI를 쓰기에 16GB면 충분한가요?
여기 있는 오픈 모델 73개 중 22개가 4비트 이상에서 쾌적하게 실행됩니다. macOS는 기본적으로 GPU가 그중 약 12GB를 쓰도록 허용하며, 모델과 컨텍스트가 그 안에 들어가야 합니다.
16GB Mac에서 gpt-oss-20b를 실행할 수 있나요?
네. 3비트에서 M1는 초당 약 19–34토큰, M1 Pro는 56–100토큰입니다.

다른 용량: 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB

MLX Harness(무료, 오픈 소스)나 터미널에서 Apple의 mlx-lm으로 실행하세요: 단계별 안내.

계산 방법

메모리: 모델 파라미터를 가중치당 8, 6, 4, 3, 2비트로 계산하고 MLX의 그룹 스케일(가중치당 0.5비트)을 더하거나 네이티브 형식 그대로 계산한 뒤, 컨텍스트를 위한 여유를 더했습니다. macOS는 기본적으로 GPU가 통합 메모리의 약 75%를 쓰도록 허용합니다. 속도: 메모리 대역폭을 토큰당 읽는 바이트 수로 나눈 값이 한 대화의 상한입니다. llama.cpp의 Apple Silicon 공개 벤치마크에서 실제 속도는 그 상한의 약 45~80%였고, 여기 표시한 범위가 바로 그 값입니다. 측정값이 아닌 추정값이니, 내 Mac은 MLX Bench에서 직접 측정해 보세요. 모델 수치는 각 공식 모델 카드, 칩 수치는 Apple 기술 사양에서 가져왔습니다. 2026-10-19 확인. mlx.app/compare와 같은 데이터입니다.

16GB Mac에 가장 좋은 로컬 LLM(M1~M6): 실행되는 모델과 속도