로그인지갑 만들기

16GB M2 Pro에서는 무엇을 실행할 수 있을까?

오픈 모델 73개 중 22개가 쾌적하게 실행됩니다. GPU는 기본적으로 16GB 중 약 12GB를 쓸 수 있고, 메모리를 200GB/s로 읽으며 이 속도가 생성 속도를 정합니다. 탑재 기기: MacBook Pro (14-inch, 2023), MacBook Pro (16-inch, 2023), Mac mini (2023).

쾌적하게 실행되는 가장 똑똑한 모델MiniCPM5 2B8비트 · 2.7 GB · 33–59 tok/s쾌적하게 실행되는 가장 큰 모델Phi-4 Reasoning Vision 15B4비트 · 8.4 GB · 11–19 tok/s

쾌적하게 실행 33

컨텍스트 여유를 두고 들어가며, 초당 10토큰 이상입니다.

모델버전메모리토큰/초
MiniCPM5 2B2.52B · 지능 12.58비트2.7 GB33–59
Qwen3.5 9B9B · 지능 11.26비트7.3 GB12–22
Granite 4.2 8B8B · 지능 11.18비트8.5 GB11–19
Granite 4.2 3B3B · 지능 9.18비트3.2 GB28–50
Gemma 4 E4B8B · 지능 8.98비트8.5 GB19–33
Ministral 3 8B8.9B · 지능 5.56비트7.2 GB13–22
Nemotron 3 Nano 4B3.97B · 지능 4.88비트4.2 GB21–38
Phi-4 Reasoning Vision 15B15B4비트8.4 GB11–19
Phi-4 (14B)14B4비트7.9 GB11–20
Gemma 4 12B Unified12B4비트6.7 GB13–24
Qwen3 8B8.2B8비트8.7 GB10–18
Llama 3.1 8B Instruct8B8비트8.5 GB11–19
Gemma 4 E2B5.1B8비트5.4 GB38–67
Qwen3.5 4B4B8비트4.3 GB21–37
Phi-4 mini instruct3.8B8비트4 GB23–40
Llama 3.2 3B Instruct3.21B8비트3.4 GB26–47
SmolLM3 3B3B8비트3.2 GB28–50
LFM2.5 2.6B2.69B8비트2.9 GB31–55
Qwen3.5 2B2B8비트2.1 GB43–76
Llama 3.2 1B Instruct1.23B8비트1.3 GB69–123
Qwen3.5 0.8B0.8B8비트0.9 GB100–178
Qwen3 0.6B0.6B8비트0.6 GB150–267
Qwen3.8 27B27B · 지능 33.72비트 품질 낮음8.4 GB11–19
Muse Glimmer 30B29.6B · 지능 17.52비트 품질 낮음9.3 GB10–17
Nemotron 3.5 Lightning 30B A3B30B · 활성 3B · 지능 12.92비트 품질 낮음9.4 GB100–178
Granite 4.2 30B30B · 지능 12.72비트 품질 낮음9.4 GB10–17
gpt-oss-20b21B · 활성 3.6B · 지능 93비트 품질 낮음9.2 GB56–100
Nemotron 3 Nano 30B A3B30B · 활성 3.5B · 지능 8.92비트 품질 낮음9.4 GB82–145
Qwen3 Coder 30B A3B Instruct30.5B · 활성 3.3B2비트 품질 낮음9.5 GB90–160
GLM-4.7 Flash30B · 활성 3B2비트 품질 낮음9.4 GB100–178
Qwen3.6 27B27B2비트 품질 낮음8.4 GB11–19
Gemma 4 26B A4B25.2B · 활성 3.8B2비트 품질 낮음7.9 GB75–133
LFM2.5 24B A2B24B · 활성 2B3비트 품질 낮음10.5 GB100–178

실행되지만 느림 4

들어가지만 초당 10토큰 미만입니다. 일괄 작업에는 괜찮지만 채팅에는 느립니다.

모델버전메모리토큰/초
Gemma 4 31B30.7B · 지능 14.72비트 품질 낮음9.6 GB9–17
Devstral Small 2 (24B)24B3비트 품질 낮음10.5 GB9–15
Magistral Small 1.2 (2509)24B3비트 품질 낮음10.5 GB9–15
Mistral Small 3.2 (24B)24B3비트 품질 낮음10.5 GB9–15

겨우 들어감 1

메모리를 거의 다 씁니다. GPU 메모리 한도를 올리고 컨텍스트를 짧게 유지하세요.

모델버전메모리토큰/초
Qwen3.6 35B A3B35B · 활성 3B · 지능 18.22비트 품질 낮음10.9 GB100–178

너무 큼 35

2비트로도 16GB보다 많은 메모리가 필요합니다.

다른 Mac

칩과 관계없이 16GB인 모든 Mac.

메모리가 더 많거나 적은 M2 Pro:

가까운 칩:

1:1 비교:

어떤 Mac이나 GPU와도 비교하기 · 로컬 AI를 위한 M2 Pro · 로컬 LLM에 가장 좋은 Mac · 모든 Mac

자주 묻는 질문

16GB M2 Pro에 가장 좋은 LLM은 무엇인가요?
Intelligence Index가 공개된 모델 중, 여기서 쾌적하게 실행되는 모델 가운데 점수가 가장 높은 것은 MiniCPM5 2B입니다. 8비트, 초당 약 33–59토큰. 쾌적하게 실행되는 가장 큰 모델은 Phi-4 Reasoning Vision 15B입니다.
16GB M2 Pro에서 Llama 3.3 70B를 실행할 수 있나요?
아니요. 2비트로도 GPU가 기본으로 쓸 수 있는 12GB보다 더 필요합니다.
M2 Pro에서 gpt-oss-20b는 얼마나 빠른가요?
초당 약 56–100토큰(3비트)으로, 칩의 메모리 대역폭 200GB/s에서 계산했습니다.

MLX Harness(무료, 오픈 소스)나 터미널에서 Apple의 mlx-lm으로 실행하세요: 단계별 안내.

계산 방법

메모리: 모델 파라미터를 가중치당 8, 6, 4, 3, 2비트로 계산하고 MLX의 그룹 스케일(가중치당 0.5비트)을 더하거나 네이티브 형식 그대로 계산한 뒤, 컨텍스트를 위한 여유를 더했습니다. macOS는 기본적으로 GPU가 통합 메모리의 약 75%를 쓰도록 허용합니다. 속도: 메모리 대역폭을 토큰당 읽는 바이트 수로 나눈 값이 한 대화의 상한입니다. llama.cpp의 Apple Silicon 공개 벤치마크에서 실제 속도는 그 상한의 약 45~80%였고, 여기 표시한 범위가 바로 그 값입니다. 측정값이 아닌 추정값이니, 내 Mac은 MLX Bench에서 직접 측정해 보세요. 모델 수치는 각 공식 모델 카드, 칩 수치는 Apple 기술 사양에서 가져왔습니다. 2026-10-19 확인. mlx.app/compare와 같은 데이터입니다.

16GB M2 Pro에서 실행되는 LLM은? 모든 모델과 속도