로그인지갑 만들기

32GB M1 Pro에서는 무엇을 실행할 수 있을까?

오픈 모델 73개 중 30개가 쾌적하게 실행됩니다. GPU는 기본적으로 32GB 중 약 24GB를 쓸 수 있고, 메모리를 200GB/s로 읽으며 이 속도가 생성 속도를 정합니다. 탑재 기기: MacBook Pro (14-inch, 2021), MacBook Pro (16-inch, 2021).

쾌적하게 실행되는 가장 똑똑한 모델Qwen3.6 35B A3B4비트 · 19.7 GB · 53–94 tok/s쾌적하게 실행되는 가장 큰 모델Qwen3.6 35B A3B4비트 · 19.7 GB · 53–94 tok/s코딩용Qwen3 Coder 30B A3B Instruct4비트 · 17.2 GB · 47–84 tok/s

쾌적하게 실행 30

컨텍스트 여유를 두고 들어가며, 초당 10토큰 이상입니다.

모델버전메모리토큰/초
Qwen3.6 35B A3B35B · 활성 3B · 지능 18.24비트19.7 GB53–94
Nemotron 3.5 Lightning 30B A3B30B · 활성 3B · 지능 12.94비트16.9 GB53–94
MiniCPM5 2B2.52B · 지능 12.58비트2.7 GB33–59
Qwen3.5 9B9B · 지능 11.26비트7.3 GB12–22
Granite 4.2 8B8B · 지능 11.18비트8.5 GB11–19
Granite 4.2 3B3B · 지능 9.18비트3.2 GB28–50
gpt-oss-20b21B · 활성 3.6B · 지능 9네이티브 4.25비트13.8 GB47–84
Nemotron 3 Nano 30B A3B30B · 활성 3.5B · 지능 8.94비트16.9 GB45–80
Gemma 4 E4B8B · 지능 8.98비트8.5 GB19–33
Ministral 3 8B8.9B · 지능 5.56비트7.2 GB13–22
Nemotron 3 Nano 4B3.97B · 지능 4.88비트4.2 GB21–38
Qwen3 Coder 30B A3B Instruct30.5B · 활성 3.3B4비트17.2 GB47–84
GLM-4.7 Flash30B · 활성 3B4비트16.9 GB53–94
Gemma 4 26B A4B25.2B · 활성 3.8B6비트20.5 GB29–52
LFM2.5 24B A2B24B · 활성 2B6비트19.5 GB56–100
Phi-4 Reasoning Vision 15B15B4비트8.4 GB11–19
Phi-4 (14B)14B4비트7.9 GB11–20
Gemma 4 12B Unified12B4비트6.7 GB13–24
Qwen3 8B8.2B8비트8.7 GB10–18
Llama 3.1 8B Instruct8B8비트8.5 GB11–19
Gemma 4 E2B5.1B8비트5.4 GB38–67
Qwen3.5 4B4B8비트4.3 GB21–37
Phi-4 mini instruct3.8B8비트4 GB23–40
Llama 3.2 3B Instruct3.21B8비트3.4 GB26–47
SmolLM3 3B3B8비트3.2 GB28–50
LFM2.5 2.6B2.69B8비트2.9 GB31–55
Qwen3.5 2B2B8비트2.1 GB43–76
Llama 3.2 1B Instruct1.23B8비트1.3 GB69–123
Qwen3.5 0.8B0.8B8비트0.9 GB100–178
Qwen3 0.6B0.6B8비트0.6 GB150–267

실행되지만 느림 9

들어가지만 초당 10토큰 미만입니다. 일괄 작업에는 괜찮지만 채팅에는 느립니다.

모델버전메모리토큰/초
Qwen3.8 27B27B · 지능 33.76비트21.9 GB4–7
Muse Glimmer 30B29.6B · 지능 17.54비트16.7 GB5–10
Gemma 4 31B30.7B · 지능 14.74비트17.3 GB5–9
Granite 4.2 30B30B · 지능 12.74비트16.9 GB5–9
Qwen3.6 27B27B6비트21.9 GB4–7
Devstral Small 2 (24B)24B6비트19.5 GB5–8
Magistral Small 1.2 (2509)24B6비트19.5 GB5–8
Mistral Small 3.2 (24B)24B6비트19.5 GB5–8
Llama 3.3 70B Instruct70B2비트 품질 낮음21.9 GB4–7

겨우 들어감 2

메모리를 거의 다 씁니다. GPU 메모리 한도를 올리고 컨텍스트를 짧게 유지하세요.

모델버전메모리토큰/초
Nemotron 3.5 Bolt 74B A9B74B · 활성 9B · 지능 21.42비트 품질 낮음23.1 GB32–57
Qwen3 Coder Next80B · 활성 3B · 지능 9.22비트 품질 낮음25 GB100–178

너무 큼 32

2비트로도 32GB보다 많은 메모리가 필요합니다.

다른 Mac

칩과 관계없이 32GB인 모든 Mac.

메모리가 더 많거나 적은 M1 Pro:

가까운 칩:

1:1 비교:

어떤 Mac이나 GPU와도 비교하기 · 로컬 AI를 위한 M1 Pro · 로컬 LLM에 가장 좋은 Mac · 모든 Mac

자주 묻는 질문

32GB M1 Pro에 가장 좋은 LLM은 무엇인가요?
Intelligence Index가 공개된 모델 중, 여기서 쾌적하게 실행되는 모델 가운데 점수가 가장 높은 것은 Qwen3.6 35B A3B입니다. 4비트, 초당 약 53–94토큰.
32GB M1 Pro에서 Llama 3.3 70B를 실행할 수 있나요?
네, 다만 느립니다. 2비트(품질 낮음), 초당 약 4–7토큰입니다.
M1 Pro에서 gpt-oss-20b는 얼마나 빠른가요?
초당 약 47–84토큰(네이티브 4.25비트)으로, 칩의 메모리 대역폭 200GB/s에서 계산했습니다.

MLX Harness(무료, 오픈 소스)나 터미널에서 Apple의 mlx-lm으로 실행하세요: 단계별 안내.

계산 방법

메모리: 모델 파라미터를 가중치당 8, 6, 4, 3, 2비트로 계산하고 MLX의 그룹 스케일(가중치당 0.5비트)을 더하거나 네이티브 형식 그대로 계산한 뒤, 컨텍스트를 위한 여유를 더했습니다. macOS는 기본적으로 GPU가 통합 메모리의 약 75%를 쓰도록 허용합니다. 속도: 메모리 대역폭을 토큰당 읽는 바이트 수로 나눈 값이 한 대화의 상한입니다. llama.cpp의 Apple Silicon 공개 벤치마크에서 실제 속도는 그 상한의 약 45~80%였고, 여기 표시한 범위가 바로 그 값입니다. 측정값이 아닌 추정값이니, 내 Mac은 MLX Bench에서 직접 측정해 보세요. 모델 수치는 각 공식 모델 카드, 칩 수치는 Apple 기술 사양에서 가져왔습니다. 2026-10-19 확인. mlx.app/compare와 같은 데이터입니다.

32GB M1 Pro에서 실행되는 LLM은? 모든 모델과 속도