M5 탑재 MacBook Pro, 로컬 LLM에 적합한가요?

32GB라면 오픈 모델 73개 중 28개가 쾌적하게 실행되고(최대 Qwen3.6 35B A3B), gpt-oss-20b 실행 시 초당 약 36–64토큰을 생성합니다. M5 칩은 메모리를 153GB/s로 읽으며, 이 속도가 생성 속도를 정합니다.

AI용 M5 탑재 MacBook Pro, 메모리는 얼마나 필요한가요?

16GB에서는 오픈 모델 20개, 32GB에서는 28개가 쾌적하게 실행되며 최대 Qwen3.6 35B A3B까지 돌아갑니다. 어떤 모델이 들어가는지는 메모리가 정하고, 나중에 업그레이드할 수 없습니다.

로컬 AI용 M5 탑재 MacBook Pro: 메모리별로 실행되는 LLM

메모리 용량별

메모리	쾌적 실행	쾌적하게 실행되는 가장 큰 모델	gpt-oss-20b
16 GB153 GB/s	20	Gemma 4 12B Unified	43–77 tok/s
24 GB153 GB/s	23	Gemma 4 26B A4B	36–64 tok/s
32 GB153 GB/s	28	Qwen3.6 35B A3B	36–64 tok/s

해당 기종: MacBook Pro (14-inch, M5). 모든 기종에 모든 메모리 용량이 제공되지는 않습니다. 기종별 구성은 Apple 기술 사양에서 확인할 수 있습니다.

자주 묻는 질문

M5 탑재 MacBook Pro, 로컬 LLM에 적합한가요?: 32GB라면 오픈 모델 73개 중 28개가 쾌적하게 실행되고(최대 Qwen3.6 35B A3B), gpt-oss-20b 실행 시 초당 약 36–64토큰을 생성합니다. M5 칩은 메모리를 153GB/s로 읽으며, 이 속도가 생성 속도를 정합니다.
AI용 M5 탑재 MacBook Pro, 메모리는 얼마나 필요한가요?: 16GB에서는 오픈 모델 20개, 32GB에서는 28개가 쾌적하게 실행되며 최대 Qwen3.6 35B A3B까지 돌아갑니다. 어떤 모델이 들어가는지는 메모리가 정하고, 나중에 업그레이드할 수 없습니다.

다른 Mac

다른 칩을 탑재한 MacBook Pro:

M5 칩을 탑재한 다른 Mac:

MacBook Air M5

1:1 비교:

로컬 AI를 위한 M5 · 로컬 LLM에 가장 좋은 Mac · 모든 Mac

계산 방법

메모리: 모델 파라미터를 가중치당 8, 6, 4, 3, 2비트로 계산하고 MLX의 그룹 스케일(가중치당 0.5비트)을 더하거나 네이티브 형식 그대로 계산한 뒤, 컨텍스트를 위한 여유를 더했습니다. macOS는 기본적으로 GPU가 통합 메모리의 약 75%를 쓰도록 허용합니다. 속도: 메모리 대역폭을 토큰당 읽는 바이트 수로 나눈 값이 한 대화의 상한입니다. llama.cpp의 Apple Silicon 공개 벤치마크에서 실제 속도는 그 상한의 약 45~80%였고, 여기 표시한 범위가 바로 그 값입니다. 측정값이 아닌 추정값이니, 내 Mac은 MLX Bench에서 직접 측정해 보세요. 모델 수치는 각 공식 모델 카드, 칩 수치는 Apple 기술 사양에서 가져왔습니다. 2026-10-19 확인. mlx.app/compare와 같은 데이터입니다.