1AI에 중요한 사양
| 통합 메모리 | 128 GB |
|---|---|
| 메모리 대역폭 | 614 GB/s, 하위 구성은 460 GB/s |
| 탑재 모델 | 14- and 16-inch MacBook Pro (2026), Mac Studio (2026) |
| 맞는 전용 좌석 | Pro Latest 좌석: 하루 최대 120 MLX 채굴 |
2돌릴 수 있는 모델
4비트 양자화 모델은 파라미터 10억 개당 0.5GB를 조금 넘는 메모리가 필요하고, 여기에 컨텍스트와 macOS를 위한 여유가 더 필요합니다. 128 GB이면 M5 Max은(는) 약 170B 파라미터까지의 모델을 넉넉히 올릴 수 있습니다.
| 4비트 모델 | 필요한 메모리 | M5 Max에서 실행 |
|---|---|---|
| 8B 모델 | 4.5GB | 가능 |
| 14B 모델 | 7.9GB | 가능 |
| 32B 모델 | 18GB | 가능 |
| 70B 모델 | 39.4GB | 가능 |
| gpt-oss-120b, 전문가 혼합(MoE) | 65GB | 가능 |
| Qwen3.5-397B-A17B, 전문가 혼합(MoE) | 223.3GB | 불가 |
| DeepSeek-V4.1-Flash, 전문가 혼합(MoE) | 316GB | 불가 |
3얼마나 빠른가
텍스트 생성 속도는 메모리 대역폭이 좌우합니다. 새 토큰 하나를 만들 때마다 모델의 활성 가중치를 한 번씩 읽기 때문입니다. M5 Max의 614 GB/s를 토큰당 읽는 바이트 수로 나누면 아래의 상한이 나옵니다. 실제 속도는 보통 그 45~80% 정도입니다(llama.cpp 벤치마크).
| 4비트 모델 | 토큰당 읽는 양 | 대화 1개 기준 상한 |
|---|---|---|
| 8B 모델 | 4.5GB | 초당 136토큰 |
| 14B 모델 | 7.9GB | 초당 78토큰 |
| 32B 모델 | 18GB | 초당 34토큰 |
| 70B 모델 | 39.4GB | 초당 16토큰 |
| gpt-oss-120b, 전문가 혼합(MoE) | 2.7GB | 초당 227토큰 |
M5 세대 칩은 GPU에 뉴럴 가속기를 더해 프롬프트를 M4보다 몇 배 빨리 읽습니다. Apple의 측정에서는 MLX로 첫 토큰이 3.3~4.1배 빨리 나왔습니다(Apple).
5다른 칩과 비교
6자주 묻는 질문
- M5 Max으로 70B 모델을 돌릴 수 있나요?
- 네. 4비트 70B 모델은 약 40GB가 필요하고, M5 Max은(는) 최대 128 GB입니다. 대화 1개 기준 상한은 초당 약 16토큰입니다.
- M5 Max은(는) 초당 몇 토큰이 나오나요?
- 4비트 8B 모델 기준 상한은 초당 약 136토큰이고, 실제로는 그 절반에서 5분의 4 정도가 나옵니다. 모델이 클수록 그에 비례해 느려집니다.
- M5 Max은(는) AI에 좋은가요?
- 모델을 로컬에서 돌릴 때 가장 중요한 건 메모리와 대역폭입니다. M5 Max은(는) 최대 128 GB, 614 GB/s로 약 170B 파라미터까지의 모델을 돌릴 수 있습니다. MLX Node로 MLX Network의 AI 작업을 실행해 수익을 낼 수도 있습니다.
출처
- Apple: M5 Pro and M5 Maxapple.com
- Apple: Mac Studio with M5 Max and M5 Ultraapple.com