나란히 비교
인기 모델에서의 속도
한 대화 기준 초당 토큰 수입니다. 각 칩은 가장 큰 메모리 구성(512GB와 512GB)에서, 들어가는 가장 좋은 버전의 모델로 계산했습니다.
| 모델 | M3 Ultra | M5 Ultra |
|---|---|---|
| Llama 3.1 8B Instruct8B | 43–77 8비트 | 64–113 8비트 |
| gpt-oss-20b21B · 활성 3.6B | 194–345 네이티브 4.25비트 | 284–505 네이티브 4.25비트 |
| Qwen3.6 35B A3B35B · 활성 3B | 115–205 8비트 | 169–300 8비트 |
| Qwen3.8 27B27B | 13–23 8비트 | 19–33 8비트 |
| Llama 3.3 70B Instruct70B | 5–9 8비트 | 14–24 4비트 |
| gpt-oss-120b117B · 활성 5.1B | 137–243 네이티브 4.25비트 | 200–356 네이티브 4.25비트 |
| Qwen3.5 122B A10B122B · 활성 10B | 35–62 8비트 | 51–91 8비트 |
| DeepSeek V4 Flash 0731284B · 활성 13B | 27–47 8비트 | 39–70 8비트 |
자주 묻는 질문
- LLM에서 M5 Ultra가 M3 Ultra보다 빠른가요?
- M5 Ultra는 M3 Ultra보다 메모리를 약 47% 빠르게 읽어서(1,200 대 819GB/s), 둘 다에 들어가는 모델이라면 약 47% 더 빠르게 생성합니다. 긴 프롬프트를 읽는 속도는 GPU 연산 성능에 달려 있으며, 이 비교에는 포함되지 않습니다.
- M3 Ultra와 M5 Ultra 중 더 큰 모델을 실행할 수 있는 쪽은?
- 같습니다. 둘 다 최대 512GB입니다. 그 용량에서 오픈 모델 73개 중 M3 Ultra는 60개, M5 Ultra는 61개를 쾌적하게 실행합니다. 더 빠른 쪽이 초당 10토큰을 넘기는 모델이 더 많습니다.
더 많은 비교
- M2 Ultra vs M3 Ultra
- M3 Max vs M3 Ultra
- M3 Ultra vs M4 Max
- M3 Ultra vs M5 Max
- M4 Max vs M5 Ultra
- M5 Max vs M5 Ultra
로컬 AI를 위한 M3 Ultra · 로컬 AI를 위한 M5 Ultra · 모든 모델 비교하기 · 로컬 LLM에 가장 좋은 Mac
계산 방법
메모리: 모델 파라미터를 가중치당 8, 6, 4, 3, 2비트로 계산하고 MLX의 그룹 스케일(가중치당 0.5비트)을 더하거나 네이티브 형식 그대로 계산한 뒤, 컨텍스트를 위한 여유를 더했습니다. macOS는 기본적으로 GPU가 통합 메모리의 약 75%를 쓰도록 허용합니다. 속도: 메모리 대역폭을 토큰당 읽는 바이트 수로 나눈 값이 한 대화의 상한입니다. llama.cpp의 Apple Silicon 공개 벤치마크에서 실제 속도는 그 상한의 약 45~80%였고, 여기 표시한 범위가 바로 그 값입니다. 측정값이 아닌 추정값이니, 내 Mac은 MLX Bench에서 직접 측정해 보세요. 모델 수치는 각 공식 모델 카드, 칩 수치는 Apple 기술 사양에서 가져왔습니다. 2026-10-19 확인. mlx.app/compare와 같은 데이터입니다.