나란히 비교
인기 모델에서의 속도
한 대화 기준 초당 토큰 수입니다. 각 칩은 가장 큰 메모리 구성(128GB와 192GB)에서, 들어가는 가장 좋은 버전의 모델로 계산했습니다.
| 모델 | M1 Ultra | M2 Ultra |
|---|---|---|
| Llama 3.1 8B Instruct8B | 42–75 8비트 | 42–75 8비트 |
| gpt-oss-20b21B · 활성 3.6B | 189–337 네이티브 4.25비트 | 189–337 네이티브 4.25비트 |
| Qwen3.6 35B A3B35B · 활성 3B | 113–200 8비트 | 113–200 8비트 |
| Qwen3.8 27B27B | 13–22 8비트 | 13–22 8비트 |
| Llama 3.3 70B Instruct70B | 5–9 8비트 | 5–9 8비트 |
| gpt-oss-120b117B · 활성 5.1B | 133–237 네이티브 4.25비트 | 133–237 네이티브 4.25비트 |
| Qwen3.5 122B A10B122B · 활성 10B | 64–114 4비트 | 34–60 8비트 |
| DeepSeek V4 Flash 0731284B · 활성 13B | 88–156 2비트 품질 낮음 | 63–112 3비트 품질 낮음 |
자주 묻는 질문
- LLM에서 M2 Ultra가 M1 Ultra보다 빠른가요?
- 거의 같습니다. 메모리 대역폭 차이가 몇 퍼센트 이내입니다. 메모리는 M2 Ultra가 최대 192GB, M1 Ultra가 최대 128GB입니다.
- M1 Ultra와 M2 Ultra 중 더 큰 모델을 실행할 수 있는 쪽은?
- M2 Ultra입니다. 메모리는 M2 Ultra가 최대 192GB, M1 Ultra가 최대 128GB입니다. 가장 큰 구성에서 오픈 모델 73개 중 49개를 쾌적하게 실행하며, 다른 쪽은 47개입니다.
더 많은 비교
로컬 AI를 위한 M1 Ultra · 로컬 AI를 위한 M2 Ultra · 모든 모델 비교하기 · 로컬 LLM에 가장 좋은 Mac
계산 방법
메모리: 모델 파라미터를 가중치당 8, 6, 4, 3, 2비트로 계산하고 MLX의 그룹 스케일(가중치당 0.5비트)을 더하거나 네이티브 형식 그대로 계산한 뒤, 컨텍스트를 위한 여유를 더했습니다. macOS는 기본적으로 GPU가 통합 메모리의 약 75%를 쓰도록 허용합니다. 속도: 메모리 대역폭을 토큰당 읽는 바이트 수로 나눈 값이 한 대화의 상한입니다. llama.cpp의 Apple Silicon 공개 벤치마크에서 실제 속도는 그 상한의 약 45~80%였고, 여기 표시한 범위가 바로 그 값입니다. 측정값이 아닌 추정값이니, 내 Mac은 MLX Bench에서 직접 측정해 보세요. 모델 수치는 각 공식 모델 카드, 칩 수치는 Apple 기술 사양에서 가져왔습니다. 2026-10-19 확인. mlx.app/compare와 같은 데이터입니다.