정밀도별 메모리
| 버전 | 가중치 | 컨텍스트 포함 | 최소 사양 Mac |
|---|---|---|---|
| 8비트 | 2.6 TB | 2.8 TB | 모든 Mac보다 큼 |
| 6비트 | 2 TB | 2.1 TB | 모든 Mac보다 큼 |
| 4비트 | 1.4 TB | 1.5 TB | 모든 Mac보다 큼 |
| 3비트 품질 낮음 | 1.1 TB | 1.1 TB | 모든 Mac보다 큼 |
| 2비트 품질 낮음 | 750 GB | 810 GB | 모든 Mac보다 큼 |
모든 Apple 칩에서
칩마다 Qwen3.8 2.4T A95B 모델을 실행할 수 있는 가장 작은 메모리 용량, 거기에 맞는 최적의 버전, 예상 생성 속도입니다.
| 칩 | 필요량 | 버전 | 토큰/초 |
|---|---|---|---|
| M6 | 맞는 용량 없음 | 너무 큼 | – |
| M5 Ultra | 맞는 용량 없음 | 너무 큼 | – |
| M5 Max | 맞는 용량 없음 | 너무 큼 | – |
| M5 Pro | 맞는 용량 없음 | 너무 큼 | – |
| M5 | 맞는 용량 없음 | 너무 큼 | – |
| M4 Max | 맞는 용량 없음 | 너무 큼 | – |
| M4 Pro | 맞는 용량 없음 | 너무 큼 | – |
| M4 | 맞는 용량 없음 | 너무 큼 | – |
| M3 Ultra | 맞는 용량 없음 | 너무 큼 | – |
| M3 Max | 맞는 용량 없음 | 너무 큼 | – |
| M3 Pro | 맞는 용량 없음 | 너무 큼 | – |
| M3 | 맞는 용량 없음 | 너무 큼 | – |
| M2 Ultra | 맞는 용량 없음 | 너무 큼 | – |
| M2 Max | 맞는 용량 없음 | 너무 큼 | – |
| M2 Pro | 맞는 용량 없음 | 너무 큼 | – |
| M2 | 맞는 용량 없음 | 너무 큼 | – |
| M1 Ultra | 맞는 용량 없음 | 너무 큼 | – |
| M1 Max | 맞는 용량 없음 | 너무 큼 | – |
| M1 Pro | 맞는 용량 없음 | 너무 큼 | – |
| M1 | 맞는 용량 없음 | 너무 큼 | – |
실행하는 방법
Mac 한 대에는 들어가지 않습니다. 아래의 더 작은 모델은 쾌적하게 돌아가며, 여러 Mac에 모델을 나누는 방법은 Mac 클러스터 가이드에서 다룹니다.
단계별 안내: Mac에서 LLM 다운로드하고 실행하기 · MLX Harness 사용법 · MLX vs Ollama vs llama.cpp
Qwen3.8 2.4T A95B 정보
| 개발사 | Qwen (Alibaba) |
|---|---|
| 파라미터 | 전체 2,400B · 활성 95B(전문가 혼합) |
| 컨텍스트 | 256K토큰 |
| 라이선스 | Qwen3.8-Max license (qwen3.8-max) |
| 출시 | 2026-08 |
| 입력 | 텍스트 |
| 지능 | Artificial Analysis Intelligence Index 39.9점 |
| 가중치 | Qwen/Qwen3.8-2.4T-A95B |
자주 묻는 질문
- Qwen3.8 2.4T A95B 모델에는 메모리가 얼마나 필요한가요?
- 4비트에서 가중치가 약 1.4 TB이고, 컨텍스트 여유까지 더하면 모두 1.5 TB입니다. 현재 어떤 Mac의 메모리보다도 큽니다.
- Qwen3.8 2.4T A95B 모델을 실행할 수 있는 Mac이 있나요?
- 한 대로는 안 됩니다. 2비트로도 가장 큰 Mac보다 많은 메모리가 필요합니다. 더 작은 모델을 쓰거나, 클러스터 런타임으로 여러 Mac에 나눠 실행하세요.
- Qwen3.8 2.4T A95B 모델이 크기에 비해 빠른 이유는 무엇인가요?
- 전문가 혼합(MoE) 모델이기 때문입니다. 메모리에는 2,400B 파라미터를 올려 두지만 토큰마다 95B만 읽으므로, 훨씬 작은 모델과 비슷한 속도로 생성합니다.
비슷한 모델
- Qwen3.5 397B A17B512GB부터
- Qwen3.8 Flash Next192GB부터
- Qwen3.5 122B A10B128GB부터
- Kimi K3Mac 한 대로는 불가
- DeepSeek V4 Pro 0813Mac 한 대로는 불가
- MiMo V2.6 Pro512GB부터
모든 모델 · 모든 Mac · 내 Mac 비교하기
모델 카드나 README용
Qwen3.8 2.4T A95B 모델을 쾌적하게 실행하는 최소 사양 Mac을 보여 주고 이 페이지로 연결합니다.
[](https://mlx.app/run/qwen3.8-2.4t-a95b)계산 방법
메모리: 모델 파라미터를 가중치당 8, 6, 4, 3, 2비트로 계산하고 MLX의 그룹 스케일(가중치당 0.5비트)을 더하거나 네이티브 형식 그대로 계산한 뒤, 컨텍스트를 위한 여유를 더했습니다. macOS는 기본적으로 GPU가 통합 메모리의 약 75%를 쓰도록 허용합니다. 속도: 메모리 대역폭을 토큰당 읽는 바이트 수로 나눈 값이 한 대화의 상한입니다. llama.cpp의 Apple Silicon 공개 벤치마크에서 실제 속도는 그 상한의 약 45~80%였고, 여기 표시한 범위가 바로 그 값입니다. 측정값이 아닌 추정값이니, 내 Mac은 MLX Bench에서 직접 측정해 보세요. 모델 수치는 각 공식 모델 카드, 칩 수치는 Apple 기술 사양에서 가져왔습니다. 2026-10-19 확인. mlx.app/compare와 같은 데이터입니다.