로그인지갑 만들기

256GB M3 Ultra에서는 무엇을 실행할 수 있을까?

오픈 모델 73개 중 53개가 쾌적하게 실행됩니다. GPU는 기본적으로 256GB 중 약 192GB를 쓸 수 있고, 메모리를 819GB/s로 읽으며 이 속도가 생성 속도를 정합니다. 탑재 기기: Mac Studio (2025).

쾌적하게 실행되는 가장 똑똑한 모델Qwen3.8 Flash Next6비트 · 146 GB · 75–134 tok/s쾌적하게 실행되는 가장 큰 모델MiMo V2.6 Flash네이티브 4.48비트 · 173 GB · 44–78 tok/s코딩용Qwen3 Coder Next8비트 · 85 GB · 115–205 tok/s

쾌적하게 실행 60

컨텍스트 여유를 두고 들어가며, 초당 10토큰 이상입니다.

모델버전메모리토큰/초
Qwen3.8 Flash Next180B · 활성 6B · 지능 39.86비트146 GB75–134
MiMo V2.6 Flash309B · 활성 15B · 지능 37.9네이티브 4.48비트173 GB44–78
Qwen3.8 27B27B · 지능 33.78비트28.7 GB13–23
Inkling Small276B · 활성 12B · 지능 25.74비트155 GB54–96
Hy3295B · 활성 21B · 지능 25.34비트166 GB31–56
Nemotron 3.5 Bolt 74B A9B74B · 활성 9B · 지능 21.48비트78.6 GB38–68
Qwen3.6 35B A3B35B · 활성 3B · 지능 18.28비트37.2 GB115–205
Muse Glimmer 30B29.6B · 지능 17.58비트31.5 GB12–21
Qwen3.5 122B A10B122B · 활성 10B · 지능 15.68비트130 GB35–62
Gemma 4 31B30.7B · 지능 14.78비트32.6 GB11–20
Nemotron 3.5 Lightning 30B A3B30B · 활성 3B · 지능 12.98비트31.9 GB115–205
Granite 4.2 30B30B · 지능 12.78비트31.9 GB12–21
MiniCPM5 2B2.52B · 지능 12.58비트2.7 GB137–243
gpt-oss-120b117B · 활성 5.1B · 지능 11.6네이티브 4.25비트65.3 GB137–243
Mistral Small 4 (119B)119B · 활성 6.5B · 지능 11.38비트126 GB53–95
Qwen3.5 9B9B · 지능 11.28비트9.6 GB38–68
Granite 4.2 8B8B · 지능 11.18비트8.5 GB43–77
Qwen3 Coder Next80B · 활성 3B · 지능 9.28비트85 GB115–205
Granite 4.2 3B3B · 지능 9.18비트3.2 GB115–205
gpt-oss-20b21B · 활성 3.6B · 지능 9네이티브 4.25비트13.8 GB194–345
Nemotron 3 Nano 30B A3B30B · 활성 3.5B · 지능 8.98비트31.9 GB100–177
Gemma 4 E4B8B · 지능 8.98비트8.5 GB77–137
Llama 4 Scout 17B-16E Instruct109B · 활성 17B · 지능 6.58비트116 GB20–36
Ministral 3 8B8.9B · 지능 5.58비트9.5 GB39–69
Nemotron 3 Nano 4B3.97B · 지능 4.88비트4.2 GB88–156
DeepSeek V4 Flash 0731284B · 활성 13B4비트160 GB50–90
MiniMax M2.7230B · 활성 10B4비트129 GB66–117
Ornith 1.5 122B122B · 활성 10B8비트130 GB35–62
Nemotron 3 Super 120B A12B120B · 활성 12B8비트128 GB29–51
GLM-4.5 Air106B · 활성 12B8비트113 GB29–51
Qwen3 Coder 30B A3B Instruct30.5B · 활성 3.3B8비트32.4 GB105–187
GLM-4.7 Flash30B · 활성 3B8비트31.9 GB115–205
Qwen3.6 27B27B8비트28.7 GB13–23
Gemma 4 26B A4B25.2B · 활성 3.8B8비트26.8 GB92–164
Devstral Small 2 (24B)24B8비트25.5 GB14–26
Magistral Small 1.2 (2509)24B8비트25.5 GB14–26
Mistral Small 3.2 (24B)24B8비트25.5 GB14–26
LFM2.5 24B A2B24B · 활성 2B8비트25.5 GB176–312
Phi-4 Reasoning Vision 15B15B8비트15.9 GB23–41
Phi-4 (14B)14B8비트14.9 GB25–44
Gemma 4 12B Unified12B8비트12.7 GB29–52
Qwen3 8B8.2B8비트8.7 GB42–75
Llama 3.1 8B Instruct8B8비트8.5 GB43–77
Gemma 4 E2B5.1B8비트5.4 GB154–273
Qwen3.5 4B4B8비트4.3 GB86–152
Phi-4 mini instruct3.8B8비트4 GB92–164
Llama 3.2 3B Instruct3.21B8비트3.4 GB108–193
SmolLM3 3B3B8비트3.2 GB115–205
LFM2.5 2.6B2.69B8비트2.9 GB127–226
Qwen3.5 2B2B8비트2.1 GB176–312
Llama 3.2 1B Instruct1.23B8비트1.3 GB284–504
Qwen3.5 0.8B0.8B8비트0.9 GB410–728
Qwen3 0.6B0.6B8비트0.6 GB614–1092
DeepSeek V4.1 Flash 1017552B · 활성 16B · 지능 45.12비트 품질 낮음173 GB74–131
GLM-5.3 Flash320B · 활성 18B · 지능 41.83비트 품질 낮음140 GB47–83
Beam 1.0501B · 활성 23B · 지능 30.32비트 품질 낮음157 GB51–91
MiniMax M3428B · 활성 23B · 지능 29.22비트 품질 낮음134 GB51–91
Nemotron 3 Ultra 550B A55B550B · 활성 55B · 지능 22.92비트 품질 낮음172 GB21–38
Qwen3.5 397B A17B397B · 활성 17B · 지능 18.43비트 품질 낮음174 GB50–89
Llama 4 Maverick 17B-128E Instruct400B · 활성 17B · 지능 9.33비트 품질 낮음175 GB50–89

실행되지만 느림 3

들어가지만 초당 10토큰 미만입니다. 일괄 작업에는 괜찮지만 채팅에는 느립니다.

모델버전메모리토큰/초
Mistral Medium 3.5 (128B)128B · 지능 14.28비트136 GB3–5
Devstral 2 (123B)123B8비트131 GB3–5
Llama 3.3 70B Instruct70B8비트74.4 GB5–9

겨우 들어감 1

메모리를 거의 다 씁니다. GPU 메모리 한도를 올리고 컨텍스트를 짧게 유지하세요.

모델버전메모리토큰/초
Mistral Large 3 (675B)675B · 활성 41B2비트 품질 낮음211 GB29–51

너무 큼 9

2비트로도 256GB보다 많은 메모리가 필요합니다.

다른 Mac

칩과 관계없이 256GB인 모든 Mac.

메모리가 더 많거나 적은 M3 Ultra:

가까운 칩:

1:1 비교:

PC와 그래픽 카드와의 비교:

어떤 Mac이나 GPU와도 비교하기 · 로컬 AI를 위한 M3 Ultra · 로컬 LLM에 가장 좋은 Mac · 모든 Mac

자주 묻는 질문

256GB M3 Ultra에 가장 좋은 LLM은 무엇인가요?
Intelligence Index가 공개된 모델 중, 여기서 쾌적하게 실행되는 모델 가운데 점수가 가장 높은 것은 Qwen3.8 Flash Next입니다. 6비트, 초당 약 75–134토큰. 쾌적하게 실행되는 가장 큰 모델은 MiMo V2.6 Flash입니다.
256GB M3 Ultra에서 Llama 3.3 70B를 실행할 수 있나요?
네, 다만 느립니다. 8비트, 초당 약 5–9토큰입니다.
M3 Ultra에서 gpt-oss-20b는 얼마나 빠른가요?
초당 약 194–345토큰(네이티브 4.25비트)으로, 칩의 메모리 대역폭 819GB/s에서 계산했습니다.

MLX Harness(무료, 오픈 소스)나 터미널에서 Apple의 mlx-lm으로 실행하세요: 단계별 안내.

계산 방법

메모리: 모델 파라미터를 가중치당 8, 6, 4, 3, 2비트로 계산하고 MLX의 그룹 스케일(가중치당 0.5비트)을 더하거나 네이티브 형식 그대로 계산한 뒤, 컨텍스트를 위한 여유를 더했습니다. macOS는 기본적으로 GPU가 통합 메모리의 약 75%를 쓰도록 허용합니다. 속도: 메모리 대역폭을 토큰당 읽는 바이트 수로 나눈 값이 한 대화의 상한입니다. llama.cpp의 Apple Silicon 공개 벤치마크에서 실제 속도는 그 상한의 약 45~80%였고, 여기 표시한 범위가 바로 그 값입니다. 측정값이 아닌 추정값이니, 내 Mac은 MLX Bench에서 직접 측정해 보세요. 모델 수치는 각 공식 모델 카드, 칩 수치는 Apple 기술 사양에서 가져왔습니다. 2026-10-19 확인. mlx.app/compare와 같은 데이터입니다.

256GB M3 Ultra에서 실행되는 LLM은? 모든 모델과 속도