로그인지갑 만들기

192GB M2 Ultra에서는 무엇을 실행할 수 있을까?

오픈 모델 73개 중 49개가 쾌적하게 실행됩니다. GPU는 기본적으로 192GB 중 약 144GB를 쓸 수 있고, 메모리를 800GB/s로 읽으며 이 속도가 생성 속도를 정합니다. 탑재 기기: Mac Studio (2023), Mac Pro (2023), Mac Pro (Rack, 2023).

쾌적하게 실행되는 가장 똑똑한 모델Qwen3.8 Flash Next4비트 · 101 GB · 106–188 tok/s쾌적하게 실행되는 가장 큰 모델MiniMax M2.74비트 · 129 GB · 64–114 tok/s코딩용Qwen3 Coder Next8비트 · 85 GB · 113–200 tok/s

쾌적하게 실행 56

컨텍스트 여유를 두고 들어가며, 초당 10토큰 이상입니다.

모델버전메모리토큰/초
Qwen3.8 Flash Next180B · 활성 6B · 지능 39.84비트101 GB106–188
Qwen3.8 27B27B · 지능 33.78비트28.7 GB13–22
Nemotron 3.5 Bolt 74B A9B74B · 활성 9B · 지능 21.48비트78.6 GB38–67
Qwen3.6 35B A3B35B · 활성 3B · 지능 18.28비트37.2 GB113–200
Muse Glimmer 30B29.6B · 지능 17.58비트31.5 GB11–20
Qwen3.5 122B A10B122B · 활성 10B · 지능 15.68비트130 GB34–60
Gemma 4 31B30.7B · 지능 14.78비트32.6 GB11–20
Nemotron 3.5 Lightning 30B A3B30B · 활성 3B · 지능 12.98비트31.9 GB113–200
Granite 4.2 30B30B · 지능 12.78비트31.9 GB11–20
MiniCPM5 2B2.52B · 지능 12.58비트2.7 GB133–237
gpt-oss-120b117B · 활성 5.1B · 지능 11.6네이티브 4.25비트65.3 GB133–237
Mistral Small 4 (119B)119B · 활성 6.5B · 지능 11.38비트126 GB52–93
Qwen3.5 9B9B · 지능 11.28비트9.6 GB38–67
Granite 4.2 8B8B · 지능 11.18비트8.5 GB42–75
Qwen3 Coder Next80B · 활성 3B · 지능 9.28비트85 GB113–200
Granite 4.2 3B3B · 지능 9.18비트3.2 GB113–200
gpt-oss-20b21B · 활성 3.6B · 지능 9네이티브 4.25비트13.8 GB189–337
Nemotron 3 Nano 30B A3B30B · 활성 3.5B · 지능 8.98비트31.9 GB97–173
Gemma 4 E4B8B · 지능 8.98비트8.5 GB75–133
Llama 4 Scout 17B-16E Instruct109B · 활성 17B · 지능 6.58비트116 GB20–35
Ministral 3 8B8.9B · 지능 5.58비트9.5 GB38–67
Nemotron 3 Nano 4B3.97B · 지능 4.88비트4.2 GB86–152
MiniMax M2.7230B · 활성 10B4비트129 GB64–114
Ornith 1.5 122B122B · 활성 10B8비트130 GB34–60
Nemotron 3 Super 120B A12B120B · 활성 12B8비트128 GB28–50
GLM-4.5 Air106B · 활성 12B8비트113 GB28–50
Qwen3 Coder 30B A3B Instruct30.5B · 활성 3.3B8비트32.4 GB103–183
GLM-4.7 Flash30B · 활성 3B8비트31.9 GB113–200
Qwen3.6 27B27B8비트28.7 GB13–22
Gemma 4 26B A4B25.2B · 활성 3.8B8비트26.8 GB90–160
Devstral Small 2 (24B)24B8비트25.5 GB14–25
Magistral Small 1.2 (2509)24B8비트25.5 GB14–25
Mistral Small 3.2 (24B)24B8비트25.5 GB14–25
LFM2.5 24B A2B24B · 활성 2B8비트25.5 GB171–305
Phi-4 Reasoning Vision 15B15B8비트15.9 GB23–40
Phi-4 (14B)14B8비트14.9 GB24–43
Gemma 4 12B Unified12B8비트12.7 GB28–50
Qwen3 8B8.2B8비트8.7 GB41–74
Llama 3.1 8B Instruct8B8비트8.5 GB42–75
Gemma 4 E2B5.1B8비트5.4 GB150–267
Qwen3.5 4B4B8비트4.3 GB84–149
Phi-4 mini instruct3.8B8비트4 GB90–160
Llama 3.2 3B Instruct3.21B8비트3.4 GB106–188
SmolLM3 3B3B8비트3.2 GB113–200
LFM2.5 2.6B2.69B8비트2.9 GB124–221
Qwen3.5 2B2B8비트2.1 GB171–305
Llama 3.2 1B Instruct1.23B8비트1.3 GB277–492
Qwen3.5 0.8B0.8B8비트0.9 GB400–711
Qwen3 0.6B0.6B8비트0.6 GB600–1067
GLM-5.3 Flash320B · 활성 18B · 지능 41.82비트 품질 낮음100 GB64–114
MiMo V2.6 Flash309B · 활성 15B · 지능 37.92비트 품질 낮음96.6 GB77–136
Inkling Small276B · 활성 12B · 지능 25.73비트 품질 낮음121 GB68–121
Hy3295B · 활성 21B · 지능 25.33비트 품질 낮음129 GB39–70
Qwen3.5 397B A17B397B · 활성 17B · 지능 18.42비트 품질 낮음124 GB68–121
Llama 4 Maverick 17B-128E Instruct400B · 활성 17B · 지능 9.32비트 품질 낮음125 GB68–121
DeepSeek V4 Flash 0731284B · 활성 13B3비트 품질 낮음124 GB63–112

실행되지만 느림 3

들어가지만 초당 10토큰 미만입니다. 일괄 작업에는 괜찮지만 채팅에는 느립니다.

모델버전메모리토큰/초
Mistral Medium 3.5 (128B)128B · 지능 14.26비트104 GB3–6
Devstral 2 (123B)123B8비트131 GB3–5
Llama 3.3 70B Instruct70B8비트74.4 GB5–9

겨우 들어감 2

메모리를 거의 다 씁니다. GPU 메모리 한도를 올리고 컨텍스트를 짧게 유지하세요.

모델버전메모리토큰/초
Beam 1.0501B · 활성 23B · 지능 30.32비트 품질 낮음157 GB50–89
MiniMax M3428B · 활성 23B · 지능 29.22비트 품질 낮음134 GB50–89

너무 큼 12

2비트로도 192GB보다 많은 메모리가 필요합니다.

다른 Mac

칩과 관계없이 192GB인 모든 Mac.

메모리가 더 많거나 적은 M2 Ultra:

가까운 칩:

1:1 비교:

어떤 Mac이나 GPU와도 비교하기 · 로컬 AI를 위한 M2 Ultra · 로컬 LLM에 가장 좋은 Mac · 모든 Mac

자주 묻는 질문

192GB M2 Ultra에 가장 좋은 LLM은 무엇인가요?
Intelligence Index가 공개된 모델 중, 여기서 쾌적하게 실행되는 모델 가운데 점수가 가장 높은 것은 Qwen3.8 Flash Next입니다. 4비트, 초당 약 106–188토큰. 쾌적하게 실행되는 가장 큰 모델은 MiniMax M2.7입니다.
192GB M2 Ultra에서 Llama 3.3 70B를 실행할 수 있나요?
네, 다만 느립니다. 8비트, 초당 약 5–9토큰입니다.
M2 Ultra에서 gpt-oss-20b는 얼마나 빠른가요?
초당 약 189–337토큰(네이티브 4.25비트)으로, 칩의 메모리 대역폭 800GB/s에서 계산했습니다.

MLX Harness(무료, 오픈 소스)나 터미널에서 Apple의 mlx-lm으로 실행하세요: 단계별 안내.

계산 방법

메모리: 모델 파라미터를 가중치당 8, 6, 4, 3, 2비트로 계산하고 MLX의 그룹 스케일(가중치당 0.5비트)을 더하거나 네이티브 형식 그대로 계산한 뒤, 컨텍스트를 위한 여유를 더했습니다. macOS는 기본적으로 GPU가 통합 메모리의 약 75%를 쓰도록 허용합니다. 속도: 메모리 대역폭을 토큰당 읽는 바이트 수로 나눈 값이 한 대화의 상한입니다. llama.cpp의 Apple Silicon 공개 벤치마크에서 실제 속도는 그 상한의 약 45~80%였고, 여기 표시한 범위가 바로 그 값입니다. 측정값이 아닌 추정값이니, 내 Mac은 MLX Bench에서 직접 측정해 보세요. 모델 수치는 각 공식 모델 카드, 칩 수치는 Apple 기술 사양에서 가져왔습니다. 2026-10-19 확인. mlx.app/compare와 같은 데이터입니다.

192GB M2 Ultra에서 실행되는 LLM은? 모든 모델과 속도