로그인지갑 만들기

512GB Mac에 가장 좋은 LLM.

오픈 모델 73개 중 61개가 512GB에서 쾌적하게 실행됩니다. GPU는 기본적으로 그중 약 384GB를 쓸 수 있습니다. 속도는 칩에 따라 M3 Ultra의 819GB/s부터 M5 Ultra의 1,200GB/s까지입니다.

쾌적하게 실행되는 가장 똑똑한 모델DeepSeek V4.1 Flash 10174비트 · 311 GB · 41–107 tok/s쾌적하게 실행되는 가장 큰 모델DeepSeek V4.1 Flash 10174비트 · 311 GB · 41–107 tok/s코딩용Qwen3 Coder Next8비트 · 85 GB · 115–300 tok/s

512GB Mac

M3~M5의 칩 2종에 512GB 구성이 있습니다. 칩을 열면 각각의 목록과 속도를 볼 수 있습니다.

쾌적하게 실행 68

컨텍스트 여유를 두고 들어가며, M5 Ultra에서 초당 10토큰 이상입니다.

모델버전메모리M3 UltraM5 Ultra
DeepSeek V4.1 Flash 1017552B · 활성 16B · 지능 45.14비트311 GB41–7360–107
GLM-5.3 Flash320B · 활성 18B · 지능 41.88비트340 GB19–3428–50
Qwen3.8 Flash Next180B · 활성 6B · 지능 39.88비트191 GB58–10284–150
MiMo V2.6 Flash309B · 활성 15B · 지능 37.9네이티브 4.48비트173 GB44–7864–114
Qwen3.8 27B27B · 지능 33.78비트28.7 GB13–2319–33
Beam 1.0501B · 활성 23B · 지능 30.34비트282 GB29–5142–74
MiniMax M3428B · 활성 23B · 지능 29.26비트348 GB20–3529–51
Inkling Small276B · 활성 12B · 지능 25.78비트293 GB29–5142–75
Hy3295B · 활성 21B · 지능 25.38비트313 GB17–2924–43
Nemotron 3 Ultra 550B A55B550B · 활성 55B · 지능 22.94비트309 GB12–2117–31
Nemotron 3.5 Bolt 74B A9B74B · 활성 9B · 지능 21.48비트78.6 GB38–6856–100
Qwen3.5 397B A17B397B · 활성 17B · 지능 18.46비트323 GB27–4739–70
Qwen3.6 35B A3B35B · 활성 3B · 지능 18.28비트37.2 GB115–205169–300
Muse Glimmer 30B29.6B · 지능 17.58비트31.5 GB12–2117–30
Qwen3.5 122B A10B122B · 활성 10B · 지능 15.68비트130 GB35–6251–91
Gemma 4 31B30.7B · 지능 14.78비트32.6 GB11–2017–29
Nemotron 3.5 Lightning 30B A3B30B · 활성 3B · 지능 12.98비트31.9 GB115–205169–300
Granite 4.2 30B30B · 지능 12.78비트31.9 GB12–2117–30
MiniCPM5 2B2.52B · 지능 12.58비트2.7 GB137–243200–356
gpt-oss-120b117B · 활성 5.1B · 지능 11.6네이티브 4.25비트65.3 GB137–243200–356
Mistral Small 4 (119B)119B · 활성 6.5B · 지능 11.38비트126 GB53–9578–139
Qwen3.5 9B9B · 지능 11.28비트9.6 GB38–6856–100
Granite 4.2 8B8B · 지능 11.18비트8.5 GB43–7764–113
Llama 4 Maverick 17B-128E Instruct400B · 활성 17B · 지능 9.36비트325 GB27–4739–70
Qwen3 Coder Next80B · 활성 3B · 지능 9.28비트85 GB115–205169–300
Granite 4.2 3B3B · 지능 9.18비트3.2 GB115–205169–300
gpt-oss-20b21B · 활성 3.6B · 지능 9네이티브 4.25비트13.8 GB194–345284–505
Nemotron 3 Nano 30B A3B30B · 활성 3.5B · 지능 8.98비트31.9 GB100–177146–259
Gemma 4 E4B8B · 지능 8.98비트8.5 GB77–137113–200
Llama 4 Scout 17B-16E Instruct109B · 활성 17B · 지능 6.58비트116 GB20–3630–53
Ministral 3 8B8.9B · 지능 5.58비트9.5 GB39–6957–101
Nemotron 3 Nano 4B3.97B · 지능 4.88비트4.2 GB88–156129–229
DeepSeek V4 Flash 0731284B · 활성 13B8비트302 GB27–4739–70
MiniMax M2.7230B · 활성 10B8비트244 GB35–6251–91
Ornith 1.5 122B122B · 활성 10B8비트130 GB35–6251–91
Nemotron 3 Super 120B A12B120B · 활성 12B8비트128 GB29–5142–75
GLM-4.5 Air106B · 활성 12B8비트113 GB29–5142–75
Llama 3.3 70B Instruct70B4비트39.4 GB5–914–24
Qwen3 Coder 30B A3B Instruct30.5B · 활성 3.3B8비트32.4 GB105–187154–274
GLM-4.7 Flash30B · 활성 3B8비트31.9 GB115–205169–300
Qwen3.6 27B27B8비트28.7 GB13–2319–33
Gemma 4 26B A4B25.2B · 활성 3.8B8비트26.8 GB92–164135–240
Devstral Small 2 (24B)24B8비트25.5 GB14–2621–38
Magistral Small 1.2 (2509)24B8비트25.5 GB14–2621–38
Mistral Small 3.2 (24B)24B8비트25.5 GB14–2621–38
LFM2.5 24B A2B24B · 활성 2B8비트25.5 GB176–312257–457
Phi-4 Reasoning Vision 15B15B8비트15.9 GB23–4134–60
Phi-4 (14B)14B8비트14.9 GB25–4436–64
Gemma 4 12B Unified12B8비트12.7 GB29–5243–76
Qwen3 8B8.2B8비트8.7 GB42–7562–110
Llama 3.1 8B Instruct8B8비트8.5 GB43–7764–113
Gemma 4 E2B5.1B8비트5.4 GB154–273225–400
Qwen3.5 4B4B8비트4.3 GB86–152126–223
Phi-4 mini instruct3.8B8비트4 GB92–164135–240
Llama 3.2 3B Instruct3.21B8비트3.4 GB108–193159–282
SmolLM3 3B3B8비트3.2 GB115–205169–300
LFM2.5 2.6B2.69B8비트2.9 GB127–226186–331
Qwen3.5 2B2B8비트2.1 GB176–312257–457
Llama 3.2 1B Instruct1.23B8비트1.3 GB284–504415–738
Qwen3.5 0.8B0.8B8비트0.9 GB410–728600–1067
Qwen3 0.6B0.6B8비트0.6 GB614–1092900–1600
MiMo V2.6 Pro1,020B · 활성 42B · 지능 46.32비트 품질 낮음319 GB28–5041–73
GLM-5.3744B · 활성 40B · 지능 44.83비트 품질 낮음326 GB21–3731–55
Muse Spark Open816B · 활성 42B · 지능 38.92비트 품질 낮음255 GB28–5041–73
Kimi K2.7 Code1,000B · 활성 32B · 지능 25.82비트 품질 낮음313 GB37–6654–96
Inkling975B · 활성 41B · 지능 252비트 품질 낮음305 GB29–5142–75
Kimi K2.61,000B · 활성 32B2비트 품질 낮음313 GB37–6654–96
Mistral Large 3 (675B)675B · 활성 41B3비트 품질 낮음295 GB21–3730–54

실행되지만 느림 2

들어가지만 초당 10토큰 미만입니다. 일괄 작업에는 괜찮지만 채팅에는 느립니다.

모델버전메모리M3 UltraM5 Ultra
Mistral Medium 3.5 (128B)128B · 지능 14.28비트136 GB3–54–7
Devstral 2 (123B)123B8비트131 GB3–54–7

너무 큼 3

2비트로도 512GB보다 많은 메모리가 필요합니다.

자주 묻는 질문

512GB Mac에 가장 좋은 LLM은 무엇인가요?
Intelligence Index가 공개된 모델 중, 512GB에서 쾌적하게 실행되는 모델 가운데 점수가 가장 높은 것은 DeepSeek V4.1 Flash 1017입니다(4비트). 코딩용으로는 Qwen3 Coder Next.
Mac에서 로컬 AI를 쓰기에 512GB면 충분한가요?
여기 있는 오픈 모델 73개 중 61개가 4비트 이상에서 쾌적하게 실행됩니다. macOS는 기본적으로 GPU가 그중 약 384GB를 쓰도록 허용하며, 모델과 컨텍스트가 그 안에 들어가야 합니다.
512GB Mac에서 gpt-oss-20b를 실행할 수 있나요?
네. 네이티브 4.25비트에서 M3 Ultra는 초당 약 194–345토큰, M5 Ultra는 284–505토큰입니다.

다른 용량: 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB

MLX Harness(무료, 오픈 소스)나 터미널에서 Apple의 mlx-lm으로 실행하세요: 단계별 안내.

계산 방법

메모리: 모델 파라미터를 가중치당 8, 6, 4, 3, 2비트로 계산하고 MLX의 그룹 스케일(가중치당 0.5비트)을 더하거나 네이티브 형식 그대로 계산한 뒤, 컨텍스트를 위한 여유를 더했습니다. macOS는 기본적으로 GPU가 통합 메모리의 약 75%를 쓰도록 허용합니다. 속도: 메모리 대역폭을 토큰당 읽는 바이트 수로 나눈 값이 한 대화의 상한입니다. llama.cpp의 Apple Silicon 공개 벤치마크에서 실제 속도는 그 상한의 약 45~80%였고, 여기 표시한 범위가 바로 그 값입니다. 측정값이 아닌 추정값이니, 내 Mac은 MLX Bench에서 직접 측정해 보세요. 모델 수치는 각 공식 모델 카드, 칩 수치는 Apple 기술 사양에서 가져왔습니다. 2026-10-19 확인. mlx.app/compare와 같은 데이터입니다.

512GB Mac에 가장 좋은 로컬 LLM(M3~M5): 실행되는 모델과 속도