로그인지갑 만들기

8GB M3에서는 무엇을 실행할 수 있을까?

오픈 모델 73개 중 16개가 쾌적하게 실행됩니다. GPU는 기본적으로 8GB 중 약 6GB를 쓸 수 있고, 메모리를 100GB/s로 읽으며 이 속도가 생성 속도를 정합니다. 탑재 기기: MacBook Pro (14-inch, M3, Nov 2023), iMac (24-inch, M3, 2023, Two ports), iMac (24-inch, M3, 2023, Four ports), MacBook Air (13-inch, M3, 2024) ….

쾌적하게 실행되는 가장 똑똑한 모델MiniCPM5 2B8비트 · 2.7 GB · 17–30 tok/s쾌적하게 실행되는 가장 큰 모델Granite 4.2 8B4비트 · 4.5 GB · 10–18 tok/s

쾌적하게 실행 21

컨텍스트 여유를 두고 들어가며, 초당 10토큰 이상입니다.

모델버전메모리토큰/초
MiniCPM5 2B2.52B · 지능 12.58비트2.7 GB17–30
Granite 4.2 8B8B · 지능 11.14비트4.5 GB10–18
Granite 4.2 3B3B · 지능 9.18비트3.2 GB14–25
Gemma 4 E4B8B · 지능 8.94비트4.5 GB18–32
Nemotron 3 Nano 4B3.97B · 지능 4.88비트4.2 GB11–19
Llama 3.1 8B Instruct8B4비트4.5 GB10–18
Gemma 4 E2B5.1B6비트4.1 GB24–42
Qwen3.5 4B4B8비트4.3 GB10–19
Phi-4 mini instruct3.8B8비트4 GB11–20
Llama 3.2 3B Instruct3.21B8비트3.4 GB13–24
SmolLM3 3B3B8비트3.2 GB14–25
LFM2.5 2.6B2.69B8비트2.9 GB16–28
Qwen3.5 2B2B8비트2.1 GB21–38
Llama 3.2 1B Instruct1.23B8비트1.3 GB35–62
Qwen3.5 0.8B0.8B8비트0.9 GB50–89
Qwen3 0.6B0.6B8비트0.6 GB75–133
Qwen3.5 9B9B · 지능 11.23비트 품질 낮음3.9 GB12–21
Ministral 3 8B8.9B · 지능 5.53비트 품질 낮음3.9 GB12–21
Phi-4 (14B)14B2비트 품질 낮음4.4 GB10–18
Gemma 4 12B Unified12B2비트 품질 낮음3.7 GB12–22
Qwen3 8B8.2B3비트 품질 낮음3.6 GB13–22

겨우 들어감 1

메모리를 거의 다 씁니다. GPU 메모리 한도를 올리고 컨텍스트를 짧게 유지하세요.

모델버전메모리토큰/초
Phi-4 Reasoning Vision 15B15B2비트 품질 낮음4.7 GB10–17

너무 큼 51

2비트로도 8GB보다 많은 메모리가 필요합니다.

다른 Mac

칩과 관계없이 8GB인 모든 Mac.

메모리가 더 많거나 적은 M3:

가까운 칩:

1:1 비교:

어떤 Mac이나 GPU와도 비교하기 · 로컬 AI를 위한 M3 · 로컬 LLM에 가장 좋은 Mac · 모든 Mac

자주 묻는 질문

8GB M3에 가장 좋은 LLM은 무엇인가요?
Intelligence Index가 공개된 모델 중, 여기서 쾌적하게 실행되는 모델 가운데 점수가 가장 높은 것은 MiniCPM5 2B입니다. 8비트, 초당 약 17–30토큰. 쾌적하게 실행되는 가장 큰 모델은 Granite 4.2 8B입니다.
8GB M3에서 Llama 3.3 70B를 실행할 수 있나요?
아니요. 2비트로도 GPU가 기본으로 쓸 수 있는 6GB보다 더 필요합니다.
M3에서 gpt-oss-20b는 얼마나 빠른가요?
8GB에는 들어가지 않습니다.

MLX Harness(무료, 오픈 소스)나 터미널에서 Apple의 mlx-lm으로 실행하세요: 단계별 안내.

계산 방법

메모리: 모델 파라미터를 가중치당 8, 6, 4, 3, 2비트로 계산하고 MLX의 그룹 스케일(가중치당 0.5비트)을 더하거나 네이티브 형식 그대로 계산한 뒤, 컨텍스트를 위한 여유를 더했습니다. macOS는 기본적으로 GPU가 통합 메모리의 약 75%를 쓰도록 허용합니다. 속도: 메모리 대역폭을 토큰당 읽는 바이트 수로 나눈 값이 한 대화의 상한입니다. llama.cpp의 Apple Silicon 공개 벤치마크에서 실제 속도는 그 상한의 약 45~80%였고, 여기 표시한 범위가 바로 그 값입니다. 측정값이 아닌 추정값이니, 내 Mac은 MLX Bench에서 직접 측정해 보세요. 모델 수치는 각 공식 모델 카드, 칩 수치는 Apple 기술 사양에서 가져왔습니다. 2026-10-19 확인. mlx.app/compare와 같은 데이터입니다.

8GB M3에서 실행되는 LLM은? 모든 모델과 속도