16 GB'lık M2 Pro için en iyi LLM hangisi?

Yayımlanmış Intelligence Index puanı olan modeller arasında burada iyi çalışanların en yüksek puanlısı MiniCPM5 2B: 8 bit, saniyede yaklaşık 33–59 token. İyi çalışanların en büyüğü Phi-4 Reasoning Vision 15B.

16 GB'lık M2 Pro, Llama 3.3 70B çalıştırabilir mi?

Hayır: 2 bitte bile GPU'nun varsayılan olarak kullanabildiği 12 GB'tan fazlasını gerektirir.

gpt-oss-20b, M2 Pro çipinde ne kadar hızlı?

Çipin 200 GB/s bellek bant genişliğiyle saniyede yaklaşık 56–100 token (3 bit).

16 GB'lık M2 Pro hangi LLM'leri çalıştırır? Modeller ve hız

İyi çalışanlar 33

Bağlam için yer kalarak sığar, saniyede 10 veya daha fazla token.

Model	Sürüm	Bellek	Token/s
MiniCPM5 2B2,52B · Zekâ 12,5	8 bit	2,7 GB	33–59
Qwen3.5 9B9B · Zekâ 11,2	6 bit	7,3 GB	12–22
Granite 4.2 8B8B · Zekâ 11,1	8 bit	8,5 GB	11–19
Granite 4.2 3B3B · Zekâ 9,1	8 bit	3,2 GB	28–50
Gemma 4 E4B8B · Zekâ 8,9	8 bit	8,5 GB	19–33
Ministral 3 8B8,9B · Zekâ 5,5	6 bit	7,2 GB	13–22
Nemotron 3 Nano 4B3,97B · Zekâ 4,8	8 bit	4,2 GB	21–38
Phi-4 Reasoning Vision 15B15B	4 bit	8,4 GB	11–19
Phi-4 (14B)14B	4 bit	7,9 GB	11–20
Gemma 4 12B Unified12B	4 bit	6,7 GB	13–24
Qwen3 8B8,2B	8 bit	8,7 GB	10–18
Llama 3.1 8B Instruct8B	8 bit	8,5 GB	11–19
Gemma 4 E2B5,1B	8 bit	5,4 GB	38–67
Qwen3.5 4B4B	8 bit	4,3 GB	21–37
Phi-4 mini instruct3,8B	8 bit	4 GB	23–40
Llama 3.2 3B Instruct3,21B	8 bit	3,4 GB	26–47
SmolLM3 3B3B	8 bit	3,2 GB	28–50
LFM2.5 2.6B2,69B	8 bit	2,9 GB	31–55
Qwen3.5 2B2B	8 bit	2,1 GB	43–76
Llama 3.2 1B Instruct1,23B	8 bit	1,3 GB	69–123
Qwen3.5 0.8B0,8B	8 bit	0,9 GB	100–178
Qwen3 0.6B0,6B	8 bit	0,6 GB	150–267
Qwen3.8 27B27B · Zekâ 33,7	2 bit daha düşük kalite	8,4 GB	11–19
Muse Glimmer 30B29,6B · Zekâ 17,5	2 bit daha düşük kalite	9,3 GB	10–17
Nemotron 3.5 Lightning 30B A3B30B · 3B etkin · Zekâ 12,9	2 bit daha düşük kalite	9,4 GB	100–178
Granite 4.2 30B30B · Zekâ 12,7	2 bit daha düşük kalite	9,4 GB	10–17
gpt-oss-20b21B · 3,6B etkin · Zekâ 9	3 bit daha düşük kalite	9,2 GB	56–100
Nemotron 3 Nano 30B A3B30B · 3,5B etkin · Zekâ 8,9	2 bit daha düşük kalite	9,4 GB	82–145
Qwen3 Coder 30B A3B Instruct30,5B · 3,3B etkin	2 bit daha düşük kalite	9,5 GB	90–160
GLM-4.7 Flash30B · 3B etkin	2 bit daha düşük kalite	9,4 GB	100–178
Qwen3.6 27B27B	2 bit daha düşük kalite	8,4 GB	11–19
Gemma 4 26B A4B25,2B · 3,8B etkin	2 bit daha düşük kalite	7,9 GB	75–133
LFM2.5 24B A2B24B · 2B etkin	3 bit daha düşük kalite	10,5 GB	100–178

Çalışır ama yavaş 4

Sığar ama saniyede 10 tokenın altında: toplu işler için uygun, sohbet için yavaş.

Model	Sürüm	Bellek	Token/s
Gemma 4 31B30,7B · Zekâ 14,7	2 bit daha düşük kalite	9,6 GB	9–17
Devstral Small 2 (24B)24B	3 bit daha düşük kalite	10,5 GB	9–15
Magistral Small 1.2 (2509)24B	3 bit daha düşük kalite	10,5 GB	9–15
Mistral Small 3.2 (24B)24B	3 bit daha düşük kalite	10,5 GB	9–15

Ancak sığanlar 1

Neredeyse tüm belleği kullanır: GPU bellek sınırını yükseltin ve bağlamı kısa tutun.

Model	Sürüm	Bellek	Token/s
Qwen3.6 35B A3B35B · 3B etkin · Zekâ 18,2	2 bit daha düşük kalite	10,9 GB	100–178

Diğer Mac'ler

16 GB'lık tüm Mac'ler, her çiple.

Daha fazla veya daha az bellekle M2 Pro:

32 GB30 iyi çalışır

Komşu çipler:

Karşı karşıya:

Herhangi bir Mac veya GPU ile karşılaştırın · Yerel yapay zekâ için M2 Pro · Yerel LLM'ler için en iyi Mac · Tüm Mac'ler

Sorular

16 GB'lık M2 Pro için en iyi LLM hangisi?: Yayımlanmış Intelligence Index puanı olan modeller arasında burada iyi çalışanların en yüksek puanlısı MiniCPM5 2B: 8 bit, saniyede yaklaşık 33–59 token. İyi çalışanların en büyüğü Phi-4 Reasoning Vision 15B.
16 GB'lık M2 Pro, Llama 3.3 70B çalıştırabilir mi?: Hayır: 2 bitte bile GPU'nun varsayılan olarak kullanabildiği 12 GB'tan fazlasını gerektirir.
gpt-oss-20b, M2 Pro çipinde ne kadar hızlı?: Çipin 200 GB/s bellek bant genişliğiyle saniyede yaklaşık 56–100 token (3 bit).

Bunları MLX Harness ile (ücretsiz, açık kaynak) ya da Terminal'de Apple'ın mlx-lm aracıyla çalıştırın: adım adım.

Nasıl hesaplanır

Bellek: modelin parametreleri ağırlık başına 8, 6, 4, 3 veya 2 bitte, artı MLX'in grup ölçekleri (ağırlık başına yarım bit) ya da modelin yerel biçimi; üstüne bağlam için yer. macOS varsayılan olarak GPU'nun birleşik belleğin yaklaşık %75'ini kullanmasına izin verir. Hız: bellek bant genişliğinin token başına okunan bayt sayısına bölümü, tek bir sohbet için üst sınırdır; llama.cpp'nin herkese açık Apple Silicon karşılaştırmalarında gerçek çalıştırmalar bunun yaklaşık %45 ile %80'ine ulaşır ve gösterilen aralık budur. Bunlar ölçüm değil tahmindir: kendi Mac'inizi MLX Bench ile ölçün. Model verileri her modelin resmî model kartından, çip verileri Apple'ın Teknik Özellikler sayfalarından alınmıştır. Kontrol tarihi: 2026-10-19. mlx.app/compare ile aynı veriler.

16 GB'lık M2 Pro neleri çalıştırır?