8 GB'lık M3 için en iyi LLM hangisi?

Yayımlanmış Intelligence Index puanı olan modeller arasında burada iyi çalışanların en yüksek puanlısı MiniCPM5 2B: 8 bit, saniyede yaklaşık 17–30 token. İyi çalışanların en büyüğü Granite 4.2 8B.

8 GB'lık M3, Llama 3.3 70B çalıştırabilir mi?

Hayır: 2 bitte bile GPU'nun varsayılan olarak kullanabildiği 6 GB'tan fazlasını gerektirir.

8 GB'lık M3 hangi LLM'leri çalıştırır? Modeller ve hız

İyi çalışanlar 21

Bağlam için yer kalarak sığar, saniyede 10 veya daha fazla token.

Model	Sürüm	Bellek	Token/s
MiniCPM5 2B2,52B · Zekâ 12,5	8 bit	2,7 GB	17–30
Granite 4.2 8B8B · Zekâ 11,1	4 bit	4,5 GB	10–18
Granite 4.2 3B3B · Zekâ 9,1	8 bit	3,2 GB	14–25
Gemma 4 E4B8B · Zekâ 8,9	4 bit	4,5 GB	18–32
Nemotron 3 Nano 4B3,97B · Zekâ 4,8	8 bit	4,2 GB	11–19
Llama 3.1 8B Instruct8B	4 bit	4,5 GB	10–18
Gemma 4 E2B5,1B	6 bit	4,1 GB	24–42
Qwen3.5 4B4B	8 bit	4,3 GB	10–19
Phi-4 mini instruct3,8B	8 bit	4 GB	11–20
Llama 3.2 3B Instruct3,21B	8 bit	3,4 GB	13–24
SmolLM3 3B3B	8 bit	3,2 GB	14–25
LFM2.5 2.6B2,69B	8 bit	2,9 GB	16–28
Qwen3.5 2B2B	8 bit	2,1 GB	21–38
Llama 3.2 1B Instruct1,23B	8 bit	1,3 GB	35–62
Qwen3.5 0.8B0,8B	8 bit	0,9 GB	50–89
Qwen3 0.6B0,6B	8 bit	0,6 GB	75–133
Qwen3.5 9B9B · Zekâ 11,2	3 bit daha düşük kalite	3,9 GB	12–21
Ministral 3 8B8,9B · Zekâ 5,5	3 bit daha düşük kalite	3,9 GB	12–21
Phi-4 (14B)14B	2 bit daha düşük kalite	4,4 GB	10–18
Gemma 4 12B Unified12B	2 bit daha düşük kalite	3,7 GB	12–22
Qwen3 8B8,2B	3 bit daha düşük kalite	3,6 GB	13–22

Ancak sığanlar 1

Neredeyse tüm belleği kullanır: GPU bellek sınırını yükseltin ve bağlamı kısa tutun.

Model	Sürüm	Bellek	Token/s
Phi-4 Reasoning Vision 15B15B	2 bit daha düşük kalite	4,7 GB	10–17

Çok büyük olanlar 51

2 bitte bile 8 GB'tan fazla bellek gerekir.

Diğer Mac'ler

8 GB'lık tüm Mac'ler, her çiple.

Daha fazla veya daha az bellekle M3:

Komşu çipler:

Karşı karşıya:

Herhangi bir Mac veya GPU ile karşılaştırın · Yerel yapay zekâ için M3 · Yerel LLM'ler için en iyi Mac · Tüm Mac'ler

Sorular

8 GB'lık M3 için en iyi LLM hangisi?: Yayımlanmış Intelligence Index puanı olan modeller arasında burada iyi çalışanların en yüksek puanlısı MiniCPM5 2B: 8 bit, saniyede yaklaşık 17–30 token. İyi çalışanların en büyüğü Granite 4.2 8B.
8 GB'lık M3, Llama 3.3 70B çalıştırabilir mi?: Hayır: 2 bitte bile GPU'nun varsayılan olarak kullanabildiği 6 GB'tan fazlasını gerektirir.
gpt-oss-20b, M3 çipinde ne kadar hızlı?: 8 GB'a sığmaz.

Bunları MLX Harness ile (ücretsiz, açık kaynak) ya da Terminal'de Apple'ın mlx-lm aracıyla çalıştırın: adım adım.

Nasıl hesaplanır

Bellek: modelin parametreleri ağırlık başına 8, 6, 4, 3 veya 2 bitte, artı MLX'in grup ölçekleri (ağırlık başına yarım bit) ya da modelin yerel biçimi; üstüne bağlam için yer. macOS varsayılan olarak GPU'nun birleşik belleğin yaklaşık %75'ini kullanmasına izin verir. Hız: bellek bant genişliğinin token başına okunan bayt sayısına bölümü, tek bir sohbet için üst sınırdır; llama.cpp'nin herkese açık Apple Silicon karşılaştırmalarında gerçek çalıştırmalar bunun yaklaşık %45 ile %80'ine ulaşır ve gösterilen aralık budur. Bunlar ölçüm değil tahmindir: kendi Mac'inizi MLX Bench ile ölçün. Model verileri her modelin resmî model kartından, çip verileri Apple'ın Teknik Özellikler sayfalarından alınmıştır. Kontrol tarihi: 2026-10-19. mlx.app/compare ile aynı veriler.