Bellek boyutuna göre
| Bellek | İyi çalışan | İyi çalışanların en büyüğü | gpt-oss-20b |
|---|---|---|---|
| 24 GB307 GB/s | 28 | Gemma 4 26B A4B | 73–129 tok/s |
| 48 GB307 GB/s | 33 | Qwen3.6 35B A3B | 73–129 tok/s |
| 64 GB307 GB/s | 34 | Nemotron 3.5 Bolt 74B A9B | 73–129 tok/s |
Modeller: Mac mini (M6 or M5 Pro). Her bellek boyutu her modelde sunulmaz; her birinin neyle geldiğini Apple'ın Teknik Özellikler sayfaları listeler.
Sorular
- M5 Pro çipli Mac mini yerel LLM'ler için iyi mi?
- 64 GB ile 73 açık modelden 34 tanesini iyi çalıştırır, en büyüğü Nemotron 3.5 Bolt 74B A9B; gpt-oss-20b ile saniyede yaklaşık 73–129 token yazar. M5 Pro belleği 307 GB/s hızla okur; yazma hızını bu belirler.
- Yapay zekâ için M5 Pro çipli Mac mini ne kadar belleğe sahip olmalı?
- 24 GB ile 28 açık model iyi çalışır; 64 GB ile 34, en büyüğü Nemotron 3.5 Bolt 74B A9B. Hangi modellerin sığacağını bellek belirler ve sonradan yükseltilemez.
Diğer Mac'ler
Diğer çiplerle Mac mini:
M5 Pro çipli diğer Mac'ler:
Karşı karşıya:
Yerel yapay zekâ için M5 Pro · Yerel LLM'ler için en iyi Mac · Tüm Mac'ler
Nasıl hesaplanır
Bellek: modelin parametreleri ağırlık başına 8, 6, 4, 3 veya 2 bitte, artı MLX'in grup ölçekleri (ağırlık başına yarım bit) ya da modelin yerel biçimi; üstüne bağlam için yer. macOS varsayılan olarak GPU'nun birleşik belleğin yaklaşık %75'ini kullanmasına izin verir. Hız: bellek bant genişliğinin token başına okunan bayt sayısına bölümü, tek bir sohbet için üst sınırdır; llama.cpp'nin herkese açık Apple Silicon karşılaştırmalarında gerçek çalıştırmalar bunun yaklaşık %45 ile %80'ine ulaşır ve gösterilen aralık budur. Bunlar ölçüm değil tahmindir: kendi Mac'inizi MLX Bench ile ölçün. Model verileri her modelin resmî model kartından, çip verileri Apple'ın Teknik Özellikler sayfalarından alınmıştır. Kontrol tarihi: 2026-10-19. mlx.app/compare ile aynı veriler.