Bellek boyutuna göre
| Bellek | İyi çalışan | İyi çalışanların en büyüğü | gpt-oss-20b |
|---|---|---|---|
| 64 GB800 GB/s | 39 | Nemotron 3.5 Bolt 74B A9B | 189–337 tok/s |
| 128 GB800 GB/s | 47 | Qwen3.5 122B A10B | 189–337 tok/s |
| 192 GB800 GB/s | 49 | MiniMax M2.7 | 189–337 tok/s |
Modeller: Mac Pro (2023), Mac Pro (Rack, 2023). Her bellek boyutu her modelde sunulmaz; her birinin neyle geldiğini Apple'ın Teknik Özellikler sayfaları listeler.
Sorular
- M2 Ultra çipli Mac Pro yerel LLM'ler için iyi mi?
- 192 GB ile 73 açık modelden 49 tanesini iyi çalıştırır, en büyüğü MiniMax M2.7; gpt-oss-20b ile saniyede yaklaşık 189–337 token yazar. M2 Ultra belleği 800 GB/s hızla okur; yazma hızını bu belirler.
- Yapay zekâ için M2 Ultra çipli Mac Pro ne kadar belleğe sahip olmalı?
- 64 GB ile 39 açık model iyi çalışır; 192 GB ile 49, en büyüğü MiniMax M2.7. Hangi modellerin sığacağını bellek belirler ve sonradan yükseltilemez.
Diğer Mac'ler
M2 Ultra çipli diğer Mac'ler:
Karşı karşıya:
Yerel yapay zekâ için M2 Ultra · Yerel LLM'ler için en iyi Mac · Tüm Mac'ler
Nasıl hesaplanır
Bellek: modelin parametreleri ağırlık başına 8, 6, 4, 3 veya 2 bitte, artı MLX'in grup ölçekleri (ağırlık başına yarım bit) ya da modelin yerel biçimi; üstüne bağlam için yer. macOS varsayılan olarak GPU'nun birleşik belleğin yaklaşık %75'ini kullanmasına izin verir. Hız: bellek bant genişliğinin token başına okunan bayt sayısına bölümü, tek bir sohbet için üst sınırdır; llama.cpp'nin herkese açık Apple Silicon karşılaştırmalarında gerçek çalıştırmalar bunun yaklaşık %45 ile %80'ine ulaşır ve gösterilen aralık budur. Bunlar ölçüm değil tahmindir: kendi Mac'inizi MLX Bench ile ölçün. Model verileri her modelin resmî model kartından, çip verileri Apple'ın Teknik Özellikler sayfalarından alınmıştır. Kontrol tarihi: 2026-10-19. mlx.app/compare ile aynı veriler.