Bellek boyutuna göre
| Bellek | İyi çalışan | İyi çalışanların en büyüğü | gpt-oss-20b |
|---|---|---|---|
| 96 GB1.200 GB/s | 44 | gpt-oss-120b | 284–505 tok/s |
| 256 GB1.200 GB/s | 54 | MiMo V2.6 Flash | 284–505 tok/s |
| 512 GB1.200 GB/s | 61 | DeepSeek V4.1 Flash 1017 | 284–505 tok/s |
Modeller: Mac Studio (M5 Max or M5 Ultra). Her bellek boyutu her modelde sunulmaz; her birinin neyle geldiğini Apple'ın Teknik Özellikler sayfaları listeler.
Sorular
- M5 Ultra çipli Mac Studio yerel LLM'ler için iyi mi?
- 512 GB ile 73 açık modelden 61 tanesini iyi çalıştırır, en büyüğü DeepSeek V4.1 Flash 1017; gpt-oss-20b ile saniyede yaklaşık 284–505 token yazar. M5 Ultra belleği 1.200 GB/s hızla okur; yazma hızını bu belirler.
- Yapay zekâ için M5 Ultra çipli Mac Studio ne kadar belleğe sahip olmalı?
- 96 GB ile 44 açık model iyi çalışır; 512 GB ile 61, en büyüğü DeepSeek V4.1 Flash 1017. Hangi modellerin sığacağını bellek belirler ve sonradan yükseltilemez.
Diğer Mac'ler
Diğer çiplerle Mac Studio:
- Mac Studio M5 Max
- Mac Studio M4 Max
- Mac Studio M3 Ultra
- Mac Studio M2 Max
- Mac Studio M2 Ultra
- Mac Studio M1 Max
- Mac Studio M1 Ultra
Karşı karşıya:
PC’lere ve ekran kartlarına karşı:
Yerel yapay zekâ için M5 Ultra · Yerel LLM'ler için en iyi Mac · Tüm Mac'ler
Nasıl hesaplanır
Bellek: modelin parametreleri ağırlık başına 8, 6, 4, 3 veya 2 bitte, artı MLX'in grup ölçekleri (ağırlık başına yarım bit) ya da modelin yerel biçimi; üstüne bağlam için yer. macOS varsayılan olarak GPU'nun birleşik belleğin yaklaşık %75'ini kullanmasına izin verir. Hız: bellek bant genişliğinin token başına okunan bayt sayısına bölümü, tek bir sohbet için üst sınırdır; llama.cpp'nin herkese açık Apple Silicon karşılaştırmalarında gerçek çalıştırmalar bunun yaklaşık %45 ile %80'ine ulaşır ve gösterilen aralık budur. Bunlar ölçüm değil tahmindir: kendi Mac'inizi MLX Bench ile ölçün. Model verileri her modelin resmî model kartından, çip verileri Apple'ın Teknik Özellikler sayfalarından alınmıştır. Kontrol tarihi: 2026-10-19. mlx.app/compare ile aynı veriler.