Her hassasiyette bellek
| Sürüm | Ağırlıklar | Bağlamla | En küçük Mac |
|---|---|---|---|
| 8 bit | 2,6 TB | 2,8 TB | her Mac'ten fazla |
| 6 bit | 2 TB | 2,1 TB | her Mac'ten fazla |
| 4 bit | 1,4 TB | 1,5 TB | her Mac'ten fazla |
| 3 bit daha düşük kalite | 1,1 TB | 1,1 TB | her Mac'ten fazla |
| 2 bit daha düşük kalite | 750 GB | 810 GB | her Mac'ten fazla |
Her Apple çipinde
Her çipin Qwen3.8 2.4T A95B modelini çalıştıran en küçük bellek boyutu, ona sığan en iyi sürüm ve bekleyebileceğiniz yazma hızı.
| Çip | Gereken | Sürüm | Token/s |
|---|---|---|---|
| M6 | hiçbir boyut yetmez | Çok büyük | – |
| M5 Ultra | hiçbir boyut yetmez | Çok büyük | – |
| M5 Max | hiçbir boyut yetmez | Çok büyük | – |
| M5 Pro | hiçbir boyut yetmez | Çok büyük | – |
| M5 | hiçbir boyut yetmez | Çok büyük | – |
| M4 Max | hiçbir boyut yetmez | Çok büyük | – |
| M4 Pro | hiçbir boyut yetmez | Çok büyük | – |
| M4 | hiçbir boyut yetmez | Çok büyük | – |
| M3 Ultra | hiçbir boyut yetmez | Çok büyük | – |
| M3 Max | hiçbir boyut yetmez | Çok büyük | – |
| M3 Pro | hiçbir boyut yetmez | Çok büyük | – |
| M3 | hiçbir boyut yetmez | Çok büyük | – |
| M2 Ultra | hiçbir boyut yetmez | Çok büyük | – |
| M2 Max | hiçbir boyut yetmez | Çok büyük | – |
| M2 Pro | hiçbir boyut yetmez | Çok büyük | – |
| M2 | hiçbir boyut yetmez | Çok büyük | – |
| M1 Ultra | hiçbir boyut yetmez | Çok büyük | – |
| M1 Max | hiçbir boyut yetmez | Çok büyük | – |
| M1 Pro | hiçbir boyut yetmez | Çok büyük | – |
| M1 | hiçbir boyut yetmez | Çok büyük | – |
Nasıl çalıştırılır
Tek bir Mac buna yetmez. Aşağıdaki daha küçük modeller iyi çalışır; bir modeli birkaç Mac'e yaymak için Mac kümeleri rehberine bakın.
Adım adım: Mac'te LLM indirip çalıştırma · MLX Harness nasıl kullanılır · MLX, Ollama ve llama.cpp karşılaştırması
Qwen3.8 2.4T A95B hakkında
| Geliştiren | Qwen (Alibaba) |
|---|---|
| Parametreler | 2.400B toplam · 95B etkin (mixture of experts) |
| Bağlam | 256K token |
| Lisans | Qwen3.8-Max license (qwen3.8-max) |
| Yayın tarihi | 2026-08 |
| Girdi | Metin |
| Zekâ | Artificial Analysis Intelligence Index puanı: 39,9 |
| Ağırlıklar | Qwen/Qwen3.8-2.4T-A95B |
Sorular
- Qwen3.8 2.4T A95B ne kadar bellek gerektirir?
- 4 bit ile yaklaşık 1,4 TB ağırlık, artı bağlam için yer: toplam 1,5 TB. Bu, bugün herhangi bir Mac'teki bellekten fazladır.
- Herhangi bir Mac Qwen3.8 2.4T A95B çalıştırabilir mi?
- Tek başına hayır: 2 bitte bile en büyük Mac'ten fazla bellek gerektirir. Daha küçük bir model kullanın ya da bir küme çalışma ortamıyla birkaç Mac'e yayın.
- Qwen3.8 2.4T A95B neden boyutunun düşündürdüğünden hızlı çalışır?
- Bu bir mixture-of-experts modeli: bellekte 2.400B parametre tutar ama her token için yalnızca 95B kadarını okur, bu yüzden çok daha küçük bir modelin hızında yazar.
Benzer modeller
Model kartınız veya README için
Qwen3.8 2.4T A95B modelini iyi çalıştıran en küçük Mac'i gösterir ve buraya bağlantı verir.
[](https://mlx.app/run/qwen3.8-2.4t-a95b)Nasıl hesaplanır
Bellek: modelin parametreleri ağırlık başına 8, 6, 4, 3 veya 2 bitte, artı MLX'in grup ölçekleri (ağırlık başına yarım bit) ya da modelin yerel biçimi; üstüne bağlam için yer. macOS varsayılan olarak GPU'nun birleşik belleğin yaklaşık %75'ini kullanmasına izin verir. Hız: bellek bant genişliğinin token başına okunan bayt sayısına bölümü, tek bir sohbet için üst sınırdır; llama.cpp'nin herkese açık Apple Silicon karşılaştırmalarında gerçek çalıştırmalar bunun yaklaşık %45 ile %80'ine ulaşır ve gösterilen aralık budur. Bunlar ölçüm değil tahmindir: kendi Mac'inizi MLX Bench ile ölçün. Model verileri her modelin resmî model kartından, çip verileri Apple'ın Teknik Özellikler sayfalarından alınmıştır. Kontrol tarihi: 2026-10-19. mlx.app/compare ile aynı veriler.