Her hassasiyette bellek
| Sürüm | Ağırlıklar | Bağlamla | En küçük Mac |
|---|---|---|---|
| 8 bit | 595 GB | 643 GB | her Mac'ten fazla |
| 6 bit | 455 GB | 491 GB | her Mac'ten fazla |
| 4 bit | 315 GB | 340 GB | 512 GB |
| 3 bit daha düşük kalite | 245 GB | 265 GB | 512 GB |
| 2 bit daha düşük kalite | 175 GB | 189 GB | 256 GB |
Her Apple çipinde
Her çipin Ling 3.1 Flash modelini çalıştıran en küçük bellek boyutu, ona sığan en iyi sürüm ve bekleyebileceğiniz yazma hızı.
| Çip | Gereken | Sürüm | Token/s |
|---|---|---|---|
| M6 | hiçbir boyut yetmez | Çok büyük | – |
| M5 Ultra | 512 GB | 4 bit İyi çalışır | 38–68 |
| M5 Max | hiçbir boyut yetmez | Çok büyük | – |
| M5 Pro | hiçbir boyut yetmez | Çok büyük | – |
| M5 | hiçbir boyut yetmez | Çok büyük | – |
| M4 Max | hiçbir boyut yetmez | Çok büyük | – |
| M4 Pro | hiçbir boyut yetmez | Çok büyük | – |
| M4 | hiçbir boyut yetmez | Çok büyük | – |
| M3 Ultra | 512 GB | 4 bit İyi çalışır | 26–46 |
| M3 Max | hiçbir boyut yetmez | Çok büyük | – |
| M3 Pro | hiçbir boyut yetmez | Çok büyük | – |
| M3 | hiçbir boyut yetmez | Çok büyük | – |
| M2 Ultra | hiçbir boyut yetmez | Çok büyük | – |
| M2 Max | hiçbir boyut yetmez | Çok büyük | – |
| M2 Pro | hiçbir boyut yetmez | Çok büyük | – |
| M2 | hiçbir boyut yetmez | Çok büyük | – |
| M1 Ultra | hiçbir boyut yetmez | Çok büyük | – |
| M1 Max | hiçbir boyut yetmez | Çok büyük | – |
| M1 Pro | hiçbir boyut yetmez | Çok büyük | – |
| M1 | hiçbir boyut yetmez | Çok büyük | – |
Nasıl çalıştırılır
- Apple'ın MLX'iyle Terminal'de: Henüz bir MLX sürümü yok ve standart mlx-lm resmî ağırlıkları henüz dönüştüremiyor (bailing_moe_v3.py).
Adım adım: Mac'te LLM indirip çalıştırma · MLX Harness nasıl kullanılır · MLX, Ollama ve llama.cpp karşılaştırması
Ling 3.1 Flash hakkında
| Geliştiren | inclusionAI |
|---|---|
| Parametreler | 560B toplam · 25B etkin (mixture of experts) |
| Bağlam | 256K token |
| Lisans | MIT |
| Yayın tarihi | 2026-10 |
| Girdi | Metin |
| Zekâ | Artificial Analysis Intelligence Index puanı: 41,1 |
| Ağırlıklar | inclusionAI/Ling-3.1-flash |
Sorular
- Ling 3.1 Flash ne kadar bellek gerektirir?
- 4 bit ile yaklaşık 315 GB ağırlık, artı bağlam için yer: toplam 340 GB. macOS varsayılan olarak GPU'nun belleğin yaklaşık %75'ini kullanmasına izin verdiği için bu, Mac'te 512 GB veya daha fazla birleşik bellek demektir.
- Ling 3.1 Flash Mac'te ne kadar hızlı?
- Yazma hızı bellek bant genişliğine bağlıdır. Burada onun için en hızlı Mac, 512 GB'lık M5 Ultra: saniyede yaklaşık 38–68 token (4 bit). Onu çalıştıran en küçük Mac, 512 GB'lık M5 Ultra, yaklaşık 38–68 token yazar.
- Ling 3.1 Flash neden boyutunun düşündürdüğünden hızlı çalışır?
- Bu bir mixture-of-experts modeli: bellekte 560B parametre tutar ama her token için yalnızca 25B kadarını okur, bu yüzden çok daha küçük bir modelin hızında yazar.
Benzer modeller
Model kartınız veya README için
Ling 3.1 Flash modelini iyi çalıştıran en küçük Mac'i gösterir ve buraya bağlantı verir.
[](https://mlx.app/run/ling-3.1-flash)Nasıl hesaplanır
Bellek: modelin parametreleri ağırlık başına 8, 6, 4, 3 veya 2 bitte, artı MLX'in grup ölçekleri (ağırlık başına yarım bit) ya da modelin yerel biçimi; üstüne bağlam için yer. macOS varsayılan olarak GPU'nun birleşik belleğin yaklaşık %75'ini kullanmasına izin verir. Hız: bellek bant genişliğinin token başına okunan bayt sayısına bölümü, tek bir sohbet için üst sınırdır; llama.cpp'nin herkese açık Apple Silicon karşılaştırmalarında gerçek çalıştırmalar bunun yaklaşık %45 ile %80'ine ulaşır ve gösterilen aralık budur. Bunlar ölçüm değil tahmindir: kendi Mac'inizi MLX Bench ile ölçün. Model verileri her modelin resmî model kartından, çip verileri Apple'ın Teknik Özellikler sayfalarından alınmıştır. Kontrol tarihi: 2026-10-19. mlx.app/compare ile aynı veriler.
Açık veri: mlx.app/data (JSON, CSV)