Her hassasiyette bellek
| Sürüm | Ağırlıklar | Bağlamla | En küçük Mac |
|---|---|---|---|
| 8 bit | 302 GB | 326 GB | 512 GB |
| 6 bit | 231 GB | 249 GB | 512 GB |
| 4 bit | 160 GB | 173 GB | 256 GB |
| 3 bit daha düşük kalite | 124 GB | 134 GB | 192 GB |
| 2 bit daha düşük kalite | 88,8 GB | 95,9 GB | 128 GB |
Her Apple çipinde
Her çipin DeepSeek V4 Flash 0731 modelini çalıştıran en küçük bellek boyutu, ona sığan en iyi sürüm ve bekleyebileceğiniz yazma hızı.
| Çip | Gereken | Sürüm | Token/s |
|---|---|---|---|
| M6 | hiçbir boyut yetmez | Çok büyük | – |
| M5 Ultra | 256 GB | 4 bit İyi çalışır | 74–132 |
| M5 Max | 128 GB | 2 bit İyi çalışır | 67–120 |
| M5 Pro | hiçbir boyut yetmez | Çok büyük | – |
| M5 | hiçbir boyut yetmez | Çok büyük | – |
| M4 Max | 128 GB | 2 bit İyi çalışır | 60–107 |
| M4 Pro | hiçbir boyut yetmez | Çok büyük | – |
| M4 | hiçbir boyut yetmez | Çok büyük | – |
| M3 Ultra | 256 GB | 4 bit İyi çalışır | 50–90 |
| M3 Max | 128 GB | 2 bit İyi çalışır | 44–78 |
| M3 Pro | hiçbir boyut yetmez | Çok büyük | – |
| M3 | hiçbir boyut yetmez | Çok büyük | – |
| M2 Ultra | 128 GB | 2 bit İyi çalışır | 88–156 |
| M2 Max | hiçbir boyut yetmez | Çok büyük | – |
| M2 Pro | hiçbir boyut yetmez | Çok büyük | – |
| M2 | hiçbir boyut yetmez | Çok büyük | – |
| M1 Ultra | 128 GB | 2 bit İyi çalışır | 88–156 |
| M1 Max | hiçbir boyut yetmez | Çok büyük | – |
| M1 Pro | hiçbir boyut yetmez | Çok büyük | – |
| M1 | hiçbir boyut yetmez | Çok büyük | – |
Nasıl çalıştırılır
- Kolay yol: ücretsiz ve açık kaynak MLX Harness uygulamasını indirin. DeepSeek V4 Flash 0731 modelini arayın, Mac'inize uyan sürümü indirin ve sohbet edin. Model, OpenAI uyumlu bir API üzerinden diğer uygulamalarınıza da sunulur.MLX Harness'yu indirinÜcretsiz · Apple Silicon · macOS 14.5 veya üstü
- Apple'ın MLX'iyle Terminal'de:
pip install mlx-lmmlx_lm.chat --model mlx-community/DeepSeek-V4-Flash-4bitDerleme: Hugging Face'te mlx-community/DeepSeek-V4-Flash-4bit. Diğer hassasiyetler hemen yanında.
Adım adım: Mac'te LLM indirip çalıştırma · MLX Harness nasıl kullanılır · MLX, Ollama ve llama.cpp karşılaştırması
DeepSeek V4 Flash 0731 hakkında
| Geliştiren | DeepSeek |
|---|---|
| Parametreler | 284B toplam · 13B etkin (mixture of experts) |
| Bağlam | 1M token |
| Lisans | MIT |
| Yayın tarihi | 2026-07 |
| Girdi | Metin |
| Ağırlıklar | deepseek-ai/DeepSeek-V4-Flash-0731 |
Sorular
- DeepSeek V4 Flash 0731 ne kadar bellek gerektirir?
- 4 bit ile yaklaşık 160 GB ağırlık, artı bağlam için yer: toplam 173 GB. macOS varsayılan olarak GPU'nun belleğin yaklaşık %75'ini kullanmasına izin verdiği için bu, Mac'te 256 GB veya daha fazla birleşik bellek demektir.
- DeepSeek V4 Flash 0731 Mac'te ne kadar hızlı?
- Yazma hızı bellek bant genişliğine bağlıdır. Burada onun için en hızlı Mac, 256 GB'lık M5 Ultra: saniyede yaklaşık 74–132 token (4 bit). Onu çalıştıran en küçük Mac, 256 GB'lık M5 Ultra, yaklaşık 74–132 token yazar.
- DeepSeek V4 Flash 0731 neden boyutunun düşündürdüğünden hızlı çalışır?
- Bu bir mixture-of-experts modeli: bellekte 284B parametre tutar ama her token için yalnızca 13B kadarını okur, bu yüzden çok daha küçük bir modelin hızında yazar.
Benzer modeller
Model kartınız veya README için
DeepSeek V4 Flash 0731 modelini iyi çalıştıran en küçük Mac'i gösterir ve buraya bağlantı verir.
[](https://mlx.app/run/deepseek-v4-flash-0731)Nasıl hesaplanır
Bellek: modelin parametreleri ağırlık başına 8, 6, 4, 3 veya 2 bitte, artı MLX'in grup ölçekleri (ağırlık başına yarım bit) ya da modelin yerel biçimi; üstüne bağlam için yer. macOS varsayılan olarak GPU'nun birleşik belleğin yaklaşık %75'ini kullanmasına izin verir. Hız: bellek bant genişliğinin token başına okunan bayt sayısına bölümü, tek bir sohbet için üst sınırdır; llama.cpp'nin herkese açık Apple Silicon karşılaştırmalarında gerçek çalıştırmalar bunun yaklaşık %45 ile %80'ine ulaşır ve gösterilen aralık budur. Bunlar ölçüm değil tahmindir: kendi Mac'inizi MLX Bench ile ölçün. Model verileri her modelin resmî model kartından, çip verileri Apple'ın Teknik Özellikler sayfalarından alınmıştır. Kontrol tarihi: 2026-10-19. mlx.app/compare ile aynı veriler.