Her hassasiyette bellek
| Sürüm | Ağırlıklar | Bağlamla | En küçük Mac |
|---|---|---|---|
| 8 bit | 42,3 GB | 45,7 GB | 64 GB |
| 6 bit | 32,3 GB | 34,9 GB | 48 GB |
| 4 bit | 22,4 GB | 24,2 GB | 36 GB |
| 3 bit daha düşük kalite | 17,4 GB | 18,9 GB | 32 GB |
| 2 bit daha düşük kalite | 12,4 GB | 13,9 GB | 24 GB |
Her Apple çipinde
Her çipin Recursive Flint modelini çalıştıran en küçük bellek boyutu, ona sığan en iyi sürüm ve bekleyebileceğiniz yazma hızı.
| Çip | Gereken | Sürüm | Token/s |
|---|---|---|---|
| M6 | 24 GB | 2 bit İyi çalışır | 96–170 |
| M5 Ultra | 96 GB | 8 bit İyi çalışır | 200–356 |
| M5 Max | 36 GB | 4 bit İyi çalışır | 148–263 |
| M5 Pro | 48 GB | 6 bit İyi çalışır | 69–123 |
| M5 | 24 GB | 2 bit İyi çalışır | 86–153 |
| M4 Max | 36 GB | 4 bit İyi çalışır | 132–234 |
| M4 Pro | 48 GB | 6 bit İyi çalışır | 61–109 |
| M4 | 24 GB | 2 bit İyi çalışır | 68–120 |
| M3 Ultra | 96 GB | 8 bit İyi çalışır | 137–243 |
| M3 Max | 36 GB | 4 bit İyi çalışır | 96–171 |
| M3 Pro | 36 GB | 4 bit İyi çalışır | 48–86 |
| M3 | 24 GB | 2 bit İyi çalışır | 56–100 |
| M2 Ultra | 64 GB | 8 bit İyi çalışır | 133–237 |
| M2 Max | 64 GB | 8 bit İyi çalışır | 67–119 |
| M2 Pro | 32 GB | 3 bit İyi çalışır | 82–145 |
| M2 | 24 GB | 2 bit İyi çalışır | 56–100 |
| M1 Ultra | 64 GB | 8 bit İyi çalışır | 133–237 |
| M1 Max | 64 GB | 8 bit İyi çalışır | 67–119 |
| M1 Pro | 32 GB | 3 bit İyi çalışır | 82–145 |
| M1 | 16 GB | 2 bit Ancak sığar | 38–68 |
Başkalarının ölçtüğü
Başkalarının kendi Mac’lerinde ölçüp herkese açık paylaştığı Recursive Flint üretim hızları. Bunlar üçüncü tarafların ölçümleri; bizim değil ve yukarıdaki tahminler değil.
| Mac | Çalışma ortamı | Hassasiyet | Üretim tok/s | Kaynak |
|---|---|---|---|---|
| Mac Studio M3 Ultra | Ollama (MLX engine) | INT4 (QAT) | 107 | Alec Kloss @aleckloss |
| Mac Studio M3 Ultra | mlx-lm (PR #1998) | INT4 (QAT) | 104,5 | Alec Kloss @aleckloss |
| Mac Studio M3 Ultra | mlx-vlm | BF16 | 51,31K bağlamda | Prince Canuma @Prince_Canuma |
| Mac Studio M3 Ultra | mlx-vlm | BF16 | 33128K bağlamda | Prince Canuma @Prince_Canuma |
| Mac mini M5 Pro 64 GB | Ollama | 4-bit | 115 | Pratik Gandhi @pratikg |
| Mac mini M5 Pro 64 GB | Ollama | 4-bit | 8720K bağlamda | Pratik Gandhi @pratikg |
Sonuçlar çalışma ortamına ve ayarlara göre değişir: sürüm, hassasiyet, bağlam uzunluğu, istem ve akıl yürütmenin açık ya da kapalı olması hızı değiştirir.
Nasıl çalıştırılır
- Üreticinin kendi motoru Rec ile Terminal'de:
curl -fsSL https://raw.githubusercontent.com/recursive-oss/rec/main/install.sh | bashrec launch piGereksinimler: M4 Pro, M5 Pro or M5 Max · at least 48 GB unified memory · about 30 GB free disk · Node.js 22 and npm (for pi)Derleme: Hugging Face'te RecursiveSI/flint-int4. Diğer hassasiyetler hemen yanında.
Adım adım: Mac'te LLM indirip çalıştırma · MLX Harness nasıl kullanılır · MLX, Ollama ve llama.cpp karşılaştırması
Recursive Flint hakkında
| Geliştiren | Recursive |
|---|---|
| Parametreler | 39,8B toplam · 2,5B etkin (mixture of experts) |
| Bağlam | 256K token |
| Lisans | Apache-2.0 |
| Yayın tarihi | 2026-10 |
| Girdi | Metin |
| Ağırlıklar | RecursiveSI/flint |
Sorular
- Recursive Flint ne kadar bellek gerektirir?
- 4 bit ile yaklaşık 22,4 GB ağırlık, artı bağlam için yer: toplam 24,2 GB. macOS varsayılan olarak GPU'nun belleğin yaklaşık %75'ini kullanmasına izin verdiği için bu, Mac'te 36 GB veya daha fazla birleşik bellek demektir. Recursive'ın kendi motoru Rec, en az 48 GB birleşik belleğe sahip bir M4 Pro, M5 Pro veya M5 Max ister (üreticinin şartı).
- Recursive Flint Mac'te ne kadar hızlı?
- Yazma hızı bellek bant genişliğine bağlıdır. Burada onun için en hızlı Mac, 96 GB'lık M5 Ultra: saniyede yaklaşık 200–356 token (8 bit). Onu çalıştıran en küçük Mac, 36 GB'lık M5 Max, yaklaşık 148–263 token yazar.
- Recursive Flint neden boyutunun düşündürdüğünden hızlı çalışır?
- Bu bir mixture-of-experts modeli: bellekte 39,8B parametre tutar ama her token için yalnızca 2,5B kadarını okur, bu yüzden çok daha küçük bir modelin hızında yazar.
Benzer modeller
Model kartınız veya README için
Recursive Flint modelini iyi çalıştıran en küçük Mac'i gösterir ve buraya bağlantı verir.
[](https://mlx.app/run/flint)Nasıl hesaplanır
Bellek: modelin parametreleri ağırlık başına 8, 6, 4, 3 veya 2 bitte, artı MLX'in grup ölçekleri (ağırlık başına yarım bit) ya da modelin yerel biçimi; üstüne bağlam için yer. macOS varsayılan olarak GPU'nun birleşik belleğin yaklaşık %75'ini kullanmasına izin verir. Hız: bellek bant genişliğinin token başına okunan bayt sayısına bölümü, tek bir sohbet için üst sınırdır; llama.cpp'nin herkese açık Apple Silicon karşılaştırmalarında gerçek çalıştırmalar bunun yaklaşık %45 ile %80'ine ulaşır ve gösterilen aralık budur. Bunlar ölçüm değil tahmindir: kendi Mac'inizi MLX Bench ile ölçün. Model verileri her modelin resmî model kartından, çip verileri Apple'ın Teknik Özellikler sayfalarından alınmıştır. Kontrol tarihi: 2026-10-19. mlx.app/compare ile aynı veriler.
Açık veri: mlx.app/data (JSON, CSV)