Pamięć przy każdej precyzji
| Wersja | Wagi | Z kontekstem | Najmniejszy Mac |
|---|---|---|---|
| 8-bit | 42,3 GB | 45,7 GB | 64 GB |
| 6-bit | 32,3 GB | 34,9 GB | 48 GB |
| 4-bit | 22,4 GB | 24,2 GB | 36 GB |
| 3-bit niższa jakość | 17,4 GB | 18,9 GB | 32 GB |
| 2-bit niższa jakość | 12,4 GB | 13,9 GB | 24 GB |
Na każdym układzie Apple
Najmniejsza pamięć każdego układu, na której działa Recursive Flint, najlepsza wersja, która się mieści, i spodziewana szybkość generowania.
| Układ | Potrzebuje | Wersja | Tokeny/s |
|---|---|---|---|
| M6 | 24 GB | 2-bit Działa dobrze | 96–170 |
| M5 Ultra | 96 GB | 8-bit Działa dobrze | 200–356 |
| M5 Max | 36 GB | 4-bit Działa dobrze | 148–263 |
| M5 Pro | 48 GB | 6-bit Działa dobrze | 69–123 |
| M5 | 24 GB | 2-bit Działa dobrze | 86–153 |
| M4 Max | 36 GB | 4-bit Działa dobrze | 132–234 |
| M4 Pro | 48 GB | 6-bit Działa dobrze | 61–109 |
| M4 | 24 GB | 2-bit Działa dobrze | 68–120 |
| M3 Ultra | 96 GB | 8-bit Działa dobrze | 137–243 |
| M3 Max | 36 GB | 4-bit Działa dobrze | 96–171 |
| M3 Pro | 36 GB | 4-bit Działa dobrze | 48–86 |
| M3 | 24 GB | 2-bit Działa dobrze | 56–100 |
| M2 Ultra | 64 GB | 8-bit Działa dobrze | 133–237 |
| M2 Max | 64 GB | 8-bit Działa dobrze | 67–119 |
| M2 Pro | 32 GB | 3-bit Działa dobrze | 82–145 |
| M2 | 24 GB | 2-bit Działa dobrze | 56–100 |
| M1 Ultra | 64 GB | 8-bit Działa dobrze | 133–237 |
| M1 Max | 64 GB | 8-bit Działa dobrze | 67–119 |
| M1 Pro | 32 GB | 3-bit Działa dobrze | 82–145 |
| M1 | 16 GB | 2-bit Ledwo się mieści | 38–68 |
Zmierzone przez innych
Szybkości generowania Recursive Flint, które inne osoby zmierzyły na własnych Macach i opublikowały. To pomiary osób trzecich, nie nasze, i nie są to szacunki powyżej.
| Mac | Środowisko | Precyzja | Dekodowanie tok/s | Źródło |
|---|---|---|---|---|
| Mac Studio M3 Ultra | Ollama (MLX engine) | INT4 (QAT) | 107 | Alec Kloss @aleckloss |
| Mac Studio M3 Ultra | mlx-lm (PR #1998) | INT4 (QAT) | 104,5 | Alec Kloss @aleckloss |
| Mac Studio M3 Ultra | mlx-vlm | BF16 | 51,3przy kontekście 1K | Prince Canuma @Prince_Canuma |
| Mac Studio M3 Ultra | mlx-vlm | BF16 | 33przy kontekście 128K | Prince Canuma @Prince_Canuma |
| Mac mini M5 Pro 64 GB | Ollama | 4-bit | 115 | Pratik Gandhi @pratikg |
| Mac mini M5 Pro 64 GB | Ollama | 4-bit | 87przy kontekście 20K | Pratik Gandhi @pratikg |
Wyniki zależą od środowiska uruchomieniowego i ustawień: wersja, precyzja, długość kontekstu, prompt i włączone lub wyłączone rozumowanie zmieniają szybkość.
Jak go uruchomić
- W Terminalu z Rec, własnym silnikiem twórcy:
curl -fsSL https://raw.githubusercontent.com/recursive-oss/rec/main/install.sh | bashrec launch piWymagania: M4 Pro, M5 Pro or M5 Max · at least 48 GB unified memory · about 30 GB free disk · Node.js 22 and npm (for pi)Wersja: RecursiveSI/flint-int4 na Hugging Face. Obok znajdziesz inne precyzje.
Krok po kroku: pobierz i uruchom LLM na Macu · jak używać MLX Harness · MLX, Ollama i llama.cpp
O modelu Recursive Flint
| Twórca | Recursive |
|---|---|
| Parametry | 39,8B łącznie · 2,5B aktywnych (mixture of experts) |
| Kontekst | tokeny: 256K |
| Licencja | Apache-2.0 |
| Wydany | 2026-10 |
| Wejście | Tekst |
| Wagi | RecursiveSI/flint |
Pytania
- Ile pamięci potrzebuje Recursive Flint?
- Około 22,4 GB na wagi (4-bit) plus miejsce na kontekst: łącznie 24,2 GB. Na Macu oznacza to 36 GB pamięci zunifikowanej lub więcej, bo macOS domyślnie pozwala GPU używać około 75% pamięci. Własny silnik Recursive, Rec, wymaga układu M4 Pro, M5 Pro lub M5 Max z co najmniej 48 GB pamięci zunifikowanej (wymóg twórcy).
- Jak szybko działa Recursive Flint na Macu?
- Szybkość generowania zależy od przepustowości pamięci. Najszybszy Mac dla tego modelu to M5 Ultra z 96 GB: około 200–356 tokenów na sekundę (8-bit). Najmniejszy Mac, który go uruchomi, M5 Max z 36 GB, osiąga około 148–263.
- Dlaczego Recursive Flint działa szybciej, niż wskazuje jego rozmiar?
- To model mixture-of-experts: trzyma w pamięci 39,8B parametrów, ale dla każdego tokenu odczytuje tylko 2,5B, więc generuje z szybkością znacznie mniejszego modelu.
Podobne modele
Do karty modelu lub README
Pokazuje najmniejszego Maca, na którym Recursive Flint działa dobrze, i prowadzi tutaj.
[](https://mlx.app/run/flint)Jak to liczymy
Pamięć: parametry modelu przy 8, 6, 4, 3 lub 2 bitach na wagę plus skale grup MLX (pół bita na wagę) albo jego natywny format, a do tego miejsce na kontekst. Domyślnie macOS pozwala GPU używać około 75% pamięci zunifikowanej. Szybkość: przepustowość pamięci podzielona przez liczbę bajtów odczytywanych na token to górna granica dla jednej rozmowy; w publicznych testach llama.cpp na Apple Silicon rzeczywiste uruchomienia osiągają od około 45% do 80% tej wartości i właśnie ten zakres pokazujemy. To szacunki, nie pomiary: zmierz swojego Maca w MLX Bench. Dane modeli pochodzą z oficjalnych kart modeli, dane układów ze specyfikacji technicznych Apple. Sprawdzono 2026-10-19. Te same dane co na mlx.app/compare.
Otwarte dane: mlx.app/data (JSON, CSV)