Memoria a ogni precisione
| Versione | Pesi | Con contesto | Mac più piccolo |
|---|---|---|---|
| 8 bit | 42,3 GB | 45,7 GB | 64 GB |
| 6 bit | 32,3 GB | 34,9 GB | 48 GB |
| 4 bit | 22,4 GB | 24,2 GB | 36 GB |
| 3 bit qualità inferiore | 17,4 GB | 18,9 GB | 32 GB |
| 2 bit qualità inferiore | 12,4 GB | 13,9 GB | 24 GB |
Su ogni chip Apple
Per ogni chip, il taglio di memoria più piccolo che esegue Recursive Flint, la versione migliore che ci sta e la velocità di scrittura che puoi aspettarti.
| Chip | Richiede | Versione | Token/s |
|---|---|---|---|
| M6 | 24 GB | 2 bit Gira bene | 96–170 |
| M5 Ultra | 96 GB | 8 bit Gira bene | 200–356 |
| M5 Max | 36 GB | 4 bit Gira bene | 148–263 |
| M5 Pro | 48 GB | 6 bit Gira bene | 69–123 |
| M5 | 24 GB | 2 bit Gira bene | 86–153 |
| M4 Max | 36 GB | 4 bit Gira bene | 132–234 |
| M4 Pro | 48 GB | 6 bit Gira bene | 61–109 |
| M4 | 24 GB | 2 bit Gira bene | 68–120 |
| M3 Ultra | 96 GB | 8 bit Gira bene | 137–243 |
| M3 Max | 36 GB | 4 bit Gira bene | 96–171 |
| M3 Pro | 36 GB | 4 bit Gira bene | 48–86 |
| M3 | 24 GB | 2 bit Gira bene | 56–100 |
| M2 Ultra | 64 GB | 8 bit Gira bene | 133–237 |
| M2 Max | 64 GB | 8 bit Gira bene | 67–119 |
| M2 Pro | 32 GB | 3 bit Gira bene | 82–145 |
| M2 | 24 GB | 2 bit Gira bene | 56–100 |
| M1 Ultra | 64 GB | 8 bit Gira bene | 133–237 |
| M1 Max | 64 GB | 8 bit Gira bene | 67–119 |
| M1 Pro | 32 GB | 3 bit Gira bene | 82–145 |
| M1 | 16 GB | 2 bit Al limite | 38–68 |
Misurato da altri
Velocità di generazione di Recursive Flint misurate da altre persone sui propri Mac e pubblicate online. Sono misure di terzi, non nostre, e non sono le stime qui sopra.
| Mac | Runtime | Precisione | Decodifica tok/s | Fonte |
|---|---|---|---|---|
| Mac Studio M3 Ultra | Ollama (MLX engine) | INT4 (QAT) | 107 | Alec Kloss @aleckloss |
| Mac Studio M3 Ultra | mlx-lm (PR #1998) | INT4 (QAT) | 104,5 | Alec Kloss @aleckloss |
| Mac Studio M3 Ultra | mlx-vlm | BF16 | 51,3con 1K di contesto | Prince Canuma @Prince_Canuma |
| Mac Studio M3 Ultra | mlx-vlm | BF16 | 33con 128K di contesto | Prince Canuma @Prince_Canuma |
| Mac mini M5 Pro 64 GB | Ollama | 4-bit | 115 | Pratik Gandhi @pratikg |
| Mac mini M5 Pro 64 GB | Ollama | 4-bit | 87con 20K di contesto | Pratik Gandhi @pratikg |
I risultati variano in base al runtime e alle impostazioni: versione, precisione, lunghezza del contesto, prompt e ragionamento attivo o no cambiano la velocità.
Come eseguirlo
- Nel Terminale, con Rec, il motore del produttore:
curl -fsSL https://raw.githubusercontent.com/recursive-oss/rec/main/install.sh | bashrec launch piRequisiti: M4 Pro, M5 Pro or M5 Max · at least 48 GB unified memory · about 30 GB free disk · Node.js 22 and npm (for pi)Build: RecursiveSI/flint-int4 su Hugging Face. Le altre precisioni sono lì accanto.
Passo dopo passo: scaricare ed eseguire LLM su Mac · come usare MLX Harness · MLX vs Ollama vs llama.cpp
Informazioni su Recursive Flint
| Creato da | Recursive |
|---|---|
| Parametri | 39,8B in totale · 2,5B attivi (mixture-of-experts) |
| Contesto | 256K token |
| Licenza | Apache-2.0 |
| Uscita | 2026-10 |
| Input | Testo |
| Pesi | RecursiveSI/flint |
Domande
- Quanta memoria richiede Recursive Flint?
- Circa 22,4 GB di pesi a 4 bit, più lo spazio per il contesto: 24,2 GB in tutto. Su un Mac significa 36 GB di memoria unificata o più, perché di default macOS lascia usare alla GPU circa il 75% della memoria. Il motore di Recursive, Rec, richiede un M4 Pro, M5 Pro o M5 Max con almeno 48 GB di memoria unificata (requisito del produttore).
- Quanto è veloce Recursive Flint su un Mac?
- La velocità di scrittura dipende dalla larghezza di banda della memoria. Qui il Mac più veloce per questo modello è un M5 Ultra con 96 GB, a circa 200–356 token al secondo (8 bit). Il Mac più piccolo che lo esegue, con 36 GB, arriva a circa 148–263 su un M5 Max.
- Perché Recursive Flint è più veloce di quanto suggeriscano le sue dimensioni?
- È un modello mixture-of-experts: tiene in memoria 39,8B parametri ma per ogni token ne legge solo 2,5B, quindi scrive alla velocità di un modello molto più piccolo.
Modelli simili
Per la scheda del tuo modello o il README
Mostra il Mac più piccolo che esegue bene Recursive Flint e rimanda a questa pagina.
[](https://mlx.app/run/flint)Come è calcolato
Memoria: i parametri del modello a 8, 6, 4, 3 o 2 bit per peso più le scale per gruppo di MLX (mezzo bit per peso), oppure il suo formato nativo, con in più lo spazio per il contesto. Di default macOS lascia usare alla GPU circa il 75% della memoria unificata. Velocità: la larghezza di banda della memoria divisa per i byte letti per ogni token è il limite massimo per una conversazione; nei benchmark pubblici su Apple Silicon di llama.cpp, le esecuzioni reali arrivano a circa il 45%–80% di quel limite, ed è l’intervallo mostrato. Sono stime, non misurazioni: misura il tuo Mac su MLX Bench. Dati dei modelli dalla rispettiva scheda ufficiale, dati dei chip dalle specifiche tecniche di Apple. Verificato il 2026-10-19. Stessi dati di mlx.app/compare.
Dati aperti: mlx.app/data (JSON, CSV)