Memoria en cada precisión
| Versión | Pesos | Con contexto | Mac más pequeña |
|---|---|---|---|
| 8 bits | 42,3 GB | 45,7 GB | 64 GB |
| 6 bits | 32,3 GB | 34,9 GB | 48 GB |
| 4 bits | 22,4 GB | 24,2 GB | 36 GB |
| 3 bits menor calidad | 17,4 GB | 18,9 GB | 32 GB |
| 2 bits menor calidad | 12,4 GB | 13,9 GB | 24 GB |
En cada chip de Apple
El tamaño de memoria más pequeño de cada chip que ejecuta Recursive Flint, la mejor versión que cabe y la velocidad de escritura que puedes esperar.
| Chip | Necesita | Versión | Tokens/s |
|---|---|---|---|
| M6 | 24 GB | 2 bits Va bien | 96–170 |
| M5 Ultra | 96 GB | 8 bits Va bien | 200–356 |
| M5 Max | 36 GB | 4 bits Va bien | 148–263 |
| M5 Pro | 48 GB | 6 bits Va bien | 69–123 |
| M5 | 24 GB | 2 bits Va bien | 86–153 |
| M4 Max | 36 GB | 4 bits Va bien | 132–234 |
| M4 Pro | 48 GB | 6 bits Va bien | 61–109 |
| M4 | 24 GB | 2 bits Va bien | 68–120 |
| M3 Ultra | 96 GB | 8 bits Va bien | 137–243 |
| M3 Max | 36 GB | 4 bits Va bien | 96–171 |
| M3 Pro | 36 GB | 4 bits Va bien | 48–86 |
| M3 | 24 GB | 2 bits Va bien | 56–100 |
| M2 Ultra | 64 GB | 8 bits Va bien | 133–237 |
| M2 Max | 64 GB | 8 bits Va bien | 67–119 |
| M2 Pro | 32 GB | 3 bits Va bien | 82–145 |
| M2 | 24 GB | 2 bits Va bien | 56–100 |
| M1 Ultra | 64 GB | 8 bits Va bien | 133–237 |
| M1 Max | 64 GB | 8 bits Va bien | 67–119 |
| M1 Pro | 32 GB | 3 bits Va bien | 82–145 |
| M1 | 16 GB | 2 bits Muy justo | 38–68 |
Medido por otros
Velocidades de generación de Recursive Flint que otras personas midieron en sus propios Mac y publicaron. Son mediciones de terceros, no nuestras, y no son las estimaciones de arriba.
| Mac | Runtime | Precisión | Decodificación tok/s | Fuente |
|---|---|---|---|---|
| Mac Studio M3 Ultra | Ollama (MLX engine) | INT4 (QAT) | 107 | Alec Kloss @aleckloss |
| Mac Studio M3 Ultra | mlx-lm (PR #1998) | INT4 (QAT) | 104,5 | Alec Kloss @aleckloss |
| Mac Studio M3 Ultra | mlx-vlm | BF16 | 51,3con 1K de contexto | Prince Canuma @Prince_Canuma |
| Mac Studio M3 Ultra | mlx-vlm | BF16 | 33con 128K de contexto | Prince Canuma @Prince_Canuma |
| Mac mini M5 Pro 64 GB | Ollama | 4-bit | 115 | Pratik Gandhi @pratikg |
| Mac mini M5 Pro 64 GB | Ollama | 4-bit | 87con 20K de contexto | Pratik Gandhi @pratikg |
Los resultados varían según el runtime y los ajustes: la versión, la precisión, la longitud de contexto, el prompt y si el razonamiento está activado cambian la velocidad.
Cómo ejecutarlo
- En Terminal, con Rec, el motor propio del fabricante:
curl -fsSL https://raw.githubusercontent.com/recursive-oss/rec/main/install.sh | bashrec launch piRequisitos: M4 Pro, M5 Pro or M5 Max · at least 48 GB unified memory · about 30 GB free disk · Node.js 22 and npm (for pi)Versión MLX: RecursiveSI/flint-int4 en Hugging Face. Las demás precisiones están justo al lado.
Paso a paso: descargar y ejecutar LLM en tu Mac · cómo usar MLX Harness · MLX vs Ollama vs llama.cpp
Sobre Recursive Flint
| Creado por | Recursive |
|---|---|
| Parámetros | 39,8B en total · 2,5B activos (mezcla de expertos) |
| Contexto | 256K tokens |
| Licencia | Apache-2.0 |
| Lanzamiento | 2026-10 |
| Entrada | Texto |
| Pesos | RecursiveSI/flint |
Preguntas
- ¿Cuánta memoria necesita Recursive Flint?
- Unos 22,4 GB de pesos a 4 bits, más espacio para el contexto: 24,2 GB en total. En una Mac, eso significa 36 GB de memoria unificada o más, porque macOS deja que la GPU use alrededor del 75 % de forma predeterminada. El motor propio de Recursive, Rec, necesita un M4 Pro, M5 Pro o M5 Max con al menos 48 GB de memoria unificada (requisito del fabricante).
- ¿Qué tan rápido va Recursive Flint en una Mac?
- La velocidad de escritura depende del ancho de banda de memoria. Aquí, la Mac más rápida para este modelo es una con M5 Ultra y 96 GB, a unos 200–356 tokens por segundo (8 bits). La Mac más pequeña que lo ejecuta, con 36 GB, logra unos 148–263 con un M5 Max.
- ¿Por qué Recursive Flint va más rápido de lo que sugiere su tamaño?
- Es un modelo de mezcla de expertos: mantiene 39,8B parámetros en memoria, pero solo lee 2,5B en cada token, así que escribe a la velocidad de un modelo mucho más pequeño.
Modelos similares
Para la ficha de tu modelo o tu README
Muestra la Mac más pequeña que ejecuta bien Recursive Flint y enlaza a esta página.
[](https://mlx.app/run/flint)Cómo se calcula
Memoria: los parámetros del modelo a 8, 6, 4, 3 o 2 bits por peso más las escalas por grupo de MLX (medio bit por peso), o su formato nativo, con espacio extra para el contexto. De forma predeterminada, macOS deja que la GPU use alrededor del 75 % de la memoria unificada. Velocidad: el ancho de banda de memoria dividido entre los bytes leídos por token es el techo para una conversación; en los benchmarks públicos de Apple Silicon de llama.cpp, las ejecuciones reales alcanzan entre el 45 % y el 80 % de ese techo, que es el rango que se muestra. Son estimaciones, no mediciones: mide tu propia Mac en MLX Bench. Datos de los modelos tomados de cada ficha oficial; datos de los chips, de las especificaciones técnicas de Apple. Revisado el 2026-10-19. Los mismos datos que mlx.app/compare.
Datos abiertos: mlx.app/data (JSON, CSV)