Hoeveel geheugen heeft Recursive Flint nodig?

Ongeveer 22,4 GB aan gewichten op 4 bits, plus ruimte voor de context: 24,2 GB in totaal. Op een Mac betekent dat 36 GB geïntegreerd geheugen of meer, omdat macOS de GPU standaard ongeveer 75% ervan laat gebruiken. De eigen engine van Recursive, Rec, heeft een M4 Pro, M5 Pro of M5 Max met minstens 48 GB gedeeld geheugen nodig (eis van de maker).

Hoe snel is Recursive Flint op een Mac?

De schrijfsnelheid hangt af van de geheugenbandbreedte. De snelste Mac hiervoor is een M5 Ultra met 96 GB, met ongeveer 200–356 tokens per seconde (8 bits). De kleinste Mac die het draait, met 36 GB, haalt ongeveer 148–263 op een M5 Max.

Waarom draait Recursive Flint sneller dan je op basis van de grootte zou verwachten?

Het is een mixture-of-expertsmodel: het houdt 39,8B parameters in het geheugen, maar leest per token maar 2,5B, dus het schrijft zo snel als een veel kleiner model.

Draait Recursive Flint op een Mac? Geheugen, snelheid

Geheugen bij elke precisie

Versie	Gewichten	Met context	Kleinste Mac
8 bits	42,3 GB	45,7 GB	64 GB
6 bits	32,3 GB	34,9 GB	48 GB
4 bits	22,4 GB	24,2 GB	36 GB
3 bits lagere kwaliteit	17,4 GB	18,9 GB	32 GB
2 bits lagere kwaliteit	12,4 GB	13,9 GB	24 GB

Op elke Apple-chip

Per chip de kleinste geheugengrootte die Recursive Flint draait, de beste versie die erin past en de schrijfsnelheid die je kunt verwachten.

Chip	Nodig	Versie	Tokens/s
M6	24 GB	2 bits Draait goed	96–170
M5 Ultra	96 GB	8 bits Draait goed	200–356
M5 Max	36 GB	4 bits Draait goed	148–263
M5 Pro	48 GB	6 bits Draait goed	69–123
M5	24 GB	2 bits Draait goed	86–153
M4 Max	36 GB	4 bits Draait goed	132–234
M4 Pro	48 GB	6 bits Draait goed	61–109
M4	24 GB	2 bits Draait goed	68–120
M3 Ultra	96 GB	8 bits Draait goed	137–243
M3 Max	36 GB	4 bits Draait goed	96–171
M3 Pro	36 GB	4 bits Draait goed	48–86
M3	24 GB	2 bits Draait goed	56–100
M2 Ultra	64 GB	8 bits Draait goed	133–237
M2 Max	64 GB	8 bits Draait goed	67–119
M2 Pro	32 GB	3 bits Draait goed	82–145
M2	24 GB	2 bits Draait goed	56–100
M1 Ultra	64 GB	8 bits Draait goed	133–237
M1 Max	64 GB	8 bits Draait goed	67–119
M1 Pro	32 GB	3 bits Draait goed	82–145
M1	16 GB	2 bits Net aan	38–68

Gemeten door anderen

Generatiesnelheden van Recursive Flint die anderen op hun eigen Mac hebben gemeten en openbaar hebben gepost. Dit zijn metingen van derden, niet van ons, en niet de schattingen hierboven.

Mac	Runtime	Precisie	Decode tok/s	Bron
Mac Studio M3 Ultra	Ollama (MLX engine)	INT4 (QAT)	107	Alec Kloss @aleckloss
Mac Studio M3 Ultra	mlx-lm (PR #1998)	INT4 (QAT)	104,5	Alec Kloss @aleckloss
Mac Studio M3 Ultra	mlx-vlm	BF16	51,3bij 1K context	Prince Canuma @Prince_Canuma
Mac Studio M3 Ultra	mlx-vlm	BF16	33bij 128K context	Prince Canuma @Prince_Canuma
Mac mini M5 Pro 64 GB	Ollama	4-bit	115	Pratik Gandhi @pratikg
Mac mini M5 Pro 64 GB	Ollama	4-bit	87bij 20K context	Pratik Gandhi @pratikg

Resultaten verschillen per runtime en instellingen: de versie, de precisie, de contextlengte, de prompt en redeneren aan of uit veranderen de snelheid.

Zo draai je het

In Terminal, met Rec, de eigen engine van de maker:curl -fsSL https://raw.githubusercontent.com/recursive-oss/rec/main/install.sh | bashrec launch piVereist: M4 Pro, M5 Pro or M5 Max · at least 48 GB unified memory · about 30 GB free disk · Node.js 22 and npm (for pi)Build: RecursiveSI/flint-int4 op Hugging Face. Andere precisies staan ernaast.

Stap voor stap: LLM's downloaden en draaien op een Mac · zo gebruik je MLX Harness · MLX vs Ollama vs llama.cpp

Over Recursive Flint

Gemaakt door	Recursive
Parameters	39,8B totaal · 2,5B actief (mixture-of-experts)
Context	256K tokens
Licentie	Apache-2.0
Uitgebracht	2026-10
Invoer	Tekst
Gewichten	RecursiveSI/flint

Vragen

Hoeveel geheugen heeft Recursive Flint nodig?: Ongeveer 22,4 GB aan gewichten op 4 bits, plus ruimte voor de context: 24,2 GB in totaal. Op een Mac betekent dat 36 GB geïntegreerd geheugen of meer, omdat macOS de GPU standaard ongeveer 75% ervan laat gebruiken. De eigen engine van Recursive, Rec, heeft een M4 Pro, M5 Pro of M5 Max met minstens 48 GB gedeeld geheugen nodig (eis van de maker).
Hoe snel is Recursive Flint op een Mac?: De schrijfsnelheid hangt af van de geheugenbandbreedte. De snelste Mac hiervoor is een M5 Ultra met 96 GB, met ongeveer 200–356 tokens per seconde (8 bits). De kleinste Mac die het draait, met 36 GB, haalt ongeveer 148–263 op een M5 Max.
Waarom draait Recursive Flint sneller dan je op basis van de grootte zou verwachten?: Het is een mixture-of-expertsmodel: het houdt 39,8B parameters in het geheugen, maar leest per token maar 2,5B, dus het schrijft zo snel als een veel kleiner model.

Vergelijkbare modellen

Alle modellen · Alle Macs · Vergelijk je Mac

Voor je modelkaart of README

Toont de kleinste Mac die Recursive Flint goed draait en linkt naar deze pagina.

[![Runs on a Mac](https://mlx.app/badge/run/flint.svg)](https://mlx.app/run/flint)

Zo is het berekend

Geheugen: de parameters van het model op 8, 6, 4, 3 of 2 bits per gewicht plus de groepsschalen van MLX (een halve bit per gewicht), of het eigen formaat van het model, met daarbovenop ruimte voor de context. Standaard laat macOS de GPU ongeveer 75% van het geïntegreerde geheugen gebruiken. Snelheid: de geheugenbandbreedte gedeeld door het aantal bytes dat per token wordt gelezen, is het plafond voor één gesprek; in de openbare Apple Silicon-benchmarks van llama.cpp halen echte runs ongeveer 45% tot 80% daarvan, en dat is het bereik dat we tonen. Dit zijn schattingen, geen metingen: meet je eigen Mac op MLX Bench. Modelgegevens uit elke officiële modelkaart, chipgegevens uit de technische specificaties van Apple. Gecontroleerd op 2026-10-19. Dezelfde gegevens als mlx.app/compare.

Open data: mlx.app/data (JSON, CSV)