IngiaFungua pochi

Je, Mac inaweza kuendesha Recursive Flint?

Ndiyo, ukiwa na GB 36 za unified memory au zaidi. Recursive Flint ina vigezo 39.8B, 2.5B kati yake zikitumika kwa kila tokeni; hii ndiyo kumbukumbu inayohitaji kwa kila usahihi na kasi ambayo kila chipu ya Apple huiendesha. Injini ya Recursive mwenyewe, Rec, inahitaji M4 Pro, M5 Pro au M5 Max yenye angalau GB 48 za kumbukumbu iliyounganishwa (sharti la mtengenezaji). Takwimu za kumbukumbu na kasi kwenye ukurasa huu ni makadirio kwa toleo la kawaida la MLX.

Imesasishwa

Kumbukumbu kwa 4-bit24.2 GBweights 22.4 GB + context
Mac ndogo zaidi36 GB4-bit, makadirio · Rec inahitaji GB 48
Mac yenye kasi zaidi200–356tokeni/s · M5 Ultra GB 96 (makadirio)

Kumbukumbu kwa kila usahihi

ToleoWeightsPamoja na contextMac ndogo zaidi
8-bit42.3 GB45.7 GB64 GB
6-bit32.3 GB34.9 GB48 GB
4-bit22.4 GB24.2 GB36 GB
3-bit ubora wa chini17.4 GB18.9 GB32 GB
2-bit ubora wa chini12.4 GB13.9 GB24 GB

Kwenye kila chipu ya Apple

Ukubwa mdogo zaidi wa kumbukumbu wa kila chipu unaoendesha Recursive Flint, toleo bora linalotosha humo, na kasi ya kuandika unayoweza kutarajia.

ChipuInahitajiToleoTokeni/s
M624 GB2-bit Inaenda vizuri96–170
M5 Ultra96 GB8-bit Inaenda vizuri200–356
M5 Max36 GB4-bit Inaenda vizuri148–263
M5 Pro48 GB6-bit Inaenda vizuri69–123
M524 GB2-bit Inaenda vizuri86–153
M4 Max36 GB4-bit Inaenda vizuri132–234
M4 Pro48 GB6-bit Inaenda vizuri61–109
M424 GB2-bit Inaenda vizuri68–120
M3 Ultra96 GB8-bit Inaenda vizuri137–243
M3 Max36 GB4-bit Inaenda vizuri96–171
M3 Pro36 GB4-bit Inaenda vizuri48–86
M324 GB2-bit Inaenda vizuri56–100
M2 Ultra64 GB8-bit Inaenda vizuri133–237
M2 Max64 GB8-bit Inaenda vizuri67–119
M2 Pro32 GB3-bit Inaenda vizuri82–145
M224 GB2-bit Inaenda vizuri56–100
M1 Ultra64 GB8-bit Inaenda vizuri133–237
M1 Max64 GB8-bit Inaenda vizuri67–119
M1 Pro32 GB3-bit Inaenda vizuri82–145
M116 GB2-bit Inatosha kwa shida38–68

Vilivyopimwa na wengine

Kasi za uzalishaji za Recursive Flint ambazo watu wengine walipima kwenye Mac zao na kuchapisha hadharani. Hivi ni vipimo vya wahusika wengine, si vyetu, na si makadirio yaliyo juu.

MacRuntimeUsahihiUzalishaji tok/sChanzo
Mac Studio M3 UltraOllama (MLX engine)INT4 (QAT)107Alec Kloss @aleckloss
Mac Studio M3 Ultramlx-lm (PR #1998)INT4 (QAT)104.5Alec Kloss @aleckloss
Mac Studio M3 Ultramlx-vlmBF1651.3kwa muktadha wa 1KPrince Canuma @Prince_Canuma
Mac Studio M3 Ultramlx-vlmBF1633kwa muktadha wa 128KPrince Canuma @Prince_Canuma
Mac mini M5 Pro 64 GBOllama4-bit115Pratik Gandhi @pratikg
Mac mini M5 Pro 64 GBOllama4-bit87kwa muktadha wa 20KPratik Gandhi @pratikg

Matokeo hutofautiana kulingana na runtime na mipangilio: toleo, usahihi, urefu wa muktadha, prompt na kama reasoning imewashwa au imezimwa vyote hubadilisha kasi.

Jinsi ya kuiendesha

  1. Ndani ya Terminal kwa Rec, injini ya mtengenezaji mwenyewe:curl -fsSL https://raw.githubusercontent.com/recursive-oss/rec/main/install.sh | bashrec launch piMahitaji: M4 Pro, M5 Pro or M5 Max · at least 48 GB unified memory · about 30 GB free disk · Node.js 22 and npm (for pi)Toleo: RecursiveSI/flint-int4 kwenye Hugging Face. Usahihi mwingine uko kando yake.

Hatua kwa hatua: pakua na uendeshe LLM kwenye Mac · jinsi ya kutumia MLX Harness · MLX dhidi ya Ollama dhidi ya llama.cpp

Kuhusu Recursive Flint

Imetengenezwa naRecursive
Vigezo39.8B jumla · 2.5B zinazotumika (mixture of experts)
Contexttokeni 256K
LeseniApache-2.0
Ilitolewa2026-10
IngizoMaandishi
WeightsRecursiveSI/flint

Maswali

Recursive Flint inahitaji kumbukumbu kiasi gani?
Takriban 22.4 GB ya weights kwa 4-bit, pamoja na nafasi ya context: 24.2 GB kwa jumla. Kwenye Mac hiyo inamaanisha GB 36 za unified memory au zaidi, kwa kuwa kwa chaguo-msingi macOS huiruhusu GPU kutumia takriban 75% yake. Injini ya Recursive mwenyewe, Rec, inahitaji M4 Pro, M5 Pro au M5 Max yenye angalau GB 48 za kumbukumbu iliyounganishwa (sharti la mtengenezaji).
Recursive Flint ina kasi gani kwenye Mac?
Kasi ya kuandika hutegemea bandwidth ya kumbukumbu. Mac yenye kasi zaidi kwa modeli hii hapa ni M5 Ultra yenye GB 96, kwa takriban tokeni 200–356 kwa sekunde (8-bit). Mac ndogo zaidi inayoiendesha, yenye GB 36, hufikia takriban 148–263 kwenye M5 Max.
Kwa nini Recursive Flint huenda kasi kuliko ukubwa wake unavyoashiria?
Ni modeli ya mixture-of-experts: huhifadhi vigezo 39.8B kwenye kumbukumbu lakini husoma 2.5B tu kwa kila tokeni, hivyo huandika kwa kasi ya modeli ndogo zaidi sana.

Modeli zinazofanana

Kila modeli · Kila Mac · Linganisha Mac yako

Kwa kadi ya modeli yako au README

Runs on a Mac: Recursive Flint Huonyesha Mac ndogo zaidi inayoendesha Recursive Flint vizuri na huunganisha hapa.

[![Runs on a Mac](https://mlx.app/badge/run/flint.svg)](https://mlx.app/run/flint)

Jinsi inavyokokotolewa

Kumbukumbu: vigezo vya modeli kwa biti 8, 6, 4, 3 au 2 kwa kila weight pamoja na group scales za MLX (nusu biti kwa kila weight), au muundo wake asili, pamoja na nafasi ya context juu yake. Kwa chaguo-msingi macOS huiruhusu GPU kutumia takriban 75% ya unified memory. Kasi: bandwidth ya kumbukumbu ikigawanywa kwa baiti zinazosomwa kwa kila tokeni ndiyo kikomo cha juu kwa mazungumzo moja; katika benchmarks za umma za llama.cpp kwenye Apple Silicon uendeshaji halisi hufikia takriban 45% hadi 80% yake, na huo ndio upana unaoonyeshwa. Haya ni makadirio, si vipimo: pima Mac yako mwenyewe kwenye MLX Bench. Takwimu za modeli ni kutoka kwa kadi rasmi ya kila modeli, takwimu za chipu ni kutoka Tech Specs za Apple. Imekaguliwa 2026-10-19. Data ileile ya mlx.app/compare.

Data wazi: mlx.app/data (JSON, CSV)

Mac inaweza kuendesha Recursive Flint? Kumbukumbu, kasi