लॉग इनवॉलेट तयार करा

Mac वर Recursive Flint चालू शकते का?

हो, 36 GB किंवा जास्त युनिफाइड मेमरीसह. Recursive Flint मध्ये 39.8B पॅरामीटर आहेत, त्यापैकी प्रत्येक टोकनसाठी 2.5B सक्रिय असतात; प्रत्येक प्रिसिजनला त्याला किती मेमरी लागते आणि प्रत्येक Apple चिप ते किती वेगाने चालवते, ते इथे पाहा. Recursive च्या स्वतःच्या Rec इंजिनला किमान 48 GB युनिफाइड मेमरी असलेला M4 Pro, M5 Pro, किंवा M5 Max लागतो (निर्मात्याची अट). या पेजवरील मेमरी आणि वेगाचे आकडे सामान्य MLX बिल्डसाठीचे अंदाज आहेत.

अपडेट केले

4-बिट ला मेमरी24.2 GBवेट 22.4 GB + कॉन्टेक्स्ट
सर्वात लहान Mac36 GB4-बिट, अंदाज · Rec ला 48 GB लागतात
सर्वात वेगवान Mac200–356टोकन/सेकंद · M5 Ultra 96 GB (अंदाज)

प्रत्येक प्रिसिजनला मेमरी

आवृत्तीवेटकॉन्टेक्स्टसहसर्वात लहान Mac
8-बिट42.3 GB45.7 GB64 GB
6-बिट32.3 GB34.9 GB48 GB
4-बिट22.4 GB24.2 GB36 GB
3-बिट कमी गुणवत्ता17.4 GB18.9 GB32 GB
2-बिट कमी गुणवत्ता12.4 GB13.9 GB24 GB

प्रत्येक Apple चिपवर

प्रत्येक चिपचा Recursive Flint चालवणारा सर्वात लहान मेमरी आकार, त्यात बसणारी सर्वोत्तम आवृत्ती, आणि अपेक्षित लिहिण्याचा वेग.

चिपलागतेआवृत्तीटोकन/सेकंद
M624 GB2-बिट चांगले चालते96–170
M5 Ultra96 GB8-बिट चांगले चालते200–356
M5 Max36 GB4-बिट चांगले चालते148–263
M5 Pro48 GB6-बिट चांगले चालते69–123
M524 GB2-बिट चांगले चालते86–153
M4 Max36 GB4-बिट चांगले चालते132–234
M4 Pro48 GB6-बिट चांगले चालते61–109
M424 GB2-बिट चांगले चालते68–120
M3 Ultra96 GB8-बिट चांगले चालते137–243
M3 Max36 GB4-बिट चांगले चालते96–171
M3 Pro36 GB4-बिट चांगले चालते48–86
M324 GB2-बिट चांगले चालते56–100
M2 Ultra64 GB8-बिट चांगले चालते133–237
M2 Max64 GB8-बिट चांगले चालते67–119
M2 Pro32 GB3-बिट चांगले चालते82–145
M224 GB2-बिट चांगले चालते56–100
M1 Ultra64 GB8-बिट चांगले चालते133–237
M1 Max64 GB8-बिट चांगले चालते67–119
M1 Pro32 GB3-बिट चांगले चालते82–145
M116 GB2-बिट जेमतेम38–68

इतरांनी मोजलेले

Recursive Flint चे ते जनरेशन वेग जे इतर लोकांनी स्वतःच्या Mac वर मोजले आणि सार्वजनिकपणे पोस्ट केले. ही तृतीय पक्षाची मोजमापे आहेत, आमची नाहीत, आणि वरचे अंदाज नाहीत.

Macरनटाइमप्रिसिजनडिकोड tok/sस्रोत
Mac Studio M3 UltraOllama (MLX engine)INT4 (QAT)107Alec Kloss @aleckloss
Mac Studio M3 Ultramlx-lm (PR #1998)INT4 (QAT)104.5Alec Kloss @aleckloss
Mac Studio M3 Ultramlx-vlmBF1651.31K कॉन्टेक्स्टवरPrince Canuma @Prince_Canuma
Mac Studio M3 Ultramlx-vlmBF1633128K कॉन्टेक्स्टवरPrince Canuma @Prince_Canuma
Mac mini M5 Pro 64 GBOllama4-bit115Pratik Gandhi @pratikg
Mac mini M5 Pro 64 GBOllama4-bit8720K कॉन्टेक्स्टवरPratik Gandhi @pratikg

निकाल रनटाइम आणि सेटिंग्जनुसार बदलतात: आवृत्ती, प्रिसिजन, कॉन्टेक्स्टची लांबी, प्रॉम्प्ट आणि रीझनिंग चालू की बंद, हे सगळे वेग बदलतात.

ते कसे चालवायचे

  1. Terminal मध्ये Rec सह, जे निर्मात्याचे स्वतःचे इंजिन आहे:curl -fsSL https://raw.githubusercontent.com/recursive-oss/rec/main/install.sh | bashrec launch piआवश्यकता: M4 Pro, M5 Pro or M5 Max · at least 48 GB unified memory · about 30 GB free disk · Node.js 22 and npm (for pi)बिल्ड: Hugging Face वर RecursiveSI/flint-int4. इतर प्रिसिजन त्याच्याच शेजारी आहेत.

टप्प्याटप्प्याने: Mac वर LLM डाउनलोड करा आणि चालवा · MLX Harness कसे वापरायचे · MLX विरुद्ध Ollama विरुद्ध llama.cpp

Recursive Flint बद्दल

निर्मातेRecursive
पॅरामीटर39.8B एकूण · 2.5B सक्रिय (mixture of experts)
कॉन्टेक्स्ट256K टोकन
परवानाApache-2.0
प्रकाशित2026-10
इनपुटमजकूर
वेटRecursiveSI/flint

प्रश्न

Recursive Flint ला किती मेमरी लागते?
4-बिट ला सुमारे 22.4 GB वेट, शिवाय कॉन्टेक्स्टसाठी जागा: एकूण 24.2 GB. Mac वर याचा अर्थ 36 GB किंवा जास्त युनिफाइड मेमरी, कारण डिफॉल्टनुसार macOS GPU ला त्यापैकी सुमारे 75% वापरू देते. Recursive च्या स्वतःच्या Rec इंजिनला किमान 48 GB युनिफाइड मेमरी असलेला M4 Pro, M5 Pro, किंवा M5 Max लागतो (निर्मात्याची अट).
Mac वर Recursive Flint किती वेगाने चालते?
लिहिण्याचा वेग मेमरी बँडविड्थवर अवलंबून असतो. यासाठी इथला सर्वात वेगवान Mac 96 GB असलेला M5 Ultra आहे, सेकंदाला सुमारे 200–356 टोकन (8-बिट). ते चालवणारा सर्वात लहान Mac, 36 GB असलेला M5 Max, सुमारे 148–263 पर्यंत पोहोचतो.
Recursive Flint त्याच्या आकाराच्या मानाने वेगाने का चालते?
हे mixture-of-experts मॉडेल आहे: ते मेमरीत 39.8B पॅरामीटर ठेवते, पण प्रत्येक टोकनसाठी फक्त 2.5B वाचते, त्यामुळे ते खूप लहान मॉडेलच्या वेगाने लिहिते.

तत्सम मॉडेल

प्रत्येक मॉडेल · प्रत्येक Mac · तुमच्या Mac ची तुलना करा

तुमच्या मॉडेल कार्ड किंवा README साठी

Runs on a Mac: Recursive Flint Recursive Flint चांगले चालवणारा सर्वात लहान Mac दाखवते आणि इथे लिंक करते.

[![Runs on a Mac](https://mlx.app/badge/run/flint.svg)](https://mlx.app/run/flint)

हिशोब कसा केला

मेमरी: मॉडेलचे पॅरामीटर प्रति वेट 8, 6, 4, 3 किंवा 2 बिटला, शिवाय MLX चे ग्रुप स्केल (प्रति वेट अर्धा बिट), किंवा त्याचा नेटिव्ह फॉरमॅट, आणि वर कॉन्टेक्स्टसाठी जागा. डिफॉल्टनुसार macOS GPU ला युनिफाइड मेमरीपैकी सुमारे 75% वापरू देते. वेग: मेमरी बँडविड्थला प्रत्येक टोकनसाठी वाचल्या जाणाऱ्या बाइटने भागल्यास एका संभाषणाची कमाल मर्यादा मिळते; llama.cpp च्या सार्वजनिक Apple Silicon बेंचमार्क मध्ये प्रत्यक्ष रन त्याच्या सुमारे 45% ते 80% पर्यंत पोहोचतात, आणि हीच रेंज दाखवली आहे. हे अंदाज आहेत, मोजमाप नाही: तुमचा Mac MLX Bench वर मोजा. मॉडेलचे आकडे प्रत्येक अधिकृत मॉडेल कार्डमधून, चिपचे आकडे Apple च्या Tech Specs मधून. 2026-10-19 रोजी तपासले. mlx.app/compare वरचाच डेटा.

ओपन डेटा: mlx.app/data (JSON, CSV)

Mac वर Recursive Flint चालू शकते का? मेमरी आणि वेग