Recursive Flint-க்கு எவ்வளவு மெமரி தேவை?

4-பிட்-இல் சுமார் 22.4 GB வெயிட்கள், கூடவே கான்டெக்ஸ்ட்டுக்கு இடம்: மொத்தம் 24.2 GB. Mac-இல் இதன் பொருள் 36 GB அல்லது அதற்கு மேல் யூனிஃபைடு மெமரி, ஏனெனில் இயல்பாக macOS அதில் சுமார் 75%-ஐ மட்டுமே GPU பயன்படுத்த அனுமதிக்கிறது. Recursive-இன் சொந்த இன்ஜின் Rec-க்கு குறைந்தது 48 GB யூனிஃபைட் மெமரி கொண்ட M4 Pro, M5 Pro அல்லது M5 Max தேவை (தயாரிப்பாளரின் நிபந்தனை).

Mac-இல் Recursive Flint எவ்வளவு வேகமாக இயங்கும்?

எழுதும் வேகம் மெமரி பேண்ட்வித்தைப் பொறுத்தது. இங்கே இதற்கு மிக வேகமான Mac 96 GB கொண்ட M5 Ultra, வினாடிக்கு சுமார் 200–356 டோக்கன்கள் (8-பிட்). இதை இயக்கும் மிகச் சிறிய Mac, 36 GB கொண்ட M5 Max, சுமார் 148–263 வரை எட்டும்.

Recursive Flint அதன் அளவை விட ஏன் வேகமாக இயங்குகிறது?

இது ஒரு mixture-of-experts மாடல்: மெமரியில் 39.8B பாராமீட்டர்களை வைத்திருந்தாலும், ஒவ்வொரு டோக்கனுக்கும் 2.5B மட்டுமே படிக்கிறது, அதனால் மிகச் சிறிய மாடலின் வேகத்தில் எழுதுகிறது.

Mac-இல் Recursive Flint இயங்குமா? மெமரி, வேகம்

ஒவ்வொரு பிரிசிஷனிலும் மெமரி

பதிப்பு	வெயிட்கள்	கான்டெக்ஸ்ட்டுடன்	மிகச் சிறிய Mac
8-பிட்	42.3 GB	45.7 GB	64 GB
6-பிட்	32.3 GB	34.9 GB	48 GB
4-பிட்	22.4 GB	24.2 GB	36 GB
3-பிட் குறைந்த தரம்	17.4 GB	18.9 GB	32 GB
2-பிட் குறைந்த தரம்	12.4 GB	13.9 GB	24 GB

ஒவ்வொரு Apple சிப்பிலும்

Recursive Flint-ஐ இயக்கும் ஒவ்வொரு சிப்பின் மிகச் சிறிய மெமரி அளவு, அதில் பொருந்தும் சிறந்த பதிப்பு, எதிர்பார்க்கக்கூடிய எழுதும் வேகம்.

சிப்	தேவை	பதிப்பு	டோக்கன்கள்/வினாடி
M6	24 GB	2-பிட் நன்றாக இயங்கும்	96–170
M5 Ultra	96 GB	8-பிட் நன்றாக இயங்கும்	200–356
M5 Max	36 GB	4-பிட் நன்றாக இயங்கும்	148–263
M5 Pro	48 GB	6-பிட் நன்றாக இயங்கும்	69–123
M5	24 GB	2-பிட் நன்றாக இயங்கும்	86–153
M4 Max	36 GB	4-பிட் நன்றாக இயங்கும்	132–234
M4 Pro	48 GB	6-பிட் நன்றாக இயங்கும்	61–109
M4	24 GB	2-பிட் நன்றாக இயங்கும்	68–120
M3 Ultra	96 GB	8-பிட் நன்றாக இயங்கும்	137–243
M3 Max	36 GB	4-பிட் நன்றாக இயங்கும்	96–171
M3 Pro	36 GB	4-பிட் நன்றாக இயங்கும்	48–86
M3	24 GB	2-பிட் நன்றாக இயங்கும்	56–100
M2 Ultra	64 GB	8-பிட் நன்றாக இயங்கும்	133–237
M2 Max	64 GB	8-பிட் நன்றாக இயங்கும்	67–119
M2 Pro	32 GB	3-பிட் நன்றாக இயங்கும்	82–145
M2	24 GB	2-பிட் நன்றாக இயங்கும்	56–100
M1 Ultra	64 GB	8-பிட் நன்றாக இயங்கும்	133–237
M1 Max	64 GB	8-பிட் நன்றாக இயங்கும்	67–119
M1 Pro	32 GB	3-பிட் நன்றாக இயங்கும்	82–145
M1	16 GB	2-பிட் விளிம்பில்	38–68

மற்றவர்கள் அளந்தது

மற்றவர்கள் தங்கள் சொந்த Mac-இல் அளந்து பொதுவில் பகிர்ந்த Recursive Flint உருவாக்க வேகங்கள். இவை மூன்றாம் தரப்பு அளவீடுகள், எங்களுடையவை அல்ல, மேலே உள்ள மதிப்பீடுகளும் அல்ல.

Mac	இயக்கச் சூழல்	துல்லியம்	டிகோட் tok/s	மூலம்
Mac Studio M3 Ultra	Ollama (MLX engine)	INT4 (QAT)	107	Alec Kloss @aleckloss
Mac Studio M3 Ultra	mlx-lm (PR #1998)	INT4 (QAT)	104.5	Alec Kloss @aleckloss
Mac Studio M3 Ultra	mlx-vlm	BF16	51.31K சூழலில்	Prince Canuma @Prince_Canuma
Mac Studio M3 Ultra	mlx-vlm	BF16	33128K சூழலில்	Prince Canuma @Prince_Canuma
Mac mini M5 Pro 64 GB	Ollama	4-bit	115	Pratik Gandhi @pratikg
Mac mini M5 Pro 64 GB	Ollama	4-bit	8720K சூழலில்	Pratik Gandhi @pratikg

முடிவுகள் இயக்கச் சூழலையும் அமைப்புகளையும் பொறுத்து மாறும்: பதிப்பு, துல்லியம், சூழல் நீளம், ப்ராம்ப்ட், ரீசனிங் ஆன் அல்லது ஆஃப் ஆகிய அனைத்தும் வேகத்தை மாற்றும்.

இதை எப்படி இயக்குவது

Terminal-இல் Rec உடன், இது தயாரிப்பாளரின் சொந்த இன்ஜின்:curl -fsSL https://raw.githubusercontent.com/recursive-oss/rec/main/install.sh | bashrec launch piதேவைகள்: M4 Pro, M5 Pro or M5 Max · at least 48 GB unified memory · about 30 GB free disk · Node.js 22 and npm (for pi)பில்ட்: Hugging Face-இல் RecursiveSI/flint-int4. மற்ற பிரிசிஷன்கள் அதன் அருகிலேயே உள்ளன.

படிப்படியாக: Mac-இல் LLM-களைப் பதிவிறக்கி இயக்குங்கள் · MLX Harness-வை எப்படிப் பயன்படுத்துவது · MLX vs Ollama vs llama.cpp

Recursive Flint பற்றி

உருவாக்கியவர்	Recursive
பாராமீட்டர்கள்	மொத்தம் 39.8B · செயலில் 2.5B (mixture of experts)
கான்டெக்ஸ்ட்	256K டோக்கன்கள்
உரிமம்	Apache-2.0
வெளியீடு	2026-10
உள்ளீடு	உரை
வெயிட்கள்	RecursiveSI/flint

கேள்விகள்

Recursive Flint-க்கு எவ்வளவு மெமரி தேவை?: 4-பிட்-இல் சுமார் 22.4 GB வெயிட்கள், கூடவே கான்டெக்ஸ்ட்டுக்கு இடம்: மொத்தம் 24.2 GB. Mac-இல் இதன் பொருள் 36 GB அல்லது அதற்கு மேல் யூனிஃபைடு மெமரி, ஏனெனில் இயல்பாக macOS அதில் சுமார் 75%-ஐ மட்டுமே GPU பயன்படுத்த அனுமதிக்கிறது. Recursive-இன் சொந்த இன்ஜின் Rec-க்கு குறைந்தது 48 GB யூனிஃபைட் மெமரி கொண்ட M4 Pro, M5 Pro அல்லது M5 Max தேவை (தயாரிப்பாளரின் நிபந்தனை).
Mac-இல் Recursive Flint எவ்வளவு வேகமாக இயங்கும்?: எழுதும் வேகம் மெமரி பேண்ட்வித்தைப் பொறுத்தது. இங்கே இதற்கு மிக வேகமான Mac 96 GB கொண்ட M5 Ultra, வினாடிக்கு சுமார் 200–356 டோக்கன்கள் (8-பிட்). இதை இயக்கும் மிகச் சிறிய Mac, 36 GB கொண்ட M5 Max, சுமார் 148–263 வரை எட்டும்.
Recursive Flint அதன் அளவை விட ஏன் வேகமாக இயங்குகிறது?: இது ஒரு mixture-of-experts மாடல்: மெமரியில் 39.8B பாராமீட்டர்களை வைத்திருந்தாலும், ஒவ்வொரு டோக்கனுக்கும் 2.5B மட்டுமே படிக்கிறது, அதனால் மிகச் சிறிய மாடலின் வேகத்தில் எழுதுகிறது.

இதே போன்ற மாடல்கள்

எல்லா மாடல்களும் · எல்லா Mac-களும் · உங்கள் Mac-ஐ ஒப்பிடுங்கள்

உங்கள் மாடல் கார்டு அல்லது README-க்கு

Recursive Flint-ஐ நன்றாக இயக்கும் மிகச் சிறிய Mac-ஐக் காட்டி, இங்கே இணைப்பு தருகிறது.

[![Runs on a Mac](https://mlx.app/badge/run/flint.svg)](https://mlx.app/run/flint)

எப்படிக் கணக்கிடப்பட்டது

மெமரி: மாடலின் பாராமீட்டர்கள் ஒரு வெயிட்டுக்கு 8, 6, 4, 3 அல்லது 2 பிட்களில், கூடவே MLX-இன் குரூப் ஸ்கேல்கள் (ஒரு வெயிட்டுக்கு அரை பிட்), அல்லது அதன் நேட்டிவ் வடிவம், அதற்கு மேல் கான்டெக்ஸ்ட்டுக்கு இடம். இயல்பாக macOS, யூனிஃபைடு மெமரியில் சுமார் 75%-ஐ GPU பயன்படுத்த அனுமதிக்கிறது. வேகம்: மெமரி பேண்ட்வித்தை ஒவ்வொரு டோக்கனுக்கும் படிக்கப்படும் பைட்டுகளால் வகுத்தால், ஒரு உரையாடலுக்கான உச்சவரம்பு கிடைக்கும்; llama.cpp-இன் பொது Apple Silicon பெஞ்ச்மார்க்குகளில் உண்மையான ரன்கள் அதில் சுமார் 45% முதல் 80% வரை எட்டுகின்றன, அந்த வரம்பே காட்டப்படுகிறது. இவை மதிப்பீடுகள், அளவீடுகள் அல்ல: உங்கள் சொந்த Mac-ஐ MLX Bench-இல் அளந்து பாருங்கள். மாடல் விவரங்கள் ஒவ்வொரு அதிகாரப்பூர்வ மாடல் கார்டிலிருந்தும், சிப் விவரங்கள் Apple-இன் Tech Specs-இலிருந்தும். சரிபார்த்தது 2026-10-19. mlx.app/compare-இல் உள்ள அதே தரவு.

திறந்த தரவு: mlx.app/data (JSON, CSV)