Recursive Flint کو کتنی میموری چاہیے؟

4-bit پر ویٹس کے لیے تقریباً 22.4 GB، اور کانٹیکسٹ کی گنجائش: کل 24.2 GB۔ Mac پر اس کا مطلب ہے 36 GB یا زیادہ یونیفائیڈ میموری، کیونکہ macOS ڈیفالٹ طور پر GPU کو اس کا تقریباً 75% استعمال کرنے دیتا ہے۔ Recursive کے اپنے انجن Rec کو کم از کم 48 GB یونیفائیڈ میموری والا M4 Pro، M5 Pro، یا M5 Max چاہیے (بنانے والے کی شرط)۔

Mac پر Recursive Flint کتنا تیز ہے؟

لکھنے کی رفتار میموری بینڈوڈتھ پر منحصر ہے۔ یہاں اس کے لیے سب سے تیز Mac، 96 GB والا M5 Ultra ہے، فی سیکنڈ تقریباً 200–356 ٹوکن (8-bit)۔ اسے چلانے والا سب سے چھوٹا Mac، 36 GB کے ساتھ، M5 Max پر تقریباً 148–263 تک پہنچتا ہے۔

Recursive Flint اپنے سائز کی توقع سے زیادہ تیز کیوں چلتا ہے؟

یہ mixture-of-experts ماڈل ہے: یہ میموری میں 39.8B پیرامیٹرز رکھتا ہے لیکن ہر ٹوکن کے لیے صرف 2.5B پڑھتا ہے، اس لیے یہ کہیں چھوٹے ماڈل کی رفتار سے لکھتا ہے۔

کیا Mac پر Recursive Flint چلے گا؟ میموری اور رفتار

ہر پریسیژن پر میموری

ورژن	ویٹس	کانٹیکسٹ کے ساتھ	سب سے چھوٹا Mac
8-bit	42.3 GB	45.7 GB	64 GB
6-bit	32.3 GB	34.9 GB	48 GB
4-bit	22.4 GB	24.2 GB	36 GB
3-bit کم معیار	17.4 GB	18.9 GB	32 GB
2-bit کم معیار	12.4 GB	13.9 GB	24 GB

ہر Apple چپ پر

ہر چپ کا سب سے کم میموری سائز جو Recursive Flint چلاتا ہے، اس میں سمانے والا بہترین ورژن، اور لکھنے کی متوقع رفتار۔

چپ	درکار	ورژن	ٹوکن/سیکنڈ
M6	24 GB	2-bit اچھا چلتا ہے	96–170
M5 Ultra	96 GB	8-bit اچھا چلتا ہے	200–356
M5 Max	36 GB	4-bit اچھا چلتا ہے	148–263
M5 Pro	48 GB	6-bit اچھا چلتا ہے	69–123
M5	24 GB	2-bit اچھا چلتا ہے	86–153
M4 Max	36 GB	4-bit اچھا چلتا ہے	132–234
M4 Pro	48 GB	6-bit اچھا چلتا ہے	61–109
M4	24 GB	2-bit اچھا چلتا ہے	68–120
M3 Ultra	96 GB	8-bit اچھا چلتا ہے	137–243
M3 Max	36 GB	4-bit اچھا چلتا ہے	96–171
M3 Pro	36 GB	4-bit اچھا چلتا ہے	48–86
M3	24 GB	2-bit اچھا چلتا ہے	56–100
M2 Ultra	64 GB	8-bit اچھا چلتا ہے	133–237
M2 Max	64 GB	8-bit اچھا چلتا ہے	67–119
M2 Pro	32 GB	3-bit اچھا چلتا ہے	82–145
M2	24 GB	2-bit اچھا چلتا ہے	56–100
M1 Ultra	64 GB	8-bit اچھا چلتا ہے	133–237
M1 Max	64 GB	8-bit اچھا چلتا ہے	67–119
M1 Pro	32 GB	3-bit اچھا چلتا ہے	82–145
M1	16 GB	2-bit بمشکل	38–68

دوسروں کی پیمائش

Recursive Flint کی وہ جنریشن رفتار جو دوسرے لوگوں نے اپنے Mac پر ناپی اور عوامی طور پر شائع کی۔ یہ تیسرے فریق کی پیمائشیں ہیں، ہماری نہیں، اور اوپر والے اندازے نہیں۔

Mac	رن ٹائم	پریسیژن	ڈی کوڈ tok/s	ماخذ
Mac Studio M3 Ultra	Ollama (MLX engine)	INT4 (QAT)	107	Alec Kloss @aleckloss
Mac Studio M3 Ultra	mlx-lm (PR #1998)	INT4 (QAT)	104.5	Alec Kloss @aleckloss
Mac Studio M3 Ultra	mlx-vlm	BF16	51.31K کانٹیکسٹ پر	Prince Canuma @Prince_Canuma
Mac Studio M3 Ultra	mlx-vlm	BF16	33128K کانٹیکسٹ پر	Prince Canuma @Prince_Canuma
Mac mini M5 Pro 64 GB	Ollama	4-bit	115	Pratik Gandhi @pratikg
Mac mini M5 Pro 64 GB	Ollama	4-bit	8720K کانٹیکسٹ پر	Pratik Gandhi @pratikg

نتائج رن ٹائم اور سیٹنگز کے ساتھ بدلتے ہیں: ورژن، پریسیژن، کانٹیکسٹ کی لمبائی، پرامپٹ اور ریزننگ آن یا آف، سب رفتار بدلتے ہیں۔

اسے کیسے چلائیں

Terminal میں Rec کے ساتھ، جو بنانے والے کا اپنا انجن ہے:curl -fsSL https://raw.githubusercontent.com/recursive-oss/rec/main/install.sh | bashrec launch piضروریات: M4 Pro, M5 Pro or M5 Max · at least 48 GB unified memory · about 30 GB free disk · Node.js 22 and npm (for pi)بلڈ: Hugging Face پر RecursiveSI/flint-int4۔ دوسری پریسیژنز اسی کے ساتھ موجود ہیں۔

مرحلہ وار: Mac پر LLMs ڈاؤن لوڈ کریں اور چلائیں · MLX Harness کیسے استعمال کریں · MLX بمقابلہ Ollama بمقابلہ llama.cpp

Recursive Flint کے بارے میں

بنانے والا	Recursive
پیرامیٹرز	کل 39.8B · فعال 2.5B (mixture-of-experts)
کانٹیکسٹ	256K ٹوکن
لائسنس	Apache-2.0
ریلیز	2026-10
ان پٹ	ٹیکسٹ
ویٹس	RecursiveSI/flint

سوالات

Recursive Flint کو کتنی میموری چاہیے؟: 4-bit پر ویٹس کے لیے تقریباً 22.4 GB، اور کانٹیکسٹ کی گنجائش: کل 24.2 GB۔ Mac پر اس کا مطلب ہے 36 GB یا زیادہ یونیفائیڈ میموری، کیونکہ macOS ڈیفالٹ طور پر GPU کو اس کا تقریباً 75% استعمال کرنے دیتا ہے۔ Recursive کے اپنے انجن Rec کو کم از کم 48 GB یونیفائیڈ میموری والا M4 Pro، M5 Pro، یا M5 Max چاہیے (بنانے والے کی شرط)۔
Mac پر Recursive Flint کتنا تیز ہے؟: لکھنے کی رفتار میموری بینڈوڈتھ پر منحصر ہے۔ یہاں اس کے لیے سب سے تیز Mac، 96 GB والا M5 Ultra ہے، فی سیکنڈ تقریباً 200–356 ٹوکن (8-bit)۔ اسے چلانے والا سب سے چھوٹا Mac، 36 GB کے ساتھ، M5 Max پر تقریباً 148–263 تک پہنچتا ہے۔
Recursive Flint اپنے سائز کی توقع سے زیادہ تیز کیوں چلتا ہے؟: یہ mixture-of-experts ماڈل ہے: یہ میموری میں 39.8B پیرامیٹرز رکھتا ہے لیکن ہر ٹوکن کے لیے صرف 2.5B پڑھتا ہے، اس لیے یہ کہیں چھوٹے ماڈل کی رفتار سے لکھتا ہے۔

ملتے جلتے ماڈلز

تمام ماڈلز · تمام Mac · اپنے Mac کا موازنہ کریں

آپ کے ماڈل کارڈ یا README کے لیے

وہ سب سے چھوٹا Mac دکھاتا ہے جو Recursive Flint کو اچھا چلاتا ہے، اور یہاں لنک کرتا ہے۔

[![Runs on a Mac](https://mlx.app/badge/run/flint.svg)](https://mlx.app/run/flint)

یہ کیسے نکالا گیا

میموری: ماڈل کے پیرامیٹرز فی ویٹ 8، 6، 4، 3 یا 2 bits پر، ساتھ MLX کے گروپ اسکیلز (فی ویٹ آدھا bit)، یا اس کا اصل فارمیٹ، اور اوپر سے کانٹیکسٹ کی گنجائش۔ macOS ڈیفالٹ طور پر GPU کو یونیفائیڈ میموری کا تقریباً 75% استعمال کرنے دیتا ہے۔ رفتار: میموری بینڈوڈتھ کو فی ٹوکن پڑھے جانے والے بائٹس سے تقسیم کریں تو ایک گفتگو کی حد ملتی ہے؛ llama.cpp کے Apple Silicon پر پبلک بینچ مارکس میں اصل رنز اس کے تقریباً 45% سے 80% تک پہنچتے ہیں، اور یہی رینج دکھائی گئی ہے۔ یہ اندازے ہیں، پیمائشیں نہیں: اپنا Mac MLX Bench پر ناپیں۔ ماڈل کے اعداد ہر ماڈل کے آفیشل ماڈل کارڈ سے، چپ کے اعداد Apple کی Tech Specs سے۔ 2026-10-19 کو چیک کیا گیا۔ وہی ڈیٹا جو mlx.app/compare پر ہے۔

اوپن ڈیٹا: mlx.app/data (JSON, CSV)