حافظه در هر دقت
| نسخه | وزنها | با کانتکست | کوچکترین Mac |
|---|---|---|---|
| 8 بیت | 42.3 GB | 45.7 GB | 64 GB |
| 6 بیت | 32.3 GB | 34.9 GB | 48 GB |
| 4 بیت | 22.4 GB | 24.2 GB | 36 GB |
| 3 بیت کیفیت پایین‌تر | 17.4 GB | 18.9 GB | 32 GB |
| 2 بیت کیفیت پایین‌تر | 12.4 GB | 13.9 GB | 24 GB |
روی هر تراشهٔ Apple
کوچکترین حافظهٔ هر تراشه که Recursive Flint را اجرا میکند، بهترین نسخه‌ای که در آن جا میشود و سرعت نوشتنی که می‌توانید انتظار داشته باشید.
| تراشه | نیاز | نسخه | توکن/ثانیه |
|---|---|---|---|
| M6 | 24 GB | 2 بیت خوب اجرا میشود | 96–170 |
| M5 Ultra | 96 GB | 8 بیت خوب اجرا میشود | 200–356 |
| M5 Max | 36 GB | 4 بیت خوب اجرا میشود | 148–263 |
| M5 Pro | 48 GB | 6 بیت خوب اجرا میشود | 69–123 |
| M5 | 24 GB | 2 بیت خوب اجرا میشود | 86–153 |
| M4 Max | 36 GB | 4 بیت خوب اجرا میشود | 132–234 |
| M4 Pro | 48 GB | 6 بیت خوب اجرا میشود | 61–109 |
| M4 | 24 GB | 2 بیت خوب اجرا میشود | 68–120 |
| M3 Ultra | 96 GB | 8 بیت خوب اجرا میشود | 137–243 |
| M3 Max | 36 GB | 4 بیت خوب اجرا میشود | 96–171 |
| M3 Pro | 36 GB | 4 بیت خوب اجرا میشود | 48–86 |
| M3 | 24 GB | 2 بیت خوب اجرا میشود | 56–100 |
| M2 Ultra | 64 GB | 8 بیت خوب اجرا میشود | 133–237 |
| M2 Max | 64 GB | 8 بیت خوب اجرا میشود | 67–119 |
| M2 Pro | 32 GB | 3 بیت خوب اجرا میشود | 82–145 |
| M2 | 24 GB | 2 بیت خوب اجرا میشود | 56–100 |
| M1 Ultra | 64 GB | 8 بیت خوب اجرا میشود | 133–237 |
| M1 Max | 64 GB | 8 بیت خوب اجرا میشود | 67–119 |
| M1 Pro | 32 GB | 3 بیت خوب اجرا میشود | 82–145 |
| M1 | 16 GB | 2 بیت به‌زحمت | 38–68 |
اندازه‌گیری دیگران
سرعت تولید Recursive Flint که دیگران روی Mac خودشان اندازه گرفته و بهطور عمومی منتشر کرده‌اند. این‌ها اندازه‌گیری‌های طرف سوم هستند، نه ما، و همان برآوردهای بالا نیستند.
| Mac | محیط اجرا | دقت | تولید tok/s | منبع |
|---|---|---|---|---|
| Mac Studio M3 Ultra | Ollama (MLX engine) | INT4 (QAT) | 107 | Alec Kloss @aleckloss |
| Mac Studio M3 Ultra | mlx-lm (PR #1998) | INT4 (QAT) | 104.5 | Alec Kloss @aleckloss |
| Mac Studio M3 Ultra | mlx-vlm | BF16 | 51.3با زمینه 1K | Prince Canuma @Prince_Canuma |
| Mac Studio M3 Ultra | mlx-vlm | BF16 | 33با زمینه 128K | Prince Canuma @Prince_Canuma |
| Mac mini M5 Pro 64 GB | Ollama | 4-bit | 115 | Pratik Gandhi @pratikg |
| Mac mini M5 Pro 64 GB | Ollama | 4-bit | 87با زمینه 20K | Pratik Gandhi @pratikg |
نتیجه‌ها به محیط اجرا و تنظیمات بستگی دارد: نسخه، دقت، طول زمینه، پرامپت و روشن یا خاموش بودن استدلال همه سرعت را تغییر می‌دهند.
چطور اجرایش کنید
- در Terminal با Rec، موتور خود سازنده:
curl -fsSL https://raw.githubusercontent.com/recursive-oss/rec/main/install.sh | bashrec launch piپیش‌نیازها: M4 Pro, M5 Pro or M5 Max · at least 48 GB unified memory · about 30 GB free disk · Node.js 22 and npm (for pi)نسخه: RecursiveSI/flint-int4 در Hugging Face. دقت‌های دیگر کنار آن هستند.
گام به گام: دانلود و اجرای LLM روی Mac · نحوهٔ استفاده از MLX Harness · MLX در برابر Ollama و llama.cpp
دربارهٔ Recursive Flint
| سازنده | Recursive |
|---|---|
| پارامترها | 39.8B در کل · 2.5B فعال (mixture-of-experts) |
| کانتکست | 256K توکن |
| مجوز | Apache-2.0 |
| انتشار | 2026-10 |
| ورودی | متن |
| وزنها | RecursiveSI/flint |
پرسش‌ها
- Recursive Flint چقدر حافظه لازم دارد؟
- حدود 22.4 GB برای وزنها در 4 بیت، بهعلاوهٔ جا برای کانتکست: در کل 24.2 GB. روی Mac یعنی 36 GB حافظهٔ یکپارچه یا بیشتر، چون macOS بهطور پیشفرض اجازه میدهد GPU حدود 75% آن را استفاده کند. موتور خود Recursive، یعنی Rec، به M4 Pro، M5 Pro، یا M5 Max با دستکم 48 GB حافظهٔ یکپارچه نیاز دارد (شرط سازنده).
- Recursive Flint روی Mac چقدر سریع است؟
- سرعت نوشتن به پهنای باند حافظه بستگی دارد. سریعترین Mac برای آن در اینجا یک M5 Ultra با 96 GB است، با حدود 200–356 توکن در ثانیه (8 بیت). کوچکترین Mac که آن را اجرا میکند، با 36 GB، روی یک M5 Max به حدود 148–263 میرسد.
- چرا Recursive Flint سریعتر از آنچه اندازهاش نشان میدهد اجرا میشود؟
- این یک مدل mixture-of-experts است: 39.8B پارامتر را در حافظه نگه میدارد اما برای هر توکن فقط 2.5B را میخواند، پس با سرعت مدلی بسیار کوچکتر مینویسد.
مدل‌های مشابه
برای کارت مدل یا README شما
کوچکترین Mac را که Recursive Flint را خوب اجرا میکند نشان میدهد و به اینجا لینک میدهد.
[](https://mlx.app/run/flint)چطور محاسبه شده
حافظه: پارامترهای مدل در 8، 6، 4، 3 یا 2 بیت برای هر وزن بهعلاوهٔ مقیاس‌های گروهی MLX (نیم بیت برای هر وزن)، یا قالب اصلی آن، به‌اضافهٔ جا برای کانتکست. macOS بهطور پیشفرض اجازه میدهد GPU حدود 75% حافظهٔ یکپارچه را استفاده کند. سرعت: پهنای باند حافظه تقسیم بر بایت‌هایی که برای هر توکن خوانده میشود، سقف سرعت یک گفت‌وگوست؛ در بنچمارک‌های عمومی llama.cpp روی Apple Silicon اجراهای واقعی به حدود 45% تا 80% آن می‌رسند و همین بازه نمایش داده میشود. این‌ها برآوردند، نه اندازه‌گیری: Mac خودتان را روی MLX Bench بسنجید. ارقام مدل‌ها از کارت رسمی هر مدل و ارقام تراشه‌ها از مشخصات فنی Apple است. بررسی‌شده در 2026-10-19. همان داده‌های mlx.app/compare.
دادهٔ باز: mlx.app/data (JSON, CSV)