حافظه در هر دقت
| نسخه | وزنها | با کانتکست | کوچکترین Mac |
|---|---|---|---|
| 8 بیت | 595 GB | 643 GB | بیش از هر Mac |
| 6 بیت | 455 GB | 491 GB | بیش از هر Mac |
| 4 بیت | 315 GB | 340 GB | 512 GB |
| 3 بیت کیفیت پایین‌تر | 245 GB | 265 GB | 512 GB |
| 2 بیت کیفیت پایین‌تر | 175 GB | 189 GB | 256 GB |
روی هر تراشهٔ Apple
کوچکترین حافظهٔ هر تراشه که Ling 3.1 Flash را اجرا میکند، بهترین نسخه‌ای که در آن جا میشود و سرعت نوشتنی که می‌توانید انتظار داشته باشید.
| تراشه | نیاز | نسخه | توکن/ثانیه |
|---|---|---|---|
| M6 | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M5 Ultra | 512 GB | 4 بیت خوب اجرا میشود | 38–68 |
| M5 Max | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M5 Pro | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M5 | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M4 Max | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M4 Pro | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M4 | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M3 Ultra | 512 GB | 4 بیت خوب اجرا میشود | 26–46 |
| M3 Max | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M3 Pro | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M3 | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M2 Ultra | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M2 Max | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M2 Pro | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M2 | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M1 Ultra | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M1 Max | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M1 Pro | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M1 | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
چطور اجرایش کنید
- در Terminal با MLX از Apple: هنوز نسخهٔ MLX وجود ندارد و mlx-lm استاندارد هنوز نمی‌تواند وزن‌های رسمی را تبدیل کند (bailing_moe_v3.py).
گام به گام: دانلود و اجرای LLM روی Mac · نحوهٔ استفاده از MLX Harness · MLX در برابر Ollama و llama.cpp
دربارهٔ Ling 3.1 Flash
| سازنده | inclusionAI |
|---|---|
| پارامترها | 560B در کل · 25B فعال (mixture-of-experts) |
| کانتکست | 256K توکن |
| مجوز | MIT |
| انتشار | 2026-10 |
| ورودی | متن |
| هوش | 41.1 در Artificial Analysis Intelligence Index |
| وزنها | inclusionAI/Ling-3.1-flash |
پرسش‌ها
- Ling 3.1 Flash چقدر حافظه لازم دارد؟
- حدود 315 GB برای وزنها در 4 بیت، بهعلاوهٔ جا برای کانتکست: در کل 340 GB. روی Mac یعنی 512 GB حافظهٔ یکپارچه یا بیشتر، چون macOS بهطور پیشفرض اجازه میدهد GPU حدود 75% آن را استفاده کند.
- Ling 3.1 Flash روی Mac چقدر سریع است؟
- سرعت نوشتن به پهنای باند حافظه بستگی دارد. سریعترین Mac برای آن در اینجا یک M5 Ultra با 512 GB است، با حدود 38–68 توکن در ثانیه (4 بیت). کوچکترین Mac که آن را اجرا میکند، با 512 GB، روی یک M5 Ultra به حدود 38–68 میرسد.
- چرا Ling 3.1 Flash سریعتر از آنچه اندازهاش نشان میدهد اجرا میشود؟
- این یک مدل mixture-of-experts است: 560B پارامتر را در حافظه نگه میدارد اما برای هر توکن فقط 25B را میخواند، پس با سرعت مدلی بسیار کوچکتر مینویسد.
مدل‌های مشابه
برای کارت مدل یا README شما
کوچکترین Mac را که Ling 3.1 Flash را خوب اجرا میکند نشان میدهد و به اینجا لینک میدهد.
[](https://mlx.app/run/ling-3.1-flash)چطور محاسبه شده
حافظه: پارامترهای مدل در 8، 6، 4، 3 یا 2 بیت برای هر وزن بهعلاوهٔ مقیاس‌های گروهی MLX (نیم بیت برای هر وزن)، یا قالب اصلی آن، به‌اضافهٔ جا برای کانتکست. macOS بهطور پیشفرض اجازه میدهد GPU حدود 75% حافظهٔ یکپارچه را استفاده کند. سرعت: پهنای باند حافظه تقسیم بر بایت‌هایی که برای هر توکن خوانده میشود، سقف سرعت یک گفت‌وگوست؛ در بنچمارک‌های عمومی llama.cpp روی Apple Silicon اجراهای واقعی به حدود 45% تا 80% آن می‌رسند و همین بازه نمایش داده میشود. این‌ها برآوردند، نه اندازه‌گیری: Mac خودتان را روی MLX Bench بسنجید. ارقام مدل‌ها از کارت رسمی هر مدل و ارقام تراشه‌ها از مشخصات فنی Apple است. بررسی‌شده در 2026-10-19. همان داده‌های mlx.app/compare.
دادهٔ باز: mlx.app/data (JSON, CSV)