حافظه در هر دقت
| نسخه | وزنها | با کانتکست | کوچک‌ترین Mac |
|---|---|---|---|
| 8 بیت | 2.6 TB | 2.8 TB | بیش از هر Mac |
| 6 بیت | 2 TB | 2.1 TB | بیش از هر Mac |
| 4 بیت | 1.4 TB | 1.5 TB | بیش از هر Mac |
| 3 بیت کیفیت پایین‌تر | 1.1 TB | 1.1 TB | بیش از هر Mac |
| 2 بیت کیفیت پایین‌تر | 750 GB | 810 GB | بیش از هر Mac |
روی هر تراشهٔ Apple
کوچک‌ترین حافظهٔ هر تراشه که Qwen3.8 2.4T A95B را اجرا می‌کند، بهترین نسخه‌ای که در آن جا میشود و سرعت نوشتنی که می‌توانید انتظار داشته باشید.
| تراشه | نیاز | نسخه | توکن/ثانیه |
|---|---|---|---|
| M6 | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M5 Ultra | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M5 Max | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M5 Pro | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M5 | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M4 Max | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M4 Pro | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M4 | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M3 Ultra | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M3 Max | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M3 Pro | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M3 | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M2 Ultra | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M2 Max | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M2 Pro | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M2 | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M1 Ultra | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M1 Max | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M1 Pro | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M1 | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
چطور اجرایش کنید
هیچ Mac تکی جایش را ندارد. مدل‌های کوچکتر زیر خوب اجرا می‌شوند، و راهنمای خوشه‌های Mac پخش کردن یک مدل روی چند Mac را توضیح میدهد.
گام به گام: دانلود و اجرای LLM روی Mac · نحوهٔ استفاده از MLX Harness · MLX در برابر Ollama و llama.cpp
دربارهٔ Qwen3.8 2.4T A95B
| سازنده | Qwen (Alibaba) |
|---|---|
| پارامترها | 2,400B در کل · 95B فعال (mixture-of-experts) |
| کانتکست | 256K توکن |
| مجوز | Qwen3.8-Max license (qwen3.8-max) |
| انتشار | 2026-08 |
| ورودی | متن |
| هوش | 39.9 در Artificial Analysis Intelligence Index |
| وزنها | Qwen/Qwen3.8-2.4T-A95B |
پرسش‌ها
- Qwen3.8 2.4T A95B چقدر حافظه لازم دارد؟
- حدود 1.4 TB برای وزنها در 4 بیت، بهعلاوهٔ جا برای کانتکست: در کل 1.5 TB. این بیش از حافظهٔ هر Mac امروزی است.
- آیا Macی هست که بتواند Qwen3.8 2.4T A95B را اجرا کند؟
- نه بهتنهایی: حتی در 2 بیت بیش از حافظهٔ بزرگترین Mac لازم دارد. از مدل کوچکتری استفاده کنید، یا با یک رانتایم خوشهای آن را روی چند Mac پخش کنید.
- چرا Qwen3.8 2.4T A95B سریعتر از آنچه اندازهاش نشان میدهد اجرا میشود؟
- این یک مدل mixture-of-experts است: 2,400B پارامتر را در حافظه نگه میدارد اما برای هر توکن فقط 95B را میخواند، پس با سرعت مدلی بسیار کوچکتر مینویسد.
مدل‌های مشابه
برای کارت مدل یا README شما
کوچک‌ترین Mac را که Qwen3.8 2.4T A95B را خوب اجرا می‌کند نشان میدهد و به اینجا لینک میدهد.
[](https://mlx.app/run/qwen3.8-2.4t-a95b)چطور محاسبه شده
حافظه: پارامترهای مدل در 8، 6، 4، 3 یا 2 بیت برای هر وزن بهعلاوهٔ مقیاس‌های گروهی MLX (نیم بیت برای هر وزن)، یا قالب اصلی آن، به‌اضافهٔ جا برای کانتکست. macOS به‌طور پیش‌فرض اجازه میدهد GPU حدود 75% حافظهٔ یکپارچه را استفاده کند. سرعت: پهنای باند حافظه تقسیم بر بایت‌هایی که برای هر توکن خوانده میشود، سقف سرعت یک گفت‌وگوست؛ در بنچمارک‌های عمومی llama.cpp روی Apple Silicon اجراهای واقعی به حدود 45% تا 80% آن می‌رسند و همین بازه نمایش داده میشود. این‌ها برآوردند، نه اندازه‌گیری: Mac خودتان را روی MLX Bench بسنجید. ارقام مدل‌ها از کارت رسمی هر مدل و ارقام تراشه‌ها از مشخصات فنی Apple است. بررسی‌شده در 2026-10-19. همان داده‌های mlx.app/compare.