حافظه در هر دقت
| نسخه | وزنها | با کانتکست | کوچکترین Mac |
|---|---|---|---|
| 8 بیت | 131 GB | 141 GB | 192 GB |
| 6 بیت | 99.9 GB | 108 GB | 192 GB |
| 4 بیت | 69.2 GB | 74.7 GB | 128 GB |
| 3 بیت کیفیت پایین‌تر | 53.8 GB | 58.1 GB | 96 GB |
| 2 بیت کیفیت پایین‌تر | 38.4 GB | 41.5 GB | 64 GB |
روی هر تراشهٔ Apple
کوچکترین حافظهٔ هر تراشه که Devstral 2 (123B) را اجرا میکند، بهترین نسخه‌ای که در آن جا می‌شود و سرعت نوشتنی که می‌توانید انتظار داشته باشید.
| تراشه | نیاز | نسخه | توکن/ثانیه |
|---|---|---|---|
| M6 | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M5 Ultra | 256 GB | 8 بیت کند | 4–7 |
| M5 Max | 128 GB | 4 بیت کند | 4–7 |
| M5 Pro | 64 GB | 2 بیت کند | 4–6 |
| M5 | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M4 Max | 128 GB | 4 بیت کند | 4–6 |
| M4 Pro | 64 GB | 2 بیت کند | 3–6 |
| M4 | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M3 Ultra | 256 GB | 8 بیت کند | 3–5 |
| M3 Max | 128 GB | 4 بیت کند | 3–5 |
| M3 Pro | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M3 | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M2 Ultra | 128 GB | 4 بیت کند | 5–9 |
| M2 Max | 64 GB | 2 بیت کند | 5–8 |
| M2 Pro | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M2 | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M1 Ultra | 128 GB | 4 بیت کند | 5–9 |
| M1 Max | 64 GB | 2 بیت کند | 5–8 |
| M1 Pro | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
| M1 | هیچ اندازه‌ای کافی نیست | خیلی بزرگ | – |
چطور اجرایش کنید
- راه آسان: MLX Harness را دانلود کنید، رایگان و متن‌باز. Devstral 2 (123B) را جست‌وجو کنید، نسخه‌ای را که در Mac شما جا می‌شود دانلود کنید و گفت‌وگو را شروع کنید. همچنین مدل را از طریق یک API سازگار با OpenAI در اختیار اپ‌های دیگرتان می‌گذارد.دانلود MLX Harnessرایگان · Apple Silicon · macOS 14.5 یا جدیدتر
- در Terminal با MLX از Apple:
pip install mlx-lmmlx_lm.chat --model mlx-community/Devstral-2-123B-Instruct-2512-4bitنسخه: mlx-community/Devstral-2-123B-Instruct-2512-4bit در Hugging Face. دقت‌های دیگر کنار آن هستند.
گام به گام: دانلود و اجرای LLM روی Mac · نحوهٔ استفاده از MLX Harness · MLX در برابر Ollama و llama.cpp
دربارهٔ Devstral 2 (123B)
| سازنده | Mistral AI |
|---|---|
| پارامترها | 123B (متراکم) |
| کانتکست | 256K توکن |
| مجوز | Modified MIT |
| انتشار | 2025-11 |
| ورودی | متن |
| وزنها | mistralai/Devstral-2-123B-Instruct-2512 |
پرسش‌ها
- Devstral 2 (123B) چقدر حافظه لازم دارد؟
- حدود 69.2 GB برای وزنها در 4 بیت، بهعلاوهٔ جا برای کانتکست: در کل 74.7 GB. روی Mac یعنی 128 GB حافظهٔ یکپارچه یا بیشتر، چون macOS بهطور پیشفرض اجازه میدهد GPU حدود 75% آن را استفاده کند.
- Devstral 2 (123B) روی Mac چقدر سریع است؟
- سرعت نوشتن به پهنای باند حافظه بستگی دارد. سریعترین Mac برای آن در اینجا یک M2 Ultra با 128 GB است، با حدود 5–9 توکن در ثانیه (4 بیت). کوچکترین Mac که آن را اجرا میکند، با 128 GB، روی یک M2 Ultra به حدود 5–9 میرسد.
- آیا کوانتیزاسیون به Devstral 2 (123B) آسیب میزند؟
- در 4 بیت بیشتر مدلها به کیفیت اصلی نزدیک میمانند؛ زیر 4 بیت کیفیت سریعتر افت میکند. بالاترین دقتی را انتخاب کنید که با جای اضافه در Mac شما جا شود.
مدل‌های مشابه
برای کارت مدل یا README شما
کوچکترین Mac را که Devstral 2 (123B) را خوب اجرا میکند نشان میدهد و به اینجا لینک میدهد.
[](https://mlx.app/run/devstral-2-123b)چطور محاسبه شده
حافظه: پارامترهای مدل در 8، 6، 4، 3 یا 2 بیت برای هر وزن بهعلاوهٔ مقیاس‌های گروهی MLX (نیم بیت برای هر وزن)، یا قالب اصلی آن، به‌اضافهٔ جا برای کانتکست. macOS بهطور پیشفرض اجازه میدهد GPU حدود 75% حافظهٔ یکپارچه را استفاده کند. سرعت: پهنای باند حافظه تقسیم بر بایت‌هایی که برای هر توکن خوانده می‌شود، سقف سرعت یک گفت‌وگوست؛ در بنچمارک‌های عمومی llama.cpp روی Apple Silicon اجراهای واقعی به حدود 45% تا 80% آن می‌رسند و همین بازه نمایش داده می‌شود. این‌ها برآوردند، نه اندازه‌گیری: Mac خودتان را روی MLX Bench بسنجید. ارقام مدلها از کارت رسمی هر مدل و ارقام تراشه‌ها از مشخصات فنی Apple است. بررسی‌شده در 2026-10-19. همان داده‌های mlx.app/compare.