هل يستطيع Mac تشغيل Mistral Small 3.2 (24B)؟

نعم، بذاكرة موحّدة 24 GB أو أكثر. يضم Mistral Small 3.2 (24B) عدد 24B من المعاملات؛ إليك الذاكرة التي يحتاجها بكل دقة، وسرعة تشغيله على كل شريحة من Apple.

الذاكرة بدقة 4 بت15 GBالأوزان 13.5 GB + السياق
أصغر Mac24 GB4 بت · إعدادات Mac: 55
أسرع Mac21–38توكن/ثانية · M5 Ultra 96 GB (تقدير)

الذاكرة بكل دقة

الإصدارالأوزانمع السياقأصغر Mac
8 بت25.5 GB27.5 GB48 GB
6 بت19.5 GB21.1 GB32 GB
4 بت13.5 GB15 GB24 GB
3 بت جودة أقل10.5 GB12 GB16 GB
2 بت جودة أقل7.5 GB9 GB16 GB

على كل شريحة من Apple

أصغر سعة ذاكرة لكل شريحة تشغّل Mistral Small 3.2 (24B)، وأفضل إصدار يتسع فيها، وسرعة الكتابة المتوقعة.

الشريحةيحتاجالإصدارتوكن/ثانية
M624 GB4 بت بطيء6–10
M5 Ultra96 GB8 بت يعمل جيدًا21–38
M5 Max36 GB6 بت يعمل جيدًا11–19
M5 Pro24 GB4 بت يعمل جيدًا10–18
M524 GB4 بت بطيء5–9
M4 Max36 GB4 بت يعمل جيدًا14–24
M4 Pro24 GB4 بت بطيء9–16
M424 GB4 بت بطيء4–7
M3 Ultra96 GB8 بت يعمل جيدًا14–26
M3 Max36 GB4 بت يعمل جيدًا10–18
M3 Pro36 GB6 بت بطيء3–6
M324 GB4 بت بطيء3–6
M2 Ultra64 GB8 بت يعمل جيدًا14–25
M2 Max32 GB4 بت يعمل جيدًا13–24
M2 Pro32 GB6 بت بطيء5–8
M224 GB4 بت بطيء3–6
M1 Ultra64 GB8 بت يعمل جيدًا14–25
M1 Max32 GB4 بت يعمل جيدًا13–24
M1 Pro32 GB6 بت بطيء5–8
M116 GB3 بت بطيء3–5

كيف تشغّله

  1. الطريقة السهلة: نزّل MLX Harness، المجاني ومفتوح المصدر. ابحث عن Mistral Small 3.2 (24B)، ونزّل الإصدار الذي يناسب جهاز Mac، وابدأ المحادثة. ويقدّم النموذج أيضًا لتطبيقاتك الأخرى عبر واجهة API متوافقة مع OpenAI.تنزيل MLX Harnessمجاني · Apple Silicon · macOS 14.5 أو أحدث
  2. في Terminal باستخدام MLX من Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/Mistral-Small-3.2-24B-Instruct-2506-4bitالإصدار: mlx-community/Mistral-Small-3.2-24B-Instruct-2506-4bit على Hugging Face. الدقّات الأخرى بجانبه.

خطوة بخطوة: نزّل نماذج LLM وشغّلها على Mac · كيف تستخدم MLX Harness · MLX مقابل Ollama مقابل llama.cpp

عن Mistral Small 3.2 (24B)

المطوّرMistral AI
المعاملات24B (كثيف)
السياق128K توكن
الترخيصApache-2.0
تاريخ الإصدار2025-06
المدخلاتنص وصور
الأوزانmistralai/Mistral-Small-3.2-24B-Instruct-2506

أسئلة

كم ذاكرة يحتاج Mistral Small 3.2 (24B)؟
نحو 13.5 GB للأوزان بدقة 4 بت، إضافة إلى مساحة للسياق: 15 GB إجمالًا. على Mac يعني ذلك ذاكرة موحّدة 24 GB أو أكثر، لأن macOS يسمح افتراضيًا لوحدة الرسومات باستخدام نحو 75% منها.
ما سرعة Mistral Small 3.2 (24B) على Mac؟
تعتمد سرعة الكتابة على عرض نطاق الذاكرة. أسرع Mac له هنا هو M5 Ultra بذاكرة 96 GB، بنحو 21–38 توكن في الثانية (8 بت). وأصغر Mac يشغّله، بذاكرة 24 GB، يبلغ نحو 10–18 على M5 Pro.
هل يضر التكميم بـ Mistral Small 3.2 (24B)؟
بدقة 4 بت تبقى معظم النماذج قريبة من الجودة الأصلية؛ وتحت 4 بت تنخفض الجودة أسرع. اختر أعلى دقة تتسع في جهاز Mac مع هامش كافٍ.

نماذج مشابهة

كل النماذج · كل أجهزة Mac · قارن جهاز Mac

لبطاقة نموذجك أو ملف README

Runs on a Mac: Mistral Small 3.2 (24B) تعرض أصغر Mac يشغّل Mistral Small 3.2 (24B) جيدًا، وترتبط بهذه الصفحة.

[![Runs on a Mac](https://mlx.app/badge/run/mistral-small-3.2.svg)](https://mlx.app/run/mistral-small-3.2)

كيف حسبنا ذلك

الذاكرة: معاملات النموذج بدقة 8 أو 6 أو 4 أو 3 أو 2 بت لكل وزن، إضافة إلى مقاييس المجموعات في MLX (نصف بت لكل وزن)، أو صيغته الأصلية، مع مساحة للسياق فوق ذلك. افتراضيًا، يسمح macOS لوحدة الرسومات باستخدام نحو 75% من الذاكرة الموحّدة. السرعة: عرض نطاق الذاكرة مقسومًا على البايتات المقروءة لكل توكن هو الحد الأقصى لمحادثة واحدة؛ وفي اختبارات الأداء العلنية لـ llama.cpp على Apple Silicon تبلغ التشغيلات الفعلية نحو 45% إلى 80% منه، وهو النطاق المعروض. هذه تقديرات، لا قياسات: قِس جهاز Mac الخاص بك على MLX Bench. أرقام النماذج من البطاقة الرسمية لكل نموذج، وأرقام الشرائح من المواصفات التقنية لـ Apple. آخر تحقق: 2026-10-19. البيانات نفسها في mlx.app/compare.

هل يشغّل Mac نموذج Mistral Small 3.2 (24B)؟ الذاكرة والسرعة