حسب سعة الذاكرة
| الذاكرة | تعمل جيدًا | الأكبر بين ما يعمل جيدًا | gpt-oss-20b |
|---|---|---|---|
| 24 GB307 GB/s | 28 | Gemma 4 26B A4B | 73–129 tok/s |
| 48 GB307 GB/s | 33 | Qwen3.6 35B A3B | 73–129 tok/s |
| 64 GB307 GB/s | 34 | Nemotron 3.5 Bolt 74B A9B | 73–129 tok/s |
الطرازات: Mac mini (M6 or M5 Pro). لا تتوفر كل سعة ذاكرة مع كل طراز؛ وتذكر المواصفات التقنية لـ Apple ما يأتي به كل طراز.
أسئلة
- هل Mac mini بشريحة M5 Pro جيد لتشغيل نماذج LLM محليًا؟
- بذاكرة 64 GB يشغّل جيدًا 34 من أصل 73 نموذج مفتوح، حتى Nemotron 3.5 Bolt 74B A9B، ويكتب نحو 73–129 توكن في الثانية مع gpt-oss-20b. تقرأ شريحة M5 Pro الذاكرة بسرعة 307 GB/s، وهي التي تحدد سرعة الكتابة.
- كم ينبغي أن تكون ذاكرة Mac mini بشريحة M5 Pro للذكاء الاصطناعي؟
- بذاكرة 24 GB تعمل جيدًا نماذج مفتوحة عددها 28؛ وبذاكرة 64 GB عددها 34، حتى Nemotron 3.5 Bolt 74B A9B. والذاكرة تحدد النماذج التي تتسع، ولا يمكن ترقيتها لاحقًا.
أجهزة Mac أخرى
Mac mini بشرائح أخرى:
أجهزة Mac أخرى بشريحة M5 Pro:
وجهًا لوجه:
شريحة M5 Pro للذكاء الاصطناعي المحلي · أفضل Mac لنماذج اللغة المحلية · كل أجهزة Mac
كيف حسبنا ذلك
الذاكرة: معاملات النموذج بدقة 8 أو 6 أو 4 أو 3 أو 2 بت لكل وزن، إضافة إلى مقاييس المجموعات في MLX (نصف بت لكل وزن)، أو صيغته الأصلية، مع مساحة للسياق فوق ذلك. افتراضيًا، يسمح macOS لوحدة الرسومات باستخدام نحو 75% من الذاكرة الموحّدة. السرعة: عرض نطاق الذاكرة مقسومًا على البايتات المقروءة لكل توكن هو الحد الأقصى لمحادثة واحدة؛ وفي اختبارات الأداء العلنية لـ llama.cpp على Apple Silicon تبلغ التشغيلات الفعلية نحو 45% إلى 80% منه، وهو النطاق المعروض. هذه تقديرات، لا قياسات: قِس جهاز Mac الخاص بك على MLX Bench. أرقام النماذج من البطاقة الرسمية لكل نموذج، وأرقام الشرائح من المواصفات التقنية لـ Apple. آخر تحقق: 2026-10-19. البيانات نفسها في mlx.app/compare.