حسب سعة الذاكرة
| الذاكرة | تعمل جيدًا | الأكبر بين ما يعمل جيدًا | gpt-oss-20b |
|---|---|---|---|
| 24 GB273 GB/s | 25 | Gemma 4 26B A4B | 65–115 tok/s |
| 48 GB273 GB/s | 30 | Qwen3.6 35B A3B | 65–115 tok/s |
| 64 GB273 GB/s | 31 | Nemotron 3.5 Bolt 74B A9B | 65–115 tok/s |
الطرازات: Mac mini (2024). لا تتوفر كل سعة ذاكرة مع كل طراز؛ وتذكر المواصفات التقنية لـ Apple ما يأتي به كل طراز.
أسئلة
- هل Mac mini بشريحة M4 Pro جيد لتشغيل نماذج LLM محليًا؟
- بذاكرة 64 GB يشغّل جيدًا 31 من أصل 73 نموذج مفتوح، حتى Nemotron 3.5 Bolt 74B A9B، ويكتب نحو 65–115 توكن في الثانية مع gpt-oss-20b. تقرأ شريحة M4 Pro الذاكرة بسرعة 273 GB/s، وهي التي تحدد سرعة الكتابة.
- كم ينبغي أن تكون ذاكرة Mac mini بشريحة M4 Pro للذكاء الاصطناعي؟
- بذاكرة 24 GB تعمل جيدًا نماذج مفتوحة عددها 25؛ وبذاكرة 64 GB عددها 31، حتى Nemotron 3.5 Bolt 74B A9B. والذاكرة تحدد النماذج التي تتسع، ولا يمكن ترقيتها لاحقًا.
أجهزة Mac أخرى
Mac mini بشرائح أخرى:
أجهزة Mac أخرى بشريحة M4 Pro:
وجهًا لوجه:
مقابل أجهزة PC وبطاقات الرسوميات:
شريحة M4 Pro للذكاء الاصطناعي المحلي · أفضل Mac لنماذج اللغة المحلية · كل أجهزة Mac
كيف حسبنا ذلك
الذاكرة: معاملات النموذج بدقة 8 أو 6 أو 4 أو 3 أو 2 بت لكل وزن، إضافة إلى مقاييس المجموعات في MLX (نصف بت لكل وزن)، أو صيغته الأصلية، مع مساحة للسياق فوق ذلك. افتراضيًا، يسمح macOS لوحدة الرسومات باستخدام نحو 75% من الذاكرة الموحّدة. السرعة: عرض نطاق الذاكرة مقسومًا على البايتات المقروءة لكل توكن هو الحد الأقصى لمحادثة واحدة؛ وفي اختبارات الأداء العلنية لـ llama.cpp على Apple Silicon تبلغ التشغيلات الفعلية نحو 45% إلى 80% منه، وهو النطاق المعروض. هذه تقديرات، لا قياسات: قِس جهاز Mac الخاص بك على MLX Bench. أرقام النماذج من البطاقة الرسمية لكل نموذج، وأرقام الشرائح من المواصفات التقنية لـ Apple. آخر تحقق: 2026-10-19. البيانات نفسها في mlx.app/compare.