حسب سعة الذاكرة
| الذاكرة | تعمل جيدًا | الأكبر بين ما يعمل جيدًا | gpt-oss-20b |
|---|---|---|---|
| 64 GB800 GB/s | 39 | Nemotron 3.5 Bolt 74B A9B | 189–337 tok/s |
| 128 GB800 GB/s | 47 | Qwen3.5 122B A10B | 189–337 tok/s |
| 192 GB800 GB/s | 49 | MiniMax M2.7 | 189–337 tok/s |
الطرازات: Mac Pro (2023), Mac Pro (Rack, 2023). لا تتوفر كل سعة ذاكرة مع كل طراز؛ وتذكر المواصفات التقنية لـ Apple ما يأتي به كل طراز.
أسئلة
- هل Mac Pro بشريحة M2 Ultra جيد لتشغيل نماذج LLM محليًا؟
- بذاكرة 192 GB يشغّل جيدًا 49 من أصل 73 نموذج مفتوح، حتى MiniMax M2.7، ويكتب نحو 189–337 توكن في الثانية مع gpt-oss-20b. تقرأ شريحة M2 Ultra الذاكرة بسرعة 800 GB/s، وهي التي تحدد سرعة الكتابة.
- كم ينبغي أن تكون ذاكرة Mac Pro بشريحة M2 Ultra للذكاء الاصطناعي؟
- بذاكرة 64 GB تعمل جيدًا نماذج مفتوحة عددها 39؛ وبذاكرة 192 GB عددها 49، حتى MiniMax M2.7. والذاكرة تحدد النماذج التي تتسع، ولا يمكن ترقيتها لاحقًا.
أجهزة Mac أخرى
أجهزة Mac أخرى بشريحة M2 Ultra:
وجهًا لوجه:
شريحة M2 Ultra للذكاء الاصطناعي المحلي · أفضل Mac لنماذج اللغة المحلية · كل أجهزة Mac
كيف حسبنا ذلك
الذاكرة: معاملات النموذج بدقة 8 أو 6 أو 4 أو 3 أو 2 بت لكل وزن، إضافة إلى مقاييس المجموعات في MLX (نصف بت لكل وزن)، أو صيغته الأصلية، مع مساحة للسياق فوق ذلك. افتراضيًا، يسمح macOS لوحدة الرسومات باستخدام نحو 75% من الذاكرة الموحّدة. السرعة: عرض نطاق الذاكرة مقسومًا على البايتات المقروءة لكل توكن هو الحد الأقصى لمحادثة واحدة؛ وفي اختبارات الأداء العلنية لـ llama.cpp على Apple Silicon تبلغ التشغيلات الفعلية نحو 45% إلى 80% منه، وهو النطاق المعروض. هذه تقديرات، لا قياسات: قِس جهاز Mac الخاص بك على MLX Bench. أرقام النماذج من البطاقة الرسمية لكل نموذج، وأرقام الشرائح من المواصفات التقنية لـ Apple. آخر تحقق: 2026-10-19. البيانات نفسها في mlx.app/compare.