1المواصفات المهمة للذكاء الاصطناعي
| الذاكرة الموحّدة | 32 GB |
|---|---|
| عرض نطاق الذاكرة | 200 GB/s |
| متوفرة في | 14- and 16-inch MacBook Pro (2023), Mac mini (2023) |
| المقعد المخصّص المناسب لها | مقعد Pro: يعدّن حتى 80 MLX يوميًا |
2النماذج التي تتسع
بدقة 4 بت لكل وزن، يحتاج النموذج إلى ما يزيد قليلًا على نصف غيغابايت لكل مليار معامل، إضافةً إلى مساحة للسياق ولنظام macOS. وبذاكرة 32 GB، تتسع شريحة M2 Pro بارتياح لنماذج تصل إلى نحو 42 مليار معامل.
| النموذج بدقة 4 بت | الذاكرة المطلوبة | يتسع على M2 Pro |
|---|---|---|
| نموذج 8B | 4.5 GB | نعم |
| نموذج 14B | 7.9 GB | نعم |
| نموذج 32B | 18 GB | نعم |
| نموذج 70B | 39.4 GB | لا |
| gpt-oss-120b، مزيج من الخبراء (MoE) | 65 GB | لا |
| Qwen3.5-397B-A17B، مزيج من الخبراء (MoE) | 223.3 GB | لا |
| DeepSeek-V4.1-Flash، مزيج من الخبراء (MoE) | 316 GB | لا |
3ما مدى سرعتها
كتابة النص محدودة بعرض نطاق الذاكرة: كل توكن جديد يقرأ الأوزان النشطة للنموذج مرة واحدة. وبقسمة 200 GB/s لشريحة M2 Pro على البايتات المقروءة لكل توكن نحصل على الحد الأقصى أدناه. وعادةً تبلغ التشغيلات الفعلية نحو 45% إلى 80% منه (اختبارات llama.cpp).
| النموذج بدقة 4 بت | المقروء لكل توكن | الحد الأقصى لمحادثة واحدة |
|---|---|---|
| نموذج 8B | 4.5 GB | 44 توكن/ثانية |
| نموذج 14B | 7.9 GB | 25 توكن/ثانية |
| نموذج 32B | 18 GB | 11 توكن/ثانية |
5قارن بشرائح أخرى
6أسئلة
- هل تستطيع شريحة M2 Pro تشغيل نموذج 70B؟
- ليس بارتياح. يحتاج نموذج 70B بدقة 4 بت إلى نحو 40 GB، وأقصى ما في شريحة M2 Pro هو 32 GB. وتتسع جيدًا النماذج التي تصل إلى نحو 42B معامل.
- كم توكنًا في الثانية تقدّم شريحة M2 Pro؟
- لنموذج 8B بدقة 4 بت، يبلغ الحد الأقصى نحو 44 توكن في الثانية، وتصل التشغيلات الفعلية إلى ما بين النصف وأربعة أخماس ذلك تقريبًا. والنماذج الأكبر أبطأ بالنسبة نفسها.
- هل شريحة M2 Pro جيدة للذكاء الاصطناعي؟
- لتشغيل النماذج محليًا، الأهم هو الذاكرة وعرض النطاق. في شريحة M2 Pro ما يصل إلى 32 GB بسرعة 200 GB/s، وهذا يكفي لنماذج تصل إلى نحو 42 مليار معامل. ويمكن أيضًا أن تكسب بها بتشغيل مهام الذكاء الاصطناعي لصالح MLX Network عبر MLX Node.
المصادر
- Apple: M2 Pro and M2 Maxapple.com
- llama.cpp: Apple Silicon benchmarksgithub.com