1المواصفات المهمة للذكاء الاصطناعي
| الذاكرة الموحّدة | 512 GB |
|---|---|
| عرض نطاق الذاكرة | 819 GB/s |
| متوفرة في | Mac Studio (2025) |
| المقعد المخصّص المناسب لها | مقعد Ultra: يعدّن حتى 320 MLX يوميًا |
2النماذج التي تتسع
بدقة 4 بت لكل وزن، يحتاج النموذج إلى ما يزيد قليلًا على نصف غيغابايت لكل مليار معامل، إضافةً إلى مساحة للسياق ولنظام macOS. وبذاكرة 512 GB، تتسع شريحة M3 Ultra بارتياح لنماذج تصل إلى نحو 682 مليار معامل.
| النموذج بدقة 4 بت | الذاكرة المطلوبة | يتسع على M3 Ultra |
|---|---|---|
| نموذج 8B | 4.5 GB | نعم |
| نموذج 14B | 7.9 GB | نعم |
| نموذج 32B | 18 GB | نعم |
| نموذج 70B | 39.4 GB | نعم |
| gpt-oss-120b، مزيج من الخبراء (MoE) | 65 GB | نعم |
| Qwen3.5-397B-A17B، مزيج من الخبراء (MoE) | 223.3 GB | نعم |
| DeepSeek-V4.1-Flash، مزيج من الخبراء (MoE) | 316 GB | نعم |
3ما مدى سرعتها
كتابة النص محدودة بعرض نطاق الذاكرة: كل توكن جديد يقرأ الأوزان النشطة للنموذج مرة واحدة. وبقسمة 819 GB/s لشريحة M3 Ultra على البايتات المقروءة لكل توكن نحصل على الحد الأقصى أدناه. وعادةً تبلغ التشغيلات الفعلية نحو 45% إلى 80% منه (اختبارات llama.cpp).
| النموذج بدقة 4 بت | المقروء لكل توكن | الحد الأقصى لمحادثة واحدة |
|---|---|---|
| نموذج 8B | 4.5 GB | 182 توكن/ثانية |
| نموذج 14B | 7.9 GB | 104 توكن/ثانية |
| نموذج 32B | 18 GB | 46 توكن/ثانية |
| نموذج 70B | 39.4 GB | 21 توكن/ثانية |
| gpt-oss-120b، مزيج من الخبراء (MoE) | 2.7 GB | 303 توكن/ثانية |
| Qwen3.5-397B-A17B، مزيج من الخبراء (MoE) | 9.6 GB | 85 توكن/ثانية |
| DeepSeek-V4.1-Flash، مزيج من الخبراء (MoE) | 9 GB | 91 توكن/ثانية |
قياس فعلي: على M3 Ultra (80-core GPU)، يولّد llama.cpp 92 توكن في الثانية مع Llama-2-7B (Q4_0) في اختبارات أدائه العلنية.
5قارن بشرائح أخرى
6أسئلة
- هل تستطيع شريحة M3 Ultra تشغيل نموذج 70B؟
- نعم. يحتاج نموذج 70B بدقة 4 بت إلى نحو 40 GB، وفي شريحة M3 Ultra ما يصل إلى 512 GB. توقّع حدًا أقصى يقارب 21 توكن في الثانية لمحادثة واحدة.
- كم توكنًا في الثانية تقدّم شريحة M3 Ultra؟
- لنموذج 8B بدقة 4 بت، يبلغ الحد الأقصى نحو 182 توكن في الثانية، وتصل التشغيلات الفعلية إلى ما بين النصف وأربعة أخماس ذلك تقريبًا. والنماذج الأكبر أبطأ بالنسبة نفسها.
- هل شريحة M3 Ultra جيدة للذكاء الاصطناعي؟
- لتشغيل النماذج محليًا، الأهم هو الذاكرة وعرض النطاق. في شريحة M3 Ultra ما يصل إلى 512 GB بسرعة 819 GB/s، وهذا يكفي لنماذج تصل إلى نحو 682 مليار معامل. ويمكن أيضًا أن تكسب بها بتشغيل مهام الذكاء الاصطناعي لصالح MLX Network عبر MLX Node.
المصادر
- Apple: Mac Studio (2025) specssupport.apple.com
- llama.cpp: Apple Silicon benchmarksgithub.com