هل تستطيع شريحة M2 Max تشغيل نموذج 70B؟

نعم. يحتاج نموذج 70B بدقة 4 بت إلى نحو 40 GB، وفي شريحة M2 Max ما يصل إلى 96 GB. توقّع حدًا أقصى يقارب 10 توكن في الثانية لمحادثة واحدة.

كم توكنًا في الثانية تقدّم شريحة M2 Max؟

لنموذج 8B بدقة 4 بت، يبلغ الحد الأقصى نحو 89 توكن في الثانية، وتصل التشغيلات الفعلية إلى ما بين النصف وأربعة أخماس ذلك تقريبًا. والنماذج الأكبر أبطأ بالنسبة نفسها.

هل شريحة M2 Max جيدة للذكاء الاصطناعي؟

لتشغيل النماذج محليًا، الأهم هو الذاكرة وعرض النطاق. في شريحة M2 Max ما يصل إلى 96 GB بسرعة 400 GB/s، وهذا يكفي لنماذج تصل إلى نحو 128 مليار معامل. ويمكن أيضًا أن تكسب بها بتشغيل مهام الذكاء الاصطناعي لصالح MLX Network عبر MLX Node.

شريحة M2 Max لنماذج LLM المحلية: الذاكرة والسرعة وما يتسع

1المواصفات المهمة للذكاء الاصطناعي

الذاكرة الموحّدة	96 GB
عرض نطاق الذاكرة	400 GB/s
متوفرة في	14- and 16-inch MacBook Pro (2023), Mac Studio (2023)
المقعد المخصّص المناسب لها	مقعد Pro: يعدّن حتى 80 MLX يوميًا

2النماذج التي تتسع

بدقة 4 بت لكل وزن، يحتاج النموذج إلى ما يزيد قليلًا على نصف غيغابايت لكل مليار معامل، إضافةً إلى مساحة للسياق ولنظام macOS. وبذاكرة 96 GB، تتسع شريحة M2 Max بارتياح لنماذج تصل إلى نحو 128 مليار معامل.

النموذج بدقة 4 بت	الذاكرة المطلوبة	يتسع على M2 Max
نموذج 8B	4.5 GB	نعم
نموذج 14B	7.9 GB	نعم
نموذج 32B	18 GB	نعم
نموذج 70B	39.4 GB	نعم
gpt-oss-120b، مزيج من الخبراء (MoE)	65 GB	نعم
Qwen3.5-397B-A17B، مزيج من الخبراء (MoE)	223.3 GB	لا
DeepSeek-V4.1-Flash، مزيج من الخبراء (MoE)	316 GB	لا

3ما مدى سرعتها

كتابة النص محدودة بعرض نطاق الذاكرة: كل توكن جديد يقرأ الأوزان النشطة للنموذج مرة واحدة. وبقسمة 400 GB/s لشريحة M2 Max على البايتات المقروءة لكل توكن نحصل على الحد الأقصى أدناه. وعادةً تبلغ التشغيلات الفعلية نحو 45% إلى 80% منه (اختبارات llama.cpp).

النموذج بدقة 4 بت	المقروء لكل توكن	الحد الأقصى لمحادثة واحدة
نموذج 8B	4.5 GB	89 توكن/ثانية
نموذج 14B	7.9 GB	51 توكن/ثانية
نموذج 32B	18 GB	22 توكن/ثانية
نموذج 70B	39.4 GB	10 توكن/ثانية
gpt-oss-120b، مزيج من الخبراء (MoE)	2.7 GB	148 توكن/ثانية

5قارن بشرائح أخرى

6أسئلة

هل تستطيع شريحة M2 Max تشغيل نموذج 70B؟: نعم. يحتاج نموذج 70B بدقة 4 بت إلى نحو 40 GB، وفي شريحة M2 Max ما يصل إلى 96 GB. توقّع حدًا أقصى يقارب 10 توكن في الثانية لمحادثة واحدة.
كم توكنًا في الثانية تقدّم شريحة M2 Max؟: لنموذج 8B بدقة 4 بت، يبلغ الحد الأقصى نحو 89 توكن في الثانية، وتصل التشغيلات الفعلية إلى ما بين النصف وأربعة أخماس ذلك تقريبًا. والنماذج الأكبر أبطأ بالنسبة نفسها.
هل شريحة M2 Max جيدة للذكاء الاصطناعي؟: لتشغيل النماذج محليًا، الأهم هو الذاكرة وعرض النطاق. في شريحة M2 Max ما يصل إلى 96 GB بسرعة 400 GB/s، وهذا يكفي لنماذج تصل إلى نحو 128 مليار معامل. ويمكن أيضًا أن تكسب بها بتشغيل مهام الذكاء الاصطناعي لصالح MLX Network عبر MLX Node.

المصادر

Apple: M2 Pro and M2 Maxapple.com
llama.cpp: Apple Silicon benchmarksgithub.com