تسجيل الدخولإنشاء محفظة

ماذا تشغّل شريحة M5 Ultra بذاكرة 96 GB؟

44 من أصل 73 نموذج مفتوح تعمل عليه جيدًا. تستطيع وحدة الرسومات افتراضيًا استخدام نحو 72 GB من ذاكرته البالغة 96 GB، ويقرأ الذاكرة بسرعة 1,200 GB/s، وهي التي تحدد سرعة الكتابة. موجودة في: Mac Studio (M5 Max or M5 Ultra).

الأذكى بين ما يعمل جيدًاQwen3.8 27B8 بت · 28.7 GB · 19–33 tok/sالأكبر بين ما يعمل جيدًاgpt-oss-120b4.25 بت أصلية · 65.3 GB · 200–356 tok/sللبرمجةQwen3 Coder Next6 بت · 65 GB · 225–400 tok/s

تعمل جيدًا 51

يتسع مع مساحة للسياق، بسرعة 10 توكنات أو أكثر في الثانية.

النموذجالإصدارالذاكرةتوكن/ثانية
Qwen3.8 27B27B · الذكاء 33.78 بت28.7 GB19–33
Nemotron 3.5 Bolt 74B A9B74B · 9B نشطة · الذكاء 21.46 بت60.1 GB74–132
Qwen3.6 35B A3B35B · 3B نشطة · الذكاء 18.28 بت37.2 GB169–300
Muse Glimmer 30B29.6B · الذكاء 17.58 بت31.5 GB17–30
Gemma 4 31B30.7B · الذكاء 14.78 بت32.6 GB17–29
Nemotron 3.5 Lightning 30B A3B30B · 3B نشطة · الذكاء 12.98 بت31.9 GB169–300
Granite 4.2 30B30B · الذكاء 12.78 بت31.9 GB17–30
MiniCPM5 2B2.52B · الذكاء 12.58 بت2.7 GB200–356
gpt-oss-120b117B · 5.1B نشطة · الذكاء 11.64.25 بت أصلية65.3 GB200–356
Qwen3.5 9B9B · الذكاء 11.28 بت9.6 GB56–100
Granite 4.2 8B8B · الذكاء 11.18 بت8.5 GB64–113
Qwen3 Coder Next80B · 3B نشطة · الذكاء 9.26 بت65 GB225–400
Granite 4.2 3B3B · الذكاء 9.18 بت3.2 GB169–300
gpt-oss-20b21B · 3.6B نشطة · الذكاء 94.25 بت أصلية13.8 GB284–505
Nemotron 3 Nano 30B A3B30B · 3.5B نشطة · الذكاء 8.98 بت31.9 GB146–259
Gemma 4 E4B8B · الذكاء 8.98 بت8.5 GB113–200
Llama 4 Scout 17B-16E Instruct109B · 17B نشطة · الذكاء 6.54 بت61.3 GB56–100
Ministral 3 8B8.9B · الذكاء 5.58 بت9.5 GB57–101
Nemotron 3 Nano 4B3.97B · الذكاء 4.88 بت4.2 GB129–229
GLM-4.5 Air106B · 12B نشطة4 بت59.6 GB79–141
Llama 3.3 70B Instruct70B4 بت39.4 GB14–24
Qwen3 Coder 30B A3B Instruct30.5B · 3.3B نشطة8 بت32.4 GB154–274
GLM-4.7 Flash30B · 3B نشطة8 بت31.9 GB169–300
Qwen3.6 27B27B8 بت28.7 GB19–33
Gemma 4 26B A4B25.2B · 3.8B نشطة8 بت26.8 GB135–240
Devstral Small 2 (24B)24B8 بت25.5 GB21–38
Magistral Small 1.2 (2509)24B8 بت25.5 GB21–38
Mistral Small 3.2 (24B)24B8 بت25.5 GB21–38
LFM2.5 24B A2B24B · 2B نشطة8 بت25.5 GB257–457
Phi-4 Reasoning Vision 15B15B8 بت15.9 GB34–60
Phi-4 (14B)14B8 بت14.9 GB36–64
Gemma 4 12B Unified12B8 بت12.7 GB43–76
Qwen3 8B8.2B8 بت8.7 GB62–110
Llama 3.1 8B Instruct8B8 بت8.5 GB64–113
Gemma 4 E2B5.1B8 بت5.4 GB225–400
Qwen3.5 4B4B8 بت4.3 GB126–223
Phi-4 mini instruct3.8B8 بت4 GB135–240
Llama 3.2 3B Instruct3.21B8 بت3.4 GB159–282
SmolLM3 3B3B8 بت3.2 GB169–300
LFM2.5 2.6B2.69B8 بت2.9 GB186–331
Qwen3.5 2B2B8 بت2.1 GB257–457
Llama 3.2 1B Instruct1.23B8 بت1.3 GB415–738
Qwen3.5 0.8B0.8B8 بت0.9 GB600–1067
Qwen3 0.6B0.6B8 بت0.6 GB900–1600
Qwen3.8 Flash Next180B · 6B نشطة · الذكاء 39.82 بت جودة أقل56.3 GB284–505
Qwen3.5 122B A10B122B · 10B نشطة · الذكاء 15.63 بت جودة أقل53.4 GB123–218
Mistral Medium 3.5 (128B)128B · الذكاء 14.23 بت جودة أقل56 GB10–17
Mistral Small 4 (119B)119B · 6.5B نشطة · الذكاء 11.33 بت جودة أقل52.1 GB193–343
Devstral 2 (123B)123B3 بت جودة أقل53.8 GB10–18
Ornith 1.5 122B122B · 10B نشطة3 بت جودة أقل53.4 GB123–218
Nemotron 3 Super 120B A12B120B · 12B نشطة3 بت جودة أقل52.5 GB102–181

تتسع بالكاد 1

يحتاج إلى معظم الذاكرة تقريبًا: ارفع حد ذاكرة وحدة الرسومات وأبقِ السياق قصيرًا.

النموذجالإصدارالذاكرةتوكن/ثانية
MiniMax M2.7230B · 10B نشطة2 بت جودة أقل71.9 GB174–310

كبيرة جدًا 21

يحتاج إلى أكثر من 96 GB من الذاكرة، حتى بدقة 2 بت.

أجهزة Mac أخرى

كل أجهزة Mac بذاكرة 96 GB، من أي شريحة.

شريحة M5 Ultra بذاكرة أكبر أو أصغر:

شرائح قريبة:

وجهًا لوجه:

مقابل أجهزة PC وبطاقات الرسوميات:

قارنها بأي Mac أو وحدة رسومات · شريحة M5 Ultra للذكاء الاصطناعي المحلي · أفضل Mac لنماذج اللغة المحلية · كل أجهزة Mac

أسئلة

ما أفضل نموذج LLM لشريحة M5 Ultra بذاكرة 96 GB؟
من بين النماذج التي لها Intelligence Index منشور، يحقق Qwen3.8 27B أعلى درجة بين ما يعمل هنا جيدًا: 8 بت، بنحو 19–33 توكن في الثانية. وأكبر ما يعمل جيدًا هو gpt-oss-120b.
هل تشغّل شريحة M5 Ultra بذاكرة 96 GB نموذج Llama 3.3 70B؟
نعم: بدقة 4 بت، بنحو 14–24 توكن في الثانية.
ما سرعة gpt-oss-20b على شريحة M5 Ultra؟
نحو 284–505 توكن في الثانية (4.25 بت أصلية)، انطلاقًا من عرض نطاق ذاكرة الشريحة البالغ 1,200 GB/s.

شغّلها بـ MLX Harness (مجاني ومفتوح المصدر) أو بـ mlx-lm من Apple في Terminal: خطوة بخطوة.

كيف حسبنا ذلك

الذاكرة: معاملات النموذج بدقة 8 أو 6 أو 4 أو 3 أو 2 بت لكل وزن، إضافة إلى مقاييس المجموعات في MLX (نصف بت لكل وزن)، أو صيغته الأصلية، مع مساحة للسياق فوق ذلك. افتراضيًا، يسمح macOS لوحدة الرسومات باستخدام نحو 75% من الذاكرة الموحّدة. السرعة: عرض نطاق الذاكرة مقسومًا على البايتات المقروءة لكل توكن هو الحد الأقصى لمحادثة واحدة؛ وفي اختبارات الأداء العلنية لـ llama.cpp على Apple Silicon تبلغ التشغيلات الفعلية نحو 45% إلى 80% منه، وهو النطاق المعروض. هذه تقديرات، لا قياسات: قِس جهاز Mac الخاص بك على MLX Bench. أرقام النماذج من البطاقة الرسمية لكل نموذج، وأرقام الشرائح من المواصفات التقنية لـ Apple. آخر تحقق: 2026-10-19. البيانات نفسها في mlx.app/compare.

ما نماذج LLM التي تشغّلها شريحة M5 Ultra بذاكرة 96 GB؟