تسجيل الدخولإنشاء محفظة

ماذا تشغّل شريحة M3 Ultra بذاكرة 96 GB؟

43 من أصل 73 نموذج مفتوح تعمل عليه جيدًا. تستطيع وحدة الرسومات افتراضيًا استخدام نحو 72 GB من ذاكرته البالغة 96 GB، ويقرأ الذاكرة بسرعة 819 GB/s، وهي التي تحدد سرعة الكتابة. موجودة في: Mac Studio (2025).

الأذكى بين ما يعمل جيدًاQwen3.8 27B8 بت · 28.7 GB · 13–23 tok/sالأكبر بين ما يعمل جيدًاgpt-oss-120b4.25 بت أصلية · 65.3 GB · 137–243 tok/sللبرمجةQwen3 Coder Next6 بت · 65 GB · 154–273 tok/s

تعمل جيدًا 48

يتسع مع مساحة للسياق، بسرعة 10 توكنات أو أكثر في الثانية.

النموذجالإصدارالذاكرةتوكن/ثانية
Qwen3.8 27B27B · الذكاء 33.78 بت28.7 GB13–23
Nemotron 3.5 Bolt 74B A9B74B · 9B نشطة · الذكاء 21.46 بت60.1 GB50–90
Qwen3.6 35B A3B35B · 3B نشطة · الذكاء 18.28 بت37.2 GB115–205
Muse Glimmer 30B29.6B · الذكاء 17.58 بت31.5 GB12–21
Gemma 4 31B30.7B · الذكاء 14.78 بت32.6 GB11–20
Nemotron 3.5 Lightning 30B A3B30B · 3B نشطة · الذكاء 12.98 بت31.9 GB115–205
Granite 4.2 30B30B · الذكاء 12.78 بت31.9 GB12–21
MiniCPM5 2B2.52B · الذكاء 12.58 بت2.7 GB137–243
gpt-oss-120b117B · 5.1B نشطة · الذكاء 11.64.25 بت أصلية65.3 GB137–243
Qwen3.5 9B9B · الذكاء 11.28 بت9.6 GB38–68
Granite 4.2 8B8B · الذكاء 11.18 بت8.5 GB43–77
Qwen3 Coder Next80B · 3B نشطة · الذكاء 9.26 بت65 GB154–273
Granite 4.2 3B3B · الذكاء 9.18 بت3.2 GB115–205
gpt-oss-20b21B · 3.6B نشطة · الذكاء 94.25 بت أصلية13.8 GB194–345
Nemotron 3 Nano 30B A3B30B · 3.5B نشطة · الذكاء 8.98 بت31.9 GB100–177
Gemma 4 E4B8B · الذكاء 8.98 بت8.5 GB77–137
Llama 4 Scout 17B-16E Instruct109B · 17B نشطة · الذكاء 6.54 بت61.3 GB38–68
Ministral 3 8B8.9B · الذكاء 5.58 بت9.5 GB39–69
Nemotron 3 Nano 4B3.97B · الذكاء 4.88 بت4.2 GB88–156
GLM-4.5 Air106B · 12B نشطة4 بت59.6 GB54–96
Qwen3 Coder 30B A3B Instruct30.5B · 3.3B نشطة8 بت32.4 GB105–187
GLM-4.7 Flash30B · 3B نشطة8 بت31.9 GB115–205
Qwen3.6 27B27B8 بت28.7 GB13–23
Gemma 4 26B A4B25.2B · 3.8B نشطة8 بت26.8 GB92–164
Devstral Small 2 (24B)24B8 بت25.5 GB14–26
Magistral Small 1.2 (2509)24B8 بت25.5 GB14–26
Mistral Small 3.2 (24B)24B8 بت25.5 GB14–26
LFM2.5 24B A2B24B · 2B نشطة8 بت25.5 GB176–312
Phi-4 Reasoning Vision 15B15B8 بت15.9 GB23–41
Phi-4 (14B)14B8 بت14.9 GB25–44
Gemma 4 12B Unified12B8 بت12.7 GB29–52
Qwen3 8B8.2B8 بت8.7 GB42–75
Llama 3.1 8B Instruct8B8 بت8.5 GB43–77
Gemma 4 E2B5.1B8 بت5.4 GB154–273
Qwen3.5 4B4B8 بت4.3 GB86–152
Phi-4 mini instruct3.8B8 بت4 GB92–164
Llama 3.2 3B Instruct3.21B8 بت3.4 GB108–193
SmolLM3 3B3B8 بت3.2 GB115–205
LFM2.5 2.6B2.69B8 بت2.9 GB127–226
Qwen3.5 2B2B8 بت2.1 GB176–312
Llama 3.2 1B Instruct1.23B8 بت1.3 GB284–504
Qwen3.5 0.8B0.8B8 بت0.9 GB410–728
Qwen3 0.6B0.6B8 بت0.6 GB614–1092
Qwen3.8 Flash Next180B · 6B نشطة · الذكاء 39.82 بت جودة أقل56.3 GB194–345
Qwen3.5 122B A10B122B · 10B نشطة · الذكاء 15.63 بت جودة أقل53.4 GB84–149
Mistral Small 4 (119B)119B · 6.5B نشطة · الذكاء 11.33 بت جودة أقل52.1 GB132–234
Ornith 1.5 122B122B · 10B نشطة3 بت جودة أقل53.4 GB84–149
Nemotron 3 Super 120B A12B120B · 12B نشطة3 بت جودة أقل52.5 GB70–124

تعمل، لكن ببطء 3

يتسع، لكن بأقل من 10 توكنات في الثانية: مناسب للمهام الدفعية، وبطيء للمحادثة.

النموذجالإصدارالذاكرةتوكن/ثانية
Llama 3.3 70B Instruct70B6 بت56.9 GB6–12
Mistral Medium 3.5 (128B)128B · الذكاء 14.23 بت جودة أقل56 GB7–12
Devstral 2 (123B)123B3 بت جودة أقل53.8 GB7–12

تتسع بالكاد 1

يحتاج إلى معظم الذاكرة تقريبًا: ارفع حد ذاكرة وحدة الرسومات وأبقِ السياق قصيرًا.

النموذجالإصدارالذاكرةتوكن/ثانية
MiniMax M2.7230B · 10B نشطة2 بت جودة أقل71.9 GB119–211

كبيرة جدًا 21

يحتاج إلى أكثر من 96 GB من الذاكرة، حتى بدقة 2 بت.

أجهزة Mac أخرى

كل أجهزة Mac بذاكرة 96 GB، من أي شريحة.

شريحة M3 Ultra بذاكرة أكبر أو أصغر:

شرائح قريبة:

وجهًا لوجه:

مقابل أجهزة PC وبطاقات الرسوميات:

قارنها بأي Mac أو وحدة رسومات · شريحة M3 Ultra للذكاء الاصطناعي المحلي · أفضل Mac لنماذج اللغة المحلية · كل أجهزة Mac

أسئلة

ما أفضل نموذج LLM لشريحة M3 Ultra بذاكرة 96 GB؟
من بين النماذج التي لها Intelligence Index منشور، يحقق Qwen3.8 27B أعلى درجة بين ما يعمل هنا جيدًا: 8 بت، بنحو 13–23 توكن في الثانية. وأكبر ما يعمل جيدًا هو gpt-oss-120b.
هل تشغّل شريحة M3 Ultra بذاكرة 96 GB نموذج Llama 3.3 70B؟
نعم، لكن ببطء: بدقة 6 بت، بنحو 6–12 توكن في الثانية.
ما سرعة gpt-oss-20b على شريحة M3 Ultra؟
نحو 194–345 توكن في الثانية (4.25 بت أصلية)، انطلاقًا من عرض نطاق ذاكرة الشريحة البالغ 819 GB/s.

شغّلها بـ MLX Harness (مجاني ومفتوح المصدر) أو بـ mlx-lm من Apple في Terminal: خطوة بخطوة.

كيف حسبنا ذلك

الذاكرة: معاملات النموذج بدقة 8 أو 6 أو 4 أو 3 أو 2 بت لكل وزن، إضافة إلى مقاييس المجموعات في MLX (نصف بت لكل وزن)، أو صيغته الأصلية، مع مساحة للسياق فوق ذلك. افتراضيًا، يسمح macOS لوحدة الرسومات باستخدام نحو 75% من الذاكرة الموحّدة. السرعة: عرض نطاق الذاكرة مقسومًا على البايتات المقروءة لكل توكن هو الحد الأقصى لمحادثة واحدة؛ وفي اختبارات الأداء العلنية لـ llama.cpp على Apple Silicon تبلغ التشغيلات الفعلية نحو 45% إلى 80% منه، وهو النطاق المعروض. هذه تقديرات، لا قياسات: قِس جهاز Mac الخاص بك على MLX Bench. أرقام النماذج من البطاقة الرسمية لكل نموذج، وأرقام الشرائح من المواصفات التقنية لـ Apple. آخر تحقق: 2026-10-19. البيانات نفسها في mlx.app/compare.

ما نماذج LLM التي تشغّلها شريحة M3 Ultra بذاكرة 96 GB؟