تسجيل الدخولإنشاء محفظة

ماذا تشغّل شريحة M5 Ultra بذاكرة 256 GB؟

54 من أصل 73 نموذج مفتوح تعمل عليه جيدًا. تستطيع وحدة الرسومات افتراضيًا استخدام نحو 192 GB من ذاكرته البالغة 256 GB، ويقرأ الذاكرة بسرعة 1,200 GB/s، وهي التي تحدد سرعة الكتابة. موجودة في: Mac Studio (M5 Max or M5 Ultra).

الأذكى بين ما يعمل جيدًاQwen3.8 Flash Next6 بت · 146 GB · 110–196 tok/sالأكبر بين ما يعمل جيدًاMiMo V2.6 Flash4.48 بت أصلية · 173 GB · 64–114 tok/sللبرمجةQwen3 Coder Next8 بت · 85 GB · 169–300 tok/s

تعمل جيدًا 61

يتسع مع مساحة للسياق، بسرعة 10 توكنات أو أكثر في الثانية.

النموذجالإصدارالذاكرةتوكن/ثانية
Qwen3.8 Flash Next180B · 6B نشطة · الذكاء 39.86 بت146 GB110–196
MiMo V2.6 Flash309B · 15B نشطة · الذكاء 37.94.48 بت أصلية173 GB64–114
Qwen3.8 27B27B · الذكاء 33.78 بت28.7 GB19–33
Inkling Small276B · 12B نشطة · الذكاء 25.74 بت155 GB79–141
Hy3295B · 21B نشطة · الذكاء 25.34 بت166 GB46–81
Nemotron 3.5 Bolt 74B A9B74B · 9B نشطة · الذكاء 21.48 بت78.6 GB56–100
Qwen3.6 35B A3B35B · 3B نشطة · الذكاء 18.28 بت37.2 GB169–300
Muse Glimmer 30B29.6B · الذكاء 17.58 بت31.5 GB17–30
Qwen3.5 122B A10B122B · 10B نشطة · الذكاء 15.68 بت130 GB51–91
Gemma 4 31B30.7B · الذكاء 14.78 بت32.6 GB17–29
Nemotron 3.5 Lightning 30B A3B30B · 3B نشطة · الذكاء 12.98 بت31.9 GB169–300
Granite 4.2 30B30B · الذكاء 12.78 بت31.9 GB17–30
MiniCPM5 2B2.52B · الذكاء 12.58 بت2.7 GB200–356
gpt-oss-120b117B · 5.1B نشطة · الذكاء 11.64.25 بت أصلية65.3 GB200–356
Mistral Small 4 (119B)119B · 6.5B نشطة · الذكاء 11.38 بت126 GB78–139
Qwen3.5 9B9B · الذكاء 11.28 بت9.6 GB56–100
Granite 4.2 8B8B · الذكاء 11.18 بت8.5 GB64–113
Qwen3 Coder Next80B · 3B نشطة · الذكاء 9.28 بت85 GB169–300
Granite 4.2 3B3B · الذكاء 9.18 بت3.2 GB169–300
gpt-oss-20b21B · 3.6B نشطة · الذكاء 94.25 بت أصلية13.8 GB284–505
Nemotron 3 Nano 30B A3B30B · 3.5B نشطة · الذكاء 8.98 بت31.9 GB146–259
Gemma 4 E4B8B · الذكاء 8.98 بت8.5 GB113–200
Llama 4 Scout 17B-16E Instruct109B · 17B نشطة · الذكاء 6.58 بت116 GB30–53
Ministral 3 8B8.9B · الذكاء 5.58 بت9.5 GB57–101
Nemotron 3 Nano 4B3.97B · الذكاء 4.88 بت4.2 GB129–229
DeepSeek V4 Flash 0731284B · 13B نشطة4 بت160 GB74–132
MiniMax M2.7230B · 10B نشطة4 بت129 GB96–171
Ornith 1.5 122B122B · 10B نشطة8 بت130 GB51–91
Nemotron 3 Super 120B A12B120B · 12B نشطة8 بت128 GB42–75
GLM-4.5 Air106B · 12B نشطة8 بت113 GB42–75
Llama 3.3 70B Instruct70B4 بت39.4 GB14–24
Qwen3 Coder 30B A3B Instruct30.5B · 3.3B نشطة8 بت32.4 GB154–274
GLM-4.7 Flash30B · 3B نشطة8 بت31.9 GB169–300
Qwen3.6 27B27B8 بت28.7 GB19–33
Gemma 4 26B A4B25.2B · 3.8B نشطة8 بت26.8 GB135–240
Devstral Small 2 (24B)24B8 بت25.5 GB21–38
Magistral Small 1.2 (2509)24B8 بت25.5 GB21–38
Mistral Small 3.2 (24B)24B8 بت25.5 GB21–38
LFM2.5 24B A2B24B · 2B نشطة8 بت25.5 GB257–457
Phi-4 Reasoning Vision 15B15B8 بت15.9 GB34–60
Phi-4 (14B)14B8 بت14.9 GB36–64
Gemma 4 12B Unified12B8 بت12.7 GB43–76
Qwen3 8B8.2B8 بت8.7 GB62–110
Llama 3.1 8B Instruct8B8 بت8.5 GB64–113
Gemma 4 E2B5.1B8 بت5.4 GB225–400
Qwen3.5 4B4B8 بت4.3 GB126–223
Phi-4 mini instruct3.8B8 بت4 GB135–240
Llama 3.2 3B Instruct3.21B8 بت3.4 GB159–282
SmolLM3 3B3B8 بت3.2 GB169–300
LFM2.5 2.6B2.69B8 بت2.9 GB186–331
Qwen3.5 2B2B8 بت2.1 GB257–457
Llama 3.2 1B Instruct1.23B8 بت1.3 GB415–738
Qwen3.5 0.8B0.8B8 بت0.9 GB600–1067
Qwen3 0.6B0.6B8 بت0.6 GB900–1600
DeepSeek V4.1 Flash 1017552B · 16B نشطة · الذكاء 45.12 بت جودة أقل173 GB108–192
GLM-5.3 Flash320B · 18B نشطة · الذكاء 41.83 بت جودة أقل140 GB68–122
Beam 1.0501B · 23B نشطة · الذكاء 30.32 بت جودة أقل157 GB75–133
MiniMax M3428B · 23B نشطة · الذكاء 29.22 بت جودة أقل134 GB75–133
Nemotron 3 Ultra 550B A55B550B · 55B نشطة · الذكاء 22.92 بت جودة أقل172 GB31–56
Qwen3.5 397B A17B397B · 17B نشطة · الذكاء 18.43 بت جودة أقل174 GB73–130
Llama 4 Maverick 17B-128E Instruct400B · 17B نشطة · الذكاء 9.33 بت جودة أقل175 GB73–130

تعمل، لكن ببطء 2

يتسع، لكن بأقل من 10 توكنات في الثانية: مناسب للمهام الدفعية، وبطيء للمحادثة.

النموذجالإصدارالذاكرةتوكن/ثانية
Mistral Medium 3.5 (128B)128B · الذكاء 14.28 بت136 GB4–7
Devstral 2 (123B)123B8 بت131 GB4–7

تتسع بالكاد 1

يحتاج إلى معظم الذاكرة تقريبًا: ارفع حد ذاكرة وحدة الرسومات وأبقِ السياق قصيرًا.

النموذجالإصدارالذاكرةتوكن/ثانية
Mistral Large 3 (675B)675B · 41B نشطة2 بت جودة أقل211 GB42–75

كبيرة جدًا 9

يحتاج إلى أكثر من 256 GB من الذاكرة، حتى بدقة 2 بت.

أجهزة Mac أخرى

كل أجهزة Mac بذاكرة 256 GB، من أي شريحة.

شريحة M5 Ultra بذاكرة أكبر أو أصغر:

شرائح قريبة:

وجهًا لوجه:

مقابل أجهزة PC وبطاقات الرسوميات:

قارنها بأي Mac أو وحدة رسومات · شريحة M5 Ultra للذكاء الاصطناعي المحلي · أفضل Mac لنماذج اللغة المحلية · كل أجهزة Mac

أسئلة

ما أفضل نموذج LLM لشريحة M5 Ultra بذاكرة 256 GB؟
من بين النماذج التي لها Intelligence Index منشور، يحقق Qwen3.8 Flash Next أعلى درجة بين ما يعمل هنا جيدًا: 6 بت، بنحو 110–196 توكن في الثانية. وأكبر ما يعمل جيدًا هو MiMo V2.6 Flash.
هل تشغّل شريحة M5 Ultra بذاكرة 256 GB نموذج Llama 3.3 70B؟
نعم: بدقة 4 بت، بنحو 14–24 توكن في الثانية.
ما سرعة gpt-oss-20b على شريحة M5 Ultra؟
نحو 284–505 توكن في الثانية (4.25 بت أصلية)، انطلاقًا من عرض نطاق ذاكرة الشريحة البالغ 1,200 GB/s.

شغّلها بـ MLX Harness (مجاني ومفتوح المصدر) أو بـ mlx-lm من Apple في Terminal: خطوة بخطوة.

كيف حسبنا ذلك

الذاكرة: معاملات النموذج بدقة 8 أو 6 أو 4 أو 3 أو 2 بت لكل وزن، إضافة إلى مقاييس المجموعات في MLX (نصف بت لكل وزن)، أو صيغته الأصلية، مع مساحة للسياق فوق ذلك. افتراضيًا، يسمح macOS لوحدة الرسومات باستخدام نحو 75% من الذاكرة الموحّدة. السرعة: عرض نطاق الذاكرة مقسومًا على البايتات المقروءة لكل توكن هو الحد الأقصى لمحادثة واحدة؛ وفي اختبارات الأداء العلنية لـ llama.cpp على Apple Silicon تبلغ التشغيلات الفعلية نحو 45% إلى 80% منه، وهو النطاق المعروض. هذه تقديرات، لا قياسات: قِس جهاز Mac الخاص بك على MLX Bench. أرقام النماذج من البطاقة الرسمية لكل نموذج، وأرقام الشرائح من المواصفات التقنية لـ Apple. آخر تحقق: 2026-10-19. البيانات نفسها في mlx.app/compare.

ما نماذج LLM التي تشغّلها شريحة M5 Ultra بذاكرة 256 GB؟