تسجيل الدخولإنشاء محفظة

أفضل نماذج LLM لجهاز Mac بذاكرة 96 GB.

44 من أصل 73 نموذج مفتوح تعمل جيدًا في 96 GB. تستطيع وحدة الرسومات افتراضيًا استخدام نحو 72 GB منها. وتعتمد السرعة على الشريحة: من 300 GB/s في M3 Max إلى 1,200 GB/s في M5 Ultra.

الأذكى بين ما يعمل جيدًاQwen3.8 27B8 بت · 28.7 GB · 5–33 tok/sالأكبر بين ما يعمل جيدًاgpt-oss-120b4.25 بت أصلية · 65.3 GB · 50–356 tok/sللبرمجةQwen3 Coder Next6 بت · 65 GB · 56–400 tok/s

أجهزة Mac بذاكرة 96 GB

عدد الشرائح من M2 إلى M5 التي تأتي بذاكرة 96 GB: 4. افتح أيًّا منها لترى قائمتها وسرعاتها.

تعمل جيدًا 51

يتسع مع مساحة للسياق، بسرعة 10 توكنات أو أكثر في الثانية على M5 Ultra.

النموذجالإصدارالذاكرةM3 MaxM5 Ultra
Qwen3.8 27B27B · الذكاء 33.78 بت28.7 GB5–819–33
Nemotron 3.5 Bolt 74B A9B74B · 9B نشطة · الذكاء 21.46 بت60.1 GB18–3374–132
Qwen3.6 35B A3B35B · 3B نشطة · الذكاء 18.28 بت37.2 GB42–75169–300
Muse Glimmer 30B29.6B · الذكاء 17.58 بت31.5 GB4–817–30
Gemma 4 31B30.7B · الذكاء 14.78 بت32.6 GB4–717–29
Nemotron 3.5 Lightning 30B A3B30B · 3B نشطة · الذكاء 12.98 بت31.9 GB42–75169–300
Granite 4.2 30B30B · الذكاء 12.78 بت31.9 GB4–817–30
MiniCPM5 2B2.52B · الذكاء 12.58 بت2.7 GB50–89200–356
gpt-oss-120b117B · 5.1B نشطة · الذكاء 11.64.25 بت أصلية65.3 GB50–89200–356
Qwen3.5 9B9B · الذكاء 11.28 بت9.6 GB14–2556–100
Granite 4.2 8B8B · الذكاء 11.18 بت8.5 GB16–2864–113
Qwen3 Coder Next80B · 3B نشطة · الذكاء 9.26 بت65 GB56–100225–400
Granite 4.2 3B3B · الذكاء 9.18 بت3.2 GB42–75169–300
gpt-oss-20b21B · 3.6B نشطة · الذكاء 94.25 بت أصلية13.8 GB71–126284–505
Nemotron 3 Nano 30B A3B30B · 3.5B نشطة · الذكاء 8.98 بت31.9 GB36–65146–259
Gemma 4 E4B8B · الذكاء 8.98 بت8.5 GB28–50113–200
Llama 4 Scout 17B-16E Instruct109B · 17B نشطة · الذكاء 6.54 بت61.3 GB14–2556–100
Ministral 3 8B8.9B · الذكاء 5.58 بت9.5 GB14–2557–101
Nemotron 3 Nano 4B3.97B · الذكاء 4.88 بت4.2 GB32–57129–229
GLM-4.5 Air106B · 12B نشطة4 بت59.6 GB20–3579–141
Llama 3.3 70B Instruct70B4 بت39.4 GB2–414–24
Qwen3 Coder 30B A3B Instruct30.5B · 3.3B نشطة8 بت32.4 GB39–69154–274
GLM-4.7 Flash30B · 3B نشطة8 بت31.9 GB42–75169–300
Qwen3.6 27B27B8 بت28.7 GB5–819–33
Gemma 4 26B A4B25.2B · 3.8B نشطة8 بت26.8 GB34–60135–240
Devstral Small 2 (24B)24B8 بت25.5 GB10–1821–38
Magistral Small 1.2 (2509)24B8 بت25.5 GB10–1821–38
Mistral Small 3.2 (24B)24B8 بت25.5 GB10–1821–38
LFM2.5 24B A2B24B · 2B نشطة8 بت25.5 GB64–114257–457
Phi-4 Reasoning Vision 15B15B8 بت15.9 GB11–2034–60
Phi-4 (14B)14B8 بت14.9 GB12–2136–64
Gemma 4 12B Unified12B8 بت12.7 GB11–1943–76
Qwen3 8B8.2B8 بت8.7 GB16–2862–110
Llama 3.1 8B Instruct8B8 بت8.5 GB16–2864–113
Gemma 4 E2B5.1B8 بت5.4 GB56–100225–400
Qwen3.5 4B4B8 بت4.3 GB31–56126–223
Phi-4 mini instruct3.8B8 بت4 GB34–60135–240
Llama 3.2 3B Instruct3.21B8 بت3.4 GB40–71159–282
SmolLM3 3B3B8 بت3.2 GB42–75169–300
LFM2.5 2.6B2.69B8 بت2.9 GB47–83186–331
Qwen3.5 2B2B8 بت2.1 GB64–114257–457
Llama 3.2 1B Instruct1.23B8 بت1.3 GB104–185415–738
Qwen3.5 0.8B0.8B8 بت0.9 GB150–267600–1067
Qwen3 0.6B0.6B8 بت0.6 GB225–400900–1600
Qwen3.8 Flash Next180B · 6B نشطة · الذكاء 39.82 بت جودة أقل56.3 GB71–126284–505
Qwen3.5 122B A10B122B · 10B نشطة · الذكاء 15.63 بت جودة أقل53.4 GB31–55123–218
Mistral Medium 3.5 (128B)128B · الذكاء 14.23 بت جودة أقل56 GB2–410–17
Mistral Small 4 (119B)119B · 6.5B نشطة · الذكاء 11.33 بت جودة أقل52.1 GB48–86193–343
Devstral 2 (123B)123B3 بت جودة أقل53.8 GB3–410–18
Ornith 1.5 122B122B · 10B نشطة3 بت جودة أقل53.4 GB31–55123–218
Nemotron 3 Super 120B A12B120B · 12B نشطة3 بت جودة أقل52.5 GB25–45102–181

تتسع بالكاد 1

يحتاج إلى معظم الذاكرة تقريبًا: ارفع حد ذاكرة وحدة الرسومات وأبقِ السياق قصيرًا.

النموذجالإصدارالذاكرةM3 MaxM5 Ultra
MiniMax M2.7230B · 10B نشطة2 بت جودة أقل71.9 GB44–77174–310

كبيرة جدًا 21

يحتاج إلى أكثر من 96 GB من الذاكرة، حتى بدقة 2 بت.

أسئلة

ما أفضل نموذج LLM لجهاز Mac بذاكرة 96 GB؟
من بين النماذج التي لها Intelligence Index منشور، يحقق Qwen3.8 27B أعلى درجة بين ما يعمل جيدًا في 96 GB (8 بت). وأكبر ما يعمل جيدًا هو gpt-oss-120b. وللبرمجة: Qwen3 Coder Next.
هل تكفي 96 GB للذكاء الاصطناعي المحلي على Mac؟
44 من أصل 73 نموذج مفتوح هنا تعمل فيها جيدًا بدقة 4 بت أو أعلى. يسمح macOS افتراضيًا لوحدة الرسومات باستخدام نحو 72 GB منها؛ ويجب أن يتسع النموذج وسياقه ضمن ذلك.
هل يشغّل Mac بذاكرة 96 GB نموذج gpt-oss-20b؟
نعم، بدقة 4.25 بت أصلية، بنحو 71–126 توكن في الثانية على M3 Max و 284–505 على M5 Ultra.

سعات أخرى: 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB

شغّلها بـ MLX Harness (مجاني ومفتوح المصدر) أو بـ mlx-lm من Apple في Terminal: خطوة بخطوة.

كيف حسبنا ذلك

الذاكرة: معاملات النموذج بدقة 8 أو 6 أو 4 أو 3 أو 2 بت لكل وزن، إضافة إلى مقاييس المجموعات في MLX (نصف بت لكل وزن)، أو صيغته الأصلية، مع مساحة للسياق فوق ذلك. افتراضيًا، يسمح macOS لوحدة الرسومات باستخدام نحو 75% من الذاكرة الموحّدة. السرعة: عرض نطاق الذاكرة مقسومًا على البايتات المقروءة لكل توكن هو الحد الأقصى لمحادثة واحدة؛ وفي اختبارات الأداء العلنية لـ llama.cpp على Apple Silicon تبلغ التشغيلات الفعلية نحو 45% إلى 80% منه، وهو النطاق المعروض. هذه تقديرات، لا قياسات: قِس جهاز Mac الخاص بك على MLX Bench. أرقام النماذج من البطاقة الرسمية لكل نموذج، وأرقام الشرائح من المواصفات التقنية لـ Apple. آخر تحقق: 2026-10-19. البيانات نفسها في mlx.app/compare.

أفضل نماذج LLM المحلية لجهاز Mac بذاكرة 96 GB (M2 إلى M5)