أفضل Mac لنماذج اللغة المحلية.

1لماذا تحسم الذاكرة وعرض النطاق كل شيء

يكتب نموذج اللغة توكنًا واحدًا في كل مرة، ولكل توكن يقرأ كل وزن نشط من الذاكرة. لذا فحد السرعة لمحادثة واحدة يساوي تقريبًا عرض نطاق الذاكرة مقسومًا على حجم الأوزان النشطة. في اختبارات الأداء العلنية لـ llama.cpp، يبلغ التوليد الفعلي من 43% إلى 80% من هذا الحد على شرائح Apple (llama.cpp).

قراءة الموجّه مختلفة: هذا الجزء محدود بقدرة الحساب، ولهذا تعالج شرائح جيل M5، بمسرّعاتها العصبية في وحدة الرسومات، الموجّهات أسرع بعدة مرات من سابقاتها (Apple).

2كل الشرائح، مقارنةً

الشرائح الأقدم لا تزال تعمل جيدًا إن توفرت فيها الذاكرة. فشريحة M1 Max أو M2 Max بذاكرة 64 GB تقرأ بسرعة 400 GB/s، أكثر من أي شريحة أساسية اليوم، وغالبًا ما تكلّف أقل بكثير في سوق المستعمل.

3أي Mac تشتري

للتجربة فقط: MacBook Air أو Mac mini بذاكرة 16 إلى 32 GB

يشغّل نماذج 7B إلى 14B بارتياح، ونماذج فئة 30B مع 32 GB. مناسب للمحادثة والكتابة والمساعدة الخفيفة في البرمجة.

الأفضل قيمةً: شريحة Pro مع 64 GB

يتسع Mac mini أو MacBook Pro بشريحة M4 Pro أو M5 Pro لنماذج فئة 70B، ويشغّل النماذج متوسطة الحجم بوتيرة جيدة. الخيار الأمثل لمعظم المطورين.

ذكاء اصطناعي محلي جاد: شريحة Max مع 128 GB

يشغّل gpt-oss-120b (نحو 65 GB بدقة 4 بت) على حاسوب محمول؛ وبحسب رقم عرض النطاق من Apple، يبلغ السقف النظري لتدفق واحد على M5 Max نحو 225 توكنًا في الثانية. أفضل خيار محمول.

أكبر النماذج: Mac Studio بشريحة Ultra

حتى 512 GB بسرعة 1.2 TB/s مع M5 Ultra تتسع لنماذج بمئات المليارات من المعاملات على مكتب واحد. ولنماذج أكبر، يمكن ربط أجهزة Mac في عنقود عبر Thunderbolt 5: اطّلع على عناقيد Mac للذكاء الاصطناعي.

4اجعل جهاز Mac يغطي تكلفته

جهاز Mac الذي يُشترى للذكاء الاصطناعي يقضي معظم وقته في الانتظار. MLX Node تطبيق مجاني يعير هذه القدرة الفائضة لـ MLX Network، فيشغّل مهام الذكاء الاصطناعي على إطار عمل MLX نفسه ويكسب رموز MLX مقابل العمل المُتحقَّق منه. والمقعد المخصّص المطابق للشريحة يضاعف ما يكسبه: مقعد Pro يعمل بالمعدل الكامل على شريحة Pro أو Max، ومقعد Ultra على شريحة Ultra.

قارن جهازك على MLX Bench أولًا: يعرض عدد التوكنات في الثانية المقيس للنماذج المفتوحة على كل شريحة.

5أسئلة

هل تكفي 16 GB لنموذج لغة محلي؟

نعم، للنماذج حتى نحو 14B معامل بدقة 4 بت. أما للنماذج الأكبر أو السياقات الطويلة، فـ 32 GB أو أكثر أريح بكثير.

Mac Studio أم MacBook Pro لنماذج اللغة؟

كلاهما يأتي بشرائح Max وحتى 128 GB. MacBook Pro محمول؛ أما Mac Studio فيبقى أبرد تحت الأحمال الطويلة، وهو جهاز Mac الوحيد بشرائح Ultra وحتى 512 GB.

هل Mac أفضل من بطاقة Nvidia للذكاء الاصطناعي المحلي؟

لأكبر النماذج في المنزل، غالبًا نعم: فالذاكرة الموحّدة في Mac تتسع لأكثر بكثير من ذاكرة بطاقة رسومات استهلاكية. لكن بطاقة Nvidia عالية المستوى أسرع في النماذج التي تتسع في ذاكرتها.

هل تجعل M5 نماذج اللغة أسرع؟

نعم، خاصةً في قراءة الموجّهات: قاست Apple وصول أول توكن أسرع بـ 3.3 إلى 4.1 مرة على M5 مقارنةً بـ M4 مع MLX. وسرعة التوليد تزداد مع عرض نطاق الذاكرة، الذي ارتفع 28% من M4 إلى M5.