عناقيد Mac للذكاء الاصطناعي.

1ما الذي تغيّر: RDMA عبر Thunderbolt 5

منذ macOS 26.2، تستطيع أجهزة Mac تبادل الذاكرة مباشرة عبر Thunderbolt 5 باستخدام RDMA، وهي ميزة تذكرها Apple للاستدلال الموزّع بالذكاء الاصطناعي مع MLX (Apple). ويتيحها MLX عبر واجهته الخلفية JACCL، إلى جانب MPI وحلقات TCP (توثيق MLX).

المكسب هو زمن الاستجابة: وفقًا لمطوّري MLX، تخفّض RDMA زمن الوصول إلى الذاكرة من نحو 300 µs إلى أقل من 50 µs. وفي اختبارات Jeff Geerling، شغّلت أربعة أجهزة Mac Studio بشريحة M3 Ultra نموذج Kimi K2 Thinking ذا التريليون معامل بنحو 30 توكنًا في الثانية (Jeff Geerling).

2طريقتان لتقسيم النموذج

توازي خط الأنابيب (Pipeline parallelism) يعطي كل Mac مجموعة من الطبقات المتتالية. يتيح تشغيل نموذج أكبر من أي Mac منفرد أصلًا، ويمكن معالجة الموجّهات الطويلة على أجزاء متوازية، لكن التوليد يكون بسرعة Mac واحد تقريبًا.

توازي الموترات (Tensor parallelism) يقسّم كل طبقة على أجهزة Mac. يسرّع التوليد أيضًا، لكن الأجهزة تتبادل البيانات مرات كثيرة لكل توكن، لذا يحتاج إلى زمن الاستجابة المنخفض الذي توفره RDMA. نشرت Apple قياسات للطريقتين على عناقيد Mac Studio (Apple Machine Learning Research)، وتذكر أن أربعة أجهزة Mac Studio تنفّذ الاستدلال أسرع بما يصل إلى ثلاث مرات من جهاز واحد (Apple).

3بناء عنقود

1. اختر أجهزة Mac تدعم Thunderbolt 5 لاستخدام RDMA: M4 Pro و M4 Max و M3 Ultra وشرائح Pro و Max و Ultra الأحدث. الأجهزة المتطابقة تجعل التقسيم أبسط.
2. اربطها بكابلات Thunderbolt 5، كل زوج مباشرة. وكابلان بين الزوج نفسه يضاعفان عرض نطاق الوصلة.
3. حدّث كل الأجهزة إلى macOS 26.2 أو أحدث، وفعّل RDMA كما يصف توثيق Apple.
4. شغّل النموذج باستخدام MLX distributed (mlx.launch) أو exo، الذي يكتشف أجهزة Mac ويقسّم النموذج نيابةً عنك.

يذكر exo تسريعًا بتوازي الموترات يصل إلى 1.8 مرة على جهازين و3.2 مرة على أربعة. قِس إعدادك بنفسك: فالمكاسب تعتمد كثيرًا على النموذج.

4من العنقود إلى الشبكة

العنقود يربط بضعة أجهزة Mac على مكتب واحد بالكابلات. أما MLX Network فتربط أجهزة Mac في كل مكان عبر الإنترنت. ولأن زمن الاستجابة عبر الإنترنت أعلى بكثير من أن يسمح بتقسيم نموذج واحد على أجهزة غرباء، تضع الشبكة كل مهمة كاملة على Mac واحد، أو على مجموعة من أجهزة Mac موصولة ببعضها مسبقًا، بحسب الذاكرة وعرض النطاق.

إن كنت تملك Mac Studio أو مجموعة من أجهزة Mac mini، يستطيع MLX Node إعارة وقت فراغها للشبكة وكسب رموز MLX، ومقعد Ultra مخصّص يعمل على Mac بشريحة Ultra يكسب أكثر من غيره. شاهد كل Mac على الشبكة في MLX World.

5أسئلة

هل يمكنني ربط أجهزة Mac mini في عنقود للذكاء الاصطناعي؟

نعم. أجهزة Mac mini بشريحة M4 Pro أو M5 Pro تدعم Thunderbolt 5، ومع macOS 26.2 أو أحدث يمكنها استخدام RDMA؛ أما طرازات M4 و M6 فتدعم Thunderbolt 4. ويقسّم كل من MLX distributed و exo النموذج عليها.

هل يجعل عنقود Mac النموذج أسرع؟

يعتمد ذلك على طريقة تقسيم النموذج. توازي خط الأنابيب يتيح أساسًا تشغيل نماذج أكبر؛ أما توازي الموترات عبر RDMA فيسرّع التوليد أيضًا. وتذكر Apple سرعة تصل إلى ثلاثة أضعاف على أربعة أجهزة Mac Studio.

هل أحتاج إلى Thunderbolt 5؟

لاستخدام RDMA، نعم. لا يزال بالإمكان ربط أجهزة Mac الأقدم عبر Thunderbolt أو Ethernet باستخدام TCP، لكن زمن الاستجابة أعلى بكثير، لذا يعمل التقسيم بخط الأنابيب أفضل من التقسيم بالموترات.