MLX Bench
ما سرعة كل جهاز Mac في تشغيل كل نموذج؟ الرموز في الثانية وذروة الذاكرة للنماذج المفتوحة على إطار MLX من Apple، مقيسة على أجهزة Mac حقيقية ومنشورة للجميع. جزء من MLX Builders.
أضف جهازك
أمران في Terminal على أي Mac بشريحة Apple Silicon. يختار نموذجًا يتّسع في ذاكرتك، ويقيسه بـmlx-lm، ويشارك الأرقام هنا.
أضف --model mlx-community/… لتجربة نموذج آخر، أو --context 8192 أو 65536 للمطالبات الطويلة، أو --wallet you.mlx لاحتساب التشغيل لمحفظتك، أو --dry-run لإبقائه محليًا. وتشغّله مجموعات Mac Studio عبر mlx.launch --backend jaccl. البرنامج النصي قصير، فاقرأه أولًا: bench.py.
سرعة التوليد
| Mac | التوليد | التشغيلات |
|---|---|---|
| M1 ProGPU بـ16 نواة · 16 GB | 35.7 tok/s | 1قبل 3 أيام |
وسيطات تشغيلات المجتمع، 5 حتى الآن، بمطالبات من 8,192 رمزًا و128 رمزًا جديدًا. المجموعات من 2 إلى 4 أجهزة Mac موصولة عبر Thunderbolt 5 وتعمل بـmlx.launch؛ وتتبع تشغيلات السياق الطويل طريقة Apple. النتائج مُبلَّغ عنها ذاتيًا إلى أن تعيد أجهزة Mac التي تشغّل MLX Node تشغيلها. بيانات مفتوحة: /api/bench.