MLX Bench
À quelle vitesse chaque Mac fait-il tourner chaque modèle ? Tokens par seconde et mémoire maximale pour des modèles ouverts sur le framework MLX d’Apple, mesurés sur de vrais Mac et publiés pour tous. Fait partie de MLX Builders.
Ajoutez votre Mac
Deux commandes dans le Terminal de n’importe quel Mac Apple Silicon. Il choisit un modèle qui tient dans votre mémoire, le mesure avec mlx-lm et partage les chiffres ici.
Ajoutez --model mlx-community/… pour tester un autre modèle, --context 8192 ou 65536 pour de longs prompts, --wallet you.mlx pour créditer l’exécution, ou --dry-run pour rester en local. Les pods de Mac Studio le lancent avec mlx.launch --backend jaccl. Le script est court, lisez-le d’abord : bench.py.
Vitesse de génération
| Mac | Génération | Exécutions |
|---|---|---|
| M1 ProGPU 16 cœurs · 16 GB | 35,7 tok/s | 1il y a 3 j |
Médianes des exécutions de la communauté, 5 à ce jour, avec des prompts de 8 192 tokens et 128 nouveaux tokens. Les pods réunissent 2 à 4 Mac reliés en Thunderbolt 5 et tournent avec mlx.launch ; les exécutions à long contexte suivent la méthode d’Apple. Les résultats sont auto-déclarés jusqu’à ce que des Mac sous MLX Node les relancent. Données ouvertes : /api/bench.