Côte à côte
| M5 Ultra | RTX PRO 6000 | |
|---|---|---|
| Ce que c’est | Mac Studio (M5 Max or M5 Ultra) | Une carte graphique pour PC de bureau |
| Capacités de mémoire | 96, 256, 512 GB | 96 GB |
| Bande passante mémoire | 1 200 GB/s | 1 792 GB/s |
| Pour les modèles, au plus | environ 384 GB | environ 95 GB |
| Modèles qui tournent bien | 61 sur 73 | 50 sur 73 |
| Mesuré : écriture | 179 tok/s | 274 tok/s |
| Mesuré : lecture du prompt | 4 945 tok/s | 14 855 tok/s |
Lignes mesurées : le meilleur résultat de chaque machine dans les benchmarks publics de llama.cpp avec Llama 2 7B Q4_0, en écrivant 128 tokens (tg128) et en lisant un prompt de 512 tokens (pp512), en tokens par seconde. Le Mac tournait sous Metal, le RTX PRO 6000 sous CUDA. Résultats Apple Silicon · Résultats du RTX PRO 6000 Pour les modèles, nous comptons les 96 GB propres au RTX PRO 6000 moins environ 1 GB, et environ 75 % de la mémoire unifiée du Mac, la valeur par défaut de macOS.
Où chacun l’emporte
- Vitesse d’écriture. La puce RTX PRO 6000 lit la mémoire environ 49 % plus vite que la M5 Ultra (1 792 contre 1 200 GB/s) ; elle écrit donc environ 49 % plus vite avec tout modèle qui tient dans les deux.
- Taille des modèles. Le M5 Ultra dispose d’environ 384 GB pour les modèles, le RTX PRO 6000 d’environ 95 GB. 61 des 73 modèles ouverts populaires tournent bien sur le M5 Ultra, 50 sur le RTX PRO 6000.
- Lecture des longs prompts. Dans le test mesuré de llama.cpp, le RTX PRO 6000 lit un prompt environ 3× plus vite (14 855 contre 4 945 tokens par seconde). La lecture d’un prompt dépend de la puissance de calcul du GPU et non de la bande passante mémoire : c’est elle qui fixe l’attente avant le premier mot avec un long document ou une base de code.
- Logiciels. Le RTX PRO 6000 utilise CUDA de NVIDIA, que la plupart des logiciels d’IA prennent en charge en premier, dont le code d’entraînement et de nombreux outils d’image et de vidéo. Sur un Mac, on fait tourner les modèles avec MLX, le backend Metal de llama.cpp ou le backend MPS de PyTorch.
- Autour. Une carte graphique a besoin d’un PC autour d’elle, et ses propres 96 GB sont la limite : un modèle qui ne tient pas doit tourner en partie depuis la mémoire système du PC, bien plus lente, ou sur une deuxième carte.
- Le Mac. C’est aussi un ordinateur de tous les jours, et il fait tourner MLX Harness et MLX Node, conçus pour Apple Silicon.
Vitesse avec des modèles populaires
Tokens par seconde pour une conversation, chaque puce avec sa plus grande capacité de mémoire (512 GB et 96 GB), avec la meilleure version du modèle qui tient.
| Modèle | M5 Ultra | RTX PRO 6000 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 64–113 8 bits | 95–169 8 bits |
| gpt-oss-20b21B · 3,6B actifs | 284–505 4,25 bits natif | 424–755 4,25 bits natif |
| Qwen3.6 35B A3B35B · 3B actifs | 169–300 8 bits | 252–448 8 bits |
| Qwen3.8 27B27B | 19–33 8 bits | 28–50 8 bits |
| Llama 3.3 70B Instruct70B | 14–24 4 bits | 11–19 8 bits |
| gpt-oss-120b117B · 5,1B actifs | 200–356 4,25 bits natif | 299–531 4,25 bits natif |
| Qwen3.5 122B A10B122B · 10B actifs | 51–91 8 bits | 144–256 4 bits |
| DeepSeek V4 Flash 0731284B · 13B actifs | 39–70 8 bits | trop grand |
Questions
- La puce RTX PRO 6000 est-elle plus rapide que la M5 Ultra pour les LLM ?
- La puce RTX PRO 6000 lit la mémoire environ 49 % plus vite que la M5 Ultra (1 792 contre 1 200 GB/s) ; elle écrit donc environ 49 % plus vite avec tout modèle qui tient dans les deux. Dans le test mesuré de llama.cpp, le RTX PRO 6000 lit un prompt environ 3× plus vite (14 855 contre 4 945 tokens par seconde). La lecture d’un prompt dépend de la puissance de calcul du GPU et non de la bande passante mémoire : c’est elle qui fixe l’attente avant le premier mot avec un long document ou une base de code.
- Laquelle fait tourner de plus grands modèles, la M5 Ultra ou la RTX PRO 6000 ?
- Le M5 Ultra dispose d’environ 384 GB pour les modèles, le RTX PRO 6000 d’environ 95 GB. 61 des 73 modèles ouverts populaires tournent bien sur le M5 Ultra, 50 sur le RTX PRO 6000.
- MLX Node fonctionne-t-il sur le RTX PRO 6000 ?
- Non. MLX Node et MLX Harness ne fonctionnent que sur les Mac Apple Silicon, avec le framework MLX d’Apple.
Autres comparaisons
La puce M5 Ultra pour l’IA locale · Comparer tous les modèles · Le meilleur Mac pour les LLM en local
Comment c’est calculé
Mémoire : les paramètres du modèle à 8, 6, 4, 3 ou 2 bits par poids, plus les facteurs d’échelle par groupe de MLX (un demi-bit par poids), ou son format natif, avec en plus de la place pour le contexte. Par défaut, macOS laisse le GPU utiliser environ 75 % de la mémoire unifiée. Vitesse : la bande passante mémoire divisée par les octets lus pour chaque token donne le plafond pour une conversation ; dans les benchmarks Apple Silicon publics de llama.cpp, les exécutions réelles atteignent environ 45 % à 80 % de ce plafond, et c’est la fourchette affichée. Ce sont des estimations, pas des mesures : mesurez votre propre Mac sur MLX Bench. Chiffres des modèles tirés de chaque fiche officielle, chiffres des puces tirés des caractéristiques techniques d’Apple. Vérifié le 2026-10-19. Mêmes données que mlx.app/compare.
Données du RTX PRO 6000 : NVIDIA: RTX PRO 6000 Blackwell Workstation Edition, NVIDIA: RTX PRO Desktop GPUs (compare table).