Par capacité de mémoire
| Mémoire | Tournent bien | Le plus grand qui tourne bien | gpt-oss-20b |
|---|---|---|---|
| 32 GB400 GB/s | 38 | Qwen3.6 35B A3B | 95–168 tok/s |
| 64 GB400 GB/s | 39 | Nemotron 3.5 Bolt 74B A9B | 95–168 tok/s |
Modèles de Mac : Mac Studio (2022). Toutes les capacités de mémoire ne sont pas proposées sur chaque modèle ; les caractéristiques techniques d’Apple indiquent la configuration de chacun.
Questions
- Mac Studio avec puce M1 Max : un bon choix pour les LLM locaux ?
- Avec 64 GB, 39 des 73 modèles ouverts y tournent bien, jusqu’à Nemotron 3.5 Bolt 74B A9B, à environ 95–168 tokens par seconde avec gpt-oss-20b. La puce M1 Max lit la mémoire à 400 GB/s, ce qui fixe sa vitesse d’écriture.
- Mac Studio avec puce M1 Max : combien de mémoire pour l’IA ?
- Avec 32 GB, 38 modèles ouverts tournent bien ; avec 64 GB, 39, jusqu’à Nemotron 3.5 Bolt 74B A9B. La mémoire décide des modèles qui tiennent et ne peut pas être augmentée ensuite.
Autres Mac
Mac Studio avec d’autres puces :
- Mac Studio M5 Max
- Mac Studio M5 Ultra
- Mac Studio M4 Max
- Mac Studio M3 Ultra
- Mac Studio M2 Max
- Mac Studio M2 Ultra
- Mac Studio M1 Ultra
Autres Mac avec puce M1 Max :
Face à face :
La puce M1 Max pour l’IA locale · Le meilleur Mac pour les LLM en local · Tous les Mac
Comment c’est calculé
Mémoire : les paramètres du modèle à 8, 6, 4, 3 ou 2 bits par poids, plus les facteurs d’échelle par groupe de MLX (un demi-bit par poids), ou son format natif, avec en plus de la place pour le contexte. Par défaut, macOS laisse le GPU utiliser environ 75 % de la mémoire unifiée. Vitesse : la bande passante mémoire divisée par les octets lus pour chaque token donne le plafond pour une conversation ; dans les benchmarks Apple Silicon publics de llama.cpp, les exécutions réelles atteignent environ 45 % à 80 % de ce plafond, et c’est la fourchette affichée. Ce sont des estimations, pas des mesures : mesurez votre propre Mac sur MLX Bench. Chiffres des modèles tirés de chaque fiche officielle, chiffres des puces tirés des caractéristiques techniques d’Apple. Vérifié le 2026-10-19. Mêmes données que mlx.app/compare.