Par capacité de mémoire
| Mémoire | Tournent bien | Le plus grand qui tourne bien | gpt-oss-20b |
|---|---|---|---|
| 24 GB307 GB/s | 28 | Gemma 4 26B A4B | 73–129 tok/s |
| 48 GB307 GB/s | 33 | Qwen3.6 35B A3B | 73–129 tok/s |
| 64 GB307 GB/s | 34 | Nemotron 3.5 Bolt 74B A9B | 73–129 tok/s |
Modèles de Mac : Mac mini (M6 or M5 Pro). Toutes les capacités de mémoire ne sont pas proposées sur chaque modèle ; les caractéristiques techniques d’Apple indiquent la configuration de chacun.
Questions
- Mac mini avec puce M5 Pro : un bon choix pour les LLM locaux ?
- Avec 64 GB, 34 des 73 modèles ouverts y tournent bien, jusqu’à Nemotron 3.5 Bolt 74B A9B, à environ 73–129 tokens par seconde avec gpt-oss-20b. La puce M5 Pro lit la mémoire à 307 GB/s, ce qui fixe sa vitesse d’écriture.
- Mac mini avec puce M5 Pro : combien de mémoire pour l’IA ?
- Avec 24 GB, 28 modèles ouverts tournent bien ; avec 64 GB, 34, jusqu’à Nemotron 3.5 Bolt 74B A9B. La mémoire décide des modèles qui tiennent et ne peut pas être augmentée ensuite.
Autres Mac
Mac mini avec d’autres puces :
Autres Mac avec puce M5 Pro :
Face à face :
La puce M5 Pro pour l’IA locale · Le meilleur Mac pour les LLM en local · Tous les Mac
Comment c’est calculé
Mémoire : les paramètres du modèle à 8, 6, 4, 3 ou 2 bits par poids, plus les facteurs d’échelle par groupe de MLX (un demi-bit par poids), ou son format natif, avec en plus de la place pour le contexte. Par défaut, macOS laisse le GPU utiliser environ 75 % de la mémoire unifiée. Vitesse : la bande passante mémoire divisée par les octets lus pour chaque token donne le plafond pour une conversation ; dans les benchmarks Apple Silicon publics de llama.cpp, les exécutions réelles atteignent environ 45 % à 80 % de ce plafond, et c’est la fourchette affichée. Ce sont des estimations, pas des mesures : mesurez votre propre Mac sur MLX Bench. Chiffres des modèles tirés de chaque fiche officielle, chiffres des puces tirés des caractéristiques techniques d’Apple. Vérifié le 2026-10-19. Mêmes données que mlx.app/compare.