Tourne bien 67
Tient avec de la place pour le contexte, à 10 tokens par seconde ou plus.
| Modèle | Version | Mémoire | Tokens/s |
|---|---|---|---|
| DeepSeek V4.1 Flash 1017552B · 16B actifs · Intelligence 45,1 | 4 bits | 311 GB | 41–73 |
| GLM-5.3 Flash320B · 18B actifs · Intelligence 41,8 | 8 bits | 340 GB | 19–34 |
| Qwen3.8 Flash Next180B · 6B actifs · Intelligence 39,8 | 8 bits | 191 GB | 58–102 |
| MiMo V2.6 Flash309B · 15B actifs · Intelligence 37,9 | 4,48 bits natif | 173 GB | 44–78 |
| Qwen3.8 27B27B · Intelligence 33,7 | 8 bits | 28,7 GB | 13–23 |
| Beam 1.0501B · 23B actifs · Intelligence 30,3 | 4 bits | 282 GB | 29–51 |
| MiniMax M3428B · 23B actifs · Intelligence 29,2 | 6 bits | 348 GB | 20–35 |
| Inkling Small276B · 12B actifs · Intelligence 25,7 | 8 bits | 293 GB | 29–51 |
| Hy3295B · 21B actifs · Intelligence 25,3 | 8 bits | 313 GB | 17–29 |
| Nemotron 3 Ultra 550B A55B550B · 55B actifs · Intelligence 22,9 | 4 bits | 309 GB | 12–21 |
| Nemotron 3.5 Bolt 74B A9B74B · 9B actifs · Intelligence 21,4 | 8 bits | 78,6 GB | 38–68 |
| Qwen3.5 397B A17B397B · 17B actifs · Intelligence 18,4 | 6 bits | 323 GB | 27–47 |
| Qwen3.6 35B A3B35B · 3B actifs · Intelligence 18,2 | 8 bits | 37,2 GB | 115–205 |
| Muse Glimmer 30B29,6B · Intelligence 17,5 | 8 bits | 31,5 GB | 12–21 |
| Qwen3.5 122B A10B122B · 10B actifs · Intelligence 15,6 | 8 bits | 130 GB | 35–62 |
| Gemma 4 31B30,7B · Intelligence 14,7 | 8 bits | 32,6 GB | 11–20 |
| Nemotron 3.5 Lightning 30B A3B30B · 3B actifs · Intelligence 12,9 | 8 bits | 31,9 GB | 115–205 |
| Granite 4.2 30B30B · Intelligence 12,7 | 8 bits | 31,9 GB | 12–21 |
| MiniCPM5 2B2,52B · Intelligence 12,5 | 8 bits | 2,7 GB | 137–243 |
| gpt-oss-120b117B · 5,1B actifs · Intelligence 11,6 | 4,25 bits natif | 65,3 GB | 137–243 |
| Mistral Small 4 (119B)119B · 6,5B actifs · Intelligence 11,3 | 8 bits | 126 GB | 53–95 |
| Qwen3.5 9B9B · Intelligence 11,2 | 8 bits | 9,6 GB | 38–68 |
| Granite 4.2 8B8B · Intelligence 11,1 | 8 bits | 8,5 GB | 43–77 |
| Llama 4 Maverick 17B-128E Instruct400B · 17B actifs · Intelligence 9,3 | 6 bits | 325 GB | 27–47 |
| Qwen3 Coder Next80B · 3B actifs · Intelligence 9,2 | 8 bits | 85 GB | 115–205 |
| Granite 4.2 3B3B · Intelligence 9,1 | 8 bits | 3,2 GB | 115–205 |
| gpt-oss-20b21B · 3,6B actifs · Intelligence 9 | 4,25 bits natif | 13,8 GB | 194–345 |
| Nemotron 3 Nano 30B A3B30B · 3,5B actifs · Intelligence 8,9 | 8 bits | 31,9 GB | 100–177 |
| Gemma 4 E4B8B · Intelligence 8,9 | 8 bits | 8,5 GB | 77–137 |
| Llama 4 Scout 17B-16E Instruct109B · 17B actifs · Intelligence 6,5 | 8 bits | 116 GB | 20–36 |
| Ministral 3 8B8,9B · Intelligence 5,5 | 8 bits | 9,5 GB | 39–69 |
| Nemotron 3 Nano 4B3,97B · Intelligence 4,8 | 8 bits | 4,2 GB | 88–156 |
| DeepSeek V4 Flash 0731284B · 13B actifs | 8 bits | 302 GB | 27–47 |
| MiniMax M2.7230B · 10B actifs | 8 bits | 244 GB | 35–62 |
| Ornith 1.5 122B122B · 10B actifs | 8 bits | 130 GB | 35–62 |
| Nemotron 3 Super 120B A12B120B · 12B actifs | 8 bits | 128 GB | 29–51 |
| GLM-4.5 Air106B · 12B actifs | 8 bits | 113 GB | 29–51 |
| Qwen3 Coder 30B A3B Instruct30,5B · 3,3B actifs | 8 bits | 32,4 GB | 105–187 |
| GLM-4.7 Flash30B · 3B actifs | 8 bits | 31,9 GB | 115–205 |
| Qwen3.6 27B27B | 8 bits | 28,7 GB | 13–23 |
| Gemma 4 26B A4B25,2B · 3,8B actifs | 8 bits | 26,8 GB | 92–164 |
| Devstral Small 2 (24B)24B | 8 bits | 25,5 GB | 14–26 |
| Magistral Small 1.2 (2509)24B | 8 bits | 25,5 GB | 14–26 |
| Mistral Small 3.2 (24B)24B | 8 bits | 25,5 GB | 14–26 |
| LFM2.5 24B A2B24B · 2B actifs | 8 bits | 25,5 GB | 176–312 |
| Phi-4 Reasoning Vision 15B15B | 8 bits | 15,9 GB | 23–41 |
| Phi-4 (14B)14B | 8 bits | 14,9 GB | 25–44 |
| Gemma 4 12B Unified12B | 8 bits | 12,7 GB | 29–52 |
| Qwen3 8B8,2B | 8 bits | 8,7 GB | 42–75 |
| Llama 3.1 8B Instruct8B | 8 bits | 8,5 GB | 43–77 |
| Gemma 4 E2B5,1B | 8 bits | 5,4 GB | 154–273 |
| Qwen3.5 4B4B | 8 bits | 4,3 GB | 86–152 |
| Phi-4 mini instruct3,8B | 8 bits | 4 GB | 92–164 |
| Llama 3.2 3B Instruct3,21B | 8 bits | 3,4 GB | 108–193 |
| SmolLM3 3B3B | 8 bits | 3,2 GB | 115–205 |
| LFM2.5 2.6B2,69B | 8 bits | 2,9 GB | 127–226 |
| Qwen3.5 2B2B | 8 bits | 2,1 GB | 176–312 |
| Llama 3.2 1B Instruct1,23B | 8 bits | 1,3 GB | 284–504 |
| Qwen3.5 0.8B0,8B | 8 bits | 0,9 GB | 410–728 |
| Qwen3 0.6B0,6B | 8 bits | 0,6 GB | 614–1092 |
| MiMo V2.6 Pro1 020B · 42B actifs · Intelligence 46,3 | 2 bits qualité moindre | 319 GB | 28–50 |
| GLM-5.3744B · 40B actifs · Intelligence 44,8 | 3 bits qualité moindre | 326 GB | 21–37 |
| Muse Spark Open816B · 42B actifs · Intelligence 38,9 | 2 bits qualité moindre | 255 GB | 28–50 |
| Kimi K2.7 Code1 000B · 32B actifs · Intelligence 25,8 | 2 bits qualité moindre | 313 GB | 37–66 |
| Inkling975B · 41B actifs · Intelligence 25 | 2 bits qualité moindre | 305 GB | 29–51 |
| Kimi K2.61 000B · 32B actifs | 2 bits qualité moindre | 313 GB | 37–66 |
| Mistral Large 3 (675B)675B · 41B actifs | 3 bits qualité moindre | 295 GB | 21–37 |
Tourne, mais lentement 3
Tient, mais sous 10 tokens par seconde : bien pour les traitements par lots, lent pour discuter.
| Modèle | Version | Mémoire | Tokens/s |
|---|---|---|---|
| Mistral Medium 3.5 (128B)128B · Intelligence 14,2 | 8 bits | 136 GB | 3–5 |
| Devstral 2 (123B)123B | 8 bits | 131 GB | 3–5 |
| Llama 3.3 70B Instruct70B | 8 bits | 74,4 GB | 5–9 |
Trop grand 3
Demande plus de 512 GB de mémoire, même en 2 bits.
Autres Mac
Tous les Mac avec 512 GB, quelle que soit la puce.
La puce M3 Ultra avec plus ou moins de mémoire :
Puces voisines :
Face à face :
Face aux PC et cartes graphiques :
La comparer à n’importe quel Mac ou GPU · La puce M3 Ultra pour l’IA locale · Le meilleur Mac pour les LLM en local · Tous les Mac
Questions
- Quel est le meilleur LLM pour un Mac M3 Ultra de 512 GB ?
- Parmi les modèles dotés d’un Intelligence Index publié, DeepSeek V4.1 Flash 1017 obtient le meilleur score parmi ceux qui tournent bien ici : 4 bits, environ 41–73 tokens par seconde.
- Un Mac M3 Ultra de 512 GB peut-il faire tourner Llama 3.3 70B ?
- Oui, mais lentement : 8 bits, à environ 5–9 tokens par seconde.
- À quelle vitesse gpt-oss-20b tourne-t-il sur une puce M3 Ultra ?
- Environ 194–345 tokens par seconde (4,25 bits natif), d’après les 819 GB/s de bande passante mémoire de la puce.
Faites-les tourner avec MLX Harness (gratuit, open source) ou avec mlx-lm d’Apple dans le Terminal : pas à pas.
Comment c’est calculé
Mémoire : les paramètres du modèle à 8, 6, 4, 3 ou 2 bits par poids, plus les facteurs d’échelle par groupe de MLX (un demi-bit par poids), ou son format natif, avec en plus de la place pour le contexte. Par défaut, macOS laisse le GPU utiliser environ 75 % de la mémoire unifiée. Vitesse : la bande passante mémoire divisée par les octets lus pour chaque token donne le plafond pour une conversation ; dans les benchmarks Apple Silicon publics de llama.cpp, les exécutions réelles atteignent environ 45 % à 80 % de ce plafond, et c’est la fourchette affichée. Ce sont des estimations, pas des mesures : mesurez votre propre Mac sur MLX Bench. Chiffres des modèles tirés de chaque fiche officielle, chiffres des puces tirés des caractéristiques techniques d’Apple. Vérifié le 2026-10-19. Mêmes données que mlx.app/compare.