Tourne bien 28
Tient avec de la place pour le contexte, à 10 tokens par seconde ou plus.
| Modèle | Version | Mémoire | Tokens/s |
|---|---|---|---|
| MiniCPM5 2B2,52B · Intelligence 12,5 | 8 bits | 2,7 GB | 26–45 |
| Qwen3.5 9B9B · Intelligence 11,2 | 4 bits | 5,1 GB | 14–24 |
| Granite 4.2 8B8B · Intelligence 11,1 | 6 bits | 6,5 GB | 11–19 |
| Granite 4.2 3B3B · Intelligence 9,1 | 8 bits | 3,2 GB | 22–38 |
| gpt-oss-20b21B · 3,6B actifs · Intelligence 9 | 4,25 bits natif | 13,8 GB | 36–64 |
| Gemma 4 E4B8B · Intelligence 8,9 | 8 bits | 8,5 GB | 14–26 |
| Ministral 3 8B8,9B · Intelligence 5,5 | 6 bits | 7,2 GB | 10–17 |
| Nemotron 3 Nano 4B3,97B · Intelligence 4,8 | 8 bits | 4,2 GB | 16–29 |
| Gemma 4 26B A4B25,2B · 3,8B actifs | 4 bits | 14,2 GB | 33–58 |
| LFM2.5 24B A2B24B · 2B actifs | 4 bits | 13,5 GB | 63–111 |
| Gemma 4 12B Unified12B | 4 bits | 6,7 GB | 10–18 |
| Qwen3 8B8,2B | 6 bits | 6,7 GB | 10–18 |
| Llama 3.1 8B Instruct8B | 6 bits | 6,5 GB | 11–19 |
| Gemma 4 E2B5,1B | 8 bits | 5,4 GB | 29–51 |
| Qwen3.5 4B4B | 8 bits | 4,3 GB | 16–28 |
| Phi-4 mini instruct3,8B | 8 bits | 4 GB | 17–31 |
| Llama 3.2 3B Instruct3,21B | 8 bits | 3,4 GB | 20–36 |
| SmolLM3 3B3B | 8 bits | 3,2 GB | 22–38 |
| LFM2.5 2.6B2,69B | 8 bits | 2,9 GB | 24–42 |
| Qwen3.5 2B2B | 8 bits | 2,1 GB | 33–58 |
| Llama 3.2 1B Instruct1,23B | 8 bits | 1,3 GB | 53–94 |
| Qwen3.5 0.8B0,8B | 8 bits | 0,9 GB | 77–136 |
| Qwen3 0.6B0,6B | 8 bits | 0,6 GB | 115–204 |
| Qwen3.6 35B A3B35B · 3B actifs · Intelligence 18,2 | 3 bits qualité moindre | 15,3 GB | 53–94 |
| Nemotron 3.5 Lightning 30B A3B30B · 3B actifs · Intelligence 12,9 | 3 bits qualité moindre | 13,1 GB | 53–94 |
| Nemotron 3 Nano 30B A3B30B · 3,5B actifs · Intelligence 8,9 | 3 bits qualité moindre | 13,1 GB | 46–82 |
| Qwen3 Coder 30B A3B Instruct30,5B · 3,3B actifs | 3 bits qualité moindre | 13,3 GB | 49–87 |
| GLM-4.7 Flash30B · 3B actifs | 3 bits qualité moindre | 13,1 GB | 53–94 |
Tourne, mais lentement 10
Tient, mais sous 10 tokens par seconde : bien pour les traitements par lots, lent pour discuter.
| Modèle | Version | Mémoire | Tokens/s |
|---|---|---|---|
| Qwen3.8 27B27B · Intelligence 33,7 | 4 bits | 15,2 GB | 5–8 |
| Qwen3.6 27B27B | 4 bits | 15,2 GB | 5–8 |
| Devstral Small 2 (24B)24B | 4 bits | 13,5 GB | 5–9 |
| Magistral Small 1.2 (2509)24B | 4 bits | 13,5 GB | 5–9 |
| Mistral Small 3.2 (24B)24B | 4 bits | 13,5 GB | 5–9 |
| Phi-4 Reasoning Vision 15B15B | 8 bits | 15,9 GB | 4–8 |
| Phi-4 (14B)14B | 8 bits | 14,9 GB | 5–8 |
| Muse Glimmer 30B29,6B · Intelligence 17,5 | 3 bits qualité moindre | 13 GB | 5–9 |
| Gemma 4 31B30,7B · Intelligence 14,7 | 3 bits qualité moindre | 13,4 GB | 5–9 |
| Granite 4.2 30B30B · Intelligence 12,7 | 3 bits qualité moindre | 13,1 GB | 5–9 |
Trop grand 35
Demande plus de 24 GB de mémoire, même en 2 bits.
- MiMo V2.6 Pro1 020B
- Kimi K32 800B
- MiMo V2.6 Flash309B
- Kimi K2.7 Code1 000B
- gpt-oss-120b117B
- Kimi K2.61 000B
- DeepSeek V4.1 Flash 1017552B
- GLM-5.3744B
- GLM-5.3 Flash320B
- Qwen3.8 2.4T A95B2 400B
- Qwen3.8 Flash Next180B
- Muse Spark Open816B
- DeepSeek V4 Pro 08131 600B
- Beam 1.0501B
- MiniMax M3428B
- Inkling Small276B
- Hy3295B
- Inkling975B
- Nemotron 3 Ultra 550B A55B550B
- Nemotron 3.5 Bolt 74B A9B74B
- Qwen3.5 397B A17B397B
- Qwen3.5 122B A10B122B
- Mistral Medium 3.5 (128B)128B
- Mistral Small 4 (119B)119B
- Llama 4 Maverick 17B-128E Instruct400B
- Qwen3 Coder Next80B
- Llama 4 Scout 17B-16E Instruct109B
- Mistral Large 3 (675B)675B
- DeepSeek V4 Flash 0731284B
- MiniMax M2.7230B
- Devstral 2 (123B)123B
- Ornith 1.5 122B122B
- Nemotron 3 Super 120B A12B120B
- GLM-4.5 Air106B
- Llama 3.3 70B Instruct70B
Autres Mac
Tous les Mac avec 24 GB, quelle que soit la puce.
La puce M5 avec plus ou moins de mémoire :
Puces voisines :
Face à face :
La comparer à n’importe quel Mac ou GPU · La puce M5 pour l’IA locale · Le meilleur Mac pour les LLM en local · Tous les Mac
Questions
- Quel est le meilleur LLM pour un Mac M5 de 24 GB ?
- Parmi les modèles dotés d’un Intelligence Index publié, MiniCPM5 2B obtient le meilleur score parmi ceux qui tournent bien ici : 8 bits, environ 26–45 tokens par seconde. Le plus grand qui tourne bien est Gemma 4 26B A4B.
- Un Mac M5 de 24 GB peut-il faire tourner Llama 3.3 70B ?
- Non : même en 2 bits, il demande plus que les 18 GB que le GPU peut utiliser par défaut.
- À quelle vitesse gpt-oss-20b tourne-t-il sur une puce M5 ?
- Environ 36–64 tokens par seconde (4,25 bits natif), d’après les 153 GB/s de bande passante mémoire de la puce.
Faites-les tourner avec MLX Harness (gratuit, open source) ou avec mlx-lm d’Apple dans le Terminal : pas à pas.
Comment c’est calculé
Mémoire : les paramètres du modèle à 8, 6, 4, 3 ou 2 bits par poids, plus les facteurs d’échelle par groupe de MLX (un demi-bit par poids), ou son format natif, avec en plus de la place pour le contexte. Par défaut, macOS laisse le GPU utiliser environ 75 % de la mémoire unifiée. Vitesse : la bande passante mémoire divisée par les octets lus pour chaque token donne le plafond pour une conversation ; dans les benchmarks Apple Silicon publics de llama.cpp, les exécutions réelles atteignent environ 45 % à 80 % de ce plafond, et c’est la fourchette affichée. Ce sont des estimations, pas des mesures : mesurez votre propre Mac sur MLX Bench. Chiffres des modèles tirés de chaque fiche officielle, chiffres des puces tirés des caractéristiques techniques d’Apple. Vérifié le 2026-10-19. Mêmes données que mlx.app/compare.