Quel est le meilleur LLM pour un Mac de 24 GB ?

Parmi les modèles dotés d’un Intelligence Index publié, MiniCPM5 2B obtient le meilleur score parmi ceux qui tournent bien avec 24 GB (8 bits). Le plus grand qui tourne bien est Gemma 4 26B A4B. Pour le code : Devstral Small 2 (24B).

24 GB suffisent-ils pour l’IA locale sur un Mac ?

28 des 73 modèles ouverts présentés ici y tournent bien, en 4 bits ou plus. Par défaut, macOS laisse le GPU en utiliser environ 18 GB ; le modèle et son contexte doivent y tenir.

Un Mac de 24 GB peut-il faire tourner gpt-oss-20b ?

Oui, 4,25 bits natif, à environ 24–42 tokens par seconde sur une puce M3 et 73–129 sur une M5 Pro.

Meilleurs LLM en local pour un Mac de 24 GB (M2 à M6)

Mac avec 24 GB

7 puces, de M2 à M6, existent avec 24 GB. Ouvrez-en une pour voir sa liste et ses vitesses.

Tourne bien 36

Tient avec de la place pour le contexte, à 10 tokens par seconde ou plus sur la puce M5 Pro.

Modèle	Version	Mémoire	M3	M5 Pro
MiniCPM5 2B2,52B · Intelligence 12,5	8 bits	2,7 GB	17–30	51–91
Qwen3.5 9B9B · Intelligence 11,2	8 bits	9,6 GB	5–8	14–26
Granite 4.2 8B8B · Intelligence 11,1	8 bits	8,5 GB	10–18	16–29
Granite 4.2 3B3B · Intelligence 9,1	8 bits	3,2 GB	14–25	43–77
gpt-oss-20b21B · 3,6B actifs · Intelligence 9	4,25 bits natif	13,8 GB	24–42	73–129
Gemma 4 E4B8B · Intelligence 8,9	8 bits	8,5 GB	12–22	29–51
Ministral 3 8B8,9B · Intelligence 5,5	8 bits	9,5 GB	5–8	15–26
Nemotron 3 Nano 4B3,97B · Intelligence 4,8	8 bits	4,2 GB	11–19	33–58
Gemma 4 26B A4B25,2B · 3,8B actifs	4 bits	14,2 GB	21–38	66–117
Devstral Small 2 (24B)24B	4 bits	13,5 GB	3–6	10–18
Magistral Small 1.2 (2509)24B	4 bits	13,5 GB	3–6	10–18
Mistral Small 3.2 (24B)24B	4 bits	13,5 GB	3–6	10–18
LFM2.5 24B A2B24B · 2B actifs	4 bits	13,5 GB	41–73	126–223
Phi-4 Reasoning Vision 15B15B	6 bits	12,2 GB	3–5	11–20
Phi-4 (14B)14B	6 bits	11,4 GB	3–5	12–22
Gemma 4 12B Unified12B	8 bits	12,7 GB	4–6	11–19
Qwen3 8B8,2B	8 bits	8,7 GB	10–17	16–28
Llama 3.1 8B Instruct8B	8 bits	8,5 GB	10–18	16–29
Gemma 4 E2B5,1B	8 bits	5,4 GB	19–33	58–102
Qwen3.5 4B4B	8 bits	4,3 GB	10–19	32–57
Phi-4 mini instruct3,8B	8 bits	4 GB	11–20	35–61
Llama 3.2 3B Instruct3,21B	8 bits	3,4 GB	13–24	41–72
SmolLM3 3B3B	8 bits	3,2 GB	14–25	43–77
LFM2.5 2.6B2,69B	8 bits	2,9 GB	16–28	48–85
Qwen3.5 2B2B	8 bits	2,1 GB	21–38	66–117
Llama 3.2 1B Instruct1,23B	8 bits	1,3 GB	35–62	106–189
Qwen3.5 0.8B0,8B	8 bits	0,9 GB	50–89	154–273
Qwen3 0.6B0,6B	8 bits	0,6 GB	75–133	230–409
Qwen3.6 35B A3B35B · 3B actifs · Intelligence 18,2	3 bits qualité moindre	15,3 GB	35–62	106–189
Muse Glimmer 30B29,6B · Intelligence 17,5	3 bits qualité moindre	13 GB	3–6	11–19
Gemma 4 31B30,7B · Intelligence 14,7	3 bits qualité moindre	13,4 GB	3–6	10–18
Nemotron 3.5 Lightning 30B A3B30B · 3B actifs · Intelligence 12,9	3 bits qualité moindre	13,1 GB	35–62	106–189
Granite 4.2 30B30B · Intelligence 12,7	3 bits qualité moindre	13,1 GB	3–6	11–19
Nemotron 3 Nano 30B A3B30B · 3,5B actifs · Intelligence 8,9	3 bits qualité moindre	13,1 GB	30–53	92–164
Qwen3 Coder 30B A3B Instruct30,5B · 3,3B actifs	3 bits qualité moindre	13,3 GB	32–57	99–175
GLM-4.7 Flash30B · 3B actifs	3 bits qualité moindre	13,1 GB	35–62	106–189

Tourne, mais lentement 2

Tient, mais sous 10 tokens par seconde : bien pour les traitements par lots, lent pour discuter.

Modèle	Version	Mémoire	M3	M5 Pro
Qwen3.8 27B27B · Intelligence 33,7	4 bits	15,2 GB	3–5	9–16
Qwen3.6 27B27B	4 bits	15,2 GB	3–5	9–16

Questions

Quel est le meilleur LLM pour un Mac de 24 GB ?: Parmi les modèles dotés d’un Intelligence Index publié, MiniCPM5 2B obtient le meilleur score parmi ceux qui tournent bien avec 24 GB (8 bits). Le plus grand qui tourne bien est Gemma 4 26B A4B. Pour le code : Devstral Small 2 (24B).
24 GB suffisent-ils pour l’IA locale sur un Mac ?: 28 des 73 modèles ouverts présentés ici y tournent bien, en 4 bits ou plus. Par défaut, macOS laisse le GPU en utiliser environ 18 GB ; le modèle et son contexte doivent y tenir.
Un Mac de 24 GB peut-il faire tourner gpt-oss-20b ?: Oui, 4,25 bits natif, à environ 24–42 tokens par seconde sur une puce M3 et 73–129 sur une M5 Pro.

Autres capacités : 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB

Faites-les tourner avec MLX Harness (gratuit, open source) ou avec mlx-lm d’Apple dans le Terminal : pas à pas.

Comment c’est calculé

Mémoire : les paramètres du modèle à 8, 6, 4, 3 ou 2 bits par poids, plus les facteurs d’échelle par groupe de MLX (un demi-bit par poids), ou son format natif, avec en plus de la place pour le contexte. Par défaut, macOS laisse le GPU utiliser environ 75 % de la mémoire unifiée. Vitesse : la bande passante mémoire divisée par les octets lus pour chaque token donne le plafond pour une conversation ; dans les benchmarks Apple Silicon publics de llama.cpp, les exécutions réelles atteignent environ 45 % à 80 % de ce plafond, et c’est la fourchette affichée. Ce sont des estimations, pas des mesures : mesurez votre propre Mac sur MLX Bench. Chiffres des modèles tirés de chaque fiche officielle, chiffres des puces tirés des caractéristiques techniques d’Apple. Vérifié le 2026-10-19. Mêmes données que mlx.app/compare.

Les meilleurs LLM pour un Mac de 24 GB.