Se connecterCréer un portefeuille

Que peut faire tourner un Mac M2 Pro de 32 GB ?

30 des 73 modèles ouverts y tournent bien. Par défaut, le GPU peut utiliser environ 24 GB sur ses 32 GB, et la puce lit la mémoire à 200 GB/s, ce qui fixe sa vitesse d’écriture. On la trouve dans : MacBook Pro (14-inch, 2023), MacBook Pro (16-inch, 2023), Mac mini (2023).

Le plus intelligent qui tourne bienQwen3.6 35B A3B4 bits · 19,7 GB · 53–94 tok/sLe plus grand qui tourne bienQwen3.6 35B A3B4 bits · 19,7 GB · 53–94 tok/sPour le codeQwen3 Coder 30B A3B Instruct4 bits · 17,2 GB · 47–84 tok/s

Tourne bien 30

Tient avec de la place pour le contexte, à 10 tokens par seconde ou plus.

ModèleVersionMémoireTokens/s
Qwen3.6 35B A3B35B · 3B actifs · Intelligence 18,24 bits19,7 GB53–94
Nemotron 3.5 Lightning 30B A3B30B · 3B actifs · Intelligence 12,94 bits16,9 GB53–94
MiniCPM5 2B2,52B · Intelligence 12,58 bits2,7 GB33–59
Qwen3.5 9B9B · Intelligence 11,26 bits7,3 GB12–22
Granite 4.2 8B8B · Intelligence 11,18 bits8,5 GB11–19
Granite 4.2 3B3B · Intelligence 9,18 bits3,2 GB28–50
gpt-oss-20b21B · 3,6B actifs · Intelligence 94,25 bits natif13,8 GB47–84
Nemotron 3 Nano 30B A3B30B · 3,5B actifs · Intelligence 8,94 bits16,9 GB45–80
Gemma 4 E4B8B · Intelligence 8,98 bits8,5 GB19–33
Ministral 3 8B8,9B · Intelligence 5,56 bits7,2 GB13–22
Nemotron 3 Nano 4B3,97B · Intelligence 4,88 bits4,2 GB21–38
Qwen3 Coder 30B A3B Instruct30,5B · 3,3B actifs4 bits17,2 GB47–84
GLM-4.7 Flash30B · 3B actifs4 bits16,9 GB53–94
Gemma 4 26B A4B25,2B · 3,8B actifs6 bits20,5 GB29–52
LFM2.5 24B A2B24B · 2B actifs6 bits19,5 GB56–100
Phi-4 Reasoning Vision 15B15B4 bits8,4 GB11–19
Phi-4 (14B)14B4 bits7,9 GB11–20
Gemma 4 12B Unified12B4 bits6,7 GB13–24
Qwen3 8B8,2B8 bits8,7 GB10–18
Llama 3.1 8B Instruct8B8 bits8,5 GB11–19
Gemma 4 E2B5,1B8 bits5,4 GB38–67
Qwen3.5 4B4B8 bits4,3 GB21–37
Phi-4 mini instruct3,8B8 bits4 GB23–40
Llama 3.2 3B Instruct3,21B8 bits3,4 GB26–47
SmolLM3 3B3B8 bits3,2 GB28–50
LFM2.5 2.6B2,69B8 bits2,9 GB31–55
Qwen3.5 2B2B8 bits2,1 GB43–76
Llama 3.2 1B Instruct1,23B8 bits1,3 GB69–123
Qwen3.5 0.8B0,8B8 bits0,9 GB100–178
Qwen3 0.6B0,6B8 bits0,6 GB150–267

Tourne, mais lentement 9

Tient, mais sous 10 tokens par seconde : bien pour les traitements par lots, lent pour discuter.

ModèleVersionMémoireTokens/s
Qwen3.8 27B27B · Intelligence 33,76 bits21,9 GB4–7
Muse Glimmer 30B29,6B · Intelligence 17,54 bits16,7 GB5–10
Gemma 4 31B30,7B · Intelligence 14,74 bits17,3 GB5–9
Granite 4.2 30B30B · Intelligence 12,74 bits16,9 GB5–9
Qwen3.6 27B27B6 bits21,9 GB4–7
Devstral Small 2 (24B)24B6 bits19,5 GB5–8
Magistral Small 1.2 (2509)24B6 bits19,5 GB5–8
Mistral Small 3.2 (24B)24B6 bits19,5 GB5–8
Llama 3.3 70B Instruct70B2 bits qualité moindre21,9 GB4–7

Tient tout juste 2

Occupe presque toute la mémoire : relevez la limite de mémoire du GPU et gardez un contexte court.

ModèleVersionMémoireTokens/s
Nemotron 3.5 Bolt 74B A9B74B · 9B actifs · Intelligence 21,42 bits qualité moindre23,1 GB32–57
Qwen3 Coder Next80B · 3B actifs · Intelligence 9,22 bits qualité moindre25 GB100–178

Trop grand 32

Demande plus de 32 GB de mémoire, même en 2 bits.

Autres Mac

Tous les Mac avec 32 GB, quelle que soit la puce.

La puce M2 Pro avec plus ou moins de mémoire :

Puces voisines :

Face à face :

La comparer à n’importe quel Mac ou GPU · La puce M2 Pro pour l’IA locale · Le meilleur Mac pour les LLM en local · Tous les Mac

Questions

Quel est le meilleur LLM pour un Mac M2 Pro de 32 GB ?
Parmi les modèles dotés d’un Intelligence Index publié, Qwen3.6 35B A3B obtient le meilleur score parmi ceux qui tournent bien ici : 4 bits, environ 53–94 tokens par seconde.
Un Mac M2 Pro de 32 GB peut-il faire tourner Llama 3.3 70B ?
Oui, mais lentement : 2 bits (qualité moindre), à environ 4–7 tokens par seconde.
À quelle vitesse gpt-oss-20b tourne-t-il sur une puce M2 Pro ?
Environ 47–84 tokens par seconde (4,25 bits natif), d’après les 200 GB/s de bande passante mémoire de la puce.

Faites-les tourner avec MLX Harness (gratuit, open source) ou avec mlx-lm d’Apple dans le Terminal : pas à pas.

Comment c’est calculé

Mémoire : les paramètres du modèle à 8, 6, 4, 3 ou 2 bits par poids, plus les facteurs d’échelle par groupe de MLX (un demi-bit par poids), ou son format natif, avec en plus de la place pour le contexte. Par défaut, macOS laisse le GPU utiliser environ 75 % de la mémoire unifiée. Vitesse : la bande passante mémoire divisée par les octets lus pour chaque token donne le plafond pour une conversation ; dans les benchmarks Apple Silicon publics de llama.cpp, les exécutions réelles atteignent environ 45 % à 80 % de ce plafond, et c’est la fourchette affichée. Ce sont des estimations, pas des mesures : mesurez votre propre Mac sur MLX Bench. Chiffres des modèles tirés de chaque fiche officielle, chiffres des puces tirés des caractéristiques techniques d’Apple. Vérifié le 2026-10-19. Mêmes données que mlx.app/compare.

Quels LLM tournent sur un M2 Pro de 32 GB ? Modèles et vitesse