Se connecterCréer un portefeuille

Que peut faire tourner un Mac M3 Pro de 18 GB ?

20 des 73 modèles ouverts y tournent bien. Par défaut, le GPU peut utiliser environ 14 GB sur ses 18 GB, et la puce lit la mémoire à 150 GB/s, ce qui fixe sa vitesse d’écriture. On la trouve dans : MacBook Pro (14-inch, M3 Pro or M3 Max, Nov 2023), MacBook Pro (16-inch, Nov 2023).

Le plus intelligent qui tourne bienMiniCPM5 2B8 bits · 2,7 GB · 25–44 tok/sLe plus grand qui tourne bienGemma 4 12B Unified4 bits · 6,7 GB · 10–18 tok/s

Tourne bien 27

Tient avec de la place pour le contexte, à 10 tokens par seconde ou plus.

ModèleVersionMémoireTokens/s
MiniCPM5 2B2,52B · Intelligence 12,58 bits2,7 GB25–44
Qwen3.5 9B9B · Intelligence 11,24 bits5,1 GB13–24
Granite 4.2 8B8B · Intelligence 11,16 bits6,5 GB10–18
Granite 4.2 3B3B · Intelligence 9,18 bits3,2 GB21–38
Gemma 4 E4B8B · Intelligence 8,98 bits8,5 GB14–25
Ministral 3 8B8,9B · Intelligence 5,54 bits5 GB14–24
Nemotron 3 Nano 4B3,97B · Intelligence 4,88 bits4,2 GB16–29
Gemma 4 12B Unified12B4 bits6,7 GB10–18
Qwen3 8B8,2B6 bits6,7 GB10–18
Llama 3.1 8B Instruct8B6 bits6,5 GB10–18
Gemma 4 E2B5,1B8 bits5,4 GB28–50
Qwen3.5 4B4B8 bits4,3 GB16–28
Phi-4 mini instruct3,8B8 bits4 GB17–30
Llama 3.2 3B Instruct3,21B8 bits3,4 GB20–35
SmolLM3 3B3B8 bits3,2 GB21–38
LFM2.5 2.6B2,69B8 bits2,9 GB23–41
Qwen3.5 2B2B8 bits2,1 GB32–57
Llama 3.2 1B Instruct1,23B8 bits1,3 GB52–92
Qwen3.5 0.8B0,8B8 bits0,9 GB75–133
Qwen3 0.6B0,6B8 bits0,6 GB113–200
Qwen3.6 35B A3B35B · 3B actifs · Intelligence 18,22 bits qualité moindre10,9 GB75–133
Nemotron 3.5 Lightning 30B A3B30B · 3B actifs · Intelligence 12,92 bits qualité moindre9,4 GB75–133
Nemotron 3 Nano 30B A3B30B · 3,5B actifs · Intelligence 8,92 bits qualité moindre9,4 GB61–109
Qwen3 Coder 30B A3B Instruct30,5B · 3,3B actifs2 bits qualité moindre9,5 GB68–120
GLM-4.7 Flash30B · 3B actifs2 bits qualité moindre9,4 GB75–133
Gemma 4 26B A4B25,2B · 3,8B actifs3 bits qualité moindre11 GB40–71
LFM2.5 24B A2B24B · 2B actifs3 bits qualité moindre10,5 GB75–133

Tourne, mais lentement 10

Tient, mais sous 10 tokens par seconde : bien pour les traitements par lots, lent pour discuter.

ModèleVersionMémoireTokens/s
Phi-4 Reasoning Vision 15B15B4 bits8,4 GB8–14
Phi-4 (14B)14B6 bits11,4 GB6–11
Qwen3.8 27B27B · Intelligence 33,73 bits qualité moindre11,8 GB6–10
Muse Glimmer 30B29,6B · Intelligence 17,52 bits qualité moindre9,3 GB7–13
Gemma 4 31B30,7B · Intelligence 14,72 bits qualité moindre9,6 GB7–13
Granite 4.2 30B30B · Intelligence 12,72 bits qualité moindre9,4 GB7–13
Qwen3.6 27B27B3 bits qualité moindre11,8 GB6–10
Devstral Small 2 (24B)24B3 bits qualité moindre10,5 GB6–11
Magistral Small 1.2 (2509)24B3 bits qualité moindre10,5 GB6–11
Mistral Small 3.2 (24B)24B3 bits qualité moindre10,5 GB6–11

Tient tout juste 1

Occupe presque toute la mémoire : relevez la limite de mémoire du GPU et gardez un contexte court.

ModèleVersionMémoireTokens/s
gpt-oss-20b21B · 3,6B actifs · Intelligence 94,25 bits natif13,8 GB36–63

Trop grand 35

Demande plus de 18 GB de mémoire, même en 2 bits.

Autres Mac

Tous les Mac avec 18 GB, quelle que soit la puce.

La puce M3 Pro avec plus ou moins de mémoire :

Puces voisines :

Face à face :

La comparer à n’importe quel Mac ou GPU · La puce M3 Pro pour l’IA locale · Le meilleur Mac pour les LLM en local · Tous les Mac

Questions

Quel est le meilleur LLM pour un Mac M3 Pro de 18 GB ?
Parmi les modèles dotés d’un Intelligence Index publié, MiniCPM5 2B obtient le meilleur score parmi ceux qui tournent bien ici : 8 bits, environ 25–44 tokens par seconde. Le plus grand qui tourne bien est Gemma 4 12B Unified.
Un Mac M3 Pro de 18 GB peut-il faire tourner Llama 3.3 70B ?
Non : même en 2 bits, il demande plus que les 14 GB que le GPU peut utiliser par défaut.
À quelle vitesse gpt-oss-20b tourne-t-il sur une puce M3 Pro ?
Environ 36–63 tokens par seconde (4,25 bits natif), d’après les 150 GB/s de bande passante mémoire de la puce.

Faites-les tourner avec MLX Harness (gratuit, open source) ou avec mlx-lm d’Apple dans le Terminal : pas à pas.

Comment c’est calculé

Mémoire : les paramètres du modèle à 8, 6, 4, 3 ou 2 bits par poids, plus les facteurs d’échelle par groupe de MLX (un demi-bit par poids), ou son format natif, avec en plus de la place pour le contexte. Par défaut, macOS laisse le GPU utiliser environ 75 % de la mémoire unifiée. Vitesse : la bande passante mémoire divisée par les octets lus pour chaque token donne le plafond pour une conversation ; dans les benchmarks Apple Silicon publics de llama.cpp, les exécutions réelles atteignent environ 45 % à 80 % de ce plafond, et c’est la fourchette affichée. Ce sont des estimations, pas des mesures : mesurez votre propre Mac sur MLX Bench. Chiffres des modèles tirés de chaque fiche officielle, chiffres des puces tirés des caractéristiques techniques d’Apple. Vérifié le 2026-10-19. Mêmes données que mlx.app/compare.

Quels LLM tournent sur un M3 Pro de 18 GB ? Modèles et vitesse