Un Mac peut-il faire tourner gpt-oss-20b ?

Oui, avec 24 GB de mémoire unifiée ou plus. gpt-oss-20b compte 21B paramètres, dont 3,6B actifs pour chaque token ; voici la mémoire nécessaire à chaque précision et la vitesse à laquelle chaque puce Apple le fait tourner.

Mémoire en 4,25 bits natif15,3 GBpoids 13,8 GB + contexte
Plus petit Mac24 GB4,25 bits natif · 54 configurations de Mac
Mac le plus rapide284–505tokens/s · M5 Ultra 96 GB (estimation)

Mémoire à chaque précision

VersionPoidsAvec contextePlus petit Mac
4,25 bits natif13,8 GB15,3 GB24 GB
3 bits qualité moindre9,2 GB10,7 GB16 GB
2 bits qualité moindre6,6 GB8,1 GB16 GB

Sur chaque puce Apple

Pour chaque puce, la plus petite capacité de mémoire qui fait tourner gpt-oss-20b, la meilleure version qui y tient et la vitesse d’écriture à attendre.

PuceDemandeVersionTokens/s
M624 GB4,25 bits natif Tourne bien40–72
M5 Ultra96 GB4,25 bits natif Tourne bien284–505
M5 Max36 GB4,25 bits natif Tourne bien109–194
M5 Pro24 GB4,25 bits natif Tourne bien73–129
M524 GB4,25 bits natif Tourne bien36–64
M4 Max36 GB4,25 bits natif Tourne bien97–173
M4 Pro24 GB4,25 bits natif Tourne bien65–115
M424 GB4,25 bits natif Tourne bien28–51
M3 Ultra96 GB4,25 bits natif Tourne bien194–345
M3 Max36 GB4,25 bits natif Tourne bien71–126
M3 Pro36 GB4,25 bits natif Tourne bien36–63
M324 GB4,25 bits natif Tourne bien24–42
M2 Ultra64 GB4,25 bits natif Tourne bien189–337
M2 Max32 GB4,25 bits natif Tourne bien95–168
M2 Pro32 GB4,25 bits natif Tourne bien47–84
M224 GB4,25 bits natif Tourne bien24–42
M1 Ultra64 GB4,25 bits natif Tourne bien189–337
M1 Max32 GB4,25 bits natif Tourne bien95–168
M1 Pro32 GB4,25 bits natif Tourne bien47–84
M116 GB3 bits Tourne bien19–34

Comment le faire tourner

  1. Le plus simple : téléchargez MLX Harness, gratuit et open source. Cherchez gpt-oss-20b, téléchargez la version adaptée à votre Mac, et discutez. MLX Harness met aussi le modèle à disposition de vos autres apps via une API compatible OpenAI.Télécharger MLX HarnessGratuit · Apple Silicon · macOS 14.5 ou version ultérieure
  2. Dans le Terminal avec MLX d’Apple :pip install mlx-lmmlx_lm.chat --model mlx-community/gpt-oss-20b-MXFP4-Q8Version MLX : mlx-community/gpt-oss-20b-MXFP4-Q8 sur Hugging Face. Les autres précisions sont juste à côté.

Pas à pas : télécharger et exécuter des LLM sur Mac · utiliser MLX Harness · MLX, Ollama ou llama.cpp

À propos de gpt-oss-20b

Créé parOpenAI
Paramètres21B au total · 3,6B actifs (mixture-of-experts)
Contexte128K tokens
LicenceApache-2.0
Sortie2025-08
EntréeTexte
Intelligence9 sur l’Artificial Analysis Intelligence Index
Poidsopenai/gpt-oss-20b

Questions

De combien de mémoire gpt-oss-20b a-t-il besoin ?
Environ 13,8 GB de poids en 4,25 bits natif, plus de la place pour le contexte : 15,3 GB au total. Sur un Mac, il faut donc 24 GB de mémoire unifiée ou plus, car macOS laisse le GPU en utiliser environ 75 % par défaut.
À quelle vitesse gpt-oss-20b tourne-t-il sur un Mac ?
La vitesse d’écriture dépend de la bande passante mémoire. Ici, le Mac le plus rapide pour ce modèle est équipé d’une puce M5 Ultra avec 96 GB, à environ 284–505 tokens par seconde (4,25 bits natif). Le plus petit Mac qui le fait tourner, avec 24 GB, atteint environ 73–129 avec une puce M5 Pro.
Pourquoi gpt-oss-20b est-il plus rapide que sa taille ne le laisse penser ?
C’est un modèle mixture-of-experts : il garde 21B paramètres en mémoire mais n’en lit que 3,6B pour chaque token, il écrit donc à la vitesse d’un modèle bien plus petit.

Modèles similaires

Tous les modèles · Tous les Mac · Comparer votre Mac

Pour votre fiche de modèle ou votre README

Runs on a Mac: gpt-oss-20b Affiche le plus petit Mac qui fait bien tourner gpt-oss-20b et renvoie vers cette page.

[![Runs on a Mac](https://mlx.app/badge/run/gpt-oss-20b.svg)](https://mlx.app/run/gpt-oss-20b)

Comment c’est calculé

Mémoire : les paramètres du modèle à 8, 6, 4, 3 ou 2 bits par poids, plus les facteurs d’échelle par groupe de MLX (un demi-bit par poids), ou son format natif, avec en plus de la place pour le contexte. Par défaut, macOS laisse le GPU utiliser environ 75 % de la mémoire unifiée. Vitesse : la bande passante mémoire divisée par les octets lus pour chaque token donne le plafond pour une conversation ; dans les benchmarks Apple Silicon publics de llama.cpp, les exécutions réelles atteignent environ 45 % à 80 % de ce plafond, et c’est la fourchette affichée. Ce sont des estimations, pas des mesures : mesurez votre propre Mac sur MLX Bench. Chiffres des modèles tirés de chaque fiche officielle, chiffres des puces tirés des caractéristiques techniques d’Apple. Vérifié le 2026-10-19. Mêmes données que mlx.app/compare.

gpt-oss-20b tourne-t-il sur Mac ? RAM et vitesse