Un Mac peut-il faire tourner Mistral Small 4 (119B) ?

Oui, avec 128 GB de mémoire unifiée ou plus. Mistral Small 4 (119B) compte 119B paramètres, dont 6,5B actifs pour chaque token ; voici la mémoire nécessaire à chaque précision et la vitesse à laquelle chaque puce Apple le fait tourner.

Mémoire en 4 bits72,3 GBpoids 66,9 GB + contexte
Plus petit Mac128 GB4 bits · 23 configurations de Mac
Mac le plus rapide97–173tokens/s · M2 Ultra 128 GB (estimation)

Mémoire à chaque précision

VersionPoidsAvec contextePlus petit Mac
8 bits126 GB137 GB192 GB
6 bits96,7 GB104 GB192 GB
4 bits66,9 GB72,3 GB128 GB
3 bits qualité moindre52,1 GB56,3 GB96 GB
2 bits qualité moindre37,2 GB40,2 GB64 GB

Sur chaque puce Apple

Pour chaque puce, la plus petite capacité de mémoire qui fait tourner Mistral Small 4 (119B), la meilleure version qui y tient et la vitesse d’écriture à attendre.

PuceDemandeVersionTokens/s
M6aucune capacité ne suffitTrop grand–
M5 Ultra256 GB8 bits Tourne bien78–139
M5 Max128 GB4 bits Tourne bien75–133
M5 Pro64 GB2 bits Tourne bien69–123
M5aucune capacité ne suffitTrop grand–
M4 Max128 GB4 bits Tourne bien66–118
M4 Pro64 GB2 bits Tourne bien61–109
M4aucune capacité ne suffitTrop grand–
M3 Ultra256 GB8 bits Tourne bien53–95
M3 Max128 GB4 bits Tourne bien49–86
M3 Proaucune capacité ne suffitTrop grand–
M3aucune capacité ne suffitTrop grand–
M2 Ultra128 GB4 bits Tourne bien97–173
M2 Max64 GB2 bits Tourne bien90–160
M2 Proaucune capacité ne suffitTrop grand–
M2aucune capacité ne suffitTrop grand–
M1 Ultra128 GB4 bits Tourne bien97–173
M1 Max64 GB2 bits Tourne bien90–160
M1 Proaucune capacité ne suffitTrop grand–
M1aucune capacité ne suffitTrop grand–

Comment le faire tourner

  1. Le plus simple : téléchargez MLX Harness, gratuit et open source. Cherchez Mistral Small 4 (119B), téléchargez la version adaptée à votre Mac, et discutez. MLX Harness met aussi le modèle à disposition de vos autres apps via une API compatible OpenAI.Télécharger MLX HarnessGratuit · Apple Silicon · macOS 14.5 ou version ultérieure
  2. Dans le Terminal avec MLX d’Apple :pip install mlx-lmmlx_lm.chat --model mlx-community/Mistral-Small-4-119B-2603-4bitVersion MLX : mlx-community/Mistral-Small-4-119B-2603-4bit sur Hugging Face. Les autres précisions sont juste à côté.

Pas à pas : télécharger et exécuter des LLM sur Mac · utiliser MLX Harness · MLX, Ollama ou llama.cpp

À propos de Mistral Small 4 (119B)

Créé parMistral AI
Paramètres119B au total · 6,5B actifs (mixture-of-experts)
Contexte256K tokens
LicenceApache-2.0
Sortie2026-01
EntréeTexte et images
Intelligence11,3 sur l’Artificial Analysis Intelligence Index
Poidsmistralai/Mistral-Small-4-119B-2603

Questions

De combien de mémoire Mistral Small 4 (119B) a-t-il besoin ?
Environ 66,9 GB de poids en 4 bits, plus de la place pour le contexte : 72,3 GB au total. Sur un Mac, il faut donc 128 GB de mémoire unifiée ou plus, car macOS laisse le GPU en utiliser environ 75 % par défaut.
À quelle vitesse Mistral Small 4 (119B) tourne-t-il sur un Mac ?
La vitesse d’écriture dépend de la bande passante mémoire. Ici, le Mac le plus rapide pour ce modèle est équipé d’une puce M2 Ultra avec 128 GB, à environ 97–173 tokens par seconde (4 bits). Le plus petit Mac qui le fait tourner, avec 128 GB, atteint environ 97–173 avec une puce M2 Ultra.
Pourquoi Mistral Small 4 (119B) est-il plus rapide que sa taille ne le laisse penser ?
C’est un modèle mixture-of-experts : il garde 119B paramètres en mémoire mais n’en lit que 6,5B pour chaque token, il écrit donc à la vitesse d’un modèle bien plus petit.

Modèles similaires

Tous les modèles · Tous les Mac · Comparer votre Mac

Pour votre fiche de modèle ou votre README

Runs on a Mac: Mistral Small 4 (119B) Affiche le plus petit Mac qui fait bien tourner Mistral Small 4 (119B) et renvoie vers cette page.

[![Runs on a Mac](https://mlx.app/badge/run/mistral-small-4.svg)](https://mlx.app/run/mistral-small-4)

Comment c’est calculé

Mémoire : les paramètres du modèle à 8, 6, 4, 3 ou 2 bits par poids, plus les facteurs d’échelle par groupe de MLX (un demi-bit par poids), ou son format natif, avec en plus de la place pour le contexte. Par défaut, macOS laisse le GPU utiliser environ 75 % de la mémoire unifiée. Vitesse : la bande passante mémoire divisée par les octets lus pour chaque token donne le plafond pour une conversation ; dans les benchmarks Apple Silicon publics de llama.cpp, les exécutions réelles atteignent environ 45 % à 80 % de ce plafond, et c’est la fourchette affichée. Ce sont des estimations, pas des mesures : mesurez votre propre Mac sur MLX Bench. Chiffres des modèles tirés de chaque fiche officielle, chiffres des puces tirés des caractéristiques techniques d’Apple. Vérifié le 2026-10-19. Mêmes données que mlx.app/compare.

Mistral Small 4 (119B) tourne-t-il sur Mac ? RAM et vitesse