Mac mini vs Mac Studio pour l’IA.

1Les caractéristiques qui comptent pour l’IA

Chaque configuration renvoie aux modèles qui y tournent bien. Les modèles précédents fonctionnent de la même façon : le Mac mini M4 ou M4 Pro, et le Mac Studio M4 Max ou M3 Ultra (tous les Mac, classés).

2À quelle vitesse chacun écrit

Pour écrire du texte, le modèle relit ses poids actifs une fois par token : la bande passante mémoire fixe donc un plafond de vitesse. Pour un modèle dense de 32B en 4 bits, soit environ 18 GB :

Les modèles à mélange d’experts ne lisent qu’une fraction de leurs poids par token : ils écrivent donc bien plus vite que leur taille ne le laisse penser. La mémoire décide s’ils tiennent, la bande passante fixe toujours le rythme. La lecture d’un long prompt dépend de la puissance de calcul du GPU plutôt que de la bande passante, et là, les GPU plus gros des puces Max et Ultra creusent encore l’écart.

3Lequel pour quels modèles

• Petits et moyens modèles (jusqu’à environ 30B en 4 bits), chat, assistants de code, serveur IA à la maison : un Mac mini M5 Pro avec 48 ou 64 GB. Le Mac mini M6 de 32 GB fait tourner les mêmes tailles à environ la moitié de la vitesse.
• Modèles de la classe 70B, gpt-oss-120b, longs contextes ou plusieurs modèles à la fois : un Mac Studio M5 Max avec 128 GB. Les fichiers officiels de gpt-oss-120b d’OpenAI pèsent environ 65 GB (OpenAI), plus qu’aucun Mac mini ne peut en donner à son GPU.
• Les plus gros modèles ouverts (des centaines de milliards de paramètres) : un Mac Studio M5 Ultra avec 256 ou 512 GB, ou plusieurs Mac ensemble (clusters IA de Mac).

Pour un modèle précis, sa page indique le plus petit Mac qui le fait tourner et sa vitesse sur chaque puce : chaque modèle ouvert.

4Le faire tourner toute la journée

Les deux font des machines silencieuses et sobres, allumées en permanence. Un Mac mini consomme 4 à 6 W au repos et un Mac Studio 7 à 9 W selon les chiffres d’Apple ci-dessus ; à pleine charge, le Mac Studio M5 Ultra peut monter jusqu’à 385 W. Un Mac mini comme serveur IA explique comment le garder éveillé et servir des modèles à d’autres appareils, et la consommation d’un Mac ce que coûte une journée.

Quand il est inactif, MLX Node peut exécuter des tâches d’IA pour MLX Network et gagner des MLX Tokens. Une place dédiée adaptée à la puce mine plus vite : Core pour la M6, Pro pour la M5 Pro et la M5 Max, Ultra pour la M5 Ultra. Les gains ne sont pas garantis : lisez les risques.

5Questions

Un Mac Studio vaut-il le coup plutôt qu’un Mac mini pour l’IA ?

Si vous voulez des modèles de plus de 85B paramètres environ, gpt-oss-120b ou de longs contextes, oui : seul le Mac Studio dépasse 64 GB. Pour des modèles jusqu’à environ 30B en 4 bits, un Mac mini M5 Pro les fait tourner, avec environ la moitié de la bande passante de la M5 Max.

Un Mac mini peut-il faire tourner un modèle de 70B ?

Seulement le M5 Pro avec 64 GB, en 4 bits et avec un contexte court : environ 39 GB de poids dans les 48 GB que le GPU peut utiliser par défaut, à quelques tokens par seconde. Un Mac Studio de 128 GB le fait tourner avec de la place pour le contexte et environ deux fois plus vite.

Mac Studio M5 Max ou M5 Ultra pour les LLM ?

La M5 Ultra a environ deux fois plus de bande passante (1 200 contre 614 GB/s) : elle écrit donc environ deux fois plus vite, et monte jusqu’à 512 GB. La M5 Max avec 128 GB couvre les modèles jusqu’à environ 170B en 4 bits. Voir M5 Max vs M5 Ultra.

Mac mini M6 ou M5 Pro pour l’IA ?

Le M5 Pro : il lit la mémoire environ 80 % plus vite que le M6 avec 24 ou 32 GB et monte jusqu’à 64 GB au lieu de 32 GB.