Le meilleur Mac pour les LLM en local.

1Pourquoi la mémoire et la bande passante décident de tout

Un modèle de langage écrit un token à la fois, et pour chacun il lit tous les poids actifs en mémoire. La limite de vitesse d’une conversation est donc à peu près la bande passante mémoire divisée par la taille des poids actifs. Dans les benchmarks publics de llama.cpp, la génération réelle atteint 43 % à 80 % de cette limite sur les puces Apple (llama.cpp).

La lecture de votre prompt est différente : elle est limitée par le calcul, ce qui explique que les puces de génération M5, avec leurs accélérateurs neuronaux dans le GPU, traitent les prompts plusieurs fois plus vite que les précédentes (Apple).

2Toutes les puces, comparées

Les puces plus anciennes restent très valables si elles ont la mémoire. Un M1 Max ou un M2 Max avec 64 GB lit à 400 GB/s, plus que n’importe quelle puce de base actuelle, et coûte souvent bien moins cher d’occasion.

3Quel Mac acheter

Pour essayer : MacBook Air ou Mac mini de 16 à 32 GB

Fait tourner confortablement des modèles 7B à 14B, et des modèles de classe 30B avec 32 GB. Parfait pour le chat, l’écriture et une aide ponctuelle au code.

Meilleur rapport qualité-prix : puce Pro avec 64 GB

Un Mac mini ou un MacBook Pro avec M4 Pro ou M5 Pro accueille des modèles de classe 70B et fait tourner les modèles intermédiaires à bon rythme. Le juste milieu pour la plupart des développeurs.

L’IA locale sérieuse : puce Max avec 128 GB

Fait tourner gpt-oss-120b (environ 65 GB en 4 bits) sur un portable ; d’après la bande passante annoncée par Apple, le plafond théorique pour un flux sur M5 Max est d’environ 225 tokens par seconde. Le meilleur choix nomade.

Les plus gros modèles : Mac Studio avec Ultra

Jusqu’à 512 GB à 1,2 TB/s avec le M5 Ultra : de quoi accueillir des modèles de plusieurs centaines de milliards de paramètres sur un seul bureau. Pour des modèles encore plus gros, plusieurs Mac peuvent être réunis en cluster via Thunderbolt 5 : voir clusters IA de Mac.

4Rentabilisez votre Mac

Un Mac acheté pour l’IA passe l’essentiel de son temps à attendre. MLX Node est une app gratuite qui prête cette capacité inutilisée à MLX Network : elle exécute des tâches d’IA sur le même framework MLX et gagne des jetons MLX pour le travail vérifié. Une place dédiée adaptée à la puce multiplie ce qu’il gagne : une place Pro tourne à plein régime sur une puce Pro ou Max, une place Ultra sur une puce Ultra.

Comparez d’abord votre Mac sur MLX Bench : il affiche les tokens par seconde mesurés pour des modèles ouverts sur chaque puce.

5Questions

16 GB suffisent-ils pour un LLM en local ?

Oui pour les modèles jusqu’à environ 14 milliards de paramètres en 4 bits. Pour des modèles plus gros, ou de longs contextes, 32 GB ou plus sont bien plus confortables.

Mac Studio ou MacBook Pro pour les LLM ?

Les deux existent avec des puces Max et jusqu’à 128 GB. Le MacBook Pro est portable ; le Mac Studio reste plus frais sous de longues charges et c’est le seul Mac proposé avec des puces Ultra et jusqu’à 512 GB.

Un Mac est-il meilleur qu’un GPU Nvidia pour l’IA en local ?

Pour les plus gros modèles à la maison, souvent oui : la mémoire unifiée d’un Mac peut contenir bien plus que la mémoire d’une carte graphique grand public. Une carte Nvidia haut de gamme est plus rapide sur les modèles qui tiennent dans sa mémoire.

Le M5 accélère-t-il les LLM ?

Oui, surtout pour la lecture des prompts : Apple a mesuré un premier token 3,3 à 4,1 fois plus rapide sur M5 que sur M4 avec MLX. La vitesse de génération suit la bande passante mémoire, qui a augmenté de 28 % du M4 au M5.