La puce M5 peut-elle faire tourner un modèle 70B ?

Pas confortablement. Un modèle 70B en 4 bits nécessite environ 40 GB, et la puce M5 offre au plus 32 GB. Les modèles jusqu’à environ 42 milliards de paramètres tiennent bien.

Combien de tokens par seconde avec la puce M5 ?

Pour un modèle 8B en 4 bits, le plafond est d’environ 34 tokens par seconde, et en pratique on en atteint entre la moitié et les quatre cinquièmes. Les modèles plus gros sont proportionnellement plus lents.

La puce M5 est-elle bonne pour l’IA ?

Pour faire tourner des modèles en local, ce sont la mémoire et la bande passante qui comptent le plus. La puce M5 offre jusqu’à 32 GB à 153 GB/s, assez pour des modèles jusqu’à environ 42 milliards de paramètres. Elle peut aussi rapporter en exécutant des tâches d’IA pour MLX Network avec MLX Node.

M5 pour LLM en local : mémoire, vitesse et modèles

1Les caractéristiques qui comptent pour l’IA

Mémoire unifiée	32 GB
Bande passante mémoire	153 GB/s
Présente dans	14-inch MacBook Pro (2025), MacBook Air (2026)
Place dédiée adaptée	Place Core : mine jusqu’à 20 MLX par jour

2Quels modèles tiennent

À 4 bits par poids, un modèle a besoin d’un peu plus d’un demi-gigaoctet par milliard de paramètres, plus de la place pour son contexte et pour macOS. Avec 32 GB, la puce M5 accueille sans peine des modèles jusqu’à environ 42 milliards de paramètres.

Modèle en 4 bits	Mémoire nécessaire	Tient sur la puce M5
Modèle 8B	4,5 GB	Oui
Modèle 14B	7,9 GB	Oui
Modèle 32B	18 GB	Oui
Modèle 70B	39,4 GB	Non
gpt-oss-120b, mixture-of-experts	65 GB	Non
Qwen3.5-397B-A17B, mixture-of-experts	223,3 GB	Non
DeepSeek-V4.1-Flash, mixture-of-experts	316 GB	Non

3Quelle vitesse attendre

La génération de texte est limitée par la bande passante mémoire : chaque nouveau token lit une fois les poids actifs du modèle. En divisant les 153 GB/s de la puce M5 par les octets lus par token, on obtient le plafond ci-dessous. En pratique, on atteint généralement 45 % à 80 % de ce plafond (benchmarks llama.cpp).

Modèle en 4 bits	Lu par token	Plafond pour une conversation
Modèle 8B	4,5 GB	34 tokens/s
Modèle 14B	7,9 GB	19 tokens/s
Modèle 32B	18 GB	9 tokens/s

Mesuré : sur M5 (10-core GPU), llama.cpp génère 32 tokens par seconde avec Llama-2-7B (Q4_0) dans ses benchmarks publics.

Les puces de la génération M5 ajoutent des accélérateurs neuronaux au GPU et lisent donc les prompts plusieurs fois plus vite que les M4 : Apple a mesuré un premier token 3,3 à 4,1 fois plus rapide avec MLX (Apple).

5Comparer avec d’autres puces

6Questions

La puce M5 peut-elle faire tourner un modèle 70B ?: Pas confortablement. Un modèle 70B en 4 bits nécessite environ 40 GB, et la puce M5 offre au plus 32 GB. Les modèles jusqu’à environ 42 milliards de paramètres tiennent bien.
Combien de tokens par seconde avec la puce M5 ?: Pour un modèle 8B en 4 bits, le plafond est d’environ 34 tokens par seconde, et en pratique on en atteint entre la moitié et les quatre cinquièmes. Les modèles plus gros sont proportionnellement plus lents.
La puce M5 est-elle bonne pour l’IA ?: Pour faire tourner des modèles en local, ce sont la mémoire et la bande passante qui comptent le plus. La puce M5 offre jusqu’à 32 GB à 153 GB/s, assez pour des modèles jusqu’à environ 42 milliards de paramètres. Elle peut aussi rapporter en exécutant des tâches d’IA pour MLX Network avec MLX Node.

Sources

Apple: M5apple.com
Apple: MacBook Air with M5apple.com
llama.cpp: Apple Silicon benchmarksgithub.com