De combien de mémoire Llama 3.2 3B Instruct a-t-il besoin ?

Environ 1,8 GB de poids en 4 bits, plus de la place pour le contexte : 3,3 GB au total. Sur un Mac, il faut donc 8 GB de mémoire unifiée ou plus, car macOS laisse le GPU en utiliser environ 75 % par défaut.

À quelle vitesse Llama 3.2 3B Instruct tourne-t-il sur un Mac ?

La vitesse d’écriture dépend de la bande passante mémoire. Ici, le Mac le plus rapide pour ce modèle est équipé d’une puce M5 Ultra avec 96 GB, à environ 159–282 tokens par seconde (8 bits). Le plus petit Mac qui le fait tourner, avec 8 GB, atteint environ 13–24 avec une puce M3.

La quantification dégrade-t-elle Llama 3.2 3B Instruct ?

En 4 bits, la plupart des modèles restent proches de la qualité d’origine ; en dessous de 4 bits, la qualité baisse plus vite. Choisissez la précision la plus élevée qui tient dans votre Mac avec de la marge.

Llama 3.2 3B Instruct tourne-t-il sur Mac ? RAM et vitesse

Mémoire à chaque précision

Version	Poids	Avec contexte	Plus petit Mac
8 bits	3,4 GB	4,9 GB	8 GB
6 bits	2,6 GB	4,1 GB	8 GB
4 bits	1,8 GB	3,3 GB	8 GB
3 bits qualité moindre	1,4 GB	2,9 GB	8 GB
2 bits qualité moindre	1 GB	2,5 GB	8 GB

Sur chaque puce Apple

Pour chaque puce, la plus petite capacité de mémoire qui fait tourner Llama 3.2 3B Instruct, la meilleure version qui y tient et la vitesse d’écriture à attendre.

Puce	Demande	Version	Tokens/s
M6	16 GB	8 bits Tourne bien	20–36
M5 Ultra	96 GB	8 bits Tourne bien	159–282
M5 Max	36 GB	8 bits Tourne bien	61–108
M5 Pro	24 GB	8 bits Tourne bien	41–72
M5	16 GB	8 bits Tourne bien	20–36
M4 Max	36 GB	8 bits Tourne bien	54–96
M4 Pro	24 GB	8 bits Tourne bien	36–64
M4	16 GB	8 bits Tourne bien	16–28
M3 Ultra	96 GB	8 bits Tourne bien	108–193
M3 Max	36 GB	8 bits Tourne bien	40–71
M3 Pro	18 GB	8 bits Tourne bien	20–35
M3	8 GB	8 bits Tourne bien	13–24
M2 Ultra	64 GB	8 bits Tourne bien	106–188
M2 Max	32 GB	8 bits Tourne bien	53–94
M2 Pro	16 GB	8 bits Tourne bien	26–47
M2	8 GB	8 bits Tourne bien	13–24
M1 Ultra	64 GB	8 bits Tourne bien	106–188
M1 Max	32 GB	8 bits Tourne bien	53–94
M1 Pro	16 GB	8 bits Tourne bien	26–47
M1	8 GB	6 bits Tourne bien	12–21

Comment le faire tourner

Le plus simple : téléchargez MLX Harness, gratuit et open source. Cherchez Llama 3.2 3B Instruct, téléchargez la version adaptée à votre Mac, et discutez. MLX Harness met aussi le modèle à disposition de vos autres apps via une API compatible OpenAI.Télécharger MLX HarnessGratuit · Apple Silicon · macOS 14.5 ou version ultérieure
Dans le Terminal avec MLX d’Apple :pip install mlx-lmmlx_lm.chat --model mlx-community/Llama-3.2-3B-Instruct-4bitVersion MLX : mlx-community/Llama-3.2-3B-Instruct-4bit sur Hugging Face. Les autres précisions sont juste à côté.

Pas à pas : télécharger et exécuter des LLM sur Mac · utiliser MLX Harness · MLX, Ollama ou llama.cpp

À propos de Llama 3.2 3B Instruct

Créé par	Meta
Paramètres	3,21B (modèle dense)
Contexte	128K tokens
Licence	Llama 3.2 Community License
Sortie	2024-09
Entrée	Texte
Poids	meta-llama/Llama-3.2-3B-Instruct

Questions

De combien de mémoire Llama 3.2 3B Instruct a-t-il besoin ?: Environ 1,8 GB de poids en 4 bits, plus de la place pour le contexte : 3,3 GB au total. Sur un Mac, il faut donc 8 GB de mémoire unifiée ou plus, car macOS laisse le GPU en utiliser environ 75 % par défaut.
À quelle vitesse Llama 3.2 3B Instruct tourne-t-il sur un Mac ?: La vitesse d’écriture dépend de la bande passante mémoire. Ici, le Mac le plus rapide pour ce modèle est équipé d’une puce M5 Ultra avec 96 GB, à environ 159–282 tokens par seconde (8 bits). Le plus petit Mac qui le fait tourner, avec 8 GB, atteint environ 13–24 avec une puce M3.
La quantification dégrade-t-elle Llama 3.2 3B Instruct ?: En 4 bits, la plupart des modèles restent proches de la qualité d’origine ; en dessous de 4 bits, la qualité baisse plus vite. Choisissez la précision la plus élevée qui tient dans votre Mac avec de la marge.

Modèles similaires

Tous les modèles · Tous les Mac · Comparer votre Mac

Pour votre fiche de modèle ou votre README

Affiche le plus petit Mac qui fait bien tourner Llama 3.2 3B Instruct et renvoie vers cette page.

[![Runs on a Mac](https://mlx.app/badge/run/llama-3.2-3b.svg)](https://mlx.app/run/llama-3.2-3b)

Comment c’est calculé

Mémoire : les paramètres du modèle à 8, 6, 4, 3 ou 2 bits par poids, plus les facteurs d’échelle par groupe de MLX (un demi-bit par poids), ou son format natif, avec en plus de la place pour le contexte. Par défaut, macOS laisse le GPU utiliser environ 75 % de la mémoire unifiée. Vitesse : la bande passante mémoire divisée par les octets lus pour chaque token donne le plafond pour une conversation ; dans les benchmarks Apple Silicon publics de llama.cpp, les exécutions réelles atteignent environ 45 % à 80 % de ce plafond, et c’est la fourchette affichée. Ce sont des estimations, pas des mesures : mesurez votre propre Mac sur MLX Bench. Chiffres des modèles tirés de chaque fiche officielle, chiffres des puces tirés des caractéristiques techniques d’Apple. Vérifié le 2026-10-19. Mêmes données que mlx.app/compare.