De combien de mémoire Llama 3.2 1B Instruct a-t-il besoin ?

Environ 0,7 GB de poids en 4 bits, plus de la place pour le contexte : 2,2 GB au total. Sur un Mac, il faut donc 8 GB de mémoire unifiée ou plus, car macOS laisse le GPU en utiliser environ 75 % par défaut.

À quelle vitesse Llama 3.2 1B Instruct tourne-t-il sur un Mac ?

La vitesse d’écriture dépend de la bande passante mémoire. Ici, le Mac le plus rapide pour ce modèle est équipé d’une puce M5 Ultra avec 96 GB, à environ 415–738 tokens par seconde (8 bits). Le plus petit Mac qui le fait tourner, avec 8 GB, atteint environ 35–62 avec une puce M3.

La quantification dégrade-t-elle Llama 3.2 1B Instruct ?

En 4 bits, la plupart des modèles restent proches de la qualité d’origine ; en dessous de 4 bits, la qualité baisse plus vite. Choisissez la précision la plus élevée qui tient dans votre Mac avec de la marge.

Llama 3.2 1B Instruct tourne-t-il sur Mac ? RAM et vitesse

Mémoire à chaque précision

Version	Poids	Avec contexte	Plus petit Mac
8 bits	1,3 GB	2,8 GB	8 GB
6 bits	1 GB	2,5 GB	8 GB
4 bits	0,7 GB	2,2 GB	8 GB
3 bits qualité moindre	0,5 GB	2 GB	8 GB
2 bits qualité moindre	0,4 GB	1,9 GB	8 GB

Sur chaque puce Apple

Pour chaque puce, la plus petite capacité de mémoire qui fait tourner Llama 3.2 1B Instruct, la meilleure version qui y tient et la vitesse d’écriture à attendre.

Puce	Demande	Version	Tokens/s
M6	16 GB	8 bits Tourne bien	53–94
M5 Ultra	96 GB	8 bits Tourne bien	415–738
M5 Max	36 GB	8 bits Tourne bien	159–283
M5 Pro	24 GB	8 bits Tourne bien	106–189
M5	16 GB	8 bits Tourne bien	53–94
M4 Max	36 GB	8 bits Tourne bien	142–252
M4 Pro	24 GB	8 bits Tourne bien	95–168
M4	16 GB	8 bits Tourne bien	42–74
M3 Ultra	96 GB	8 bits Tourne bien	284–504
M3 Max	36 GB	8 bits Tourne bien	104–185
M3 Pro	18 GB	8 bits Tourne bien	52–92
M3	8 GB	8 bits Tourne bien	35–62
M2 Ultra	64 GB	8 bits Tourne bien	277–492
M2 Max	32 GB	8 bits Tourne bien	138–246
M2 Pro	16 GB	8 bits Tourne bien	69–123
M2	8 GB	8 bits Tourne bien	35–62
M1 Ultra	64 GB	8 bits Tourne bien	277–492
M1 Max	32 GB	8 bits Tourne bien	138–246
M1 Pro	16 GB	8 bits Tourne bien	69–123
M1	8 GB	8 bits Tourne bien	24–42

Comment le faire tourner

Le plus simple : téléchargez MLX Harness, gratuit et open source. Cherchez Llama 3.2 1B Instruct, téléchargez la version adaptée à votre Mac, et discutez. MLX Harness met aussi le modèle à disposition de vos autres apps via une API compatible OpenAI.Télécharger MLX HarnessGratuit · Apple Silicon · macOS 14.5 ou version ultérieure
Dans le Terminal avec MLX d’Apple :pip install mlx-lmmlx_lm.chat --model mlx-community/Llama-3.2-1B-Instruct-4bitVersion MLX : mlx-community/Llama-3.2-1B-Instruct-4bit sur Hugging Face. Les autres précisions sont juste à côté.

Pas à pas : télécharger et exécuter des LLM sur Mac · utiliser MLX Harness · MLX, Ollama ou llama.cpp

À propos de Llama 3.2 1B Instruct

Créé par	Meta
Paramètres	1,23B (modèle dense)
Contexte	128K tokens
Licence	Llama 3.2 Community License
Sortie	2024-09
Entrée	Texte
Poids	meta-llama/Llama-3.2-1B-Instruct

Questions

De combien de mémoire Llama 3.2 1B Instruct a-t-il besoin ?: Environ 0,7 GB de poids en 4 bits, plus de la place pour le contexte : 2,2 GB au total. Sur un Mac, il faut donc 8 GB de mémoire unifiée ou plus, car macOS laisse le GPU en utiliser environ 75 % par défaut.
À quelle vitesse Llama 3.2 1B Instruct tourne-t-il sur un Mac ?: La vitesse d’écriture dépend de la bande passante mémoire. Ici, le Mac le plus rapide pour ce modèle est équipé d’une puce M5 Ultra avec 96 GB, à environ 415–738 tokens par seconde (8 bits). Le plus petit Mac qui le fait tourner, avec 8 GB, atteint environ 35–62 avec une puce M3.
La quantification dégrade-t-elle Llama 3.2 1B Instruct ?: En 4 bits, la plupart des modèles restent proches de la qualité d’origine ; en dessous de 4 bits, la qualité baisse plus vite. Choisissez la précision la plus élevée qui tient dans votre Mac avec de la marge.

Modèles similaires

Tous les modèles · Tous les Mac · Comparer votre Mac

Pour votre fiche de modèle ou votre README

Affiche le plus petit Mac qui fait bien tourner Llama 3.2 1B Instruct et renvoie vers cette page.

[![Runs on a Mac](https://mlx.app/badge/run/llama-3.2-1b.svg)](https://mlx.app/run/llama-3.2-1b)

Comment c’est calculé

Mémoire : les paramètres du modèle à 8, 6, 4, 3 ou 2 bits par poids, plus les facteurs d’échelle par groupe de MLX (un demi-bit par poids), ou son format natif, avec en plus de la place pour le contexte. Par défaut, macOS laisse le GPU utiliser environ 75 % de la mémoire unifiée. Vitesse : la bande passante mémoire divisée par les octets lus pour chaque token donne le plafond pour une conversation ; dans les benchmarks Apple Silicon publics de llama.cpp, les exécutions réelles atteignent environ 45 % à 80 % de ce plafond, et c’est la fourchette affichée. Ce sont des estimations, pas des mesures : mesurez votre propre Mac sur MLX Bench. Chiffres des modèles tirés de chaque fiche officielle, chiffres des puces tirés des caractéristiques techniques d’Apple. Vérifié le 2026-10-19. Mêmes données que mlx.app/compare.