¿Cuánta memoria necesita Llama 3.2 1B Instruct?

Unos 0,7 GB de pesos a 4 bits, más espacio para el contexto: 2,2 GB en total. En una Mac, eso significa 8 GB de memoria unificada o más, porque macOS deja que la GPU use alrededor del 75 % de forma predeterminada.

¿Qué tan rápido va Llama 3.2 1B Instruct en una Mac?

La velocidad de escritura depende del ancho de banda de memoria. Aquí, la Mac más rápida para este modelo es una con M5 Ultra y 96 GB, a unos 415–738 tokens por segundo (8 bits). La Mac más pequeña que lo ejecuta, con 8 GB, logra unos 35–62 con un M3.

¿La cuantización empeora Llama 3.2 1B Instruct?

A 4 bits, la mayoría de los modelos se mantienen cerca de la calidad original; por debajo de 4 bits, la calidad cae más rápido. Elige la precisión más alta que quepa en tu Mac con margen.

¿Puede una Mac ejecutar Llama 3.2 1B Instruct? RAM, velocidad

Memoria en cada precisión

Versión	Pesos	Con contexto	Mac más pequeña
8 bits	1,3 GB	2,8 GB	8 GB
6 bits	1 GB	2,5 GB	8 GB
4 bits	0,7 GB	2,2 GB	8 GB
3 bits menor calidad	0,5 GB	2 GB	8 GB
2 bits menor calidad	0,4 GB	1,9 GB	8 GB

En cada chip de Apple

El tamaño de memoria más pequeño de cada chip que ejecuta Llama 3.2 1B Instruct, la mejor versión que cabe y la velocidad de escritura que puedes esperar.

Chip	Necesita	Versión	Tokens/s
M6	16 GB	8 bits Va bien	53–94
M5 Ultra	96 GB	8 bits Va bien	415–738
M5 Max	36 GB	8 bits Va bien	159–283
M5 Pro	24 GB	8 bits Va bien	106–189
M5	16 GB	8 bits Va bien	53–94
M4 Max	36 GB	8 bits Va bien	142–252
M4 Pro	24 GB	8 bits Va bien	95–168
M4	16 GB	8 bits Va bien	42–74
M3 Ultra	96 GB	8 bits Va bien	284–504
M3 Max	36 GB	8 bits Va bien	104–185
M3 Pro	18 GB	8 bits Va bien	52–92
M3	8 GB	8 bits Va bien	35–62
M2 Ultra	64 GB	8 bits Va bien	277–492
M2 Max	32 GB	8 bits Va bien	138–246
M2 Pro	16 GB	8 bits Va bien	69–123
M2	8 GB	8 bits Va bien	35–62
M1 Ultra	64 GB	8 bits Va bien	277–492
M1 Max	32 GB	8 bits Va bien	138–246
M1 Pro	16 GB	8 bits Va bien	69–123
M1	8 GB	8 bits Va bien	24–42

Cómo ejecutarlo

La forma fácil: descarga MLX Harness, gratis y de código abierto. Busca Llama 3.2 1B Instruct, descarga la versión que encaja con tu Mac y empieza a chatear. MLX Harness también ofrece el modelo a tus otras apps mediante una API compatible con OpenAI.Descarga MLX HarnessGratis · Apple Silicon · macOS 14.5 o posterior
En Terminal, con MLX de Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/Llama-3.2-1B-Instruct-4bitVersión MLX: mlx-community/Llama-3.2-1B-Instruct-4bit en Hugging Face. Las demás precisiones están justo al lado.

Paso a paso: descargar y ejecutar LLM en tu Mac · cómo usar MLX Harness · MLX vs Ollama vs llama.cpp

Sobre Llama 3.2 1B Instruct

Creado por	Meta
Parámetros	1,23B (denso)
Contexto	128K tokens
Licencia	Llama 3.2 Community License
Lanzamiento	2024-09
Entrada	Texto
Pesos	meta-llama/Llama-3.2-1B-Instruct

Preguntas

¿Cuánta memoria necesita Llama 3.2 1B Instruct?: Unos 0,7 GB de pesos a 4 bits, más espacio para el contexto: 2,2 GB en total. En una Mac, eso significa 8 GB de memoria unificada o más, porque macOS deja que la GPU use alrededor del 75 % de forma predeterminada.
¿Qué tan rápido va Llama 3.2 1B Instruct en una Mac?: La velocidad de escritura depende del ancho de banda de memoria. Aquí, la Mac más rápida para este modelo es una con M5 Ultra y 96 GB, a unos 415–738 tokens por segundo (8 bits). La Mac más pequeña que lo ejecuta, con 8 GB, logra unos 35–62 con un M3.
¿La cuantización empeora Llama 3.2 1B Instruct?: A 4 bits, la mayoría de los modelos se mantienen cerca de la calidad original; por debajo de 4 bits, la calidad cae más rápido. Elige la precisión más alta que quepa en tu Mac con margen.

Modelos similares

Todos los modelos · Todas las Mac · Compara tu Mac

Para la ficha de tu modelo o tu README

Muestra la Mac más pequeña que ejecuta bien Llama 3.2 1B Instruct y enlaza a esta página.

[![Runs on a Mac](https://mlx.app/badge/run/llama-3.2-1b.svg)](https://mlx.app/run/llama-3.2-1b)

Cómo se calcula

Memoria: los parámetros del modelo a 8, 6, 4, 3 o 2 bits por peso más las escalas por grupo de MLX (medio bit por peso), o su formato nativo, con espacio extra para el contexto. De forma predeterminada, macOS deja que la GPU use alrededor del 75 % de la memoria unificada. Velocidad: el ancho de banda de memoria dividido entre los bytes leídos por token es el techo para una conversación; en los benchmarks públicos de Apple Silicon de llama.cpp, las ejecuciones reales alcanzan entre el 45 % y el 80 % de ese techo, que es el rango que se muestra. Son estimaciones, no mediciones: mide tu propia Mac en MLX Bench. Datos de los modelos tomados de cada ficha oficial; datos de los chips, de las especificaciones técnicas de Apple. Revisado el 2026-10-19. Los mismos datos que mlx.app/compare.