¿Puede una Mac ejecutar Llama 4 Scout 17B-16E Instruct?

Sí, con 96 GB de memoria unificada o más. Llama 4 Scout 17B-16E Instruct tiene 109B parámetros, 17B de ellos activos en cada token; aquí ves la memoria que necesita en cada precisión y a qué velocidad lo ejecuta cada chip de Apple.

Memoria a 4 bits66,2 GBpesos 61,3 GB + contexto
Mac más pequeña96 GB4 bits · 23 configuraciones de Mac
Mac más rápida56–100tokens/s · M5 Ultra 96 GB (estimación)

Memoria en cada precisión

VersiónPesosCon contextoMac más pequeña
8 bits116 GB125 GB192 GB
6 bits88,6 GB95,7 GB128 GB
4 bits61,3 GB66,2 GB96 GB
3 bits menor calidad47,7 GB51,5 GB96 GB
2 bits menor calidad34,1 GB36,8 GB64 GB

En cada chip de Apple

El tamaño de memoria más pequeño de cada chip que ejecuta Llama 4 Scout 17B-16E Instruct, la mejor versión que cabe y la velocidad de escritura que puedes esperar.

ChipNecesitaVersiónTokens/s
M6no cabe en ningún tamañoDemasiado grande–
M5 Ultra96 GB4 bits Va bien56–100
M5 Max128 GB6 bits Va bien20–36
M5 Pro64 GB2 bits Va bien26–46
M5no cabe en ningún tamañoDemasiado grande–
M4 Max128 GB6 bits Va bien18–32
M4 Pro64 GB2 bits Va bien23–41
M4no cabe en ningún tamañoDemasiado grande–
M3 Ultra96 GB4 bits Va bien38–68
M3 Max96 GB4 bits Va bien14–25
M3 Prono cabe en ningún tamañoDemasiado grande–
M3no cabe en ningún tamañoDemasiado grande–
M2 Ultra128 GB6 bits Va bien26–46
M2 Max96 GB4 bits Va bien19–33
M2 Prono cabe en ningún tamañoDemasiado grande–
M2no cabe en ningún tamañoDemasiado grande–
M1 Ultra128 GB6 bits Va bien26–46
M1 Max64 GB2 bits Va bien34–60
M1 Prono cabe en ningún tamañoDemasiado grande–
M1no cabe en ningún tamañoDemasiado grande–

Cómo ejecutarlo

  1. La forma fácil: descarga MLX Harness, gratis y de código abierto. Busca Llama 4 Scout 17B-16E Instruct, descarga la versión que encaja con tu Mac y empieza a chatear. MLX Harness también ofrece el modelo a tus otras apps mediante una API compatible con OpenAI.Descarga MLX HarnessGratis · Apple Silicon · macOS 14.5 o posterior
  2. En Terminal, con MLX de Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/Llama-4-Scout-17B-16E-Instruct-4bitVersión MLX: mlx-community/Llama-4-Scout-17B-16E-Instruct-4bit en Hugging Face. Las demás precisiones están justo al lado.

Paso a paso: descargar y ejecutar LLM en tu Mac · cómo usar MLX Harness · MLX vs Ollama vs llama.cpp

Sobre Llama 4 Scout 17B-16E Instruct

Creado porMeta
Parámetros109B en total · 17B activos (mezcla de expertos)
Contexto10M tokens
LicenciaLlama 4 Community License
Lanzamiento2025-04
EntradaTexto e imágenes
Inteligencia6,5 en el Artificial Analysis Intelligence Index
Pesosmeta-llama/Llama-4-Scout-17B-16E-Instruct

Preguntas

¿Cuánta memoria necesita Llama 4 Scout 17B-16E Instruct?
Unos 61,3 GB de pesos a 4 bits, más espacio para el contexto: 66,2 GB en total. En una Mac, eso significa 96 GB de memoria unificada o más, porque macOS deja que la GPU use alrededor del 75 % de forma predeterminada.
¿Qué tan rápido va Llama 4 Scout 17B-16E Instruct en una Mac?
La velocidad de escritura depende del ancho de banda de memoria. Aquí, la Mac más rápida para este modelo es una con M5 Ultra y 96 GB, a unos 56–100 tokens por segundo (4 bits). La Mac más pequeña que lo ejecuta, con 96 GB, logra unos 56–100 con un M5 Ultra.
¿Por qué Llama 4 Scout 17B-16E Instruct va más rápido de lo que sugiere su tamaño?
Es un modelo de mezcla de expertos: mantiene 109B parámetros en memoria, pero solo lee 17B en cada token, así que escribe a la velocidad de un modelo mucho más pequeño.

Modelos similares

Todos los modelos · Todas las Mac · Compara tu Mac

Para la ficha de tu modelo o tu README

Runs on a Mac: Llama 4 Scout 17B-16E Instruct Muestra la Mac más pequeña que ejecuta bien Llama 4 Scout 17B-16E Instruct y enlaza a esta página.

[![Runs on a Mac](https://mlx.app/badge/run/llama-4-scout.svg)](https://mlx.app/run/llama-4-scout)

Cómo se calcula

Memoria: los parámetros del modelo a 8, 6, 4, 3 o 2 bits por peso más las escalas por grupo de MLX (medio bit por peso), o su formato nativo, con espacio extra para el contexto. De forma predeterminada, macOS deja que la GPU use alrededor del 75 % de la memoria unificada. Velocidad: el ancho de banda de memoria dividido entre los bytes leídos por token es el techo para una conversación; en los benchmarks públicos de Apple Silicon de llama.cpp, las ejecuciones reales alcanzan entre el 45 % y el 80 % de ese techo, que es el rango que se muestra. Son estimaciones, no mediciones: mide tu propia Mac en MLX Bench. Datos de los modelos tomados de cada ficha oficial; datos de los chips, de las especificaciones técnicas de Apple. Revisado el 2026-10-19. Los mismos datos que mlx.app/compare.

¿Puede una Mac ejecutar Llama 4 Scout 17B-16E Instruct? RAM, velocidad