Wie viel Speicher braucht Llama 4 Scout 17B-16E Instruct?

Etwa 61,3 GB für die Gewichte mit 4 Bit, plus Platz für den Kontext: insgesamt 66,2 GB. Auf einem Mac heißt das 96 GB gemeinsamer Arbeitsspeicher oder mehr, denn macOS lässt die GPU standardmäßig etwa 75 % davon nutzen.

Wie schnell ist Llama 4 Scout 17B-16E Instruct auf einem Mac?

Das Schreibtempo hängt von der Speicherbandbreite ab. Der schnellste Mac dafür ist hier einer mit M5 Ultra und 96 GB, mit etwa 56–100 Tokens pro Sekunde (4 Bit). Der kleinste Mac, der es ausführt, schafft mit 96 GB etwa 56–100 auf dem M5 Ultra.

Warum läuft Llama 4 Scout 17B-16E Instruct schneller, als seine Größe vermuten lässt?

Es ist ein Mixture-of-Experts-Modell: Es hält 109B Parameter im Speicher, liest pro Token aber nur 17B. Darum schreibt es so schnell wie ein viel kleineres Modell.

Läuft Llama 4 Scout 17B-16E Instruct auf dem Mac? Speicher und Tempo

Speicher bei jeder Genauigkeit

Version	Gewichte	Mit Kontext	Kleinster Mac
8 Bit	116 GB	125 GB	192 GB
6 Bit	88,6 GB	95,7 GB	128 GB
4 Bit	61,3 GB	66,2 GB	96 GB
3 Bit geringere Qualität	47,7 GB	51,5 GB	96 GB
2 Bit geringere Qualität	34,1 GB	36,8 GB	64 GB

Auf jedem Apple-Chip

Die kleinste Speichergröße jedes Chips, mit der Llama 4 Scout 17B-16E Instruct läuft, die beste Version, die hineinpasst, und das Schreibtempo, das du erwarten kannst.

Chip	Braucht	Version	Tokens/s
M6	keine Größe passt	Zu groß	–
M5 Ultra	96 GB	4 Bit Läuft gut	56–100
M5 Max	128 GB	6 Bit Läuft gut	20–36
M5 Pro	64 GB	2 Bit Läuft gut	26–46
M5	keine Größe passt	Zu groß	–
M4 Max	128 GB	6 Bit Läuft gut	18–32
M4 Pro	64 GB	2 Bit Läuft gut	23–41
M4	keine Größe passt	Zu groß	–
M3 Ultra	96 GB	4 Bit Läuft gut	38–68
M3 Max	96 GB	4 Bit Läuft gut	14–25
M3 Pro	keine Größe passt	Zu groß	–
M3	keine Größe passt	Zu groß	–
M2 Ultra	128 GB	6 Bit Läuft gut	26–46
M2 Max	96 GB	4 Bit Läuft gut	19–33
M2 Pro	keine Größe passt	Zu groß	–
M2	keine Größe passt	Zu groß	–
M1 Ultra	128 GB	6 Bit Läuft gut	26–46
M1 Max	64 GB	2 Bit Läuft gut	34–60
M1 Pro	keine Größe passt	Zu groß	–
M1	keine Größe passt	Zu groß	–

So führst du es aus

Der einfache Weg: Lade MLX Harness herunter, kostenlos und Open Source. Suche nach Llama 4 Scout 17B-16E Instruct, lade die Version, die zu deinem Mac passt, und chatte los. MLX Harness stellt das Modell auch deinen anderen Apps über eine OpenAI-kompatible API bereit.MLX Harness herunterladenKostenlos · Apple Silicon · macOS 14.5 oder neuer
Im Terminal mit Apples MLX:pip install mlx-lmmlx_lm.chat --model mlx-community/Llama-4-Scout-17B-16E-Instruct-4bitBuild: mlx-community/Llama-4-Scout-17B-16E-Instruct-4bit auf Hugging Face. Andere Genauigkeiten liegen gleich daneben.

Schritt für Schritt: LLMs auf den Mac laden und ausführen · So nutzt du MLX Harness · MLX vs. Ollama vs. llama.cpp

Über Llama 4 Scout 17B-16E Instruct

Von	Meta
Parameter	109B gesamt · 17B aktiv (Mixture of Experts)
Kontext	10M Tokens
Lizenz	Llama 4 Community License
Veröffentlicht	2025-04
Eingabe	Text und Bilder
Intelligenz	6,5 im Artificial Analysis Intelligence Index
Gewichte	meta-llama/Llama-4-Scout-17B-16E-Instruct

Fragen

Wie viel Speicher braucht Llama 4 Scout 17B-16E Instruct?: Etwa 61,3 GB für die Gewichte mit 4 Bit, plus Platz für den Kontext: insgesamt 66,2 GB. Auf einem Mac heißt das 96 GB gemeinsamer Arbeitsspeicher oder mehr, denn macOS lässt die GPU standardmäßig etwa 75 % davon nutzen.
Wie schnell ist Llama 4 Scout 17B-16E Instruct auf einem Mac?: Das Schreibtempo hängt von der Speicherbandbreite ab. Der schnellste Mac dafür ist hier einer mit M5 Ultra und 96 GB, mit etwa 56–100 Tokens pro Sekunde (4 Bit). Der kleinste Mac, der es ausführt, schafft mit 96 GB etwa 56–100 auf dem M5 Ultra.
Warum läuft Llama 4 Scout 17B-16E Instruct schneller, als seine Größe vermuten lässt?: Es ist ein Mixture-of-Experts-Modell: Es hält 109B Parameter im Speicher, liest pro Token aber nur 17B. Darum schreibt es so schnell wie ein viel kleineres Modell.

Für deine Model Card oder README

Zeigt den kleinsten Mac, der Llama 4 Scout 17B-16E Instruct gut ausführt, und verlinkt hierher.

[![Runs on a Mac](https://mlx.app/badge/run/llama-4-scout.svg)](https://mlx.app/run/llama-4-scout)

So wird gerechnet

Speicher: die Parameter des Modells mit 8, 6, 4, 3 oder 2 Bit pro Gewicht plus die Gruppenskalen von MLX (ein halbes Bit pro Gewicht) oder in seinem nativen Format, dazu Platz für den Kontext. Standardmäßig lässt macOS die GPU etwa 75 % des gemeinsamen Arbeitsspeichers nutzen. Tempo: Speicherbandbreite geteilt durch die pro Token gelesenen Bytes ergibt die Obergrenze für eine Unterhaltung; in den öffentlichen Apple Silicon Benchmarks von llama.cpp erreichen echte Läufe etwa 45 % bis 80 % davon, und diese Spanne zeigen wir. Das sind Schätzungen, keine Messungen: Miss deinen eigenen Mac mit MLX Bench. Modellwerte aus der jeweiligen offiziellen Model Card, Chipwerte aus Apples technischen Daten. Geprüft am 2026-10-19. Dieselben Daten wie auf mlx.app/compare.

Läuft Llama 4 Scout 17B-16E Instruct auf einem Mac?