Ile pamięci potrzebuje Llama 4 Scout 17B-16E Instruct?

Około 61,3 GB na wagi (4-bit) plus miejsce na kontekst: łącznie 66,2 GB. Na Macu oznacza to 96 GB pamięci zunifikowanej lub więcej, bo macOS domyślnie pozwala GPU używać około 75% pamięci.

Jak szybko działa Llama 4 Scout 17B-16E Instruct na Macu?

Szybkość generowania zależy od przepustowości pamięci. Najszybszy Mac dla tego modelu to M5 Ultra z 96 GB: około 56–100 tokenów na sekundę (4-bit). Najmniejszy Mac, który go uruchomi, M5 Ultra z 96 GB, osiąga około 56–100.

Dlaczego Llama 4 Scout 17B-16E Instruct działa szybciej, niż wskazuje jego rozmiar?

To model mixture-of-experts: trzyma w pamięci 109B parametrów, ale dla każdego tokenu odczytuje tylko 17B, więc generuje z szybkością znacznie mniejszego modelu.

Czy Mac uruchomi Llama 4 Scout 17B-16E Instruct? Pamięć i szybkość

Pamięć przy każdej precyzji

Wersja	Wagi	Z kontekstem	Najmniejszy Mac
8-bit	116 GB	125 GB	192 GB
6-bit	88,6 GB	95,7 GB	128 GB
4-bit	61,3 GB	66,2 GB	96 GB
3-bit niższa jakość	47,7 GB	51,5 GB	96 GB
2-bit niższa jakość	34,1 GB	36,8 GB	64 GB

Na każdym układzie Apple

Najmniejsza pamięć każdego układu, na której działa Llama 4 Scout 17B-16E Instruct, najlepsza wersja, która się mieści, i spodziewana szybkość generowania.

Układ	Potrzebuje	Wersja	Tokeny/s
M6	żaden rozmiar nie pasuje	Za duży	–
M5 Ultra	96 GB	4-bit Działa dobrze	56–100
M5 Max	128 GB	6-bit Działa dobrze	20–36
M5 Pro	64 GB	2-bit Działa dobrze	26–46
M5	żaden rozmiar nie pasuje	Za duży	–
M4 Max	128 GB	6-bit Działa dobrze	18–32
M4 Pro	64 GB	2-bit Działa dobrze	23–41
M4	żaden rozmiar nie pasuje	Za duży	–
M3 Ultra	96 GB	4-bit Działa dobrze	38–68
M3 Max	96 GB	4-bit Działa dobrze	14–25
M3 Pro	żaden rozmiar nie pasuje	Za duży	–
M3	żaden rozmiar nie pasuje	Za duży	–
M2 Ultra	128 GB	6-bit Działa dobrze	26–46
M2 Max	96 GB	4-bit Działa dobrze	19–33
M2 Pro	żaden rozmiar nie pasuje	Za duży	–
M2	żaden rozmiar nie pasuje	Za duży	–
M1 Ultra	128 GB	6-bit Działa dobrze	26–46
M1 Max	64 GB	2-bit Działa dobrze	34–60
M1 Pro	żaden rozmiar nie pasuje	Za duży	–
M1	żaden rozmiar nie pasuje	Za duży	–

Jak go uruchomić

Najprościej: pobierz MLX Harness, za darmo i z otwartym kodem. Wyszukaj Llama 4 Scout 17B-16E Instruct, pobierz wersję pasującą do Twojego Maca i rozmawiaj. Aplikacja udostępnia też model innym Twoim aplikacjom przez API zgodne z OpenAI.Pobierz MLX HarnessZa darmo · Apple Silicon · macOS 14.5 lub nowszy
W Terminalu z MLX od Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/Llama-4-Scout-17B-16E-Instruct-4bitWersja: mlx-community/Llama-4-Scout-17B-16E-Instruct-4bit na Hugging Face. Obok znajdziesz inne precyzje.

Krok po kroku: pobierz i uruchom LLM na Macu · jak używać MLX Harness · MLX, Ollama i llama.cpp

O modelu Llama 4 Scout 17B-16E Instruct

Twórca	Meta
Parametry	109B łącznie · 17B aktywnych (mixture of experts)
Kontekst	tokeny: 10M
Licencja	Llama 4 Community License
Wydany	2025-04
Wejście	Tekst i obrazy
Inteligencja	6,5 w Artificial Analysis Intelligence Index
Wagi	meta-llama/Llama-4-Scout-17B-16E-Instruct

Pytania

Ile pamięci potrzebuje Llama 4 Scout 17B-16E Instruct?: Około 61,3 GB na wagi (4-bit) plus miejsce na kontekst: łącznie 66,2 GB. Na Macu oznacza to 96 GB pamięci zunifikowanej lub więcej, bo macOS domyślnie pozwala GPU używać około 75% pamięci.
Jak szybko działa Llama 4 Scout 17B-16E Instruct na Macu?: Szybkość generowania zależy od przepustowości pamięci. Najszybszy Mac dla tego modelu to M5 Ultra z 96 GB: około 56–100 tokenów na sekundę (4-bit). Najmniejszy Mac, który go uruchomi, M5 Ultra z 96 GB, osiąga około 56–100.
Dlaczego Llama 4 Scout 17B-16E Instruct działa szybciej, niż wskazuje jego rozmiar?: To model mixture-of-experts: trzyma w pamięci 109B parametrów, ale dla każdego tokenu odczytuje tylko 17B, więc generuje z szybkością znacznie mniejszego modelu.

Podobne modele

Wszystkie modele · Wszystkie Maki · Porównaj swojego Maca

Do karty modelu lub README

Pokazuje najmniejszego Maca, na którym Llama 4 Scout 17B-16E Instruct działa dobrze, i prowadzi tutaj.

[![Runs on a Mac](https://mlx.app/badge/run/llama-4-scout.svg)](https://mlx.app/run/llama-4-scout)

Jak to liczymy

Pamięć: parametry modelu przy 8, 6, 4, 3 lub 2 bitach na wagę plus skale grup MLX (pół bita na wagę) albo jego natywny format, a do tego miejsce na kontekst. Domyślnie macOS pozwala GPU używać około 75% pamięci zunifikowanej. Szybkość: przepustowość pamięci podzielona przez liczbę bajtów odczytywanych na token to górna granica dla jednej rozmowy; w publicznych testach llama.cpp na Apple Silicon rzeczywiste uruchomienia osiągają od około 45% do 80% tej wartości i właśnie ten zakres pokazujemy. To szacunki, nie pomiary: zmierz swojego Maca w MLX Bench. Dane modeli pochodzą z oficjalnych kart modeli, dane układów ze specyfikacji technicznych Apple. Sprawdzono 2026-10-19. Te same dane co na mlx.app/compare.