Ile pamięci potrzebuje gpt-oss-120b?

Około 65,3 GB na wagi (natywnie 4,25-bit) plus miejsce na kontekst: łącznie 70,5 GB. Na Macu oznacza to 96 GB pamięci zunifikowanej lub więcej, bo macOS domyślnie pozwala GPU używać około 75% pamięci.

Jak szybko działa gpt-oss-120b na Macu?

Szybkość generowania zależy od przepustowości pamięci. Najszybszy Mac dla tego modelu to M5 Ultra z 96 GB: około 200–356 tokenów na sekundę (natywnie 4,25-bit). Najmniejszy Mac, który go uruchomi, M5 Ultra z 96 GB, osiąga około 200–356.

Dlaczego gpt-oss-120b działa szybciej, niż wskazuje jego rozmiar?

To model mixture-of-experts: trzyma w pamięci 117B parametrów, ale dla każdego tokenu odczytuje tylko 5,1B, więc generuje z szybkością znacznie mniejszego modelu.

Czy Mac uruchomi gpt-oss-120b? Pamięć i szybkość

Pamięć przy każdej precyzji

Wersja	Wagi	Z kontekstem	Najmniejszy Mac
natywnie 4,25-bit	65,3 GB	70,5 GB	96 GB
3-bit niższa jakość	51,2 GB	55,3 GB	96 GB
2-bit niższa jakość	36,6 GB	39,5 GB	64 GB

Na każdym układzie Apple

Najmniejsza pamięć każdego układu, na której działa gpt-oss-120b, najlepsza wersja, która się mieści, i spodziewana szybkość generowania.

Układ	Potrzebuje	Wersja	Tokeny/s
M6	żaden rozmiar nie pasuje	Za duży	–
M5 Ultra	96 GB	natywnie 4,25-bit Działa dobrze	200–356
M5 Max	128 GB	natywnie 4,25-bit Działa dobrze	102–182
M5 Pro	64 GB	2-bit Działa dobrze	86–154
M5	żaden rozmiar nie pasuje	Za duży	–
M4 Max	128 GB	natywnie 4,25-bit Działa dobrze	91–162
M4 Pro	64 GB	2-bit Działa dobrze	77–137
M4	żaden rozmiar nie pasuje	Za duży	–
M3 Ultra	96 GB	natywnie 4,25-bit Działa dobrze	137–243
M3 Max	96 GB	natywnie 4,25-bit Działa dobrze	50–89
M3 Pro	żaden rozmiar nie pasuje	Za duży	–
M3	żaden rozmiar nie pasuje	Za duży	–
M2 Ultra	128 GB	natywnie 4,25-bit Działa dobrze	133–237
M2 Max	96 GB	natywnie 4,25-bit Działa dobrze	67–119
M2 Pro	żaden rozmiar nie pasuje	Za duży	–
M2	żaden rozmiar nie pasuje	Za duży	–
M1 Ultra	128 GB	natywnie 4,25-bit Działa dobrze	133–237
M1 Max	64 GB	2-bit Działa dobrze	113–200
M1 Pro	żaden rozmiar nie pasuje	Za duży	–
M1	żaden rozmiar nie pasuje	Za duży	–

Jak go uruchomić

Najprościej: pobierz MLX Harness, za darmo i z otwartym kodem. Wyszukaj gpt-oss-120b, pobierz wersję pasującą do Twojego Maca i rozmawiaj. Aplikacja udostępnia też model innym Twoim aplikacjom przez API zgodne z OpenAI.Pobierz MLX HarnessZa darmo · Apple Silicon · macOS 14.5 lub nowszy
W Terminalu z MLX od Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/gpt-oss-120b-MXFP4-Q8Wersja: mlx-community/gpt-oss-120b-MXFP4-Q8 na Hugging Face. Obok znajdziesz inne precyzje.

Krok po kroku: pobierz i uruchom LLM na Macu · jak używać MLX Harness · MLX, Ollama i llama.cpp

O modelu gpt-oss-120b

Twórca	OpenAI
Parametry	117B łącznie · 5,1B aktywnych (mixture of experts)
Kontekst	tokeny: 128K
Licencja	Apache-2.0
Wydany	2025-08
Wejście	Tekst
Inteligencja	11,6 w Artificial Analysis Intelligence Index
Wagi	openai/gpt-oss-120b

Przewodnik: krok po kroku na mlx.app

Pytania

Ile pamięci potrzebuje gpt-oss-120b?: Około 65,3 GB na wagi (natywnie 4,25-bit) plus miejsce na kontekst: łącznie 70,5 GB. Na Macu oznacza to 96 GB pamięci zunifikowanej lub więcej, bo macOS domyślnie pozwala GPU używać około 75% pamięci.
Jak szybko działa gpt-oss-120b na Macu?: Szybkość generowania zależy od przepustowości pamięci. Najszybszy Mac dla tego modelu to M5 Ultra z 96 GB: około 200–356 tokenów na sekundę (natywnie 4,25-bit). Najmniejszy Mac, który go uruchomi, M5 Ultra z 96 GB, osiąga około 200–356.
Dlaczego gpt-oss-120b działa szybciej, niż wskazuje jego rozmiar?: To model mixture-of-experts: trzyma w pamięci 117B parametrów, ale dla każdego tokenu odczytuje tylko 5,1B, więc generuje z szybkością znacznie mniejszego modelu.

Podobne modele

Wszystkie modele · Wszystkie Maki · Porównaj swojego Maca

Do karty modelu lub README

Pokazuje najmniejszego Maca, na którym gpt-oss-120b działa dobrze, i prowadzi tutaj.

[![Runs on a Mac](https://mlx.app/badge/run/gpt-oss-120b.svg)](https://mlx.app/run/gpt-oss-120b)

Jak to liczymy

Pamięć: parametry modelu przy 8, 6, 4, 3 lub 2 bitach na wagę plus skale grup MLX (pół bita na wagę) albo jego natywny format, a do tego miejsce na kontekst. Domyślnie macOS pozwala GPU używać około 75% pamięci zunifikowanej. Szybkość: przepustowość pamięci podzielona przez liczbę bajtów odczytywanych na token to górna granica dla jednej rozmowy; w publicznych testach llama.cpp na Apple Silicon rzeczywiste uruchomienia osiągają od około 45% do 80% tej wartości i właśnie ten zakres pokazujemy. To szacunki, nie pomiary: zmierz swojego Maca w MLX Bench. Dane modeli pochodzą z oficjalnych kart modeli, dane układów ze specyfikacji technicznych Apple. Sprawdzono 2026-10-19. Te same dane co na mlx.app/compare.